Novo método identifica sinais associados ao risco de pensamentos e comportamentos suicidas em textos.
Uma equipa de investigadores desenvolveu, com recurso a inteligência artificial, um novo método para identificar sinais associados ao risco de pensamentos e comportamentos suicidas em textos. Em mensagens que a pessoa escreve.
O estudo mostra como um modelo de linguagem de grande escala pode ser utilizado para criar um sistema mais simples e interpretável do que os modelos de inteligência artificial convencionais.
O trabalho parte de um problema enfrentado pelos investigadores que analisam grandes volumes de texto, provenientes, por exemplo, de entrevistas, redes sociais ou conversas de apoio psicológico.
Embora os modelos de linguagem sejam capazes de classificar textos com elevada sofisticação, a sua utilização pode ser limitada pelo custo computacional, pela necessidade de conhecimentos técnicos e por questões relacionadas com a privacidade.
Em áreas de elevado risco, como a deteção de suicidabilidade, a possibilidade de compreender por que razão um sistema identifica determinado texto como preocupante assume particular importância.
Para responder a este desafio, os investigadores utilizaram o GPT-4 Turbo para criar automaticamente um léxico — uma lista estruturada de palavras e expressões associadas a diferentes características de risco.
O resultado, designado Suicide Risk Lexicon, abrange 49 fatores de risco conhecidos relacionados com pensamentos e comportamentos suicidas. Por funcionar através da identificação de expressões específicas, o sistema permite observar de forma relativamente direta que elementos de um texto contribuíram para a avaliação.
“Vê-se todos estes fatores de risco, e eles estão a interagir de formas que realmente não compreendemos. Muitos caminhos diferentes podem levar alguém a sentir vontade de escapar à sua dor interna”, explica Daniel Low, líder do estudo.
O léxico foi posteriormente testado em conversas de aconselhamento em situações de crise e comparado com outras abordagens, incluindo o LIWC, uma ferramenta amplamente utilizada na análise linguística, e modelos de aprendizagem profunda. Depois de validado através de avaliações clínicas, o novo método apresentou resultados superiores aos do léxico LIWC e semelhantes aos de alguns modelos de aprendizagem profunda, mantendo, contudo, uma estrutura mais facilmente interpretável.
A análise permitiu ainda identificar diferenças entre vários indicadores. Em particular, a ideação suicida ativa e a automutilação direta mostraram uma associação mais forte com o risco iminente do que a ideação suicida passiva e o humor deprimido, no contexto específico das conversas de apoio analisadas.
Os autores salientam, contudo, que estes resultados dependem do contexto estudado e não devem ser automaticamente generalizados a outras populações ou situações.
Além do léxico, a equipa disponibilizou o construct-tracker, um pacote de programação concebido para facilitar a criação de ferramentas semelhantes noutros domínios de investigação.
Os investigadores defendem que os LLM podem, paradoxalmente, contribuir para desenvolver sistemas de análise mais simples e transparentes, mesmo sendo eles próprios modelos de funcionamento complexo.
(ZAP)