Avaliação sistemática da similaridade semântica entre modelos de linguagem para transtornos do espectro da esquizofrenia

PreprintNível 3 · Ciência emergentemedRxiv26 out 20260 citações

Pré-publicação. Ainda não revisada por pares; não deve orientar conduta.

O que aconteceu

Características de similaridade semântica derivadas de incorporação de linguagem têm sido propostas como marcadores de transtornos do espectro da esquizofrenia (SDS), mas estudos anteriores têm relatado direções de efeito inconsistentes e evidências limitadas sobre sua relação com dimensões específicas do pensamento e perturbação da linguagem. Avaliamos sistematicamente como a arquitetura do modelo de linguagem e a estratégia de pré-processamento influenciam os sinais de similaridade semântica em SSD. Amostras de fala de 228 participantes (152 SSD, 76 voluntários saudáveis) foram analisadas utilizando seis modelos de incorporação: GloVe, LSA, Word2Vec, RoBERTA, GPT-2 e Llama. Características de similaridade semântica foram calculadas através de três níveis de pré-processamento (verbatim, disfluência-removido, e disfluência-removido com filtragem de stopword) usando k-interword, movendo-janela, e frase-a-senção comparações, resumidas com vários descritores estatísticos. As características foram comparadas entre o TF e voluntários saudáveis e examinadas quanto às associações com dimensões do pensamento e distúrbios da linguagem, incluindo ineficiência, incoerência e expressividade prejudicada.

O que encontraram

O TF esteve predominantemente associado ao aumento da similaridade semântica entre modelos e estratégias de comparação. O desempenho do modelo variou por pré-processamento. RoBERTA apresentou melhor desempenho em transcritos minimamente processados, obtendo o maior número de características associadas ao diagnóstico, enquanto GPT-2 obteve o maior tamanho de efeito diagnóstico após o pré-processamento máximo. O GPT-2 apresentou o sinal mais forte para ineficiência e incoerência, enquanto RoBERTA apresentou o maior número de associações com a expressividade prejudicada.

Por que isso importa

O diagnóstico de TFD e suas dimensões de anormalidades do pensamento e da linguagem são caracterizados principalmente por maior proximidade semântica na fala aberta. O pré-processamento ideal depende da arquitetura do modelo e da dimensão clínica de interesse, destacando a importância das escolhas analíticas modelo- e fenótipo-específicas em estudos computacionais de perturbação do pensamento e da linguagem em TF.

Tradução automática do resumo original, publicado em medRxiv sob licença CC BY. Os números são conferidos contra o original; siglas e termos técnicos podem variar.