比较六种语言模型发现精神分裂症谱系障碍患者言语的语义相似度更高
Systematic evaluation of semantic similarity across language models for schizophrenia spectrum disorders
一项预印本研究发现,精神分裂症谱系障碍(SSD)患者的开放式言语在不同语言模型和比较策略下普遍表现出更高的语义相似度。研究分析228名参与者(152名SSD患者、76名健康志愿者)的言语样本,使用GloVe、LSA、Word2Vec、RoBERTa、GPT-2和Llama六种嵌入模型,并在三种预处理水平下计算语义相似度特征。
背景:源自语言嵌入的语义相似度特征已被提出作为精神分裂症谱系障碍(SSD)的标记物,但既往研究报告的效应方向不一致,且关于其与思维和语言紊乱特定维度之间关系的证据有限。我们系统评估了语言模型架构和预处理策略如何影响SSD中的语义相似度信号。方法:使用六种嵌入模型(GloVe、LSA、Word2Vec、RoBERTa、GPT-2和Llama)分析228名参与者(152名SSD患者,76名健康志愿者)的言语样本。在三个预处理水平(逐字、去除不流畅、去除不流畅并过滤停用词)下,采用词间k值、移动窗口和句对句比较计算语义相似度特征,并用多种统计描述符进行汇总。比较SSD患者与健康志愿者之间的特征,并检验其与思维和语言紊乱维度(包括低效、不连贯和表达受损)的关联。结果:SSD主要与跨模型和比较策略的语义相似度增加相关。模型性能因预处理而异。RoBERTa在最小预处理的转录文本上表现最佳,产生最多与诊断相关的特征,而GPT-2在最大预处理后达到最大的诊断效应量。GPT-2对低效和不连贯显示出最强信号,而RoBERTa产生最多与表达受损的关联。结论:SSD诊断及其思维和语言异常维度主要以开放式言语中更大的语义接近性为特征。最佳预处理取决于模型架构和所关注的临床维度,凸显了在思维的计算研究中采用模型特异性和表型特异性分析选择的重要性。
中文由 AI 翻译,仅供参考,以原文为准。
来源:medRxiv 精神医学与临床心理 · medrxiv.org