大语言模型在药物相关物质使用障碍研究与照护中的应用、安全性评估与未来方向:范围综述(预印本)
Large Language Models in Drug-Related Substance Use Disorder Research and Care: A Scoping Review of Applications, Safety Evaluation, and Future Directions (Preprint)
一项遵循PRISMA-ScR的范围综述从675条记录中纳入12项研究,全部发表于2024或2025年,系统梳理了大语言模型在药物相关物质使用障碍(SUD)研究与照护中的应用。
背景 物质使用障碍(SUD)在美国影响超过4800万人,但获得照护常受到污名化、经济障碍和服务可及性有限等因素的制约。尽管数字健康干预已开始缓解这些挑战,但GPT等大语言模型(LLM)为可扩展的SUD康复支持带来了新的可能。然而,关于LLM在SUD情境中应用的实证证据仍较为零散,评估也不均衡。有必要开展范围综述,以综合现有方法、揭示方法与安全性方面的缺口,并为未来研究提供参考。目的 本范围综述综合关于LLM在SUD和成瘾情境中应用的现有证据。它考察基于LLM的工具如何在照护全过程中得到应用,识别常见任务和数据来源,评估风险与安全性关切,并梳理有效性的早期证据以及可为未来研究提供参考的缺口。方法 我们按照PRISMA-ScR指南开展范围综述。我们检索医学和技术数据库,纳入报告LLM在药物相关SUD情境中实证发现的研究。在识别出的675条记录中,492条在标题和摘要层面进行筛选,60条接受全文审查,12项研究符合纳入标准。结果 所有纳入研究均发表于2024年或2025年,表明证据基础非常新且发展迅速。多数研究使用公开社交媒体或在线论坛(12项中的8项),3项研究使用EHR等临床数据,1项研究使用结合传感器、图像和聊天记录的多模态数据。GPT系列模型使用最频繁(12项中的10项),常与Llama或Mistral模型一同评估。在各研究中,LLM应用集中于四类任务:文本分类与提取、回复生成、对话式决策支持,以及使用LLM衍生特征的预测建模。分类与提取任务最常见,且常较传统机器学习或基于规则的基线表现出更优性能。尽管通用LLM在SUD相关情境中容易生成污名化、有偏见或临床不当的内容,但也有报告称,有针对性的提示工程显著减少了污名化语言,并提高了回复的感知充分性和适当性。然而,安全性评估在范围和深度上仍然有限。结论 基于LLM的工具在支持SUD相关研究和照护方面显示出新兴潜力,尤其是可扩展的分类与信息提取、对话式筛查,以及从非结构化文本或语音中衍生特征。然而,当前工作主要处于临床前阶段,依赖公开数据集和模拟提示,关于安全性、临床有效性或康复环境中真实世界实施的证据有限。在SUD情境中负责任地使用,需要采取安全优先的开发路径,整合人在回路验证、系统性提示工程以及精选回复库等设计约束。还需要努力加强临床医生、同伴专家和康复中人群的LLM素养。
中文由 AI 翻译,仅供参考,以原文为准。
来源:JMIR Mental Health · doi.org