提出检测LLM对话中心理伤害风险因素的方法

2026年11月5日，一个研究团队在arXiv计算语言学分类发布预印本，提出以“测量风险而非伤害”为思路，在AI回应层面检测构成心理伤害风险因素的可观测行为，并将这些信号聚合用于纵向监测。研究将风险因素操作化定义为八类行为，构建了包含47,062条AI回应、373,873个回应-因素标签的合成多标签语料，并辅以人工标注验证。该预印本尚未经同行评审，其方法能否在真实对话场景中稳定识别风险因素、以及聚合信号用于纵向监测的效果，仍有待进一步检验。目前事件进展停留在方法提出与语料构建阶段。

AI 根据报道生成 · 2 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。