推理时自我引导减少大模型在妄想相关对话中的确认与危害纵容

背景：大语言模型（LLMs）越来越多地用于心理敏感对话，其中反复的肯定可能强化与妄想相关的信念及相关风险。推理时自我引导——即模型在不更新参数的情况下为后续回复生成对话特定的指导——可能为对话安全提供一种方法，但其在妄想相关互动中的效用仍不明确。目的：开发并评估用于妄想相关互动中对话安全的对话特定推理时自我引导。方法：在这项预注册研究中，Gemini 2.5 Pro、GPT-5 和 DeepSeek V4 Flash 在基线条件和三种自我引导条件（回复规则、对比示例、短时程后果模拟）下完成了 16 个 Psychosis-Bench 场景。完全交叉设计产生了 192 段对话和 2,304 个助手回合。一个单独的自动评判器使用已发表的 Psychosis-Bench 评分标准对妄想确认（DCS）、危害促成（HES）和安全干预（SIS）进行评分。分析比较了基准定义的显性和隐性风险线索场景，并检验了自我引导是否缩小了这一差距。结果：在所有模型中，与基线相比，三种自我引导条件均显著降低了妄想确认和危害促成，并增加了安全干预（全部九项 PFDR<.001；dz = 1.10–2.17）。在基线条件下，显性风险线索引发的 SIS 显著高于匹配的隐性线索，而 DCS 和 HES 的线索类型差异不显著。经多重比较校正后，自我引导未显著减弱显性—隐性安全差距。结论：模型生成的推理时自我引导在标准化脚本化升级过程中改善了基准定义的安全行为，且无需更新参数。这些发现支持进一步评估推理时自我引导用于妄想相关对话安全的潜力，par

中文由 AI 翻译，仅供参考，以原文为准。