审计研究发现大语言模型会把求助者披露的身份当作痛苦的解释

arXiv:2611.10808v1 公告类型：新摘要：经历自杀意念（SI）或心理痛苦的个体在向大语言模型（LLM）寻求支持时，可能会披露其社会身份。关注与身份相关的压力源对于提供情境适宜且富有同理心的支持可能很重要。然而，披露某一身份并不一定意味着该身份是痛苦的原因。在本研究中，我们审计了LLM如何通过被披露的身份来解读痛苦。采用配对反事实干预，我们在两个SI与痛苦数据集、16种身份与控制条件以及两种提示协议下评估了六个LLM。我们的发现表明，模型可能将身份披露转化为解释性叙事，将痛苦归因于假定的与身份相关的逆境。这些假设经常出现在原本富有同理心的回应中，尤其是当披露边缘化身份时。我们通过“同情式他者化”的视角来情境化我们的发现，将这些模式刻画为一种伤害形式，即富有同理心的回应将身份关联的假设强加于个体痛苦之上。这些回应可能通过将个体身份视为对痛苦的 explanation 而在缺乏支持性证据的情况下歪曲个体的经历。我们的发现强调，有必要通过将痛苦的解读建立在个体披露之上并避免无支持的与身份关联的假设，来减轻这些伤害。

中文由 AI 翻译，仅供参考，以原文为准。