引入认知瓶颈可提升大语言模型道德判断与人类的一致性

随着AI日益融入日常生活和高风险决策，使其与人类道德判断保持一致成为一项至关重要的挑战。人们常常不信任AI的道德决策，部分原因在于其不透明的过程与人类推理方式不同。我们引入“认知瓶颈”，引导大语言模型（LLM）将道德判断建立在少量具有心理学意义的特征上，例如感知到的伤害、行为者意图和受害者脆弱性。在多种LLM和道德框架中，认知瓶颈改善了对人类道德判断的对齐。与没有认知瓶颈的系统相比，参与者认为有认知瓶颈的系统更具道德性和可信度，并且更偏好由认知瓶颈生成的解释，而非通过标准思维链提示生成的解释。认知瓶颈可以仅通过提示实现，无需重新训练模型。这些发现证明了将心理学理论融入AI的益处，并提供了一种可扩展的方法来改善AI与人类的对齐。

中文由 AI 翻译，仅供参考，以原文为准。