arXiv · 人工智能（cs.AI）· Katelyn A. Wasson, Kiwon Song, James M. Jennings III, Brittney Currie, Konstantina Sokratous, Clintin P. Stober·· 3 天前AI 评分53
研究检验大语言模型能否对道德价值排序：多数选择集只呈现弱或不稳定的顺序
Do large language models rank moral values? A transitivity test of moral competence
AI 导读
一项预印本研究检验大语言模型能否对相互冲突的道德价值违规进行有序排序，即是否满足传递性这一最低必要条件。研究者以情境选择集中的两两权衡呈现给模型，并从首个 token 的分布中提取选择概率，用三种随机传递选择模型检验，发现多数选择集只得到弱或不稳定的顺序。
摘要 · AI 翻译
arXiv:2611.10265v1 公告类型：新摘要：LLM 越来越多地被用于支持需要道德考量的决策。尽管 LLM 在来自心理学和哲学的道德基准上表现良好，但在这些基准上产生恰当输出（道德表现）并不能证明 LLM 在决策中权衡了相互竞争的道德价值（道德能力）。我们检验这种权衡的一个最小必要条件：可以用序数排序来表示 LLM 的道德选择。这种排序需要传递性。为评估传递性，我们向 LLM 呈现情景选择集中道德价值违背之间的两两权衡，并从首个 token 分布中提取由此产生的选择概率。针对三种随机传递选择模型进行检验，大多数选择集只允许弱或不稳定的排序。聚合一个 LLM 的响应——LLM 道德评估中的常见做法——产生了传递结构，但该结构与任何单个选择集都不匹配。对 AI 道德的评估应先确立选择是有结构的，然后再问它们是否对齐。
摘要来源：信源摘要
中文由 AI 翻译，仅供参考，以原文为准。
来源：arXiv · 人工智能（cs.AI） · arxiv.org