心理科学进展·· 1 天前AI 评分40
人机协同决策中算法权威影响道德推脱的双重认知评估模型
人机协同决策中算法权威影响道德推脱的心理机制
AI 导读
针对算法权威对道德推脱效应方向不一致的实证结果,本文提出“算法权威—道德推脱”双重认知评估模型,认为算法权威通过技术认知评估与道德认知评估共同影响自我责任归因。低道德冲突、低可解释性条件下个体更易将判断外包给算法、弱化自我责任归因而诱发道德推脱;高道德冲突、高可解释性条件下则强化自我责任归因、抑制道德推脱。
摘要
摘要: 随着人工智能在医疗、司法和管理等高风险决策领域的广泛应用, 人类决策者常以算法为由规避自身道德责任, 算法权威由此逐渐成为影响道德推脱的新的关键因素。然而, 现有实证研究揭示了其效应方向的异质性: 算法权威既可能在特定情境下加剧道德推脱, 也可能在另一些情境下通过增强伦理警觉来抑制推脱。为解释这一矛盾, 本文提出了算法权威——道德推脱的双重认知评估模型, 假定算法权威并不直接决定道德推脱, 而是通过技术认知评估和道德认知评估共同影响个体的自我责任归因: 在低道德冲突和低可解释性条件下, 个体更可能将判断任务外包于算法, 弱化自我责任归因, 通过责任转移诱发道德推脱; 在高道德冲突与高可解释性条件下, 个体更可能审查算法依据、意识到决策后果的道德意义, 并强化自我责任归因, 从而抑制道德推脱。该模型有助于厘清算法权威影响道德推脱的心理机制与边界条件, 为构建负责任的人机协同决策系统提供新的理论视角与实践启示。
DOI:10.3724/sp.j.1042.2027.0222摘要来源:openalex
来源:心理科学进展 · journal.psych.ac.cn