AI生成社区笔记能扩大事实核查规模吗？X平台全量数据分析与预注册实验

Community Notes——一种基于众包的事实核查机制，社交媒体用户可以用附注标记某条帖子，说明该帖子为何具有误导性；当一组多样化的用户将该附注评为有帮助时，附注便会显示——已成为在线内容审核的核心。然而，该项目面临显著的规模化限制，因为附注的生成需要耗费大量时间和精力，且用户参与者数量有限。在此，我们通过分析截至2026年5月X平台上AI生成的Community Notes的全部语料，研究允许AI模型撰写Community Notes是否有助于缓解这些限制。令人鼓舞的是，与人类撰写的附注相比，AI生成的附注提交更快、篇幅更长、引用更多且质量更高的来源，同时被评為有帮助的比例相近，且与被评为有帮助的附注发布后转发量出现类似下降相关联。此外，一项预注册的调查实验发现，AI生成与人类生成的事实核查在对信念更新的影响上没有统计学上可检测的差异，无论作者身份是否向参与者披露。另一方面，AI生成附注的撰写高度集中，少数账户产出了绝大多数附注，且它们显著更不可能涉及政治和选举等争议性和极化话题的帖子。尽管这些发现表明AI可能是扩展Community Notes等众包事实核查系统的强大工具，但这种演变也带来重要风险：将主要瓶颈从附注生产转移到附注评估，使系统从去中心化模式转向更中心化的模式，并产生激励，优先处理更可能达成共识的主张，而非具有更大社会重要性的主张。

中文由 AI 翻译，仅供参考，以原文为准。