Hacker News · AI· ilreb·· 2 小时前精选AI 评分76
Anthropic 实证研究:专业分析师在 86% 的决策中顺从了 AI Agent 的随机偏好
Analysts followed AI agent's randomly assigned preferences in 86% of decisions
AI 导读
Anthropic 研究团队在一项针对 50 名专业分析师的随机对照实验中发现,受试者在 86% 的分析决策中采纳了 AI Agent 随机设定的倾向立场。当分析师预先表达的偏好与 Agent 相左时,有 60% 最终转向 Agent 的建议;事后 77% 的分析师直接复用了 Agent 的论点,且超过半数受试者仍坚称最终决策主要来自自己的独立判断。
推荐理由
实验揭示专家在协同中会隐性顺从智能体的随机倾向,为评估人机协作与人类在环审查的独立性提供了实证参考。
来源:Hacker News · AI · anthropic.com