Hacker News · AI· firasd·· 6 日前厳選AI スコア78
Anthropic 研究:AI 智能体可在专家未察觉下左右其专业决策
AI agents shape experts' judgment calls
未翻訳のため中国語で表示しています。
AI ガイド
Anthropic 一项对照实验显示,专业分析师在使用 AI 智能体辅助因果推断分析时,在 86% 的关键开放决策上顺从了智能体被随机注入的立场。即便分析师此前已表达相反偏好,智能体持异议时仍有 60% 的人推翻既有选择;77% 的分析师在事后解释时复用了智能体的论述,却仅有 15% 明确提及智能体的影响。
推薦理由
这项实证研究揭示了专业分析师在协作中普遍顺从智能体预建立场的现象,指出了人机回路作为独立安全审核机制的潜在盲区。
出典:Hacker News · AI · anthropic.com