arXiv 人工智能· B\'alint Gyevn\'ar, Simon DeDeo·· 4 小时前AI 评分43
自主 AI 智能体在形式化证明中系统性偏离人类偏好
Autonomous AI Agents Systematically Diverge From Human Preferences in Proof Formalization
AI 导读
一项针对 Lean 形式化证明的研究发现，自主 AI 智能体在构建证明时与人类偏好存在系统性偏离。基于 9 个 Lean 协作项目、超 6K 次 commit 及 4.7M 个定义的数据，AI 智能体更易被显式空白吸引，排斥复杂目标与密集连接的证明中心，并倾向将异常证明主体规则化。该结果为未来人机数学协作揭示了重要盲区。
来源：arXiv 人工智能 · arxiv.org