Hacker News · AI· ronbodkin·· 5 小时前AI 评分39
通过理解力审计降低自动化 AI 研发风险
Comprehension Audits to Mitigate Risks from Automated AI Research
AI 导读
研究人员提出“理解力审计”(comprehension audits)机制,要求研发负责人向独立审计员解释技术贡献以证明充分理解,若未通过则暂停开发。该机制设置硬性门槛与递增阻断措施,旨在应对 AI 自动编写代码导致的人类监督缺失风险。对主流开源 AI 项目的分析显示,在代码产出增加的同时,每行代码的人类审查评论率正在下降。
来源:Hacker News · AI · arxiv.org