Hacker News · AI· theanonymousone·· 25 日前厳選AI スコア69
Yoshua Bengio 发公开信呼吁:若真正重视安全应离开前沿 AI 公司
Bengio: 'If you prioritize safety, leave frontier AI companies'
未翻訳のため中国語で表示しています。
AI ガイド
图灵奖得主 Yoshua Bengio 发表公开信,呼吁重视 AI 安全的研究人员离开追求商业化竞速的前沿大模型公司。他指出头部实验室受制于股东利益与竞争压力,安全研究往往被让位于模型发布进度,难以依靠自我约束避免失控风险。他建议研究人员加入 AI 安全机构或使命驱动型组织,并提及自己创立的非营利组织 LawZero 致力于开发可控系统,已获得加拿大和德国政府超 2 亿美元支持。
推薦理由
原文分析了前沿实验室在商业竞速下安全受限的困境,为关注安全治理的研究者提供了反思视角与替代路径。
出典:Hacker News · AI · transformernews.ai