跳到正文
原文
Hacker News · AI· thoughtpeddler·· 2 小时前精选AI 评分70

Yoshua Bengio 发文呼吁:若优先考虑安全应离开前沿 AI 公司

Yoshua Bengio: 'If you prioritize safety, leave frontier AI companies'

AI 导读

图灵奖得主 Yoshua Bengio 发表公开信,呼吁重视安全的研究人员离开前沿商业 AI 实验室,转向非营利组织或安全机构。他指出前沿大模型公司受股东利益与竞速驱动,内部安全工作难以放缓失控风险。其在蒙特利尔成立的非营利组织 LawZero 已获加拿大和德国政府超 2 亿美元支持,致力于构建设计即安全的人工智能系统。

推荐理由

图灵奖得主从个人反思出发指出前沿实验室在商业竞争下难以兼顾安全,为从业者权衡职业选择与对齐研究路径提供了直接视角。

来源:Hacker News · AI · transformernews.ai