The DecoderAI 评分 80/10009月29日 03:26

Hinton与Bengio等20多位顶尖学者联名警告：自动化AI研发或引发失控的“智能爆炸”

包括 Geoffrey Hinton、Yoshua Bengio 以及 OpenAI 研究主管 Jakub Pachocki 在内的20多位顶尖 AI 研究人员联合发出警告，指出自我改进型 AI 可能引发即将来临的“智能爆炸”。研究人员表示，AI 系统可能很快将实现全流程 AI 研发的自动化，把数年的科研进展压缩至数月内完成，这将带来极端的安全风险与失控隐患。

推荐理由图灵奖得主与顶尖实验室核心负责人罕见联名，就AI自我迭代加速导致的‘智能爆炸’提出具体风险预警，对AI安全防线与监管风向有重要参考价值。

原标题：More than 20 leading AI researchers warn that automated AI research poses extreme risks

# 安全 # 治理 # 对齐 # 大模型

阅读 The Decoder 原文 ↗

同一事件的其他来源

Hacker News · AI09月29日 20:38

康泰纳仕与赫斯特等300位媒体高管联名推动联邦法案，遏制AI恶意数据抓取

包括康泰纳仕（Condé Nast）和赫斯特（Hearst）在内的300多名媒体行业高管正在联名游说，推动美国联邦层面出台针对“恶意网络爬虫”的立法。该法案旨在规范和限制AI公司未经授权抓取出版商原创内容用于大模型训练的行为，保护媒体机构的版权和数据资产，加剧了内容出版行业与生成式AI开发者之间的利益博弈。

IT之家 · AI 筛选09月29日 08:49

OpenAI与Anthropic高管联合Hinton等专家发文，警示AI自我改进或引发“智能爆炸”

来自Anthropic、OpenAI、Meta和微软的高管，以及图灵奖得主杰弗里·辛顿、约书亚·本吉奥等20多位AI领袖联名发表论文，警告利用AI自动化研发下一代模型可能引发“智能爆炸”。论文指出，AI快速自我迭代可能导致技术发展速度超出社会应对能力并削弱人类监督。专家呼吁政策制定者深入掌握前沿实验室研发自动化进展，提高安全要求，加强对相关研发算力中心的监管，并预先制定快速起飞情景下的应急预案。