Anthropic 在招股文件中警示 AI 递归自我改进风险近在眼前

Anthropic 在更新的 S-1/A 招股补充文件中新增风险提示，称其正越来越多借助 AI 加快研发，下一代模型可能很快触及其《负责任扩缩策略》定义的递归自我改进（RSI）标准。文件指出目前没有任何现有模型跨过该红线，但研发提速可能超出配套安全、对齐与防护方案的落地速度。Anthropic 强调在可预见的未来仍将保留人类参与，正考虑修订策略以保证前沿模型开发始终处于有效人工监管之下。