TechCrunch AI· Julie Bort·· 19 時間前厳選AI スコア79
Anthropic、目論見書で「再帰的自己改善」の閾値に迫りつつあると警告
Anthropic warns that it’s very close to RSI capability, aka self-building AI
AI ガイド
Anthropicは改訂版のS-1/A目論見書においてリスク要因を新たに追加し、再帰的自己改善（RSI）の実現に迫りつつあると警告した。AIによる研究開発の加速に伴い、モデル能力の向上が安全アライメント対策の導入スピードを上回る恐れがあるとしている。
推薦理由
原文では目論見書に記載された再帰的自己改善に関する具体的なリスク条文が紹介されており、フロンティアモデルの研究開発フライホイールと安全アライメントの間にある現実的なジレンマを理解するのに役立つ。
出典：TechCrunch AI · techcrunch.com