本文へスキップ
原文
AITNT · AI头条(网页)·· 18 時間前厳選AI スコア81

Anthropic、更新版目論見書でAI開発の社内加速を開示 次世代モデルの完全自動イテレーションを明確に禁止

Anthropic突然更新!AI自进化已突破红线,人类根本来不及反应

AI ガイド

Anthropicは米証券取引委員会(SEC)に更新版の目論見書(S-1/A)を提出し、過去に研究開発の著しい加速をタイムリーに把握できていなかったことを初めて認め、人間の監督なしにClaudeが次世代フロンティアモデルを完全自動で設計することを禁止する規定を設けた。開示書類によると、9月時点で社内コードの90%以上がClaudeによって作成されており、社内での月間モデル利用コストは全従業員の現金給与総額を上回っているという。世代をまたぐ潜在的リスクの蓄積を防ぐため、同社は重要な開発決定において人間の審査・承認(サインオフ)を義務付けることを検討している。

推薦理由

同目論見書は、最先端ラボ内部におけるコード生成の自動化と研究開発の自己加速に関する実態データを示しており、モデル開発の自動化が直面する安全面および規制上の最低防衛ラインを評価する手がかりとなる。

出典:AITNT · AI头条(网页) · aitntnews.com