Hacker News · AI· Arno_Bighub·· 5 時間前厳選AI スコア64
ハードウェア欠陥評価ベンチマーク「First Silicon」公開:フロンティアモデルの「誤報ゼロ」チップ欠陥検出率は2割未満にとどまる
Show HN: First Silicon, real chip bugs that AI models miss
AI ガイド
研究チームがハードウェア評価ベンチマーク「First Silicon」を発表した。テストによると、最高スコアを記録した Claude Opus 5.5 でも、「誤報ゼロ」という厳格な基準下では実際のチップ欠陥のわずか18.6%しか検出できず、さらに発報されたアラートの3分の2が誤報であることが判明した。
推薦理由
同研究は86件の実際のチップ修正データを用いてフロンティアモデルをテストし、ハードウェアの形式検証においてLLMが高い誤報率や反例の誤判定といった致命的な弱点を抱えていることを浮き彫りにした。
出典:Hacker News · AI · umwelt.vision