Anthropic、AIモデルの真正性を検証するオープンソースシステム「FlashProve」を開発

Anthropicは、「FlashProve」と呼ばれるオープンソースシステムを開発している。検証可能な推論を通じてモデルの出力に暗号学的な証明を提供し、応答が特定のモデルによるものであることをユーザーが確認できるようにするものだ。このシステムは、モデルの重み（ウェイト）を漏洩させない「モデルフィンガープリント」の公開を開発元に求め、ローカル環境での軽量な検証に対応する。これにより、ベンダーがコスト削減のために密かに安価なモデルへとすり替えたり、ベンチマーク結果を水増ししたりする不正を防止できる。現在、GitHub上で技術仕様とコードが公開されているが、まだ研究段階にあり、実運用には至っていない。