AIテキストウォーターマーク、EUの透明性規制への適合に課題か

検証結果によると、OpenAIがEUの「AI法」の透明性規則向けに開発したテキストウォーターマーク技術「textGrain」は、短文や編集が加わった条件下で検出率が大幅に低下し、コンプライアンス要件を満たせない可能性があることが示されました。テストでは、約150語のテキストにおけるウォーターマーク検出率は80%でしたが、25%を同義語に置き換えると17%にまで急落しました。EUの法案は合成コンテンツに対し堅牢で信頼性の高い機械可読マーキングを義務付けていますが、研究者は同技術がまだ第三者による検証を欠いていると指摘しており、違反と判断された場合は多額の制裁金が科される可能性があります。