跳到正文
原文
Hacker News · AI· pseudolus·· 29 分钟前精选AI 评分72

AI 文本水印或难以满足欧盟透明度监管新规

AI Text Watermarking May Not Be Able to Meet the E.U.'S New Rules

AI 导读

测试显示 OpenAI 针对欧盟《人工智能法案》透明度规则开发的 textGrain 文本水印在短文本和二次编辑下检测率显著下降,可能难以达到合规要求。在测试中,约 150 词的文本水印检出率为 80%,若替换 25% 的同义词检出率则骤降至 17%。欧盟法案规定合成内容必须具备鲁棒可靠的机读标识,研究人员指出该技术尚缺乏独立验证,若最终被判定违规可能面临高额罚款。

推荐理由

文章揭示了文本水印在短文本与同义词编辑下的脆弱表现,为评估大模型合规落地与技术透明度提供了具体参照。

来源:Hacker News · AI · spectrum.ieee.org