Hacker News · AI· gmays·· 21 日前厳選AI スコア71
第三方安全评估机构走向台前,Anthropic 与 OpenAI 探索外部常驻审计机制
AI's quiet safety gatekeepers are stepping into the spotlight
未翻訳のため中国語で表示しています。
AI ガイド
Anthropic 与 OpenAI 正加紧引入 METR、Apollo Research 等第三方独立评估机构进行模型安全审计,应对前沿大模型日益严峻的安全审查需求。由于缺乏联邦层面的强制监管标准,以非营利组织为主的评估机构面临资金来源、访问权限以及依附大厂导致的独立性疑问。加州已签署法案建立独立验证机构框架,行业正试图在自律协定与外部审查之间摸索平衡。
推薦理由
梳理了第三方评估机构在缺乏联邦监管下走向台前的资金与独立性困境,有助于理解前沿大模型安全审查机制的现实阻力。
出典:Hacker News · AI · cnbc.com