跳到正文
原文
Hacker News · AI· gmays·· 3 小时前精选AI 评分71

第三方安全评估机构走向台前,Anthropic与OpenAI探索引入独立审查

AI's quiet safety gatekeepers are stepping into the spotlight

AI 导读

Anthropic与OpenAI正计划将METR、Apollo Research等第三方独立机构引入内部开展AI安全评估,但其资金来源、访问权限与汇报机制仍存争议。双方虽然签署了白宫倡导的自愿协议并支持加州相关立法,但在实际推进中已显现阻力,如OpenAI近期解雇了自称与外部评估员沟通的员工。专家指出,在缺乏联邦强监管与统一商业模式的前提下,规模较小的评估机构恐难以维持真正的独立性。

推荐理由

原文梳理了第三方评估机构进驻大模型厂商的落地困境,有助于读者了解独立安全审查面临的资金来源与权限争议。

来源:Hacker News · AI · cnbc.com