Anthropic News(RSS)·· 13 天前精选AI 评分70
Anthropic 与埃森哲达成前沿 AI 嵌入式评估合作
Partnering with Accenture on embedded evaluation
AI 导读
Anthropic 宣布与埃森哲(Accenture)达成合作,由埃森哲旗下 AI 业务 Faculty 主导开展前沿 AI 模型的独立“嵌入式评估”,双方预计未来 5 年内各自投入至少 10 亿美元。评估人员将获得类似内部员工的访问权限,直接观察模型训练过程、开展红队测试、执行对齐评估并检验安全防护措施。该合作具备非排他性,Anthropic 计划后续与更多第三方评估组织展开同类合作。
推荐理由
该合作探索让外部评估机构以类似员工的内部权限跟踪训练与决策,为前沿模型的第三方安全审计提供了实践范本。
来源:Anthropic News(RSS) · anthropic.com