将“激活神谕”技术扩展至万亿参数模型：深入内部表征监测AI异常行为
针对奖励作弊（Reward Hacking）及评测感知等难以仅凭输出内容发现的AI异常行为，研究人员构建了“激活神谕”（Activation Oracles）系统。该系统作为辅助AI，专门分析目标模型的内部激活状态以检测和预测其潜在行为。研究团队成功将这一神谕训练机制扩展到了万亿参数模型上，并验证了其检测性能会随模型体量与数据规模的增长而持续提升（原文摘要在数据规模处截断）。
DC AI 热点
精选
当前热点完整榜单 →
1Anthropic 与 Akamai 达成 7 年 116 亿美元协议，扩充 CPU 算力基础设施83 热度 ⌁2美法院裁定可因Anthropic拒绝开放Claude特定功能将其列入黑名单77 热度 ⌁3Anthropic 与 Akamai 达成 116 亿美元为期七年的云计算基础设施大单76 热度 ⌁4Meta推出个人AI智能体Muse，与OpenAI和Anthropic展开正面竞争75 热度 ⌁5特斯拉 Optimus V3 人形机器人被曝量产遇阻：机械手制造复杂且 AI 能力受限74 热度 ⌁9月25日2026-09-25