TechCrunch AI· Aditya Mehta·· 3 小时前精选AI 评分63
Goodfire 推出基于内部激活监控的新型 AI 智能体安全监控工具
Goodfire says its new ‘inside-out’ monitors catch rogue AI agents at a fraction of the cost
AI 导读
AI 可解释性初创公司 Goodfire 推出了一套新型安全监控系统，通过在模型前向传播过程中直接读取内部神经激活信号来捕获失控的 AI 智能体，目前已面向 Baseten 客户开放。
推荐理由
该方案通过复用前向传播激活值降低安全监视开销，为长周期智能体的低成本运行安全防护提供了新思路。
来源：TechCrunch AI · techcrunch.com