Hacker News · AI· Dikesa_27·· 16 小时前精选AI 评分66
开源 AI 智能体运行时安全工具 Cerbère 发布,支持数据流污点追踪与 MCP
Cerbère – taint tracking for AI agents
AI 导读
Cerbère 发布面向自主 AI 智能体的运行时安全与可观测性工具,通过在模型决策与外部工具执行边界之间拦截检查,实现基于数据流的污点追踪。当智能体读取的敏感密钥或个人隐私信息被传入外部工具参数时,系统即使面对编码绕过也会直接阻断。项目采用规则、本地机器学习与大语言模型裁判三层检测架构,并已原生支持 MCP 服务端集成与 Docker 自托管部署。
推荐理由
该项目将防御重点从前端提示词拦截转向运行时数据流,为智能体敏感数据外泄防护提供了可落地的污点追踪方案。
来源:Hacker News · AI · github.com