Hacker News · AI· DemiGuru·· 1 小时前精选AI 评分72
思科开源 AI 智能体行为检测引擎 Project Quarry
Cisco open sources tool for detecting AI agents on hacking sprees
AI 导读
思科开源了名为 Project Quarry 的行为检测引擎,用于实时监控 AI 智能体并防范恶意越轨行为。Quarry 类似于网络安全领域的 Snort 与 YARA,重点基于整个会话上下文分析连续动作关系,而非孤立检查单次 Prompt 注入或工具调用,从而有效拦截读取凭据后向外部端点发送数据等外发攻击。
推荐理由
该项目将传统网络安全的行为规则机制引入智能体监控,展示了如何通过跨步骤关联工具调用来防范凭据泄露与数据外传。
来源:Hacker News · AI · theregister.com