Hacker News · AI· DemiGuru·· 7 日前厳選AI スコア72
思科开源 AI 智能体行为检测引擎 Project Quarry
Cisco open sources tool for detecting AI agents on hacking sprees
未翻訳のため中国語で表示しています。
AI ガイド
思科开源了名为 Project Quarry 的行为检测引擎,用于实时监控 AI 智能体并防范恶意越轨行为。Quarry 类似于网络安全领域的 Snort 与 YARA,重点基于整个会话上下文分析连续动作关系,而非孤立检查单次 Prompt 注入或工具调用,从而有效拦截读取凭据后向外部端点发送数据等外发攻击。
推薦理由
该项目将传统网络安全的行为规则机制引入智能体监控,展示了如何通过跨步骤关联工具调用来防范凭据泄露与数据外传。
出典:Hacker News · AI · theregister.com