Hacker News · AI· wondersky·· 3 小时前精选AI 评分74
思科开源 AI 智能体行为检测语言 Project Quarry
Cisco open-sources Project Quarry, a detection language for AI agent behavior
AI 导读
思科开源 Project Quarry，这是一种结合机器学习与规则检查的神经符号检测语言及引擎，用于识别 AI 智能体在多步骤执行中的恶意或越权行为。该项目覆盖大语言模型多轮对话、工具调用、MCP 交互与多模态输入，提供 CLI 扫描器、Python SDK 以及面向 Claude Code 等智能体的插件。
推荐理由
原文提供了多步骤智能体行为检测的规则设计与落地示例，读者可以据此构建跨工具调用与多轮会话的安全防御策略。
来源：Hacker News · AI · blogs.cisco.com