Hacker News · AI· wondersky·· 6 日前厳選AI スコア74
思科开源 AI 智能体行为检测语言 Project Quarry
Cisco open-sources Project Quarry, a detection language for AI agent behavior
未翻訳のため中国語で表示しています。
AI ガイド
思科开源 Project Quarry，这是一种结合机器学习与规则检查的神经符号检测语言及引擎，用于识别 AI 智能体在多步骤执行中的恶意或越权行为。该项目覆盖大语言模型多轮对话、工具调用、MCP 交互与多模态输入，提供 CLI 扫描器、Python SDK 以及面向 Claude Code 等智能体的插件。
推薦理由
原文提供了多步骤智能体行为检测的规则设计与落地示例，读者可以据此构建跨工具调用与多轮会话的安全防御策略。
出典：Hacker News · AI · blogs.cisco.com