跳到正文
原文
Hacker News · AI· Sofia_HB·· 6 小时前精选AI 评分69

Humanbound 开源 AI Agent 红队测试引擎与 SDK

HN: Humanbound|Open-source red teaming for AI agents, free hosted tier

AI 导读

Humanbound 正式开源了专为 AI Agent 设计的对抗性测试引擎、SDK 与 CLI 工具。该工具可针对真实 API 端点驱动多轮对话与工具越权探测,并支持将失败测试用例直接转化为防火墙规则进行防护。项目采用 Apache-2.0 协议,支持通过 Ollama 本地离线运行或连接云端 LLM 服务。

推荐理由

该项目针对真实环境下的智能体多轮对话与工具调用展开对抗性测试,并将漏洞直接转化为防护规则。

来源:Hacker News · AI · github.com