Archestra 推出 OpenAPPA:兼顾可用性的确定性 AI 护栏系统
在企业级智能体开发中,接入工具越多越易失控并导致敏感数据泄露。目前基于大模型的非确定性护栏易受提示词注入攻击(基准测试中泄露率约10%),而现有确定性护栏(如OPA、Cedar)则依赖大量复杂规则且容易破坏智能体可用性(效用损失约59%)。Archestra 团队为此推出 OpenAPPA,旨在提供一种既能防范数据泄露、又不过度削弱智能体实用价值的确定性安全护栏解决方案。
推荐理由针对企业智能体工具调用中的数据泄露与效用损失痛点,提出了具实操价值的确定性护栏工程方案。
原标题:Show HN: OpenAPPA – deterministic AI guardrails that don't break agents
阅读 Hacker News · AI 原文 ↗