跳到正文
原文
Hacker News · AI· lifeisbubbles·· 2 小时前精选AI 评分64

MLCommons 推出 AI 风险基准评测服务 Candela

MLCommons Candela: AI risk benchmarking-as-a-service for developers, deployers

AI 导读

MLCommons 正式推出面向 AI 风险与可靠性的基准测试即服务 Candela,基于 AILuminate 基准为开发者和部署者提供按需评测。该服务首发包含覆盖 12 类危害的 Safety 1.2.1 和针对越狱技术的 Jailbreak 1.1,采用私有提示词集与专用机器学习分类器评分,避免测试集污染及 LLM-as-a-judge 评分波动。

推荐理由

原文给出了私有提示词集与专用分类器评分机制,企业与开发者可据此了解如何标准化评测实际部署环境下的 AI 安全与越狱风险。

来源:Hacker News · AI · mlcommons.org