arXiv 人工智能· Rahul Sharma, Andrew B. Ducan, Ga\'etan Marceau Caron, Sebastian J. Vollmer·· 7 小时前AI 评分36
TypedBench：面向 System One 决策模型校准度、表述敏感度与成本的评估基准
TypedBench: A Benchmark for Calibration, Framing Sensitivity, and Cost in System One Decision Models
AI 导读
研究人员提出基准测试 TypedBench，基于 7 个策略标注生成器和 9 个评估套件，用于评估 System One 决策模型的校准度、表述敏感性与实际决策成本。该基准评测了托管模型、开源编码器及 0.8B-9B 参数规模的开源解码器模型。结果显示托管模型对措辞敏感且存在系统性置信不足，解码器在策略问题上准确率最低且随选项增加性能明显下降。
来源：arXiv 人工智能 · arxiv.org