Skip to content
arXiv 人工智能· Navapat Nananukul, Mayank Kejriwal·· 18 hours agoAI score61

新研究评估大语言模型医疗推理能力:基准污染、模型规模与测试形式的影响

From Small to Large: Assessing Medical Reasoning, Benchmark Contamination, and Model Size in Language Models

Not yet translated; shown in Chinese.

AI guide

一项针对14款大语言模型在4个医疗基准上的评测研究发现,模型在标准多选下的高分严重依赖选项提示,一旦隐去选项,平均准确率从82.3%骤降至50.9%,且两款医疗专用模型跌幅最大。在标准测试中,小模型平均落后大模型8.7个百分点,仅有两款通过执业医师考试基准;记忆污染测试显示最强模型可仅凭选项反推25%的题目,但在不可反推题目上仍能维持准确率。研究还对比了准确率与推理成本,并验证了多模型集成的表现。

Source:arXiv 人工智能 · arxiv.org