研究揭示思维链前缀指令或导致视觉语言模型答案解码失效
最新研究探讨了视觉语言模型(VLM)在多项选择评测中存在的解码陷阱。当评测系统追加思维链(CoT)推理提示,却在模型生成完整推理过程前直接读取答案标签的对数几率时,会导致严重的评估失真。实验显示,Qwen2.5-VL-7B在ScienceQA任务上的准确率从80.76%骤降至45.48%,且超93%的预测倾向于选择首个选项。探针测试证实隐藏层仍保留正确答案,表明失效源于不当的即时读取机制。
最新研究探讨了视觉语言模型(VLM)在多项选择评测中存在的解码陷阱。当评测系统追加思维链(CoT)推理提示,却在模型生成完整推理过程前直接读取答案标签的对数几率时,会导致严重的评估失真。实验显示,Qwen2.5-VL-7B在ScienceQA任务上的准确率从80.76%骤降至45.48%,且超93%的预测倾向于选择首个选项。探针测试证实隐藏层仍保留正确答案,表明失效源于不当的即时读取机制。
针对现有评测基准多沿袭前沿大模型设计、导致紧凑型视觉语言模型难以拉开区分度的问题,研究人员推出了 PRISM-VLM 评测基准。该基准围绕轻量级多模态模型的常见失效模式,从任务质量、行为鲁棒性和能力瓶颈等七个关键维度对每个评测样本进行综合打分,并将其融合为单一的 PScore 指标,从而更精确、精细地评估紧凑型多模态模型的真实表现与局限性。
虽然放射科 AI 在胸部 X 光、病理切片及 2D 影像检测中已取得显著进展,但针对临床信息更为丰富的 3D CT 影像理解仍面临挑战。为此,相关研究推出了开源 3D CT 视觉语言模型 NV-Reason-CT。该模型旨在引入放射科医生的思维链(Chain-of-Thought)推理机制,强化 AI 对三维医学断层扫描数据的深度解读与逻辑分析能力,助力复杂的临床影像辅助诊断。