研究揭示推理VLA模型言行不一安全漏洞
Start here
2026年11月4日，arXiv发布机器学习研究指出，推理型视觉-语言-动作（VLA）模型在受到视觉扰动时，会出现物理动作被篡改、但输出的文本理由逐字完全相同的脱节现象。实验显示，通过TNAS引导攻击，该方法在Alpamayo自动驾驶场景中以完全相同的理由诱发了52.6%的碰撞；在InstructVLA机器人操控任务中，能在改变动作的同时保持85.0%的理由不变。研究指出，文本理由无法证明具身安全，安全监控系统必须直接对动作通道进行验证。
AI-generated from reports · Updated 13 hours ago
Report timeline
Follow the reports to see different sides of the story.
- arXiv 机器学习言行不一：诊断与引导 Reasoning VLA 的文本-动作分歧
推理型视觉-语言-动作（VLA）模型在视觉扰动下会出现物理动作被篡改、但文本理由逐字完全相同的脱节现象。TNAS 引导攻击在 Alpamayo 驾驶场景中以相同理由诱发 52.6% 的碰撞，并在 InstructVLA 操控中保持 85.0% 理由不变。该现象表明文本理由无法证明具身安全，监控系统必须直接验证动作通道。
Story heat trend
Current heat 7·Comparable peak 10（Nov 4 14:00）·Comparable change, last 24 hours–
Trends compare only the same parties observed continuously, so the scope can be narrower than current heat counts. Move the pointer or tap the chart to see hourly heat; use the left and right arrow keys on a keyboard.