ホットトピック継続更新中
研究揭示推理VLA模型言行不一安全漏洞
1 件の報道1 件の報道元16 時間前 更新
まずこの件を把握する
AI 概要
2026年11月4日，arXiv发布机器学习研究指出，推理型视觉-语言-动作（VLA）模型在受到视觉扰动时，会出现物理动作被篡改、但输出的文本理由逐字完全相同的脱节现象。实验显示，通过TNAS引导攻击，该方法在Alpamayo自动驾驶场景中以完全相同的理由诱发了52.6%的碰撞；在InstructVLA机器人操控任务中，能在改变动作的同时保持85.0%的理由不变。研究指出，文本理由无法证明具身安全，安全监控系统必须直接对动作通道进行验证。
AI が報道をもとに生成 · 15 時間前 更新
最新の進展11月4日 13:00
研究指出推理VLA存在言行不一漏洞，监控系统须直接验证动作通道。報道タイムライン
報道をたどり、出来事のさまざまな側面を知る。
11月4日
- arXiv 机器学习言行不一：诊断与引导 Reasoning VLA 的文本-动作分歧
推理型视觉-语言-动作（VLA）模型在视觉扰动下会出现物理动作被篡改、但文本理由逐字完全相同的脱节现象。TNAS 引导攻击在 Alpamayo 驾驶场景中以相同理由诱发 52.6% 的碰撞，并在 InstructVLA 操控中保持 85.0% 理由不变。该现象表明文本理由无法证明具身安全，监控系统必须直接验证动作通道。
このストーリーのホット度の推移
現在のホット度 7·比較可能範囲のピーク 10（11月4日 14:00）·直近24時間の比較可能な変化–
トレンドは継続して完全に観測した同じ主体のみを比較するため、現在のホット度の集計より範囲が狭い場合があります。ポインターの移動やタップで1時間ごとのホット度を確認でき、キーボードでは左右の矢印キーで切り替えられます。