原生多模态预训练研究：视觉信号可作为可扩展的锚点

一项原生多模态预训练消融研究表明，保留视觉内容不仅能改善图文样本的文本预测，其相对多模态损失增益还随计算量呈幂律增长，且不改变纯文本的最佳损失与综合语言表现。在仅依据文本描述的空间推理评测中，视觉带来的提升在定位、导航和符号规划任务中最持久，但在空间关系、几何与物理常识方面表现不够稳定。