arXiv 人工智能· Marcus Thomas·· 14 hours agoAI score35
预测增益与因果损失：为什么无法仅从数据中学习干预能力
Predictive gains, causal losses: why interventional competence cannot be learned from data alone
Not yet translated; shown in Chinese.
AI guide
研究表明模型获取观测预测增益会导致因果干预响应产生持续误差，证实干预能力无法仅从数据中学习。在平方误差损失下，依赖直接原因之外的输入会使均方根干预响应误差存在正下界，且梯度更新可能因参数共享破坏既有正确机制。误差修正受限于所接纳的因果假设类别，可靠获取并维持干预能力需要自主提出替代假设并测试修正。
Source:arXiv 人工智能 · arxiv.org