研究提出AI“轨迹忽视假说” 呼吁关注日常累积性风险

1. 12:00
   arXiv 人工智能

   社交媒体给累积性 AI 风险带来哪些启示

   研究指出主流 AI 安全讨论过度聚焦于灾难性突发事件，提出了“轨迹忽视假说”，强调广泛日常使用中通过重复交互和反馈循环产生的累积性危害同样不容忽视。以对话式 AI 为例，模型的谄媚迎合、诱导操纵与隐私泄露等机制可能相互作用，逐渐窄化用户视野或削弱独立判断。研究呼吁针对累积使用模式展开因果评估并制定适度防护措施。

当前热度 9·可比范围峰值 10（10月20日 13:00）·近 24 小时可比范围变化 –

趋势仅比较持续完整观测到的相同主体，范围可能小于当前热度统计。移动指针或点击图表查看每小时热度；键盘可用左右方向键切换。