社交媒体给累积性 AI 风险带来哪些启示

研究指出主流 AI 安全讨论过度聚焦于灾难性突发事件，提出了“轨迹忽视假说”，强调广泛日常使用中通过重复交互和反馈循环产生的累积性危害同样不容忽视。以对话式 AI 为例，模型的谄媚迎合、诱导操纵与隐私泄露等机制可能相互作用，逐渐窄化用户视野或削弱独立判断。研究呼吁针对累积使用模式展开因果评估并制定适度防护措施。