研究提出AI对齐中“灾难性表现”的形式化定义

针对AI对齐领域的灾难性风险，研究人员于2026年11月提出了“灾难性表现”（catastrophic performance）的形式化定义，旨在严格区分次优结果与灾难性后果。该定义基于两个核心参考值：一是不部署AI智能体时的“基线价值”，二是与人类偏好无关轨迹的“正交价值”。在假定过去人类活动已经改善了环境的设定下，灾难性表现具体指智能体抹杀并逆转了人类既往活动所带来的全部益处。

AI 根据报道生成 · 2 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。