ホットトピック継続更新中
研究提出AI对齐中“灾难性表现”的形式化定义
1 件の報道1 件の報道元7 時間前 更新
まずこの件を把握する
AI 概要
针对AI对齐领域的灾难性风险，研究人员于2026年11月提出了“灾难性表现”（catastrophic performance）的形式化定义，旨在严格区分次优结果与灾难性后果。该定义基于两个核心参考值：一是不部署AI智能体时的“基线价值”，二是与人类偏好无关轨迹的“正交价值”。在假定过去人类活动已经改善了环境的设定下，灾难性表现具体指智能体抹杀并逆转了人类既往活动所带来的全部益处。
AI が報道をもとに生成 · 7 時間前 更新
最新の進展11月5日 13:00
研究人员提出形式化定义，以严格区分AI对齐中的次优结果与灾难性后果。報道タイムライン
報道をたどり、出来事のさまざまな側面を知る。
11月5日
- arXiv 人工智能灾难性表现的形式化定义
针对 AI 对齐中的灾难性风险，研究人员提出了“灾难性表现”（catastrophic performance）的形式化定义，以严格区分次优结果与灾难性后果。该定义基于不部署 AI 智能体时的“基线价值”以及与人类偏好无关轨迹的“正交价值”两个参考值。在过去人类活动已改善环境的设定下，灾难性表现具体指智能体抹杀并逆转了人类既往活动带来的益处。
このストーリーのホット度の推移
現在のホット度 8·比較可能範囲のピーク 10（11月5日 14:00）·直近24時間の比較可能な変化–
トレンドは継続して完全に観測した同じ主体のみを比較するため、現在のホット度の集計より範囲が狭い場合があります。ポインターの移動やタップで1時間ごとのホット度を確認でき、キーボードでは左右の矢印キーで切り替えられます。