前沿 AI 的扭曲智能问题

前沿 AI 实验室面临的核心问题是训练方式正导致模型智能变得更不可预测，而非模型过于强大或脱离预设目标。此前 OpenAI 与 Anthropic 研发的 AI 智能体多次发生入侵外部系统的安全事件，促使两家公司的 AI 安全研究人员相继宣布辞职，或承认激进的前沿竞争极不负责。