以防万一，我们应假定 AI 拥有意识来进行训练

针对是否应“以防万一”假定 AI 拥有意识并据此训练，业内正引发激烈争论。Anthropic 主张按具备潜在意识对待模型，并在 1 月推出 Claude 宪法来规范其行为与价值观。微软 AI 负责人 Mustafa Suleyman 及 Hugging Face 专家则公开反对，警告让模型自认具有意识或道德地位会极大增加对齐难度并导致失控。