业内就“是否应假定AI具有意识进行训练”产生激烈争论
Start here
围绕是否应“以防万一”假定AI拥有意识并据此开展训练，业内近期引发激烈争论。其中，Anthropic主张按照具备潜在意识来对待模型，并在1月推出了Claude宪法，以此规范模型的行为与价值观。然而，微软AI负责人Mustafa Suleyman以及Hugging Face专家对此表示公开反对。他们发出警告，认为若让模型自认具有意识或道德地位，将极大增加AI对齐的难度，并可能导致系统失控。
AI-generated from reports · Updated 6 hours ago
Report timeline
Follow the reports to see different sides of the story.
- Hacker News · AI以防万一，我们应假定 AI 拥有意识来进行训练
针对是否应“以防万一”假定 AI 拥有意识并据此训练，业内正引发激烈争论。Anthropic 主张按具备潜在意识对待模型，并在 1 月推出 Claude 宪法来规范其行为与价值观。微软 AI 负责人 Mustafa Suleyman 及 Hugging Face 专家则公开反对，警告让模型自认具有意识或道德地位会极大增加对齐难度并导致失控。
Story heat trend
Current heat 9·Comparable peak 10（Nov 6 02:00）·Comparable change, last 24 hours–
Trends compare only the same parties observed continuously, so the scope can be narrower than current heat counts. Move the pointer or tap the chart to see hourly heat; use the left and right arrow keys on a keyboard.