Mustafa Suleyman 就“模型福利”发出警告:赋予 AI 权利将加剧对齐困境
微软 AI 负责人 Mustafa Suleyman 发出关于“模型福利”的警告。他指出,不应认为 AI 模型拥有情感、偏好、权利或享受人类福利的资格。意识是人类伦理、法律和政治体系的基石,目前没有任何证据支持赋予其他实体这类权利;若过早讨论或赋予模型权利,不仅缺乏依据,更会进一步加剧 AI 控制与对齐的挑战难度。
微软 AI 负责人 Mustafa Suleyman 发出关于“模型福利”的警告。他指出,不应认为 AI 模型拥有情感、偏好、权利或享受人类福利的资格。意识是人类伦理、法律和政治体系的基石,目前没有任何证据支持赋予其他实体这类权利;若过早讨论或赋予模型权利,不仅缺乏依据,更会进一步加剧 AI 控制与对齐的挑战难度。
Google发布了Gemini 3.8 Live与Gemini 3.8 Live Extended Thinking两款新型语音到语音(speech-to-speech)大模型,对标OpenAI的GPT-Live系列。开发者通过其WebSocket API构建了轻量级Web端体验工具,用户可在浏览器中选择模型、预设声音及系统提示词,体验支持随时打断的低延迟实时双向语音对话。
资深技术人Bryan Cantrill针对前Anthropic员工Jacob Coxon的言论发表回应。Coxon此前称多位Anthropic研究员认为AI可能在本十年末导致人类灭绝。Cantrill通过自身年轻时的经历反思技术专家向公众传递无端恐慌的危害,批评此类耸人听闻的末日言论缺乏事实依据,往往仅建立在对未来的草率外推之上,警示业内人士不应肆意制造社会焦虑。
该文记录了作者在Lobste.rs社区参与讨论对其影响最深的技术博客。作者提到了Joel Spolsky经典的《抽象漏洞定律》,该文促使其在职业早期便注重理解底层技术栈;同时推荐了Will Larson在2018年撰写的《迁移:技术债务唯一可扩展的解决方式》,强调将系统迁移与技术重构视为软件工程核心技能的重要性。