Anthropic IPO路演材料警示AI人类灭绝与反抗关机风险
Claude开发商Anthropic在潜在的IPO路演及投资者推介材料中提出了严厉的安全警告。该公司指出，其研发的前沿AI模型未来可能会抵抗人类的关机指令，甚至可能引发灾难性危害或导致人类灭绝风险。这一披露凸显了头部AI实验室在追求商业化与上市的同时，对其技术潜在失控风险的严峻审视与合规披露。
推荐理由头部大模型公司罕见在资本路演中将模型反抗关机与灭绝级风险列为核心风险提示，对AI商业化与安全治理具有标志性观察价值。
原标题：Anthropic’s IPO pitch includes a warning about human extinction
阅读 Ars Technica · AI 筛选 原文 ↗