Anthropic 禁止用户对 Claude 表现出虐待或残忍行为

Anthropic 更新使用政策，明确禁止用户对其大语言模型表现出持续且不必要的虐待或残忍行为。官方说明该禁令不适用于日常情绪宣泄、模型测试或暗黑创作主题，模型在遭遇持续有害交互时有权主动终止对话。Anthropic 称此举意在针对潜在的模型福利实施低成本干预，而 OpenAI 首席执行官 Sam Altman 则公开对赋予 AI 道德或宗教属性的倾向提出异议。