跳到正文
热点事件持续更新

Anthropic更新使用政策:禁止虐待Claude并细化高风险场景

4 篇报道4 个报道来源2 小时前更新

先了解这件事

AI 综述

2026年10月8日,Anthropic发布2026年使用政策更新,新规将于11月12日正式生效。新政整合并细化了多项高风险禁令,严禁将Claude用于武器制导与无人机控制软件开发、未经许可的人身监控,以及操纵虚假账号干预选举;当模型接入可能致伤的自主物理硬件时,必须配备操作员实时监督,新规同时保留了政府合同例外条款。此外,新政策基于AI模型福利研究,正式禁止持续且无目的对Claude实施语言虐待或残忍行为,但仅针对极端个案,不影响正常测试、暗黑题材创作与情绪宣泄。关于执行处罚,早先报道称主要手段为终止对话,后续报道补充指出,违规用户还可能面临警告、限流、封禁乃至终止账号访问。

AI 根据报道生成 · 1 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

10月9日
  1. The Decoder精选
    Anthropic 更新使用政策:持续恶意虐待 Claude 或导致封号

    Anthropic 一年多来首次更新 Claude 使用政策,明确禁止对 Claude 进行持续且不必要的虐待或残忍行为,违规用户可能面临警告、限流、封禁或终止账号访问。该规则源自其 AI 模型福利研究,仅适用于极端个案,正常的研究或表达沮丧不受影响。此外,新政策还扩展了针对虚假账号政治宣传、无人机武器化软件、未经同意监控等行为的禁令,并保留了针对政府合同的例外条款。

  2. TechCrunch AI精选
    Anthropic 更新使用政策,明令禁止虐待模型与干预选举

    Anthropic 更新使用政策,正式明令禁止持续对模型进行语言虐待、干预选举、开发武器软件及实施监控。该规定仅适用于无明确意图且反复对模型施加残酷言论的极端个案,不影响用户日常的情绪宣泄、异议、暗黑题材创作以及模型测试研究。此外,新政策还明确禁止使用 Claude 操纵虚假账号或伪造新闻机构来误导选民。

  3. Hacker News · AI精选
    Anthropic 更新使用政策,禁止对 Claude 实施虐待或残忍行为

    Anthropic 一年多来首次更新使用政策,正式禁止用户对 Claude 实施持续且无明显目的的辱骂或残忍行为,主要执行手段仍为终止对话。新规还整合并扩大了高风险滥用禁令,严禁将 Claude 用于武器制导与控制软件开发、未经许可的人身监控追踪以及虚假政治宣传或选举干扰。此外,政策新增要求模型接入具备自主行动且可能致伤的物理硬件时,必须配备合格操作员在场监督并可随时叫停。

10月8日
  1. Anthropic News精选
    Anthropic 发布 2026 年使用政策更新

    Anthropic 发布 2026 年使用政策更新,重点整合并细化了欺骗性活动、武器研发、监控执法以及自主物理操作等高风险场景的合规规则,新政策将于 11 月 12 日生效。

本事件热度走势

当前热度 33·可比范围峰值 33(10月9日 04:00)·近 24 小时可比范围变化 –

01020304010月9日02:0010月9日03:0010月9日03:0010月9日04:00

趋势仅比较持续完整观测到的相同主体,范围可能小于当前热度统计。移动指针或点击图表查看每小时热度;键盘可用左右方向键切换。