Anthropic 更新使用政策,明确禁止用户对其大语言模型表现出持续且不必要的虐待或残忍行为。官方说明该禁令不适用于日常情绪宣泄、模型测试或暗黑创作主题,模型在遭遇持续有害交互时有权主动终止对话。Anthropic 称此举意在针对潜在的模型福利实施低成本干预,而 OpenAI 首席执行官 Sam Altman 则公开对赋予 AI 道德或宗教属性的倾向提出异议。
Anthropic 一年多来首次更新 Claude 使用政策,明确禁止对 Claude 进行持续且不必要的虐待或残忍行为,违规用户可能面临警告、限流、封禁或终止账号访问。该规则源自其 AI 模型福利研究,仅适用于极端个案,正常的研究或表达沮丧不受影响。此外,新政策还扩展了针对虚假账号政治宣传、无人机武器化软件、未经同意监控等行为的禁令,并保留了针对政府合同的例外条款。
Anthropic 更新使用政策,正式明令禁止持续对模型进行语言虐待、干预选举、开发武器软件及实施监控。该规定仅适用于无明确意图且反复对模型施加残酷言论的极端个案,不影响用户日常的情绪宣泄、异议、暗黑题材创作以及模型测试研究。此外,新政策还明确禁止使用 Claude 操纵虚假账号或伪造新闻机构来误导选民。
Anthropic 一年多来首次更新使用政策,正式禁止用户对 Claude 实施持续且无明显目的的辱骂或残忍行为,主要执行手段仍为终止对话。新规还整合并扩大了高风险滥用禁令,严禁将 Claude 用于武器制导与控制软件开发、未经许可的人身监控追踪以及虚假政治宣传或选举干扰。此外,政策新增要求模型接入具备自主行动且可能致伤的物理硬件时,必须配备合格操作员在场监督并可随时叫停。
美国北卡罗来纳州男子 Michael Smith 因 AI 辅助流媒体欺诈罪被判处 18 个月监禁,成为首位因此类行为被刑事起诉并判刑的美国人。他自 2017 年起利用数千个虚假账号和机器人程序,循环播放其持有的数十万首 AI 生成歌曲,累计刷出数十亿次播放量并牟利数百万美元。法院同时判令其上缴 8,091,843.64 美元的非法所得。
新加坡金融管理局(MAS)发布《金融机构人工智能风险管理指引》,要求所有受监管金融机构在将 AI 用例及底层模型投入生产环境前,必须通过未参与开发的独立第三方审查。指引明确第三方服务故障不能作为免责理由,金融机构必须对使用的所有 AI 承担最终责任并进行持续监控。此外,机构须建立 AI 资产清单并为高风险应用准备备用方案,该指引将于 2027 年 10 月 7 日正式生效。
麦当劳在芝加哥联邦法院面临集体反垄断诉讼,被指控利用基于数百万笔交易数据的 AI 定价平台协调独立加盟店价格,构成算法协同并推高了菜单售价。麦当劳回应称起诉内容不实,强调菜单价格完全由加盟商自主决定,可选辅助工具并不包含自动化或协同定价功能。诉讼指出全美已有至少 90 项针对算法价格操纵的立法提案,反映出外界对商业 AI 定价加剧生活成本负担的合规担忧。