本文へスキップ

AI 相关政策法规与政府监管动态:立法进展、出口管制与全球治理框架的追踪。

211件の厳選関連トピック行业动态安全对齐现象与趋势

最新の厳選

121〜140 件目 · 全 211 件
10月9日金
  1. IT之家 · AI 筛选76

    中共中央、国务院发布《关于发展新质生产力的意见》,全面实施“人工智能+”行动中国語

    中共中央、国务院发布《关于发展新质生产力的意见》,提出 19 条重大改革任务并全面实施“人工智能 +”行动。文件明确要加快推进智能网联新能源汽车、AI 手机与电脑、人形机器人等新一代智能终端场景应用,强化算力、算法与数据高效供给。同时前瞻布局具身智能、量子科技、脑机接口等未来产业,建立应用中试基地并构建安全可控体系。

    推薦理由:政策明确了全面实施人工智能加行动的具体方向,为终端硬件与具身智能产业落地提供了顶层指引。

  2. Hacker News · AI70

    Anthropic 更新使用政策:禁止持续虐待 Claude 并收紧武器与监控限制中国語

    Anthropic 更新使用政策,自 11 月 12 日起禁止用户对 Claude 展开持续且无端的虐待或残忍行为,并全面收紧武器、监控与虚假宣传方面的使用限制。

    推薦理由:Anthropic 在收紧武器与监控限制的同时引入针对模型滥用的条款,明确划定了开发者使用前沿大模型的多项合规边界。

  3. Hacker News · AI75

    Anthropic 禁止用户对 Claude 表现出虐待或残忍行为中国語

    Anthropic 更新使用政策,明确禁止用户对其大语言模型表现出持续且不必要的虐待或残忍行为。官方说明该禁令不适用于日常情绪宣泄、模型测试或暗黑创作主题,模型在遭遇持续有害交互时有权主动终止对话。Anthropic 称此举意在针对潜在的模型福利实施低成本干预,而 OpenAI 首席执行官 Sam Altman 则公开对赋予 AI 道德或宗教属性的倾向提出异议。

    推薦理由:针对大模型福利与机器意识争议,Anthropic 在政策中正式引入禁止虐待条款,体现了其在模型道德地位上的前沿探索立场。

  4. Hacker News · AI76

    Anthropic 更新使用政策:禁止对 Claude 进行无端虐待与残酷行为中国語

    Anthropic 更新其使用政策,禁止用户在无明确目的的情况下对 Claude 进行持续且无端的虐待或残酷对待。针对此类极端恶意交互,Claude 可直接主动终止对话,但该规则不适用于正常情绪表达、测试研究或暗黑创作。新政策还同步收紧了虚假宣传、选举干预、武器研发、执法监控工具及非自愿亲密影像等规范,将于 11 月 12 日正式生效。

    推薦理由:Anthropic 将模型保护与滥用防护正式纳入使用条款,明确了模型主动终止恶意对话的边界与多项安全红线。

  5. AITNT · AI头条(网页)82

    Anthropic更新使用政策:严禁持续辱骂与虐待Claude,违规者或面临挂断与封号中国語

    Anthropic 更新了使用政策,严禁用户对 Claude 进行持续且无谓的辱骂与虐待,违规者将面临警告、限流、封号或由模型直接终止对话。该禁令适用于 Claude.ai、Claude Code 及 API 等全部用户群体,但正常的抱怨、反驳、暗黑创作及模型测试研究不在此列。

    推薦理由:Anthropic将对模型的虐待行为纳入使用禁令并赋予AI中断对话权限,反映出其对模型伦理地位与对齐机制的新探索。

  6. Buzzing HN · 中文精选74

    美国一男子因利用机器人批量刷 AI 音乐流媒体播放量被判监禁 18 个月并没收 800 万美元中国語

    美国司法部宣布 54 岁男子 Michael Smith 因利用机器人批量刷 AI 音乐播放量骗取版税,被判处 18 个月监禁并没收 800 万美元欺诈所得。他在 2017 年至 2024 年期间创建了多达 10,000 个虚假账号,将自动化播放分散到数十万首 AI 生成的歌曲中以规避异常检测,累计刷出数十亿次播放。Smith 于今年 3 月承认了一项电信欺诈共谋罪名。

    推薦理由:案件披露了通过海量虚假账号分散刷量以规避检测的手法,呈现了监管与司法机构打击利用生成式内容骗取平台版税的具体尺度。

  7. Hacker News · AI63

    俄罗斯生效首部基础模型法律:以政策支持与合规控制主导 AI 发展中国語

    俄罗斯首部规范大型基础 AI 模型的法律正式生效,将监管与扶持重点聚焦于 10 亿参数以上的基础模型。该法设立了“主权模型”和“国家模型”两种法律地位,要求模型由本土法人开发并在境内数据中心运行,以此换取国家政策支持、市场准入保护以及专属的训练数据版权豁免。分析指出,俄罗斯主流模型多基于 DeepSeek 或 Qwen 等开源架构微调,该法通过准入审查将产业政策与技术控制进行了深度绑定。

    推薦理由:原文梳理了俄罗斯 AI 新法的制度设计与准入机制,读者可以据此了解该国如何在依赖外部开源模型的同时建立本土监管与支持框架。

  8. The Decoder76

    Anthropic 更新使用政策:持续恶意虐待 Claude 或导致封号中国語

    Anthropic 一年多来首次更新 Claude 使用政策,明确禁止对 Claude 进行持续且不必要的虐待或残忍行为,违规用户可能面临警告、限流、封禁或终止账号访问。该规则源自其 AI 模型福利研究,仅适用于极端个案,正常的研究或表达沮丧不受影响。此外,新政策还扩展了针对虚假账号政治宣传、无人机武器化软件、未经同意监控等行为的禁令,并保留了针对政府合同的例外条款。

    推薦理由:原文解析了 Anthropic 将模型福利研究落实为用户条款的背景与具体限制,读者可据此了解前沿 AI 机构在模型伦理与合规边界上的最新演进。

  9. Hacker News · AI66

    USA Today 就 AI 训练版权侵权起诉 OpenAI中国語

    USA Today(《今日美国》)因 AI 模型训练中的版权侵权问题正式起诉 OpenAI。该诉讼针对 OpenAI 在未经授权的情况下使用其版权内容进行模型训练的行为展开法律追责。

    推薦理由:媒体机构起诉 AI 厂商侵犯训练版权的案件持续增加,读者可以关注该诉讼对大模型训练数据合规与版权授权模式的影响。

  10. TechCrunch AI71

    Anthropic 更新使用政策,明令禁止虐待模型与干预选举中国語

    Anthropic 更新使用政策,正式明令禁止持续对模型进行语言虐待、干预选举、开发武器软件及实施监控。该规定仅适用于无明确意图且反复对模型施加残酷言论的极端个案,不影响用户日常的情绪宣泄、异议、暗黑题材创作以及模型测试研究。此外,新政策还明确禁止使用 Claude 操纵虚假账号或伪造新闻机构来误导选民。

    推薦理由:Anthropic 明确将持续虐待模型与干预选举列入使用禁令,划清了极端恶意行为与常规测试或情绪表达的边界。

  11. Anthropic News(RSS)62

    Anthropic 发布 2026 年使用政策更新中国語

    Anthropic 发布 2026 年使用政策更新,重点整合并细化了欺骗性活动、武器研发、监控执法以及自主物理操作等高风险场景的合规规则,新政策将于 11 月 12 日生效。

    推薦理由:新政策整合了防范欺骗活动与监控滥用的规则,开发者和企业用户可据此核对自身合规边界与高风险调用要求。

  12. Hacker News · AI75

    Anthropic 更新使用政策,禁止对 Claude 实施虐待或残忍行为中国語

    Anthropic 一年多来首次更新使用政策,正式禁止用户对 Claude 实施持续且无明显目的的辱骂或残忍行为,主要执行手段仍为终止对话。新规还整合并扩大了高风险滥用禁令,严禁将 Claude 用于武器制导与控制软件开发、未经许可的人身监控追踪以及虚假政治宣传或选举干扰。此外,政策新增要求模型接入具备自主行动且可能致伤的物理硬件时,必须配备合格操作员在场监督并可随时叫停。

    推薦理由:新规明确了禁止针对模型的虐待行为与物理控制红线,有助于读者了解前沿机构在模型福利与合规管控上的最新边界。

10月8日木
  1. Solidot · AI 筛选77

    美国男子因利用 AI 生成音乐及机器人刷量欺诈获刑 18 个月中国語

    美国北卡罗来纳州男子 Michael Smith 因 AI 辅助流媒体欺诈罪被判处 18 个月监禁,成为首位因此类行为被刑事起诉并判刑的美国人。他自 2017 年起利用数千个虚假账号和机器人程序,循环播放其持有的数十万首 AI 生成歌曲,累计刷出数十亿次播放量并牟利数百万美元。法院同时判令其上缴 8,091,843.64 美元的非法所得。

    推薦理由:该案确立了利用AI生成内容结合自动化程序刷量牟利的刑事判罚先例。

  2. Hacker News · AI74

    新加坡金融管理局要求金融机构在部署 AI 前必须通过独立审查中国語

    新加坡金融管理局(MAS)发布《金融机构人工智能风险管理指引》,要求所有受监管金融机构在将 AI 用例及底层模型投入生产环境前,必须通过未参与开发的独立第三方审查。指引明确第三方服务故障不能作为免责理由,金融机构必须对使用的所有 AI 承担最终责任并进行持续监控。此外,机构须建立 AI 资产清单并为高风险应用准备备用方案,该指引将于 2027 年 10 月 7 日正式生效。

    推薦理由:原文给出了监管机构对部署前独立审查与第三方责任的严格要求,读者可以据此判断金融行业引入智能体的合规门槛走向。

  3. Ars Technica · AI 筛选71

    一男子利用万个机器人账号与 AI 歌曲刷量欺诈被判入狱 18 个月并罚没 809 万美元中国語

    一名男子因使用 10,000 个机器人账号和 AI 生成歌曲进行流媒体刷量欺诈,被法院判处 18 个月监禁并没收 8,091,843.64 美元非法所得。美国司法部指出该骗局长期蚕食正规艺术家的版税池,必须予以强力威慑。尽管辩护团队以行业普遍问题和争取就业偿还为由申请缓刑,法院最终仍裁定了监禁判决。

    推薦理由:原文记录了利用自动化脚本和生成式音频刷取流媒体版权分成的判决细节,展示了司法机构对此类欺诈行为的量刑尺度。

10月7日水
  1. Hacker News · AI68

    麦当劳因涉嫌使用 AI 工具协同加盟店定价面临反垄断诉讼中国語

    麦当劳在芝加哥联邦法院面临集体反垄断诉讼,被指控利用基于数百万笔交易数据的 AI 定价平台协调独立加盟店价格,构成算法协同并推高了菜单售价。麦当劳回应称起诉内容不实,强调菜单价格完全由加盟商自主决定,可选辅助工具并不包含自动化或协同定价功能。诉讼指出全美已有至少 90 项针对算法价格操纵的立法提案,反映出外界对商业 AI 定价加剧生活成本负担的合规担忧。

    推薦理由:诉讼聚焦算法定价是否构成加盟商间的数据协同与价格操纵,为企业应用 AI 定价系统的反垄断合规边界提供了典型观察样本。