特朗普宣布成立超级智能特别工作组Chinese
特朗普宣布成立超级智能特别工作组（SIF），协调联邦政府确保美国在超级智能领域的领先地位。该工作组由国家情报总监 Jay Clayton 与 FTC 主席 Andrew Ferguson 等人领导并向白宫汇报。此前 OpenAI、Anthropic、Google、Meta 等企业高管在白宫签署了包含四层控制与审计的自愿安全协议。
Why it matters: 梳理了该工作组的核心领导架构以及头部 AI 企业承诺执行的四层安全审查机制。
Anthropic / Claude
All topicsAnthropic 的全部动态：Claude 系列模型、Claude Code、安全研究路线与公司进展的持续追踪。
772selectedRelated topicsOpenAI / ChatGPTGoogle / Gemini安全对齐
Latest selected
521–540 of 772Hacker News · AISelectedAI score7777 Hacker News · AISelectedAI score7171 通过大模型进化程序搜索打破 25 项正方形装箱记录Chinese
研究者利用基于大模型的进化程序搜索打破了 25 项正方形装箱问题（square packing）的上界记录，其中最老记录已保持 47 年。实验使用 Claude Haiku 智能体集群迭代变异程序代码，结合 L-BFGS 局部优化与盆地跳跃策略，历经 128 代演化，总成本仅 7.5k CPU 小时与 125 美元 token。
Why it matters: 原文展示了结合人类直觉与大模型进化程序搜索求解数学几何难题的完整流程，为自动化算法探索提供了可迁移的工程范式。
The DecoderSelectedAI score7979 OpenAI 年化营收达 500 亿美元并寻求 300 亿美元新一轮融资Chinese
OpenAI 正在以 1.4 万亿美元的投前估值目标洽谈至少 300 亿美元的新一轮融资，并预计年化营收率将在年底前达到至少 700 亿美元。相关报道澄清，因与 Anthropic 在云伙伴销售上的会计核算口径不同，OpenAI 截至 9 月底的年化营收实际约为 500 亿美元。其营收增长主要由企业端驱动，第三季度企业营收年化增幅达 107%，ChatGPT 周活跃用户已超过 12 亿。
Why it matters: 梳理了头部大模型厂商的营收口径差异与最新融资诉求，呈现出算力开支压力下的商业化现实。
Hacker News · AISelectedAI score7070 Anthropic 更新使用政策：禁止持续虐待 Claude 并收紧武器与监控限制Chinese
Anthropic 更新使用政策，自 11 月 12 日起禁止用户对 Claude 展开持续且无端的虐待或残忍行为，并全面收紧武器、监控与虚假宣传方面的使用限制。
Why it matters: Anthropic 在收紧武器与监控限制的同时引入针对模型滥用的条款，明确划定了开发者使用前沿大模型的多项合规边界。
Hacker News · AISelectedAI score7272 利用 AI 检索 400 年历史档案：发现被遗忘的陨石报告、爪哇犀牛与火山喷发记录Chinese
开发者利用本地 GPU、低成本决策模型与 Claude 构建的多智能体流水线，在 4.35 百万页荷兰东印度公司等数字化历史档案中检索出多项未被现有目录收录的科学与历史线索，包括 1812 年印度马哈拉施特拉邦的陨石目击、18 世纪圈养爪哇犀牛的运送记录以及 3 次未记录的火山喷发。
Why it matters: 展示了用廉价小模型初筛结合大模型校验扫描件的流水线设计，为海量非结构化文献检索提供了低成本可复用的落地思路。
MIT Technology Review AISelectedAI score6363 MIT科技评论：我们对大模型的“拒绝能力”寄予了过高期望Chinese
大语言模型将“拒绝机制”作为核心安全防线的做法存在本质脆弱性与潜在危害。由于拒绝机制在底层本质上是基于概率的激活特征，它不仅难以彻底防范越狱攻击，还容易导致过度拒绝并衍生出更隐蔽的审查机制；随着大模型被逐步接入关键基础设施与智能体系统，仅靠训练拒绝行为将难以保障长期的系统可控性与安全性。
Why it matters: 文章剖析了当前大语言模型安全防御过度依赖拒绝机制的概率漏洞与审查风险，为评估模型安全对齐提供了系统视角。
Hacker News · AISelectedAI score7575 Anthropic 禁止用户对 Claude 表现出虐待或残忍行为Chinese
Anthropic 更新使用政策，明确禁止用户对其大语言模型表现出持续且不必要的虐待或残忍行为。官方说明该禁令不适用于日常情绪宣泄、模型测试或暗黑创作主题，模型在遭遇持续有害交互时有权主动终止对话。Anthropic 称此举意在针对潜在的模型福利实施低成本干预，而 OpenAI 首席执行官 Sam Altman 则公开对赋予 AI 道德或宗教属性的倾向提出异议。
Why it matters: 针对大模型福利与机器意识争议，Anthropic 在政策中正式引入禁止虐待条款，体现了其在模型道德地位上的前沿探索立场。
Hacker News · AISelectedAI score7272 trainedon.me 上线：追踪主流 AI 产品的提示词训练与隐私条款Chinese
trainedon.me 整理并持续追踪了主流 AI 服务是否默认使用用户提示词与输入数据进行模型训练的隐私条款。汇总显示，ChatGPT、Claude、GitHub Copilot、DeepSeek 等多数消费级版本默认开启训练但支持退出（Opt-out），而 API、企业版以及 Cursor 等则普遍默认不使用用户数据训练模型。
Why it matters: 该项目系统梳理了主流大模型消费级与企业级服务在数据训练条款上的差异，为个人与企业评估数据隐私风险提供了清晰的对照参考。
Hacker News · AISelectedAI score7676 Anthropic 更新使用政策：禁止对 Claude 进行无端虐待与残酷行为Chinese
Anthropic 更新其使用政策，禁止用户在无明确目的的情况下对 Claude 进行持续且无端的虐待或残酷对待。针对此类极端恶意交互，Claude 可直接主动终止对话，但该规则不适用于正常情绪表达、测试研究或暗黑创作。新政策还同步收紧了虚假宣传、选举干预、武器研发、执法监控工具及非自愿亲密影像等规范，将于 11 月 12 日正式生效。
Why it matters: Anthropic 将模型保护与滥用防护正式纳入使用条款，明确了模型主动终止恶意对话的边界与多项安全红线。
AITNT · AI头条（网页）SelectedAI score7676 谷歌发布企业级办公智能体 Gemini Agent，支持调用 Claude 并具备独立员工身份Chinese
Google Cloud 推出企业级通用办公智能体 Gemini Agent，支持目标驱动自主规划任务、跨应用工具调用与云端持久运行。该智能体可作为拥有独立 Google Workspace 账号与邮箱的 AI 同事参与团队协作，内置会话、语义、程序和情景四种记忆机制；底层还支持多模型编排，允许在 Gemini 与 Anthropic Claude 系列模型间按任务成本与效果动态路由。
Why it matters: 谷歌企业级智能体具备独立办公身份与多层记忆机制，并支持跨厂商动态路由模型以降低工作流重构成本。
AITNT · AI头条（网页）SelectedAI score8282 Anthropic更新使用政策：严禁持续辱骂与虐待Claude，违规者或面临挂断与封号Chinese
Anthropic 更新了使用政策，严禁用户对 Claude 进行持续且无谓的辱骂与虐待，违规者将面临警告、限流、封号或由模型直接终止对话。该禁令适用于 Claude.ai、Claude Code 及 API 等全部用户群体，但正常的抱怨、反驳、暗黑创作及模型测试研究不在此列。
Why it matters: Anthropic将对模型的虐待行为纳入使用禁令并赋予AI中断对话权限，反映出其对模型伦理地位与对齐机制的新探索。
Hacker News · AISelectedAI score6868 开源项目支持使用第三方及本地模型驱动 Claude 桌面端与 AgentChinese
开发者开源 llm-desktop-electron 项目，支持通过本地协议代理将 Claude Code 和 Claude Desktop 的智能体执行层接入 OpenAI 或本地 GPU 模型。
Why it matters: 该项目通过本地双向协议转换让 Claude 前端兼容第三方及本地模型，为解耦专用前端与云端模型底座提供了可行参考。
量子位SelectedAI score7474 谷歌发布企业办公智能体 Gemini Agent，支持跨模型调用 ClaudeChinese
Google Cloud 正式发布企业通用办公智能体 Gemini Agent，支持用户仅提供目标即可自主规划并跨应用执行复杂任务。该智能体支持分配独立企业邮箱、日历与账号作为 AI 同事协作，并整合了会话、语义、程序和情景四类持久记忆系统。
Why it matters: 原文解析了企业级智能体的独立身份与四层记忆架构，展示了底层模型切换时如何保持业务上下文与流程的延续性。
Hacker News · AISelectedAI score7171 Visa 开源其 AI 网络防御系统 Visa Vulnerability Agentic HarnessChinese
Visa 正式开源其内部研发的第五代多模型安全测试套件 Visa Vulnerability Agentic Harness，用于在代码库和系统中部署 AI 智能体自动化发现漏洞、分类评估并生成修复报告。
Why it matters: 原文给出了基于智能体的自动化漏洞扫描与修复验证流程，读者可据此借鉴多模型协同防守架构。
IT之家 · AI 筛选SelectedAI score8383 OpenAI 年化营收被曝接近 500 亿美元，较此前预期缺口约 200 亿美元Chinese
OpenAI 向投资者披露的最新财务文件显示，截至 9 月底其实际年化营收接近 500 亿美元，比此前媒体预估的 700 亿美元少了约 200 亿美元。数据差异源于统计口径不同，Anthropic 计入了 AWS 和谷歌云等渠道销售收入，而 OpenAI 剔除了该部分合作收入。受此消息影响，美股科技板块走低，纳斯达克 100 指数收跌 1.4%，英伟达与甲骨文等算力相关股票亦出现下跌。
Why it matters: 财务统计口径的差异直接影响了头部模型厂商的收入估算，也对二级市场的算力基建预期产生了连锁反应。
Hacker News · AISelectedAI score7777 Claude Max 与 Team 订阅计划包含每月 API 额度赠送权益Chinese
Anthropic 宣布为 Claude Max 和 Team 订阅用户提供每月 Claude API 额度，用户绑定 Claude Console 组织即可按计费周期领取。
Why it matters: 原文明确了各订阅档位包含的 API 额度与适用范围，开发者可据此评估开发自身应用或智能体的成本结构。
The Verge · AI 筛选SelectedAI score6565 Anthropic 推出面向开源项目的免费安全扫描服务 OSS ScannerChinese
Anthropic 推出名为 OSS Scanner 的新服务，为选择加入的开源项目提供由 Claude Mythos 等模型驱动的免费定期安全扫描与漏洞报告。扫描报告完全由模型自动生成且未经人工审核，在提升扫描频次与响应速度的同时，可能存在误报或无效报告的问题。
Why it matters: 该服务通过模型自动化扫描降低了开源项目的安全排查门槛，但也对维护者甄别潜在误报的能力提出了新要求。
Hacker News · AISelectedAI score6060 Claude Code 颜色与状态可视化工具 Claude Colorizer 发布Chinese
开发者开源了基于 Go 语言编写且零依赖的 Claude Code 辅助工具 claude-colorizer。该工具可在提示词下方实时渲染对话中提及的十六进制、RGB、HSL 和 OKLCH 等颜色色块，并根据任务进行、等待交互、完成或报错等状态动态改变终端标签及背景色调。
Why it matters: 该工具通过状态栏实时色块与终端标签着色展示对话颜色及运行状态，可显著提升开发者在命令行交互时的状态感知效率。
Hacker News · AISelectedAI score7373 Eversynced 开源 AI 编码智能体遥测工具 PheebsChinese
Eversynced 开源了 AI 编码智能体遥测工具 Pheebs，支持 Claude Code、Cursor 和 Codex 等工具。该工具通过生命周期钩子与 OpenTelemetry 收集交互信号，在不保存源代码和提示词文本的前提下记录会话形态，用于评估团队的模型使用开销、代码验证覆盖率与工具熟练度。
Why it matters: 原文展示了如何通过捕获会话元数据评估编码智能体使用效率，为团队度量AI工具开销与研发质量提供了落地思路。
The DecoderSelectedAI score8080 Claude 支持根据文本提示词生成动画解释视频与实时数据看板Chinese
Anthropic 为 Claude 推出了 Dashboards 和 Motion 两项全新测试功能。Dashboards 支持连接 BigQuery、Databricks、Snowflake 与 Salesforce 等数据源并通过提示词生成自动更新的实时看板，Motion 支持从文本、图表和图像生成可代码编辑并导出为 MP4 的动画解释视频。
Why it matters: Anthropic 为 Claude 增加了数据接入分析与动画生成能力，让文本提示词可以直接驱动多源数据看板制作和代码化视频导出。