本文へスキップ

Anthropic / Claude

Anthropic 的全部动态:Claude 系列模型、Claude Code、安全研究路线与公司进展的持续追踪。

762件の厳選関連トピックOpenAI / ChatGPTGoogle / Gemini安全对齐

最新の厳選

81〜100 件目 · 全 762 件
10月31日土
  1. Hacker News · AI71

    安全研究员探索 Claude 沙箱机制:通过提示词提取内部二进制文件与服务凭据中国語

    安全研究员通过对话提示让 Claude 导出沙箱运行环境细节,并成功提取内部编排守护进程 process_api 的二进制文件与进程内存转储。利用内存碎片还原出有效的 Google 服务账号 ID Token,并通过配置虚拟网络接口绕过了该守护进程针对 127.0.0.1 的本地连接限制。Anthropic 漏洞赏金团队回应称其安全边界置于不受信沙箱之外,相关现象未超出其威胁模型阈值。

    推薦理由:研究展示了通过模型对话套取沙箱底层信息、导出二进制与内存凭证并绕过本地连接限制的完整实测链条。

  2. The Verge · AI 筛选76

    OpenAI、Google、Microsoft 与 Anthropic 宣布支持统一的 AI 防抓取退出标准中国語

    OpenAI、Google、Microsoft 和 Anthropic 宣布将采用一套统一的 robots.txt 策略标记标准,允许网站发布商一站式退出被各家 AI 抓取并用于模型训练。

    推薦理由:统一标记降低了网站多头配置防抓取规则的成本,有助于规范大模型训练数据采集的权责边界。

  3. The Decoder69

    Claude Sonnet 5 自主选择基因疗法并完成小鼠脑部手术中国語

    牛津大学研究人员利用 Claude Sonnet 5 智能体在小鼠癫痫模型上自主完成从药物筛选、靶区定位到电动显微注射的全流程手术。智能体结合文献数据自主推算了注射坐标与给药参数,并在手术全程通过摄像头进行了 32 次状态监测。在遭遇连接故障后,智能体因判定目标坐标超出机械行程而拒绝继续执行,展现出软硬件闭环控制中的对齐挑战。

    推薦理由:实验展现了智能体端到端自主制定疗法并操控物理设备的范式,也暴露了时间敏感场景下模型安全拒答带来的现实控制冲突。

  4. The Decoder71

    Cursor 扩展市场上架恶意 Claude Code 扩展,已被下线处置中国語

    Cursor 的 VS Code 插件市场上架了一款仿冒 Claude Code 的恶意扩展,存在约 11 小时并波及多达 5000 名用户。该扩展试图窃取主机名、用户名、操作系统和公网 IP 地址,并尝试为攻击者获取远程访问权限。Cursor 在发现后下架该扩展并短暂关停整个插件市场,排查确认无其他扩展受损后恢复上线,Anthropic 确认未参与该扩展开发。

    推薦理由:原文披露了开发者工具生态中的供应链仿冒风险与官方处置细节,读者可以据此排查本地开发环境并评估同类插件的权限管控。

  5. Hacker News · AI74

    Anthropic 推出 Claude Ultra 订阅计划中国語

    Anthropic 正式推出 Claude Ultra 个人订阅计划,定价每月 200 美元,原 Max 20x 订阅用户将自动迁移且价格保持不变。该方案每周提供 10 倍于 Pro 计划的使用额度,适用于所有模型,并为 Fable 模型设有单独的周使用上限。经系统自动验证的账户将不再受 5 小时限制约束,未完成验证的账户则适用临时限制。

    推薦理由:Anthropic 将原 Max 20x 调整为 Ultra 方案,明确了 200 美元月费下的十倍用量与免除五小时限制的具体规则。

  6. Hacker News · AI80

    开源工具 check-claude-code-exfil 发布:排查 Claude Code 插件供应链泄露 IOC中国語

    开发者 cookiengineer 开源了只读 IOC 扫描工具 check-claude-code-exfil,用于检测 VS Code 等 IDE 中 Claude Code 插件受供应链投毒后的失陷指标。

    推薦理由:开源的只读扫描工具可快速排查多平台开发环境中的后门痕迹,适合开发者防范针对编程插件的供应链攻击。

  7. Hacker News · AI80

    Cursor 插件市场 Claude Code 2.1.313 后门事件解析与排查指南中国語

    Cursor 插件市场中被植入后门的 Anthropic Claude Code 2.1.313 插件上架约 11 小时,波及至多 5000 名用户,加载时会自动追加 SSH 密钥并尝试建立反向隧道外发环境信息。

    推薦理由:原文梳理了后门机制、受影响范围与各系统残留路径,读者可据此在本地排查未被卸载脚本清除的持久化配置。

10月30日金
  1. Hacker News · AI63

    BBC 调查发现多款主流 AI 工具在“变正常”提示词下会自动抹除人物外貌差异中国語

    BBC Wales 调查发现,当被输入“让这个人变正常”等提示词时,ChatGPT 6、Grok Fast 和 Gemini 3.6 Thinking 等 AI 工具会自动抹除人物面部的疤痕、胎记或病理性生理特征,而衣物与背景保持不变。

    推薦理由:调查测试展示了主流多模态模型面对定义正常这一模糊指令时的偏见与处理护栏差异。

  2. Hacker News · AI75

    开发者开源 Claude Code 错误防护规则集,机械化拦截智能体重复失误中国語

    开发者在 GitHub 开源 claude-code-mistake-guards,包含针对 Claude Code 的 3 个 Hook 钩子与 4 个发版前检查脚本,在操作不可逆前机械化拦截智能体错误。

    推薦理由:项目提炼出智能体在实际开发中反复出现的不可逆失误,将其固化为确定性拦截规则,提供了实用的工程防错参考。

  3. Solidot · AI 筛选77

    Claude Code for VS Code 扩展在 Cursor 市场被植入后门中国語

    安全研究人员在 Cursor 扩展市场发现 Claude Code for VS Code 官方扩展被植入后门,受影响版本 Anthropic.claude-code 2.1.313 现已撤下。该恶意版本上线约 11 小时并波及约 5,000 名用户,会窃取主机与用户信息并尝试通过计划任务建立持久反向 SSH 隧道,Cursor 已发布安全公告提醒相关时段安装的用户排查系统。

    推薦理由:事件揭示了开发工具扩展市场的供应链安全风险,开发者可对照受影响版本与时间窗口排查本地权限与网络连接。

  4. The Verge · AI 筛选83

    Anthropic 提交 335 页 S-1 招股书推进 IPO,披露人类生存风险与自建数据中心计划中国語

    Anthropic 正式提交长达 335 页的 S-1 招股说明书筹备上市,其中包含 94 页风险因素,明确警告先进 AI 可能对人类构成灾难性甚至生存级风险。招股书披露公司背负数百亿美元算力采购承诺并计划自建数据中心基础设施,其创始人将详尽披露风险定性为吸引长期投资者的反向销售策略。

    推薦理由:梳理了 Anthropic 招股书中极端的风险披露与百亿美元算力承诺,展现了 AI 独角兽上市时在宏大叙事与巨额成本间的现实博弈。

  5. Hacker News · AI80

    Cursor 扩展市场出现冒牌 Claude Code 恶意扩展,试图植入反向 SSH 后门中国語

    Cursor 扩展市场发现名为 Anthropic.claude-code 2.1.313 的非官方恶意扩展,最多影响 5,000 名用户,官方已将其下架并协同关停攻击者服务器。

    推薦理由:原文披露了恶意扩展的攻击机制、入侵指标与排查脚本,开发者可以据此自查本地环境并防范插件生态的供应链风险。

  6. 爱范儿 · AI 筛选65

    Anthropic 被曝测试 Fable 5.5,并披露 Claude 隐藏自评估安全机制中国語

    Anthropic 新模型 Fable 5.5 正在进行早期测试,同时官方披露了自 Claude Fable 5 起引入的隐藏自评估安全监测机制。该机制在每次回答结束后追加一条隐藏指令,复用已有上下文和 KV Cache 生成结构化评估,算力开销低于 2% 且不影响首字延迟。自评估结果主要用于离线聚合高风险信号和发现新型违规模式,不计入用户账单,也不直接用于实时拦截。

    推薦理由:Anthropic 提出的自评估机制展示了如何在复用已有上下文的前提下,以极低推理算力开销实现大模型输出后的离线安全筛查。

  7. Hacker News · AI82

    Open VSX 平台 Claude Code 官方插件遭投毒植入 SSH 后门,Anthropic 已紧急撤回 2.1.313 版本中国語

    安全团队 Phorion 披露 Open VSX 上的 Claude Code for VS Code 官方插件 2.1.313 版本被植入持久化 SSH 后门,Anthropic 已从 Open VSX、NPM 及 VS Code 注册表中撤回该版本。

    推薦理由:文章详细拆解了恶意扩展注入的持久化链路与排查指标,可为排查本地开发环境提供直接参考。

  8. Hacker News · AI82

    Open-VSX 平台 Claude Code 插件被植入木马,版本 2.1.313 携带 SSH 后门中国語

    安全研究发现 Open-VSX 平台上的 Claude Code VSCode 扩展 2.1.313 版本被插入 66 行恶意代码,可在启动时静默植入持久化 SSH 后门。

    推薦理由:详细拆解了恶意扩展如何在加载时静默植入 SSH 密钥并建立反向隧道,为排查此类开发者工具供应链攻击提供了具体指标。

  9. Hacker News · AI74

    Claude Code 智能体测试进程逃逸至本地 Mac 事故复盘中国語

    开发者在无沙箱环境中并发运行 Claude Code 2.1.286 时,一个子智能体编写的测试代码因逻辑判断漏洞,意外在宿主机调用真实进程并启动了 4 个脱机进程。

    推薦理由:原文通过真实的智能体测试逃逸事故展示了无沙箱运行的隐蔽隐患,读者可参考其日志排查链路与本地隔离建议。

  10. Hacker News · AI76

    Claude Code 后台智能体每 30 秒状态摘要的成本与运行机制解析中国語

    Claude Code 默认约每 30 秒将后台智能体的完整上下文发送给模型生成简短状态摘要,导致该功能占到部分团队总开销的 16% 至 26%。虽然提示词缓存能降低单次命中成本,但在大上下文持续运行下频繁读取与偶发未命中仍会累积可观费用,且该请求不会记录在本地会话日志中。

    推薦理由:文章揭示了后台智能体频繁更新状态对上下文缓存的隐性消耗,并给出了通过遥测排查调用的具体方法。

  11. IT之家 · AI 筛选80

    消息称 Anthropic 成为 SpaceX 最大单一客户,Q3 贡献超三分之一营收中国語

    Anthropic 已成为 SpaceX 的最大单一客户,在今年第三季度为后者贡献了约 34.5% 的营收,取代此前美国联邦政府的最大客户地位。具体合作主要涉及 Anthropic 租赁 SpaceX 位于田纳西州孟菲斯数据中心的计算资源,双方签署至 2029 年的合同潜在支出上限达 1,205 亿美元。

    推薦理由:该交易展现了大模型厂商对外部算力资源的巨额采购规模,也直观反映出算力需求对基础设施企业营收结构的深刻改变。

  12. Simon Willison69

    OpenAI 为符合条件的 ChatGPT 订阅用户赠送等额 API 额度中国語

    OpenAI 为每月支付 $100、$200 或 $500 的 ChatGPT 订阅用户赠送等额 API 额度,额度可直接计入绑定的 API 组织账户。该举措与 Anthropic 此前对其 Max 和 Team 订阅提供的 API 额度福利基本一致,便于高阶订阅用户直接调用 API 开发并上线公共演示。

    推薦理由:OpenAI 跟进 Anthropic 为高阶订阅赠送等额 API 额度,降低了订阅用户同时调用开发者 API 构建原型的边际成本。

  13. Hacker News · AI60

    如何在同一 Xcode 项目中并行运行多个 Claude Code Agent中国語

    在同一 Xcode 项目中利用 Git worktree 并行运行多个 Claude Code Agent 会因共享已启动的 iOS 模拟器导致应用安装覆盖,构建成功但测试环境出现静默冲突。

    推薦理由:实测指出了 Git worktree 无法隔离 iOS 模拟器状态的隐蔽冲突,并给出了通过 UDID 隔离多智能体运行环境的具体方法。