本文へスキップ

データと学習

训练侧的门道:数据集构建、合成数据、预训练与后训练方法、算力与训练成本。

141件の厳選関連トピック论文研究部署工程模型发布

最新の厳選

81〜100 件目 · 全 141 件
10月13日火
  1. Hacker News · AI79

    扎克伯格与 Alexandr Wang 详谈 Meta 新模型 Muse Wonder 及千亿美元 AI 布局中国語

    Meta 创始人扎克伯格与首席 AI 官 Alexandr Wang 在访谈中透露了新一代智能体模型 Muse Wonder 的发布细节,以及 Meta 超千亿美元算力投入与团队重组背景。

    推薦理由:访谈披露了 Meta 重组大模型团队与加码千亿美元基建的内部决策逻辑,有助于理解前沿智能体模型在训练与落地上的关键取舍。

  2. Hacker News · AI74

    AWS 提出 Priming 方法:无需从头训练将 Transformer 转换为混合状态空间模型中国語

    AWS 研究团队提出 Priming 方法,可直接复用预训练 Transformer 的权重转换为混合状态空间模型(SSM),将构建混合架构所需的预训练成本降低 99% 以上。

    推薦理由:该研究给出了直接复用已有模型权重构建混合架构的具体路径,为长上下文低显存推理提供了可借鉴的工程方法。

  3. The Decoder61

    Sakana AI 提出多智能体自我监督方法 MASS:模型可自我改进但难以识别自身盲点中国語

    Sakana AI 与 UC Berkeley 提出多智能体自我监督方法 MASS,让单一语言模型同时负责执行任务、评估结果与优化工作流,在无需更强教师模型的情况下实现递归自我改进。

    推薦理由:该研究展示了单模型兼任执行、评估与优化角色的自我迭代潜力,同时指出了共同盲点导致错误被固化继承的风险。

  4. TechCrunch AI62

    美国空军与气象 AI 初创公司 WindBorne 签署高达 4900 万美元气球数据采购合同中国語

    美国空军与气象初创公司 WindBorne Systems 签署了一项价值最高达 4900 万美元的合同,用于按需采购其自主气象气球星座采集的大气传感器数据。WindBorne 目前在全球运行约 700 个气象气球,采集的数据除对外销售外还直接用于其深度学习气象预报模型 WeatherMesh 6。该合同未经竞争性招标直接授予,空军目前已下单 170 万美元,将根据具体区域和时间按需采购。

    推薦理由:原文展现了软硬件结合的气象数据采集与 AI 预测商业化路径,读者可借此了解初创公司向政府客户按需交付实测数据的合作模式。

10月11日日
  1. Hacker News · AI61

    出版巨头游说美国国会立法禁止隐匿 AI 爬虫抓取内容中国語

    Condé Nast 与 Hearst 等出版集团高管赴华盛顿游说国会,支持跨党派法案《Stealth Bot Prohibition Act》以禁止未经披露部署 AI 智能体抓取与索引网站内容。

    推薦理由:法案若通过将要求抓取网站的 AI 爬虫强制披露身份,反映出传统媒体在商业授权与反未授权抓取间的双重博弈。

10月9日金
  1. Hacker News · AI72

    trainedon.me 上线:追踪主流 AI 产品的提示词训练与隐私条款中国語

    trainedon.me 整理并持续追踪了主流 AI 服务是否默认使用用户提示词与输入数据进行模型训练的隐私条款。汇总显示,ChatGPT、Claude、GitHub Copilot、DeepSeek 等多数消费级版本默认开启训练但支持退出(Opt-out),而 API、企业版以及 Cursor 等则普遍默认不使用用户数据训练模型。

    推薦理由:该项目系统梳理了主流大模型消费级与企业级服务在数据训练条款上的差异,为个人与企业评估数据隐私风险提供了清晰的对照参考。

  2. Hacker News · AI68

    freeCodeCamp 推出在本地 CPU 从零构建与训练 25M 参数 LLM 视频教程中国語

    freeCodeCamp 在 YouTube 发布时长 1 小时的免费视频教程,指导开发者直接在笔记本或普通 CPU 上从零构建、预训练并微调一个 25M 参数的大语言模型。课程涵盖现代 LLM 架构(如 MoE 与混合注意力)、从随机字符到 Python 代码的预训练,以及结合自动化单元测试的轻量级强化学习后训练流程。

    推薦理由:教程提供了在本地 CPU 训练微型 LLM 的完整流程,帮助开发者以极低算力成本理解预训练与强化学习后训练机制。

  3. Hacker News · AI66

    USA Today 就 AI 训练版权侵权起诉 OpenAI中国語

    USA Today(《今日美国》)因 AI 模型训练中的版权侵权问题正式起诉 OpenAI。该诉讼针对 OpenAI 在未经授权的情况下使用其版权内容进行模型训练的行为展开法律追责。

    推薦理由:媒体机构起诉 AI 厂商侵犯训练版权的案件持续增加,读者可以关注该诉讼对大模型训练数据合规与版权授权模式的影响。

  4. Hacker News · AI60

    Clicks Dynasty 调研 56 家美国知名品牌 robots.txt 对 AI 爬虫的拦截情况中国語

    Clicks Dynasty 针对 56 家美国知名品牌的 robots.txt 文件进行实测分析,发现 68% 的品牌未设置任何专门针对 AI 爬虫的规则,而 75% 的新闻媒体网站至少完全拦截了一种 AI 爬虫。

    推薦理由:实测数据揭示了不同行业对模型训练与搜索爬虫的差异化态度,为企业配置 robots.txt 策略提供了参考依据。

10月8日木
  1. The Next Platform60

    分布式 AI 训练如何重构跨数据中心互连网络中国語

    随着前沿 AI 模型训练突破单数据中心的电力与空间限制,跨数据中心协同训练正在将传统 DCI 网络重塑为高带宽、深缓存的分布式算力互连网络。跨站点同步训练需要数万张加速卡周期性同步梯度数据,引发严重的突发流量和 Incast 拥塞,数百公里的光纤传输更拉长了拥塞反馈周期。

    推薦理由:原文系统梳理了跨数据中心分布式训练引发的网络拥塞与反馈延迟难题,读者可以据此理解跨站点 AI 互连架构的设计权衡。

  2. LangChain 官方博客70

    LangChain 推出 LangSmith Fine-Tuning 与 smithtune 命令行工具中国語

    LangChain 正式推出 LangSmith Fine-Tuning 及命令行工具 smithtune 并开启公测,帮助团队将 LangSmith 生产轨迹转化为智能体专用的微调模型。

    推薦理由:原文提供了将生产轨迹转化为微调数据的完整闭环,展示了通过领域专用微调降低模型调用开销的具体方案。

  3. Hacker News · AI62

    AI 厂商指责竞争对手未授权蒸馏模型,技术与隐私限制令防范陷入两难中国語

    OpenAI 与 Anthropic 等头部 AI 厂商近期通报多起针对其旗舰模型的未授权知识蒸馏行为,但受限于正常交互特征与隐私承诺,行业在技术上面临极高的拦截难度。蒸馏者主要通过自动化收集海量模型输出、诱导解密隐藏推理链等方式低成本复现复杂推理能力;研究表明,若主动混淆推理过程以破坏蒸馏数据质量,往往会同步降低人类对输出的理解度,且离散的单个查询很难与常规合法调用区分开来。

    推薦理由:文章梳理了针对大模型隐藏推理链的蒸馏手段与防御困境,展现了保护专有能力与保障正常使用体验之间的权衡。

  4. The Decoder73

    扎克伯格旗下 Biohub 牵头 18 亿美元计划开发细胞预测 AI 模型中国語

    扎克伯格与普莉希拉·陈资助的非营利机构 Biohub 正牵头一项 18 亿美元的合作项目,旨在整合数据、实验设备与算力构建可预测细胞行为的 AI 模型以加速药物研发。

    推薦理由:多方联合投入18亿美元打通生物实验与计算资源,并明确了商业资助方一年的数据独占期与后续公开机制。

  5. Microsoft Research74

    微软开源轻量智能体强化学习框架 Agent Lightning v1.0中国語

    微软亚洲研究院开源轻量级智能体强化学习框架 Agent Lightning v1.0,核心代码约 3500 行,允许直接利用实际部署的智能体 harness 进行强化学习训练。

    推薦理由:原文给出了无需重构 harness 的轻量级 RL 训练架构,开发者可直接参考其在 Kubernetes 上的低成本部署与编码调优实践。

  6. Hacker News · AI77

    多机构联合投入 18 亿美元构建 AI 生物学数据集与虚拟细胞模型中国語

    Biohub 联合美国能源部(DOE)、美国国家卫生研究院(NIH)及产业伙伴宣布投入 18 亿美元资金、算力与测量技术,共同构建用于训练生物预测 AI 模型的开放数据集资源。

    推薦理由:该倡议通过跨部门与跨企业整合算力与实验测量资源,展示了解决 AI 生物大模型底层训练数据瓶颈的行业路径。

10月7日水
  1. Hacker News · AI60

    AI 数据公司 HUMXN 提供免费家政维修服务以采集机器人训练数据中国語

    AI 数据公司 HUMXN 推出新计划,通过全额补贴房主的管道、电气和暖通等上门维修服务,换取熟练工种的真实操作数据以训练物理 AI 与具身机器人。参与技工将在常规检修作业中佩戴可穿戴设备,从主视角完整记录故障排查、工具调用和决策排障过程。该项目首批在明尼阿波利斯、芝加哥和迈阿密三座城市落地,以此覆盖不同气候、建筑形态与现实长尾场景。

    推薦理由:该项目展示了通过补贴真实家政服务换取第一人称实操数据的商业模式,为物理世界 AI 提供了新的真实场景数据采集范式。

  2. Hacker News · AI60

    斯坦福学者发布《AI Measurement Science》教科书,系统构建 AI 评测方法论中国語

    斯坦福学者 Truong 与 Koyejo 推出《AI Measurement Science》教科书,旨在将 AI 评测从经验性基准测试转向基于测量学与统计推断的科学体系。

    推薦理由:原文系统梳理了 AI 评测中的测量理论与统计推断方法,为从经验基准走向严谨评估提供了完整的方法论框架。

  3. The Verge · AI 筛选71

    Google 与 Meta 等联合向 Biohub 投资 3 亿美元构建“虚拟细胞”AI 数据集中国語

    Google DeepMind、Meta 及 Isomorphic Labs 联合向扎克伯格夫妇创立的非营利生物医学研究机构 Biohub 投资 3 亿美元,用于构建 AI 生物数据集以支持创建“虚拟细胞”模拟。该资金属于一项总额 18 亿美元计划的一部分,美国能源部未来五年还将投资超 5 亿美元,美国国立卫生研究院也将提供累计超 5 亿美元投资的数据集与知识库支持。

    推薦理由:原文披露了科技巨头与政府机构联合出资构建生物 AI 数据集的规模与路径,展现了跨机构合作推进数字细胞模拟的探索。

  4. Hacker News · AI66

    开发者推出微型 GPT 交互可视化工具,展示单 Token 推理与 RLHF 训练全流程中国語

    开发者发布了一个类 GPT-2 微型模型的交互式可视化工具,在浏览器中实时计算并展示从单 token 生成到预训练与 RLHF 的每一步具体数值。该项目完整涵盖从分词到采样的单 token 推理、预训练单步训练以及后训练的单次 PPO 迭代。页面将所有矩阵适配至单屏内展示,用户悬停在任意矩阵单元格上即可查看对应步骤的精确数学公式与计算过程。

    推薦理由:该工具通过在浏览器端实时计算并展示微型模型矩阵数值,为直观理解大模型推理与强化学习训练步骤提供了交互参考。

10月6日火
  1. AITNT · AI头条(网页)76

    深度调查:专业白领受雇于 Mercor 等平台训练 AI 的零工生存现状中国語

    深度报道揭示,大量面临失业的内容写作者、设计师及律师等专业人士正转向 Mercor 和 Scale AI 等数据平台,受雇为 OpenAI 等大模型编写评估细则与标准答案。

    推薦理由:报道深入呈现了白领专业人士转行担任 AI 数据标注员的生存图景,揭示了高端智力劳动在数据供应链中被零工化与算法严密监控的现实困境。