跳到正文

教程实践

拿来就能用的实操内容:提示词技巧、工作流搭建、工具用法与踩坑经验。

最新精选

第 41–60 条 · 共 72 条
9月3日周四
  1. Hugging Face66

    利用 TRL 进行 100 步 GRPO 微调提升 350M 模型结构化输出能力

    Hugging Face 发布实践指南,展示在免费 GPU 上使用 TRL 库对 LFM2.5-350M 模型进行 100 步 GRPO 微调,将其在 IFStruct 基准上的得分从 22.6% 提升至 29.7%。

    推荐理由:教程展示了仅用百步轻量强化学习提升端侧模型格式遵循的可行路径,为低成本专用小模型调优提供了落地参考。

  2. Hugging Face72

    基于 TRL 与 OpenEnv 训练代码模型绘制水彩画的开源实践

    Hugging Face 工程师开源了基于 TRL 与 OpenEnv 的强化学习训练管线,复现了通过代码生成水彩画的方法。该方案采用 Qwen3.5-35B-A3B 编写约 150 行 p5.brush 的 JavaScript 代码,结合 HPSv3 美学评分模型与 Qwen3-VL 成对评判器构建主观审美奖励函数,利用 GRPO 强化学习引导模型对齐特定绘画风格。

    推荐理由:原文完整开源了用强化学习引导代码模型绘制水彩画的工程管线,展示了如何将人工审美偏好构建为成对比较的奖励函数。

9月2日周三
  1. Engineering at Meta71

    Meta 介绍组织级第二大脑:构建从专家反馈中持续学习的 AI Agent 架构

    Meta 工程团队介绍了用于合规等高专业度领域的“组织第二大脑”AI Agent 架构,将领域知识与推理步骤解耦,并在无需微调模型的前提下将专家反馈自动编译为可验证的知识库更新。系统由结构化文件知识库、可组合的推理配方(Recipes)以及自动化自我改进闭环组成,使每次人工修正通过回归测试转化为永久沉淀;落地实践将单次评估时间从数天缩短至数分钟,且单轮 token 消耗降低约 80%。

    推荐理由:原文展示了无需微调即可将专家反馈编译为版本化知识文件的自进化 Agent 架构,为企业沉淀领域专业知识提供了可落地的工程范式。

9月1日周二
8月27日周四
  1. AWS Architecture64

    AWS 提出渐进式自治架构模式:用六层机制化解 AI Agent 信任鸿沟

    AWS 架构博客提出了名为“渐进式自治”(graduated autonomy)的架构模式,通过持续可靠性动态授予或收回 AI Agent 权限,解决全量访问与只读的两极分化困境。

    推荐理由:原文给出了基于持续可靠性动态分配 Agent 权限的六层架构设计,读者可以据此搭建告别全量放行或只读两极分化的安全治理机制。

8月26日周三
  1. AWS HPC63

    基于 AWS ParallelCluster 管理大规模大语言模型训练环境实战

    AWS 团队分享了在韩国国家 AI 研究项目中为多所科研机构提供 30 台 p5en.48xlarge 实例(240 张 H200 GPU)的管理实战经验。文章详细拆解了 AWS ParallelCluster 的 cluster-config.yaml 配置要点,包括 EFA 网络开启、基于内存的调度以及容量预留锁定。

    推荐理由:原文给出了多团队共享 GPU 集群时的 ParallelCluster 与 Slurm QoS 详细配置,工程团队可直接借鉴多租户调度与防资源垄断策略。

8月21日周五
  1. Hugging Face64

    Hugging Face 如何利用 Endpoints、Jobs 和 Buckets 构建 Papers with Code 混合搜索引擎

    Hugging Face 详细介绍了 Papers with Code 的混合检索架构设计,结合 PostgreSQL 全文检索与 pgvector 语义向量检索管理超过 11 万篇论文。

    推荐理由:原文详细拆解了离线全量构建与在线低延迟检索解耦的系统设计,为向量与全文混合搜索落地提供了可复用的工程参考。

8月18日周二
  1. Hugging Face63

    Dharma AI 提出约束感知 GPU 调度方案:同集群利用率最高提升 33 个百分点

    Dharma AI 构建了一种约束感知 GPU 调度分配器,在硬件与工作负载完全相同的情况下,相比传统先进先出(FIFO)调度将 GPU 利用率最高提升 33 个百分点,优先级加权产出平均提升 52%。

    推荐理由:文章详细拆解了混合负载下约束感知调度与需求预测的设计方法,为算力集群提升利用率提供了可落地的工程思路。

8月14日周五
  1. Hugging Face66

    借助 Strands Agents、LeRobot 与 Hugging Face Storage Buckets 实现机器人数据采集、训练与部署闭环

    Hugging Face 与 AWS 联合展示了通过 Strands Robots、LeRobot 和 Hugging Face Storage Buckets 构建机器人端到端流式数据闭环的方法。

    推荐理由:原文给出了基于 Storage Buckets 增量去重与流式读取的端到端机器人闭环实践,读者可据此降低具身智能数据传输与存储开销。

8月12日周三
  1. Engineering at Meta66

    Meta 解读 WhatsApp 如何在端到端加密下构建防诈预警功能 Scam Alert

    Meta 详细介绍了 WhatsApp 正在测试的防诈预警功能 Scam Alert 的技术架构。该功能完全在端侧运行轻量机器学习模型以识别潜在诈骗消息,所有消息内容均不出设备且不进行自动上报。系统通过基于 TEE 的机密联邦分析管道收集带差分隐私噪声的聚合指标,并借助第三方透明账本与 OHTTP 中继确保模型下发与分析流程公开可验证且无法针对特定用户定向投递。

    推荐理由:文章详细公开了如何在端到端加密场景下结合端侧模型与机密计算构建兼顾隐私与可验证性的系统方案。

  2. Anthropic News(RSS)74

    Anthropic 详解 Claude 文本水印工作原理

    Anthropic 详解了未来 Claude 模型采用的文本水印技术,该机制基于 Google DeepMind 的 SynthID-Text 方案,通过调整词语选择的随机源嵌入隐蔽特征以满足《欧盟人工智能法案》合规要求。

    推荐理由:原文系统拆解了基于随机源替换的水印实现机制与检测边界,读者可以据此评估生成内容标识对合规与实际调用的具体影响。

8月5日周三
  1. AWS HPC63

    AWS 推出 Smart Job Navigator 方案:在 EC2 Spot 实例上运行紧耦合 HPC 与 ML 负载

    AWS 团队开源了 Smart Job Navigator 解决方案,用于在 EC2 Spot 实例上稳定运行紧耦合 HPC 仿真及机器学习训练任务。该方案基于 Slurm 调度器与 AWS Spot Placement Score API,能自动捕获 Spot 中断并跨多可用区队列智能重新提交检查点作业。

    推荐理由:该方案通过检查点与智能队列调度在 Spot 实例上恢复紧耦合作业,读者可参考其架构降低大规模算力训练与仿真成本。

7月18日周六
  1. Sebastian Raschka69

    大语言模型如何控制推理算力预算与思考模式

    Sebastian Raschka 撰文详解大语言模型中推理努力程度(Reasoning Effort)与思考开关的训练与推理机制。模型通常通过系统提示词结合特定长度惩罚的 RLVR、混合思考样本的 SFT 或不同预算专家蒸馏来实现多档推理控制。

    推荐理由:文章横向拆解了前沿模型控制推理预算的后训练方案与推理开关,为开发者理解和设计灵活的推理计算机制提供了清晰参考。

7月16日周四
  1. Hugging Face71

    IBM Research 解析智能体模型路由的设计挑战与系统优化方法

    IBM Research 发文指出智能体系统中的模型路由并非单纯的模型分类选择,而是需要综合平衡成本、质量与延迟的系统优化问题。实测显示由于上下文缓存大幅降低输入成本,名义单价更高的 Claude Sonnet 4.6 在 AppWorld 测试中总成本为 $79,显著低于 GPT-4.1 的 $155。

    推荐理由:原文通过具体测试数据揭示了缓存机制与系统开销对模型实际成本的影响,为智能体路由设计提供了可参考的系统优化视角。

7月10日周五
  1. Hugging Face66

    PyTorch 性能分析教程第三篇:解读各种 Attention 实现的 Profiler 轨迹与优化细节

    Hugging Face 发布 PyTorch 性能分析系列第三篇,对比分析了手写原生注意力机制、In-place 掩码以及 SDPA 旗下四种后端(math、efficient、flash、cuDNN)在 GPU 上的算子特征与执行开销。

    推荐理由:文章拆解了 PyTorch 中不同 Attention 后端的底层算子行为与显存交互,展示了如何通过性能分析轨迹定位非预期开销。

7月6日周一
  1. Hugging Face63

    Photoroom 详解文生图模型 PRX 数据工程策略:从 VLM 重打标到流式训练

    Photoroom 详细公开了 7B 文生图模型 PRX 的预训练数据流水线,通过 Lance 进行海量样本检索与管理,并使用 Qwen3-VL-8B 为图片重新生成详细的长段落描述。

    推荐理由:文章系统复盘了文生图模型预训练的数据工程全流程,为处理大规模图文重打标与流式存储提供了可落地的实操参考。

6月27日周六
6月11日周四
  1. 通义实验室 公众号66

    通义实验室详解 MNN 适配 Arm SME2:Qwen3-VL-4B 端侧 Prefill 提速 81%

    通义实验室发布基于 MNN 推理引擎适配 Arm SME2 指令集的端侧大模型部署教程,提供了 Qwen3-VL-4B-Instruct 在 Android 旗舰手机上的完整落地流程。

    推荐理由:文章给出了从 MNN 编译到 APK 构建的完整端侧落地流程,读者可据此复现 SME2 指令集对视觉语言模型的加速效果。