本文へスキップ

チュートリアル

拿来就能用的实操内容:提示词技巧、工作流搭建、工具用法与踩坑经验。

372件の厳選関連トピックAI 编码Agent 智能体产品更新

最新の厳選

301〜320 件目 · 全 372 件
9月30日水
  1. Cerebras 官方博客(网页)66

    Cerebras 发布 AI 生成美观 UI 的实用方法指南中国語

    Cerebras 总结了利用 AI 生成高质量 UI 的 8 种实践方法,以解决通用提示词容易产出千篇一律 SaaS 仪表盘与卡片嵌套的问题。核心方案包括接入 shadcn/ui 的 MCP 服务器以读取真实组件源码、在编码前通过 Design Tokens 与 Tailwind 配置固化视觉规范,以及结合视觉模型截图进行小步精准迭代。

    推薦理由:原文总结了 AI 生成 UI 的典型缺陷与 8 种实用改进方法,读者可据此建立更具约束力的高效前端开发工作流。

  2. LlamaIndex 官方博客(网页)69

    LlamaIndex 解读大模型 OCR:错误为何变得更隐蔽与工程应对方案中国語

    大语言模型用于 OCR 虽提升了复杂文档的识别流畅度,但由于生成时依赖语言先验,常导致数值静默替换、表格漏行且缺乏字符级置信度,让传统错误捕获机制失效。文章将大模型 OCR 划分为后处理修正、原生视觉模型转录和智能体编排三类架构,指出传统字符错误率难以反映高熵字段的真实准确率。针对这一缺陷,工程落地需通过版面预分割、按元素路由模型、多轮验证闭环以及绑定像素包围盒溯源来构建可证伪的解析流程。

    推薦理由:解析了大模型处理文档时出现隐蔽错误的生成机制,并给出了通过系统编排与证据溯源降低静默失效风险的工程方案。

  3. LlamaIndex 官方博客(网页)67

    LlamaIndex 提出即时智能体 OCR 模式:两阶段处理兼顾文档检索效率与精度中国語

    LlamaIndex 提出了面向 10 至 100 份文档临时数据室场景的即时智能体 OCR(Just-in-Time Agentic OCR)模式,通过两阶段处理降低 VLM 全量解析的高昂成本与延迟。

    推薦理由:文章拆解了即时智能体 OCR 的两阶段处理机制,为百篇内临时文档集的低成本精准解析提供了清晰的落地参考。

  4. LlamaIndex 官方博客(网页)66

    LlamaIndex 详解 AI 文档抽取难题:为何 Schema 才是导致流水线失效的关键中国語

    LlamaIndex 发布文章指出,生产级 AI 文档抽取流水线的准确率瓶颈已从 OCR 与解析能力转向 Schema 定义层,未受审计的 Schema 会导致模型在必填字段上生造数据或错误合并重复项。

    推薦理由:文章拆解了文档抽取中 Schema 设计不当导致的隐性错误,提供了字段审计与 Agentic 架构的具体实践路径。

  5. vLLM 官方博客(网页)60

    NVIDIA DGX Spark 运行 vLLM 的架构配置与本地评测指南中国語

    vLLM 官方博客解析了在基于 GB10 芯片的 NVIDIA DGX Spark 上进行本地大模型推理的架构适配与配置方案。针对 128 GB 统一内存特性,系统需要通过限制并发与预留内存来平衡系统运行,并借助 Paged KV cache 与连续批处理保证交互响应。

    推薦理由:文章给出了统一内存架构下本地大模型推理的关键参数与实测数据,为桌面端算力硬件部署提供了可复现的调优参考。

  6. LlamaIndex 官方博客(网页)60

    视觉语言模型为何难以解析表单:LlamaIndex 剖析核心痛点与结构化方案中国語

    LlamaIndex 发文分析了通用视觉语言模型(VLM)在解析表单时的核心局限,指出表单包含复杂的嵌套层级与控件关联,通用模型极易在复选框状态识别、边界框定位及字段归因中出错。团队介绍了 LlamaParse 采用的树形 JSON 数据结构,并结合专用的复选框状态分类器与边界框检测模型来保证审计追溯能力。目前该表单解析增强功能已在 LlamaCloud 的相关服务档位中开放配置调用。

    推薦理由:文章详细剖析了通用视觉模型在表单识别中的多类隐蔽失效模式,为复杂文档与数据抽取提供了针对性的结构化处理方案。

  7. vLLM 官方博客(网页)64

    vLLM 联合 DeepLearning.AI 推出大语言模型高效推理实战课程中国語

    vLLM 联合 Red Hat 与吴恩达创办的 DeepLearning.AI 推出免费实战课程《Fast & Efficient LLM Inference with vLLM》,讲解大语言模型推理优化、部署及基准评测全流程。

    推薦理由:课程系统串联了模型量化、vLLM 服务部署与压测评估的全流程,适合需要掌握大语言模型推理优化与工程落地的开发者参考。

  8. vLLM 官方博客(网页)70

    vLLM-Omni 语音合成推理工程优化实践中国語

    vLLM 团队发布了 vLLM-Omni 针对语音合成(TTS)模型的全套推理优化方案,支持 Qwen3-TTS、VoxCPM2、Higgs Audio V3 和 Fish Speech S2 Pro。

    推薦理由:文章详细拆解了四种不同架构 TTS 模型的推理瓶颈与定制优化方案,为多模态语音服务部署提供了系统的工程参考。

  9. vLLM 官方博客(网页)66

    vLLM-Omni 部署与优化多阶段 Qwen3-Omni 的实践经验中国語

    vLLM-Omni 针对 Qwen3-Omni 提出了涵盖阶段拆分、CUDA Graph、异步分块传输、异步输出与按需副本扩展的全栈在线推理优化方案。该方案将 Thinker(多模态推理)、Talker(Codec 预测)与 Code2Wav(波形重建)流水线解耦,消除了跨阶段全载荷等待与 Python 调度开销。

    推薦理由:文章拆解了语音多模态模型分阶段推理的延迟瓶颈,所提出的异步流水线与阶段级扩展方案可直接迁移至同类实时全模态架构。

  10. vLLM 官方博客(网页)76

    vLLM 揭秘生产级质量保障体系:CI、基准评测与双周发布流程中国語

    vLLM 官方团队发文拆解了其保障生产级质量的三层工程体系,涵盖 CI 自动化、端到端夜间基准评测以及双周发版流程。第一层 CI 依托 Buildkite 管理 58 个异构加速卡队列,通过统一容器镜像与依赖锁定消除环境漂移,并借助 AI 智能体实现故障自动诊断与回滚。

    推薦理由:vLLM 团队拆解了异构算力下的 CI 调度、夜间性能精度评测及双周发版机制,为开源 AI 项目的工程化交付提供了可复用的实践参考。

  11. vLLM 官方博客(网页)73

    vLLM 在 24 张 NVIDIA B300 上部署优化 GLM-5.2:TPOT 从 40ms 降至 17ms中国語

    DaoCloud 团队在 vLLM 官方博客分享了在 24 块 NVIDIA B300 GPU 上部署 GLM-5.2-NVFP4 的生产级优化实践,采用 4P1D 的 P/D 分离拓扑将平均 TPOT 从 40ms 降至 17ms,达成 TTFT ≤ 2.5s 与 TPOT ≤ 20ms 的 SLA 目标。

    推薦理由:文章详细拆解了超大 MoE 模型在长上下文与投机解码下的端到端调优路径,给出了完整的部署配置与长周期排障经验。

  12. Google Developers · AI 筛选68

    借助 LiteRT 与 Gemma 在树莓派上构建端侧 AI 应用中国語

    Google 介绍了如何通过 LiteRT 推理运行时与 Gemma 系列轻量模型,在树莓派 5(Raspberry Pi 5)上实现完全离线、低延迟的端侧 AI 与机器人系统。

    推薦理由:原文展示了基于 LiteRT 在树莓派 5 上异构协同 CPU 与 GPU 运行 Gemma 的架构与性能数据,为低功耗端侧离线智能体提供了落地参考。

  13. Google Developers · AI 筛选66

    Google Cloud 携手 HeyGen 将 Avatar IV 迁移至 Trillium TPU 并提速 1.86 倍中国語

    HeyGen 联合 Google Cloud 将 18B 参数的数字人视频模型 Avatar IV 迁移至 8 芯片 Trillium(v6e)TPU 主机,端到端推理速度相比初始版本提升 1.86 倍。

    推薦理由:文章详细拆解了将大模型从 GPU 迁移至 TPU 的通信流水线与算子重构细节,为大吞吐流式生成提供了实测参考。

  14. Google Developers · AI 筛选71

    Google 发布零信任 AI 智能体安全架构实践中国語

    Google 开发者博客发布基于 Agent Development Kit(ADK)与 Gemini 构建零信任 AI 智能体的工程实践方案,并开源了 zero-trust-agents 示例仓库。

    推薦理由:文章给出了密码学写入签名、gVisor 沙箱与确定性语义网关的三层防御方案,展示了如何用硬性工程约束替代脆弱的提示词防护。

  15. Google Developers · AI 筛选63

    如何在 Google ADK 中评测实时语音智能体中国語

    Google 在 ADK 中引入了原生实时评测功能,支持利用模拟用户以音频交互驱动实时语音智能体并自动打分。评测体系支持动态情景模拟与固定脚本两种用例,结合 Gemini TTS 合成多种音色输入,并通过基于规则的 LLM 评委对多轮轨迹和工具调用质量进行判定。开发者可通过 CLI 运行评测将其接入 CI/CD 流程,也可在 ADK Web 中查看逐轮文字转录与可内嵌播放的音频回放。

    推薦理由:文章演示了在 ADK 中通过模拟用户与 LLM 裁判端到端评测实时语音智能体的工作流,便于开发者将语音交互测试接入工程化流水线。

  16. Google Developers · AI 筛选73

    Google 总结 AI 智能体挑战赛优秀作品的 4 个核心工程模式中国語

    Google for Startups 在 AI 智能体挑战赛收官后,总结了表现优异的多智能体方案所采用的 4 项关键工程架构模式。核心模式包括通过双向 MCP 将自身推理能力暴露为供其他智能体调用的服务、采用异步事件总线避免串行调用链累积延迟、对主备降级模型强制执行统一逻辑校验,以及利用低成本判定与正则分流降低推理开销。

    推薦理由:归纳了多智能体工程中双向 MCP 与事件驱动等架构细节,为开发者优化延迟与推理成本提供了可直接复用的方案。

  17. Google Developers · AI 筛选72

    Google 解析 Harness 工程:如何评测、迭代与守护 AI 编码智能体中国語

    Google 开发者团队分享了针对 AI 编码智能体的 Harness 工程实践,主张引入细粒度行为评测(Behavioral Evaluation)来替代单纯依赖端到端大盘基准打分。

    推薦理由:文章拆解了 AI 编码智能体从端到端打分转向中间行为断言的评测框架,为工程团队防范提示词调整与模型升级中的行为退化提供了可落地的方法。

  18. Cerebras 官方博客(网页)75

    如何充分发挥 GPT-5.6 家族能力:Sol、Terra 与 Luna 选型与实战指南中国語

    Cerebras 发布 GPT-5.6 家族(Sol、Terra 与 Luna)使用指南,详解三款模型在智能水平、推理速度与调用成本上的权衡策略。

    推薦理由:文章系统梳理了各尺寸模型在多智能体系统中的梯队搭配与缓存复用策略,便于优化长任务工作流与控制成本。

  19. Cerebras 官方博客(网页)77

    Cerebras 如何实现 GPT-5.6 Sol 高达每秒 750 tokens 的高速推理中国語

    Cerebras 通过其 WSE-3 晶圆级芯片支持 OpenAI GPT-5.6 Sol 的 Ultrafast 模式,在不降低精度、不蒸馏且不改变权重的条件下实现了高达 750 output tokens/s 的推理速度。

    推薦理由:文章详细拆解了晶圆级芯片利用片上超大带宽 SRAM 消除显存墙以实现高速大模型推理的硬件架构与工程实现。

  20. Cerebras 官方博客(网页)66

    Cerebras 详解用自然语言 AI 智能体自动化测试云控制台的实践中国語

    Cerebras 详细介绍了其内部构建的端到端测试框架 console-prompt-tests,使用纯自然语言描述测试用例,并由大语言模型智能体通过 Playwright MCP 协议驱动真实浏览器完成交互与校验。

    推薦理由:原文详细拆解了用自然语言智能体驱动浏览器测试与自动修复前端漂移的架构,为研发团队重构端到端测试流程提供了可落地的参考。