跳到正文

产品更新

AI 产品与应用的功能上新、改版与商业化动态——谁家的产品变强了、变贵了、能用了。

246条精选相关主题模型发布行业动态AI 编码

最新精选

第 41–60 条 · 共 246 条
9月30日周三
  1. Cerebras 官方博客(网页)69

    Cerebras 推理平台上线 Gemma 4 31B 多模态模型

    Cerebras 宣布在其推理平台上推出 Google DeepMind 开源模型 Gemma 4 31B,以超过 1,800 tokens per second(第三方测得 1,851 TPS)的吞吐运行,成为该晶圆级计算平台首个支持图像理解的多模态模型。

    推荐理由:原文给出了 1,851 tokens per second 的多模态推理吞吐与首 token 延迟数据,读者可据此评估极速视觉智能体工作流的落地可行性。

  2. LlamaIndex 官方博客(网页)64

    LlamaIndex 联合 Kaggle 推出面向 AI 智能体的文档抽取基准 ExtractBench

    LlamaIndex 联合 Kaggle 推出文档结构化抽取基准及排行榜 ExtractBench,用于评估 AI 智能体在企业复杂文件中的抽取表现。该基准覆盖 8 个商业领域的 370 份文档(共 4,869 页),采用确定性规则对 14 个系统在准确率、感知质量、表格结构、文档长度和成本等维度进行评测。

    推荐理由:该基准针对真实企业多页复杂文档测试提取鲁棒性与成本,可作为评估智能体长文档落地能力的参考依据。

  3. LlamaIndex 官方博客(网页)62

    LlamaIndex 推出文档抽取层 LlamaParse Turbo Beta 版

    LlamaIndex 在 LlamaParse 平台推出极低延迟的结构化抽取层 Turbo Beta 版,定价为每页 35 credits。Turbo 省去独立解析步骤并采用多页并行处理,在中长文档场景下单页耗时可降至约 0.5 秒,在 ExtractBench 评测中单页中位数耗时为 3.7 秒且 F1 分数为 0.84。

    推荐理由:原文展示了并行页面抽取在长文档场景下的低延迟表现与适用场景,有助于读者评估实时结构化提取方案。

  4. Claude 官方博客(网页)75

    Claude 公布 Free、Pro 与 Max 订阅方案定价及功能对照

    Claude 官方更新了个人与专业用户的订阅方案定价与功能对比表,涵盖 Free(免费)、Pro(按年折算每月 $17,按月 $20)和 Max(每月 $100 起,可选 5x 或 20x 用量)三档。

    推荐理由:原文给出了从免费到多档付费方案的具体价格与功能对照,读者可直接比对不同工作流下的用量额度与工具权限。

  5. vLLM 官方博客(网页)62

    vLLM 发布 Speculators v0.5.0:支持 DFlash 算法与统一在线离线训练

    vLLM 发布投机采样训练框架 Speculators v0.5.0,引入 DFlash 块扩散算法并统一了在线与离线训练流程。DFlash 采用非因果注意力与锚点位置机制,在单次前向传播中生成整块草稿 token,在 Gemma 4 31B 评测中取得了低于 Eagle 3 的 token 间延迟。

    推荐理由:材料详细介绍了单次前向传播生成草稿词的机制与训练解耦方案,为大模型推理加速与投机采样落地提供了参考路径。

  6. LlamaIndex 官方博客(网页)66

    LlamaIndex 发布 LiteParse 2026 年 9 月更新:优化解析性能并新增视觉定位与复杂度路由

    LlamaIndex 宣布开源 PDF 解析工具 LiteParse 迎来重要更新,通过在其 PDFium 分支中引入 mimalloc 内存优化与热路径缓存,将文本提取耗时降低 20–25%,在无 OCR 情况下达到平均 2.8ms/页的提取速度和 3.9ms/页的 Markdown 渲染速度。

    推荐理由:文章详细拆解了通过改造底层 PDFium 内存分配提升无模型解析吞吐的工程细节,为文档预处理与路由分流提供了实测基准。

  7. vLLM 官方博客(网页)62

    vLLM-Omni 集成 Intel AutoRound 量化算法加速多模态推理

    vLLM-Omni 宣布集成 Intel 的 AutoRound 训练后量化算法,支持在 Intel XPU 和 NVIDIA GPU 上对多模态 Omni、扩散视频及图像生成模型进行 W4A16 量化推理。

    推荐理由:原文给出了端到端离线量化与直接部署的工作流及实测数据,读者可以据此评估多模态与扩散模型在低显存环境下的推理部署方案。

  8. vLLM 官方博客(网页)67

    vLLM 推出会话感知智能体路由 SAAR,优化长流程 Agent 模型调度与缓存成本

    vLLM 在 Semantic Router 中正式引入会话感知智能体路由 SAAR,通过会话级状态控制解决长流程 Agent 在单轮 prompt 路由下易打断工具调用与丢失前缀缓存的问题。

    推荐理由:原文针对长流程智能体多轮调度痛点,提出结合工具循环锁与前缀缓存定价的会话级路由策略,为大模型推理网关降本与连续性保障提供了工程参考。

  9. vLLM 官方博客(网页)82

    vLLM 宣布首发支持 NVIDIA Nemotron 3 Ultra 推理

    vLLM 正式宣布为开源模型 NVIDIA Nemotron 3 Ultra 提供首发推理支持,支持通过 OpenAI 兼容 API 提供服务。Nemotron 3 Ultra 拥有 550B 总参数量与 55B 激活参数,采用 Transformer-Mamba 混合 MoE 架构,支持最高 1M tokens 上下文及 NVFP4 与 BF16 精度。

    推荐理由:原文提供了模型规格与完整的服务启动配置,开发者可以据此在多卡集群上快速部署该长程推理模型。

  10. Claude 官方博客(网页)80

    Anthropic 上线 Claude Marketplace 插件与智能体市场

    Anthropic 正式推出 Claude Marketplace,支持用户连接常用应用与数据、购买由合作伙伴构建的 Claude 软件以及接入认证服务伙伴。市场目前提供超过 2,000 个连接器与插件,涵盖 Google Workspace、Microsoft 365、Notion、Figma、Slack 以及 Atlassian MCP 等工具。

    推荐理由:原文给出了连接器、合作伙伴工具与咨询网络的具体分类与接入方式,读者可以据此评估 Claude 融入企业工作流的最新生态能力。

  11. vLLM 官方博客(网页)72

    vLLM Semantic Router v0.3 Themis 发布:引入会话感知路由与规范配置契约

    vLLM 官方发布 Semantic Router v0.3 Themis,将语义路由升级为状态化、可观测的生产级控制平面。该版本统一了本地、控制台与 Kubernetes 的 v0.3 规范配置契约,推出支持工具循环硬锁定与路由器会话记忆的会话感知智能体路由(SAAR),并新增将原始信号规范化为决策策略的 Projection 机制。

    推荐理由:材料系统梳理了语义路由器从信号到决策的流水线设计与状态化路由机制,为多模型调度与生产级推理网关架构提供了完整参考。

  12. Claude 官方博客(网页)73

    Anthropic 推出生命科学 AI 方案与 Claude Science 公测版

    Anthropic 宣布推出面向生命科学领域的 AI 方案,并开启科学家 AI 工作台 Claude Science 的公开测试。该平台可连接 PubMed、bioRxiv 等科研数据库与分析工具,支持生物信息学数据处理、文献综述、临床试验方案拟定与 FDA 监管文档起草,同时结合 Claude Code 重构遗留科学代码。

    推荐理由:原文展示了面向生命科学的完整工具链与落地用例,读者可了解大模型在生物医药研发和合规文档流程中的实际落地方式。

  13. vLLM 官方博客(网页)74

    vLLM 原生支持扩散大语言模型 DiffusionGemma

    vLLM 宣布原生支持基于 Gemma4 构建的 26B 离散扩散大语言模型 DiffusionGemma,成为该框架首个原生接入的 dLLM。实现上通过 Model Runner V2 的 ModelState 抽象管理逐请求状态,复用投机解码路径与动态序列级因果注意力,支持单批次内自回归与双向去噪混合处理。

    推荐理由:原文详述了利用 ModelState 抽象与投机解码路径接入扩散大模型的技术方案,为非自回归推理服务提供了工程实践参考。

  14. vLLM 官方博客(网页)76

    vLLM 首发支持 MiniMax M3:实现 1M 上下文多模态稀疏注意力推理

    vLLM 宣布首发支持 MiniMax M3 的 BF16 与 MXFP8 检查点,提供 1M token 上下文的原生多模态推理服务。该方案针对 MiniMax 稀疏注意力(MSA)设计了 128-token 粒度的分块预填充与解码算子,集成 EAGLE3 投机解码及工具与思考解析器。

    推荐理由:文章给出了稀疏注意力算子实现、投机解码调优及软硬件启动参数,为百万长上下文多模态模型的低延迟上线提供了具体参考。

  15. vLLM 官方博客(网页)70

    vLLM Semantic Router 推出 Fusion 多模型融合路由功能

    vLLM 在其语义路由器(vLLM-SR)中推出 Fusion 原语,支持并发调用多模型面板生成候选答案,并通过裁判模型分析共识与分歧后合成最终回复。该机制提供 vllm-sr/auto 自动路由、vllm-sr/fusion 显式调用及请求级插件覆盖三种入口,支持全链路跟踪记录与按策略容错。

    推荐理由:原文给出了多模型面板协同与裁判合成的具体路由机制,为生产环境按需平衡延迟与模型组合质量提供了可落地参考。

  16. vLLM 官方博客(网页)69

    vLLM 推出语义路由器微智能体运行时并开放 vllm-sr/auto

    vLLM 官方发布基于语义路由器的微智能体运行时,通过统一的 `vllm-sr/auto` API 接口在服务层内调度多模型协作。系统支持 Confidence、Ratings、ReMoM、Fusion 和 Workflows 五种协同回路模式,由路由层统一管理预算、并发上限、容错与输出协议。

    推荐理由:文章把多模型协同机制下沉为开源推理服务基础设施,读者可以借此了解如何在单接口下编排多模型推理策略。