跳到正文
原文
The Decoder· Manuel Uth·· 2 小时前精选AI 评分74

Inception 发布扩散语言模型 Mercury 3,声称推理速度最高达 GPT-6 Luna 的 8 倍

Inception's Mercury 3 diffusion model claims to beat GPT-6 Luna and Claude Haiku 5.5 at a fraction of the wait

AI 导读

Inception 正式发布扩散架构语言模型 Mercury 3,在 Nvidia GPU 上生成速度达 1,068 tokens/s,官方称其运行速度比 GPT-6 Luna 和 Claude Haiku 5.5 快 4 到 8 倍。

推荐理由

扩散架构为语言模型带来了并行生成的思路,其高吞吐特性有助于大幅缩短智能体多步调用中的累计等待时间。

来源:The Decoder · the-decoder.com