The Decoder· Manuel Uth·· 2 小时前精选AI 评分74
Inception 发布扩散语言模型 Mercury 3,声称推理速度最高达 GPT-6 Luna 的 8 倍
Inception's Mercury 3 diffusion model claims to beat GPT-6 Luna and Claude Haiku 5.5 at a fraction of the wait
AI 导读
Inception 正式发布扩散架构语言模型 Mercury 3,在 Nvidia GPU 上生成速度达 1,068 tokens/s,官方称其运行速度比 GPT-6 Luna 和 Claude Haiku 5.5 快 4 到 8 倍。
推荐理由
扩散架构为语言模型带来了并行生成的思路,其高吞吐特性有助于大幅缩短智能体多步调用中的累计等待时间。
来源:The Decoder · the-decoder.com