跳到正文
原文
Hacker News · AI· cmrdporcupine·· 2 小时前精选AI 评分74

Inception 发布扩散大语言模型 Mercury 3

Inception "Mercury 3", 1000 tok/s diffusion LLM

AI 导读

Inception 正式推出基于扩散架构的大语言模型 Mercury 3,在 NVIDIA GPU 上推理速度达 1,068 tokens/s,上下文窗口提升至 1M tokens。

推荐理由

材料展示了文本扩散架构在大模型领域的规模化扩展能力,为低延迟智能体和实时交互场景提供了新的架构选型参考。

来源:Hacker News · AI · inceptionlabs.ai