Hacker News · AI· cmrdporcupine·· 2 小时前精选AI 评分74
Inception 发布扩散大语言模型 Mercury 3
Inception "Mercury 3", 1000 tok/s diffusion LLM
AI 导读
Inception 正式推出基于扩散架构的大语言模型 Mercury 3,在 NVIDIA GPU 上推理速度达 1,068 tokens/s,上下文窗口提升至 1M tokens。
推荐理由
材料展示了文本扩散架构在大模型领域的规模化扩展能力,为低延迟智能体和实时交互场景提供了新的架构选型参考。
来源:Hacker News · AI · inceptionlabs.ai