Hacker News · AI· episod·· 4 小时前AI 评分20
在 Tenstorrent Blackhole 上为智能体 AI 提供 Prefill 与 Decode 推理服务
Serving Prefill and Decode for Agentic AI (On Tenstorrent Blackhole)
AI 导读
该内容探讨在 Tenstorrent Blackhole 硬件上为智能体 AI（Agentic AI）提供 Prefill 与 Decode 阶段的推理服务。其重点围绕面向智能体工作负载的大语言模型预填充与解码处理展开。
来源：Hacker News · AI · tenstorrent.com