The Decoder· Matthias Bastian·· 3 小时前精选AI 评分75
Anthropic 推出 Message Threads 公测版,长对话首字生成时间降低约 35%
Anthropic's Message Threads cut time to first token by 35 percent for long conversations
AI 导读
Anthropic 在 Claude 平台开启 Message Threads 功能的公开测试,使 500k 至 1M tokens 请求的首字时间缩短约 35%。
推荐理由
原文给出了长上下文下减少重复传输的具体提速幅度与安全机制,开发者可据此评估智能体工作流的延迟优化空间。
来源:The Decoder · the-decoder.com