Together AI 推出推理编译器 Together Compiler

Together AI 推出面向动态负载的推理编译器 Together Compiler（TKCC），利用高吞吐智能体构建持续优化回路。系统采用启动一次即可热重载的持久化引擎机制，将实验吞吐量提升 252 倍，并结合两级引擎架构与成本模型搜索最优并行策略。