跳到正文
原文
MIT Technology Review AI· Affan Syed·· 16 小时前AI 评分32

AI 编程智能体成本评估:停止计算 Token,转向衡量交付成果

Stop counting tokens, start counting what ships

AI 导读

企业评估 AI 编程智能体价值应从统计 token 消耗转向衡量“每个已合并 PR 的成本”,避免一刀切限额抑制高价值工作流。企业可通过网关分流,将复杂推理交给前沿模型 API,常规代码生成与测试则路由至本地自建的开放权重模型。HPE 实践显示,该混合推理模式可将 token 成本降低 30% 至 50%,同时有效保障私有代码安全。

来源:MIT Technology Review AI · technologyreview.com