MIT Technology Review AI· Affan Syed·· 17 hours agoAI score32
AI 编程智能体成本评估:停止计算 Token,转向衡量交付成果
Stop counting tokens, start counting what ships
Not yet translated; shown in Chinese.
AI guide
企业评估 AI 编程智能体价值应从统计 token 消耗转向衡量“每个已合并 PR 的成本”,避免一刀切限额抑制高价值工作流。企业可通过网关分流,将复杂推理交给前沿模型 API,常规代码生成与测试则路由至本地自建的开放权重模型。HPE 实践显示,该混合推理模式可将 token 成本降低 30% 至 50%,同时有效保障私有代码安全。
Source:MIT Technology Review AI · technologyreview.com