跳到正文
原文
IT168 服务器存储 · AI与算力(网页)·· 11 小时前AI 评分49

从“算力焦虑”到“算力理性”:Akamai解答AI推理时代的ROI之问

AI 导读

Akamai云计算CTO Jay Jenkins指出,约75%至95%的AI算力投资未转化为可衡量的财务回报,企业应摆脱集中式堆砌并采用分布式架构优化推理ROI。他强调推理面临网络带宽、延迟损失及合规治理等隐性成本,需结合语义缓存、推测解码与边缘编排来提升GPU利用率。针对多智能体协作与合规挑战,分布式边缘节点有助于降低累积延迟并实现数据本地化。

来源:IT168 服务器存储 · AI与算力(网页) · server.it168.com