研究实测开源大模型推理能耗差距

1. 12:00
   arXiv 人工智能

   开源大语言模型在多基准与硬件下的推理能效实测研究

   一项新研究对 86 个开源大语言模型 checkpoint 在 7 个基准测试和 6 种硬件平台上的推理能效进行了实测，发现同等能力水平的模型能耗中位数相差 2.6 至 4.8 倍，最高相差达 27 倍。

当前热度 7·可比范围峰值 9（10月14日 15:00）·近 24 小时可比范围变化 –

趋势仅比较持续完整观测到的相同主体，范围可能小于当前热度统计。移动指针或点击图表查看每小时热度；键盘可用左右方向键切换。