AMD将以82亿美元收购李飞飞创立的空间智能公司World Labs
AMD宣布将以82亿美元收购由知名AI学者李飞飞联合创立的空间智能初创公司World Labs。交易完成后,World Labs创始人李飞飞将正式加入AMD,担任执行副总裁兼首席科学家。此举标志着AMD在世界模型与前沿AI软件算法领域进行重大战略布局,旨在抗衡英伟达在全栈AI生态中的主导地位。
AMD宣布将以82亿美元收购由知名AI学者李飞飞联合创立的空间智能初创公司World Labs。交易完成后,World Labs创始人李飞飞将正式加入AMD,担任执行副总裁兼首席科学家。此举标志着AMD在世界模型与前沿AI软件算法领域进行重大战略布局,旨在抗衡英伟达在全栈AI生态中的主导地位。
极摩客(GMKtec)推出了新款迷你主机Evo-X5,该设备搭载AMD代号为“Gorgon Halo”(Ryzen AI Max Pro 495)的顶级处理器,并配备了高达192GB的统一内存,主打本地大模型AI运算需求。不过该配置定价极其高昂,售价达到7099美元(早鸟优惠价可减免425美元)。这种配置展示了端侧大内存迷你主机运行百亿参数本地大模型的潜力,但高定价也引发市场关注。
AMD即将推出下一代代号为“Venice”的EPYC 9006系列服务器处理器,正式将Zen 6微架构引入服务器市场。本次披露涵盖了AMD完整的第六代EPYC产品线布局,并展示了该公司从当下至2027年下半年的服务器与数据中心芯片演进规划,为未来算力基础设施的升级提供支撑。
本文主要探讨在 AMD GPU 硬件平台上利用 vLLM 推理框架实现投机解码(Speculative Decoding)的技术探索与优化。投机解码是一种有效降低大语言模型推理延迟的高级加速技术。结合 vLLM 与 AMD 算力生态,旨在提升大模型的生成吞吐量。由于原始素材仅提供标题,具体的实现细节、支持的硬件型号及性能评测数据等信息暂未披露。
开源项目在 v0.30.1rc0 版本更新中,针对 AMD ROCm 持续集成(CI)流程添加了下一代加速卡 MI355 的 Dense NVFP4 精度及 MoRI 算子内核镜像。该更新由 AMD 工程师提交,旨在完善对 AMD 新一代硬件低精度计算格式的持续集成测试与底层算子支持,加速相关 AI 框架对 MI355 算力生态的适配。
vime与RL-Kernel在AMD Instinct MI300X及ROCm软件栈上,实现了Megatron训练端与vLLM推理端(Rollout)选定Token对数概率的按位(bit-for-bit)完全一致。该技术解决了大模型强化学习微调过程中,因训练与采样引擎底层算子实现差异导致的数值偏差痛点,达成测试零误差,大幅提升了AMD算力生态在RLHF等强化学习工作流中的稳定性和可用性。