开源项目Colibrì引发关注：尝试将SSD作为虚拟显存以在无GPU设备上运行超大模型
开源项目Colibrì（小蜂鸟）近期在GitHub引发关注。该项目探索通过利用固态硬盘（SSD）充当虚拟显存与内存扩展，旨在降低超大参数语言模型（如GLM等）的硬件运行门槛，尝试实现无独立GPU或低配置笔记本环境下的模型加载与推理探索。素材信息量较少，具体推理延迟与工程实用性仍待实际场景检验。
DC AI 热点
全部 AI 动态
9月26日2026-09-26
谷歌TPU运行Kimi模型性能超英伟达GPU 57%，采用DeepSeek推理优化架构
据vLLM核心成员创办的团队最新测试，谷歌TPU在运行Kimi模型时的推理性能相较英伟达GPU提升达57%。该评测结合了DeepSeek开源的高效推理技术框架，展示了非英伟达硬件生态在适配并加速顶尖大模型推理上的实质进展。原文摘要信息有限，具体TPU版本及测试对比基线等硬件参数细节未详述。
9月24日2026-09-24
PCIe显卡经内核与通信重构优化，DeepSeek推理吞吐提升近7倍
该动态指出通过内核补齐与通信重构等优化手段，PCIe显卡在运行DeepSeek模型时的推理吞吐量提升了近7倍，并声称1.5台6000D设备的表现可超越1台B300。需要说明的是，素材提供的信息较为简短，缺少具体的软硬件环境、完整测试基准以及技术实现的深度细节。