基于迷你主机与 eGPU 搭建本地大语言模型推理环境实践

作者利用零刻 GTR7 迷你主机通过 USB4 转接卡外接 NVIDIA RTX 3090 显卡，在 Arch Linux 上成功搭建了本地大语言模型推理节点。