学习使用本地 AI 既令人兴奋、又让人不知所措和沮丧

用户在配备 256GB 统一内存的 M5 Ultra Mac Studio 上部署开源桌面应用 Hermes Agent，探索完全运行在本地的 AI 体验。该系统运行了 125B 参数、体积约 105GB 的千问 Qwen 3.8 Flash Next 模型，无需支付模型 token 费用并保障数据隐私。