跳到正文
原文
Buzzing HN · 中文精选· nkko·· 19 小时前AI 评分62

ESP32S3 集群实现 1.58-bit BitNet 语言模型分布式流水线推理

运行 1.58-bit(BitNet)语言模型的 ESP32S3 集群

AI 导读

开源项目 ESP32s3-LLM-Cluster 实现了在 7 块 ESP32S3 微控制器集群上分布式流水线运行切分后的 0.5B BitNet 1.58-bit 大语言模型。

来源:Buzzing HN · 中文精选 · github.com