跳到正文
原文
Hacker News · AI· utsav1033·· 2 小时前精选AI 评分71

开源工具 carmen 发布:严苛验证 AI 生成的 Apple Silicon GPU 算子与真实端到端加速

Show HN: carmen – testing AI-written GPU kernels

AI 导读

开发者开源 CLI 工具 carmen,用于严格测试大语言模型为 Apple Silicon 编写的 Metal GPU 算子,并实测真实模型的端到端加速表现。

推荐理由

该项目指出了大模型生成算子单体跑分与端到端实际加速脱节的问题,为端侧工程优化提供了严谨的测试思路。

来源:Hacker News · AI · github.com