Hacker News · AI· doomroot13·· 5 時間前厳選AI スコア71
Microsoft、137.9Bコードモデル「MAI-Code-1.1-Flash」を発表：Windows PCでのオンデバイス推論に対応
Advancing the Quality-Efficiency Frontier for Coding AI on Windows PCs
AI ガイド
Microsoftは137.9B MoEコードモデル「MAI-Code-1.1-Flash」を発表した。混合精度量子化によりモデルの重みを53.0GiBに圧縮し、GitHub Copilotのローカル・オンデバイスモデルとして利用可能にした。
推薦理由
混合精度量子化、投機的デコーディング、ロングコンテキストにおけるキャッシュ管理の協調設計が示されており、大規模パラメータを持つMoEモデルのエッジ・オンデバイス展開における実用的な工学的知見を提供している。
出典：Hacker News · AI · devblogs.microsoft.com