本文へスキップ
原文
Hacker News · AI· llmpath·· 1 日前厳選AI スコア65

PaidinToken、ローカルGPUのVRAMとオープンソースLLMの互換性計算ツールをリリース

PaidinToken – Open LLM Token Pricing and Local GPU VRAM Calculator

AI ガイド

PaidinTokenはハードウェア互換性確認ツールを公開した。RTX 3060からRTX 5090、Apple Silicon、データセンター向けGPUなど16種類の主要ハードウェア構成をカバーする。同ツールは各ハードウェアに対応可能なモデルサイズの上限、推奨量子化設定、推定推論速度、ワンクリックで利用できるOllama実行コマンドを提供するほか、VRAMおよびKVキャッシュ消費量の算出方法やFAQも掲載している。

推薦理由

同ツールは各種GPUやチップのVRAM許容量の上限と推奨量子化手法を整理しており、開発者が大容量モデルをダウンロードする前にハードウェアの適合性を事前評価するのに役立つ。

出典:Hacker News · AI · paidintoken.com