CLIツール「lowvram」が登場：CUDA VRAMのインターセプトにより低VRAM GPUでのLLM実行を実現

開発者がオープンソースのCLIツール「lowvram」を公開した。低レイヤーのCUDA呼び出しをインターセプトしてcuMemAllocをマネージドメモリに置き換えることで、ソースコードを変更することなく、コンシューマー向けの低VRAM GPUで大規模モデルを実行できるようにする。