FLUXを少ないグラボメモリで動かしやすくするComfyUI拡張「ComfyUI-GGUF」
30秒でわかる
- FLUXなどのモデルを、グラボメモリの少ないPCでも動かしやすくするComfyUI用の無料拡張
- GGUF（モデルのデータ量を減らす保存形式）を読み込み、1つの重みに使う情報量を小さくできる
- FLUX.1やStable Diffusion 3.5の量子化済みモデル例が案内され、T5テキストエンコーダーの軽量版にも対応
何が変わった
画像生成モデルは高品質になるほど、グラボのメモリ（VRAM）を多く使います。ComfyUI-GGUF ↗は、モデルをGGUFという軽量な形式で読み込み、必要なVRAMを抑えやすくする拡張です。ざっくり言うと、モデルの情報を小さな単位に圧縮して扱う仕組みです。公式READMEではFLUXのようなTransformer／DiT型モデルは量子化の影響を比較的受けにくいと説明され、FLUX.1とStable Diffusion 3.5の量子化済みモデルが例示されています。ComfyUIでは標準のモデル読み込み部分を「Unet Loader (GGUF)」に置き換えて使います。
誰に関係する
FLUXを自分のPCで使いたいものの、グラボメモリ不足で困っている人に向いています。開発途中の拡張であり、LoRAの読み込みは実験的対応です。