Stable Diffusion web UIのモデルやVAEをRAMにキャッシュさせて高速化
Stable Diffusion web UIは様々な画像やイラストをかなりの高精度で生成できる画像生成AIツールですが、それだけに非常にマシンパワーを要し、ハードウェアの制約、グラフィックボードの制約と日々格闘している人も多いと思います。
今日はStable Diffusion web UIを高速化するためのテクニック。モデルやVAEをRAMにキャッシュさせて高速化する手法を解説したいと思います。
モデルファイルとVAEをRAMにキャッシュさせる
ディフォルトでは、モデルデータをキャッシュする設定が無効になっており、この設定を有効化します。WebUIの設定から「Stable Diffusion」のモデルについては「Checkpoints to cache in RAM」、VAEについては「VAE Checkpoints to cache in RAM」を1以上に設定します。
モデルデータについてはSDXLで大きくても現状8GB〜10GBなので、RAMが32GB程度あれば十分に利用可能だと考えます。SD1.5の場合であればさらに少なくても行けるかも知れませんね。ちなみにSDXLのモデルとビューをキャッシュした際のメモリ利用料は以下の通り。
生成速度の違い
SDXLモデルで1024×1024で画像を生成してみてタイムトークンの違いを見てみます。手元の環境だとおおよそ2秒縮まりました。
キャッシュ無し
Time taken: 6.0 sec.
モデル・VAEキャッシュ有り
Time taken: 3.9 sec.
RAMに余裕があるのであればオススメ
Stable Diffusionを利用する場合、1枚画像生成して終わりなどということは無く、何枚も生成する方が多いと思います。仮に1秒程度の短縮だとしても1000枚出力すれば15分以上の短縮となりますので、RAMに余裕があるという方は是非ご活用ください。
