Stable Diffusion web UIのモデルやVAEをRAMにキャッシュさせて高速化

Stable Diffusion web UIは様々な画像やイラストをかなりの高精度で生成できる画像生成AIツールですが、それだけに非常にマシンパワーを要し、ハードウェアの制約、グラフィックボードの制約と日々格闘している人も多いと思います。

今日はStable Diffusion web UIを高速化するためのテクニック。モデルやVAEをRAMにキャッシュさせて高速化する手法を解説したいと思います。

モデルファイルとVAEをRAMにキャッシュさせる

ディフォルトでは、モデルデータをキャッシュする設定が無効になっており、この設定を有効化します。WebUIの設定から「Stable Diffusion」のモデルについては「Checkpoints to cache in RAM」、VAEについては「VAE Checkpoints to cache in RAM」を1以上に設定します。

モデルデータについてはSDXLで大きくても現状8GB〜10GBなので、RAMが32GB程度あれば十分に利用可能だと考えます。SD1.5の場合であればさらに少なくても行けるかも知れませんね。ちなみにSDXLのモデルとビューをキャッシュした際のメモリ利用料は以下の通り。

生成速度の違い

SDXLモデルで1024×1024で画像を生成してみてタイムトークンの違いを見てみます。手元の環境だとおおよそ2秒縮まりました。

キャッシュ無し

Time taken: 6.0 sec.

モデル・VAEキャッシュ有り

Time taken: 3.9 sec.

RAMに余裕があるのであればオススメ

Stable Diffusionを利用する場合、1枚画像生成して終わりなどということは無く、何枚も生成する方が多いと思います。仮に1秒程度の短縮だとしても1000枚出力すれば15分以上の短縮となりますので、RAMに余裕があるという方は是非ご活用ください。

※当サイトに掲載されている商標、一部画像、スクリ-ンショット、文章に置いては著作権侵害を目的に利用しておらず、第三十二条で定められる引用の範囲で使用しています。万が一問題があれば、お問い合わせからご連絡ください。即刻削除いたします。また、本ブログは業務の研究開発のためのものとなり、一部、弊社に関連性が無いものも掲載しております。

Related INSIGHTS

最新の知見をお届け

AI・クリエイティブに関する最新情報は
公式Xアカウントやnoteでも発信しています。

Follow @taziku_co note で読む