Stable Diffusion web UIのモデルやVAEをRAMにキャッシュさせて高速化
Stable Diffusion web UIは様々な画像やイラストをかなりの高精度で生成できる画像生成AIツールですが、それだけに非常にマシンパワーを要し、ハードウェアの制約、グラフィックボードの制約と日々格闘している人も多いと思います。
今日はStable Diffusion web UIを高速化するためのテクニック。モデルやVAEをRAMにキャッシュさせて高速化する手法を解説したいと思います。
モデルファイルとVAEをRAMにキャッシュさせる
ディフォルトでは、モデルデータをキャッシュする設定が無効になっており、この設定を有効化します。WebUIの設定から「Stable Diffusion」のモデルについては「Checkpoints to cache in RAM」、VAEについては「VAE Checkpoints to cache in RAM」を1以上に設定します。
モデルデータについてはSDXLで大きくても現状8GB〜10GBなので、RAMが32GB程度あれば十分に利用可能だと考えます。SD1.5の場合であればさらに少なくても行けるかも知れませんね。ちなみにSDXLのモデルとビューをキャッシュした際のメモリ利用料は以下の通り。
生成速度の違い
SDXLモデルで1024×1024で画像を生成してみてタイムトークンの違いを見てみます。手元の環境だとおおよそ2秒縮まりました。
キャッシュ無し
Time taken: 6.0 sec.
モデル・VAEキャッシュ有り
Time taken: 3.9 sec.
RAMに余裕があるのであればオススメ
Stable Diffusionを利用する場合、1枚画像生成して終わりなどということは無く、何枚も生成する方が多いと思います。仮に1秒程度の短縮だとしても1000枚出力すれば15分以上の短縮となりますので、RAMに余裕があるという方は是非ご活用ください。
Stable Diffusion 最新情報
tazikuでは画像生成AI Stable Diffusion(スティーブルディフュージョン)AUTOMATIC1111を中心に、最新情報、機能紹介、様々なTipsを発信中!Stable Diffusionに関するまとめ記事、記事一覧は以下のリンクからご覧ください。
生成AI・AIの導入・研修・DXの支援はtazikuへ
生成AI・LLMなど、AIを活用したAIの導入・DXコンサルティング、AI領域の研修・講演などのご相談はお気軽にお問い合わせフォーム、もしくは生成AIソリューションDXAIから、ご相談・お問い合せください。
※当サイトに掲載されている商標、一部画像、スクリ-ンショット、文章に置いては著作権侵害を目的に利用しておらず、第三十二条で定められる引用の範囲で使用しています。万が一問題があれば、お問い合わせからご連絡ください。即刻削除いたします。また、本ブログは業務の研究開発のためのものとなり、一部、弊社に関連性が無いものも掲載しております。