【WebUI 1111】Hyper Tile オンオフ スクリプト のインストール【Stable diffusion】

 

HyperTileを使ってみて、速くはなるけどtxt2imgだと少し情報不足な感じがしたので、生成する時にオンオフできるスクリプトを作りました。

 

準備

Hyper Tileのインストール

https://github.com/tfernd/HyperTile

CODEボタンからDownloadZipでダウンロードします。

 

解凍して、hyper_tileフォルダーを WebUI の modulesフォルダーに移動します。

 

セットアップ

modules\processing.py をバックアップします。

 

下記の行をprocessing.pyの最初の方に追加します。

from .hyper_tile.hyper_tile import split_attention
 

 

sample関数に下記の行を、関数の最初の行に追加して、それ以降をスペースでインデントます。

        with split_attention(self.sd_model.model, (self.width//8*8) / (self.height//8*8), self.extra_generation_params["Hyper Tile TileSize"] , swap_size=1, disable = self.extra_generation_params["Hyper Tile Disable"]):

txt2imgとimg2imgの2ヶ所変更します。

ver1.60の img2imgのsampleだと、こんな感じです。
def sample(self, conditioning, unconditional_conditioning, seeds, subseeds, subseed_strength, prompts): with split_attention(self.sd_model.model, (self.width//8*8) / (self.height//8*8), self.extra_generation_params["Hyper Tile TileSize"] , swap_size=1, disable = self.extra_generation_params["Hyper Tile Disable"]): x = self.rng.next() if self.initial_noise_multiplier != 1.0: self.extra_generation_params["Noise multiplier"] = self.initial_noise_multiplier x *= self.initial_noise_multiplier samples = self.sampler.sample_img2img(self, self.init_latent, x, conditioning, unconditional_conditioning, image_conditioning=self.image_conditioning) if self.mask is not None: samples = samples * self.nmask + self.init_latent * self.mask del x devices.torch_gc() return samples

オンオフ　スクリプトのインストール

HyperTile.py をダウンロードして WebUI の Scriptsフォルダーに移動します。

HyperTile.py
#HyperTile ver 1.1 (c)2023 yukitoki.blogspot.com #1.1 #よく使うTileSizeを簡単に設定できるようにしました。 #xyzでTilesizeに0を設定した時、オフになるようにしました。 import modules.scripts as scripts import gradio as gr import math from modules.shared import state from modules.script_callbacks import CFGDenoisedParams, on_cfg_denoised,ImageSaveParams, on_before_image_saved, AfterCFGCallbackParams, on_cfg_after_cfg, on_infotext_pasted from modules import script_callbacks NAME = 'HyperTile' class Script(scripts.Script): _onoff = "Off" _tilesize = 0 def title(self): return NAME def show(self, is_img2img): return scripts.AlwaysVisible def ui(self, is_img2img): with gr.Accordion(NAME, open=True): #with gr.Row(variant='compact'): disable = gr.Radio(["On","96","128","192","256","Off"], value="Off", label="On/Off") tilesize = gr.Slider(minimum=32, maximum=1024, step=32, value= 128 if is_img2img else 256, label='TileSize') return [disable,tilesize] def process(self, p,onoff, tilesize): self._onoff = getattr(p, 'hypertile_disable', onoff) self._tilesize = getattr(p, 'hypertile_tilesize', tilesize) if(self._onoff == 'Off' or self._tilesize == 0): p.extra_generation_params["Hyper Tile Disable"] = True else : p.extra_generation_params["Hyper Tile Disable"] = False if(self._onoff != 'On'): self._tilesize = int(self._onoff) p.extra_generation_params["Hyper Tile TileSize"] = self._tilesize if(self._onoff != 'Off'): print('HyperTileSize:',self._tilesize,'') return # xyz support def make_axis_on_xyz_grid(): xyz_grid = [x for x in scripts.scripts_data if x.script_class.__module__ == "xyz_grid.py"][0].module extra_axis_options = [ xyz_grid.AxisOption("["+NAME+"] Disable", str, xyz_grid.apply_field("hypertile_disable"), choices=lambda:["On","96","128","192","256","Off"]), xyz_grid.AxisOption("["+NAME+"] TieleSize", int,xyz_grid.apply_field("hypertile_tilesize")), ] if not any("["+NAME+"]" in x.label for x in xyz_grid.axis_options): xyz_grid.axis_options.extend(extra_axis_options) def on_before_ui(): try: make_axis_on_xyz_grid() except Exception: error = traceback.format_exc() print( f" - HyperTile : xyz_grid error:\n{error}", file=sys.stderr, ) script_callbacks.on_before_ui(on_before_ui)

webuiを再起動してリロードすると追加されます。

TileSizeを小さくすると早くなるけど情報が減る感じがします。

 

参考画像

txt2imgで、サンプラーDPM++ 2M Karras で 15ステップ、サイズは512x680、TielSize 256 で比較

左がHyperTileで作成。細かい所がちょっと違う

CPUのＰＣで生成時間は、

Offで7分12秒

TileSize 256で6分54秒

TileSize 128で5分46秒

でした。

img2imgでアップスケールは

512x680を2倍で

Tilesize 256 で 18分44秒

TileSize 128 で 16分15秒

TileSize 64 で 16分02秒

でした。

数字を小さくすると、細かい部分の解像度が落ちる感じがする。

使った感想

txt2imgでは、プロンプトをチェックする時にTileSize128で使うと時短になりそう。本番用には使わないかも。

追記、早くなるから結局いつも使っちゃってた。 

追記、アップスケールするとしましまが出る時が有るからt2iでは使わない方が良いかも

swap_sizeを1にするとシマシマ出なくなるかも

 

img2imgでは、普通に使えるし速い。

CFGを小さくすると破城するので、t2iで生成した時と同じぐらいが良さそう。

Denoising strengthは0.5ぐらいが良さそう。

TileSizeは192前後がバランス良いのかな。 大きい方が綺麗だけど遅い