<feed xmlns='http://www.w3.org/2005/Atom'>
<title>generate-image-sd15-mcp.git/script/smoke_stdio.py, branch main</title>
<subtitle>MCP tool for image generation used stable diffusion 1.5.
</subtitle>
<id>https://git.takashi-2521.com/generate-image-sd15-mcp.git/atom?h=main</id>
<link rel='self' href='https://git.takashi-2521.com/generate-image-sd15-mcp.git/atom?h=main'/>
<link rel='alternate' type='text/html' href='https://git.takashi-2521.com/generate-image-sd15-mcp.git/'/>
<updated>2026-10-13T17:21:50+00:00</updated>
<entry>
<title>fix: 画像生成モデルのロードを初回生成まで遅延する</title>
<updated>2026-10-13T17:21:50+00:00</updated>
<author>
<name>tanaka takashi</name>
<email>isazaka@gmail.com</email>
</author>
<published>2026-10-13T17:21:50+00:00</published>
<link rel='alternate' type='text/html' href='https://git.takashi-2521.com/generate-image-sd15-mcp.git/commit/?id=583a56f1ac3d9be9ce2f8c1715d77423347d4a4e'/>
<id>urn:sha1:583a56f1ac3d9be9ce2f8c1715d77423347d4a4e</id>
<content type='text'>
stdio MCPのツール一覧取得でも、受付開始前にModelManagerがSD本体・
外部VAE・LoRAをロードし、CUDAへ転送していた。画像生成しない通常の
質問でもこの起動コストが発生するため、有効な生成要求の実行時まで
モデル初期化を遅らせ、一覧取得時の不要な遅延とVRAM消費を除去する。

実装:
- ModelManagerの構築時は未ロード状態とし、冪等なload()を追加する。
- 初期化ロックで二重ロードを防ぎ、成功時だけモデルを保持する。
  失敗時は未ロード状態を維持し、次の要求で再試行できるようにする。
- 3種類の生成メソッドからload()を呼び、既存サービスの入力検証・
  生成ロックを経由したワーカースレッド内で初期化する。
- ControlNetと前処理モデルの既存の遅延ロード・モデル共有を維持する。
- 起動・設定読み込みと実際のモデルロードのログを分離し、ロードの
  開始・完了・失敗をstderrへ出力する。
- benchmarkの計測区間で明示的にload()を呼び、ロード時間とVRAMの
  計測の意味を維持する。READMEにロードタイミングと確認手順を追記する。

変更範囲:
- stdioのプロセス起動・終了方式を維持し、常駐化やHTTP切り替え、
  チャット側の接続管理・一覧キャッシュ・アイドル解放は追加しない。
- MCPスキーマ、設定形式、CLI引数、プロンプト・seed処理、scheduler、
  生成サイズ、PNGメタデータ・保存仕様は変更しない。
- 設定とモデルファイルの存在確認は起動時に残し、モデル互換性・
  CUDA・推論依存関係のエラー検出は初回生成時へ移す。
- 同一プロセス内ではモデルを再利用し、終了時に解放する。
  別の生成プロセスでの再ロードは引き続き許容する。

回帰テスト:
- 修正前の既存69件に対し、修正後は追加18件を含む87件すべて成功。
  既存テストと期待値は変更していない。
- CLI/stdioでの一覧取得時にモデルロードと推論ライブラリのimportを
  禁止しても成功することを確認する。
- 全生成方式の初回ロード、ワーカースレッド実行、同時要求、冪等性、
  不正入力・無効なControlNet指定、失敗後の再試行、ログを検証する。
- ruff check .は成功、pyrightは0 errors / 0 warnings。

実GPU・stdioでの確認:
- 現在の設定（外部VAE、2件のLoRA、LCM、6 steps）を維持して計測した。
- 起動から一覧取得までの時間は8.233秒から0.671秒に短縮した。
- 一覧取得前後のGPU全体の使用量は修正前808→3233 MiBに対し、
  修正後682→682 MiBで増加しなかった。
- 同じ接続で2枚生成してもベースモデルのロードは1回で、一覧取得では
  0回だった。ロード時間は7.812秒で、初回生成要求に移った。
- 同じ設定・プロンプト・seedによる修正前後の画像は画素が完全一致。
  PNG形式・寸法・メタデータと、返却PNGおよび保存PNGの一致を確認した。
- 最終版スクリプトでの再確認でも一覧取得0.655秒、初回生成14.089秒、
  2枚目1.221秒で、画素・保存結果の一致と生成プロセス終了を確認した。
- 通常質問の親アプリの処理経路でも、LLMのみをスタブ化し、実際の
  設定済みuvコマンドで一覧取得・3ツールの登録を確認した。
- 計測スクリプトと詳細な検証報告を追加する。生のJSON・stderr・PNGは
  gitignore対象のdata/verification-lazy-loadに保存する。

確認の限界:
- Windowsのプロセス別VRAMはN/Aのため、GPU全体の使用量・プロセス一覧・
  tasklistによる終了確認で評価した。全体値には他プロセスの変動がある。
- 計測値は単一セッションの観測であり、統計的な速度保証ではない。
- ブラウザ操作と実LLMを含むチャット全体、および現在の設定で無効な
  ControlNetの実GPU生成は未実施。誘導生成・Inpaintのロード順は
  スタブを用いた自動テストで確認した。
</content>
</entry>
</feed>
