summaryrefslogtreecommitdiff
path: root/src
diff options
context:
space:
mode:
authortanaka takashi <isazaka@gmail.com>2026-09-12 18:52:14 +0900
committertanaka takashi <isazaka@gmail.com>2026-09-12 18:52:14 +0900
commit34fe9ead73abfa5ce50fd2351cca8a844099df36 (patch)
tree1c61ecc55ccfe68cfe1ede96c28d302b72b78e2b /src
parent3e47e9bddb5c859dec28cd39732979a5eeca51b8 (diff)
feat: CUDA 13.2でgenerate_imageの実GPU生成に対応
CPU版PyTorchが選択されていた依存設定を修正し、RTX 5050上でStable Diffusion 1.5のMCP generate_imageを実行できる構成へ更新。併せてVAEとLoRAの仕様・実装・テストを明確化した。 CUDA / 依存管理: - torch 2.14.0+cu132とtorchvision 0.29.0+cu132をruntime依存へ固定 - PyTorch CUDA 13.2のexplicit indexとtool.uv.sourcesをuv設定へ追加 - uv.lockをCUDA wheelに更新し、uv sync後もCPU版へ戻らないよう修正 - RTX 5050の認識、CUDA 13.2 runtime、GPU FP16演算を確認 モデル・オフライン実行: - model.root配下のhuggingface cacheをDiffusersへ明示的に渡すよう変更 - checkpoint、外部VAE、ControlNetのsingle-file loadをlocal_files_onlyで統一 - SD 1.5 checkpointと公式pipeline構成・tokenizerによるオフラインloadを確認 - data/config.generate-image.tomlにText-to-Image用最小設定を追加 - data/MODELS.mdにモデル出典、容量、SHA-256、cache構成、検証結果を記録 - 4.27GBのcheckpoint、cache、生成画像はGit管理対象外を維持 VAE / LoRA: - Stable Diffusion pipelineではVAE componentが必須であることを仕様・設計・設定文書に明記 - model.vaeはVAEの有無ではなく外部VAE差し替えの任意設定であることを明確化 - checkpoint内蔵VAEも外部VAEもない場合はpipeline初期化を失敗させる検証を追加 - 複数LoRAを起動時にロードし各weightでset_adaptersする既存動作を文書化 - generate_imageを含む全生成ツールへ設定済みLoRAが共通適用されることを明記 - 外部VAE差し替え、VAE欠落、複数LoRA適用のunit testを追加 動作確認: - 実backendとin-process MCP Clientを使うsmoke_generate_image.pyを追加 - RTX 5050でSD 1.5、512x512、20 stepsのgenerate_imageを実行 - PNG ImageContent返却とseed、size、mode、timestamp、処理時間metadataを確認 - GPU生成時間18.313秒 - pytest: 32 passed - Ruff lint/format: passed - Pyright: 0 errors, 0 warnings - uv lock check: passed
Diffstat (limited to 'src')
-rw-r--r--src/mcp_sd15/pipeline_factory.py12
1 files changed, 11 insertions, 1 deletions
diff --git a/src/mcp_sd15/pipeline_factory.py b/src/mcp_sd15/pipeline_factory.py
index cd92690..12d95ba 100644
--- a/src/mcp_sd15/pipeline_factory.py
+++ b/src/mcp_sd15/pipeline_factory.py
@@ -28,11 +28,13 @@ class PipelineFactory:
def create_base(self) -> Any:
torch, diffusers = self._runtime()
+ cache_dir = str(self.config.model.root / "huggingface")
try:
pipeline = diffusers.StableDiffusionPipeline.from_single_file(
str(self.config.model.checkpoint_path()),
torch_dtype=torch.float16,
local_files_only=True,
+ cache_dir=cache_dir,
)
vae_path = self.config.model.vae_path()
if vae_path is not None:
@@ -40,6 +42,11 @@ class PipelineFactory:
str(vae_path),
torch_dtype=torch.float16,
local_files_only=True,
+ cache_dir=cache_dir,
+ )
+ if getattr(pipeline, "vae", None) is None:
+ raise ConfigError(
+ "the checkpoint does not provide a VAE and no external VAE was loaded"
)
adapter_names: list[str] = []
adapter_weights: list[float] = []
@@ -69,7 +76,10 @@ class PipelineFactory:
torch, diffusers = self._runtime()
try:
return diffusers.ControlNetModel.from_single_file(
- str(path), torch_dtype=torch.float16, local_files_only=True
+ str(path),
+ torch_dtype=torch.float16,
+ local_files_only=True,
+ cache_dir=str(self.config.model.root / "huggingface"),
).to("cuda")
except Exception as exc:
raise ConfigError(f"failed to load ControlNet model {path}: {exc}") from exc