Stable Diffusion 3.5本地部署教程:从安装到出图的完整指南

为什么选择本地部署Stable Diffusion?

Stable Diffusion 3.5(以下简称SD3.5)是Stability AI于2025年底发布的最新一代开源图像生成模型。与Midjourney等云端工具相比,本地部署SD3.5有以下核心优势:

  • 完全免费:无订阅费用,生成次数无限制
  • 数据隐私:所有数据在本地处理,不上传任何内容到云端
  • 高度可控:通过LoRA、ControlNet、IP-Adapter等插件实现精准控制
  • 商业自由:SD3.5 Medium采用宽松的社区许可证,免费商用
  • 无限定制:海量社区模型和插件,满足各种专业需求

本教程将带你从零开始完成SD3.5的本地部署,全程约需30-60分钟(取决于网速和硬件配置)。

一、SD3.5 MMDiT架构简析

SD3.5采用了全新的MMDiT(Multimodal Diffusion Transformer)架构,这是与之前U-Net架构的根本性区别:

架构核心特点

  • 双流Transformer:文本和图像各自拥有独立的Transformer流,通过双向注意力机制进行交叉
  • Flow Matching:取代了传统的DDPM噪声调度器,训练和推理速度更快
  • 三级模型体系:SD3.5 Large(8B参数)、SD3.5 Medium(2.5B参数)、SD3.5 Turbo(推理加速版)

模型参数对比

模型 参数量 显存需求 生成速度 画质 推荐场景
SD3.5 Large 8B 12GB+ 约15秒/张 最高 专业创作/高画质需求
SD3.5 Medium 2.5B 8GB 约8秒/张 优秀 日常创作/推荐大多数用户
SD3.5 Turbo 2.5B 6GB 约2秒/张 良好 快速预览/批量生成

对于大多数用户,SD3.5 Medium是最佳选择——它在画质、速度和硬件需求之间取得了最佳平衡。

二、硬件要求

组件 最低要求 推荐配置 高性能配置
GPU NVIDIA 8GB显存(如RTX 3060) RTX 4070 Ti 12GB RTX 4090 24GB
CPU 4核/8线程 8核/16线程 16核/32线程
内存 16GB 32GB 64GB
硬盘 20GB SSD 100GB NVMe SSD 500GB NVMe SSD
操作系统 Windows 10 64位 Windows 11 / Ubuntu 22.04 同推荐

关键提示:AMD显卡用户也可以运行SD3.5,但性能约为同级别NVIDIA显卡的60%-70%,且部分插件兼容性较差。推荐使用NVIDIA显卡。

三、ComfyUI安装步骤

ComfyUI是当前最流行的SD3.5前端界面,以节点式工作流著称,灵活性和可定制性极强。

步骤1:安装Python环境

# 下载Python 3.10.x(推荐3.10.11)
# https://www.python.org/downloads/release/python-31011/
# 安装时勾选 "Add Python to PATH"

步骤2:下载ComfyUI

# 打开命令提示符/终端,执行:
git clone https://github.com/comfyanonymous/ComfyUI.git
cd ComfyUI

# 创建并激活虚拟环境
python -m venv venv
venv\Scriptsctivate  # Windows
# source venv/bin/activate  # Linux/Mac

步骤3:安装依赖

# 安装PyTorch(根据你的CUDA版本选择)
# CUDA 12.1 推荐:
pip install torch torchvision torchaudio --index-url https://download.pytorch.org/whl/cu121

# 安装ComfyUI依赖
pip install -r requirements.txt

步骤4:下载SD3.5 Medium模型

# 在ComfyUI目录下创建模型目录
mkdir -p models/checkpoints

# 从HuggingFace下载SD3.5 Medium
# 方式1:直接下载
# https://huggingface.co/stabilityai/stable-diffusion-3.5-medium

# 方式2:使用huggingface-cli
pip install huggingface_hub
huggingface-cli download stabilityai/stable-diffusion-3.5-medium   --local-dir models/checkpoints/sd35-medium   --local-dir-use-symlinks False

步骤5:启动ComfyUI

# 基础启动
python main.py

# 启用低显存模式(8GB显存推荐)
python main.py --lowvram

# 启用FP8精度(进一步降低显存占用)
python main.py --lowvram --fp8

启动后,在浏览器中打开 http://127.0.0.1:8188 即可看到ComfyUI的界面。

四、WebUI Forge安装(备选方案)

如果你更喜欢传统的WebUI界面,可以选择基于Forge的SD3.5前端:

# 下载WebUI Forge
git clone https://github.com/lllyasviel/stable-diffusion-webui-forge.git
cd stable-diffusion-webui-forge

# 安装依赖
pip install -r requirements_versions.txt
pip install -r requirements.txt

# 下载SD3.5模型到models/Stable-diffusion/目录

# 启动
python launch.py --lowvram --fp8

Forge的优势在于界面更直观、插件生态更丰富,适合从WebUI迁移过来的用户。但在工作流灵活性和性能优化方面,ComfyUI更具优势。

五、Prompt编写技巧

SD3.5的Prompt结构与之前版本有显著变化,采用了T5+CLIP双文本编码器:

基本Prompt模板

# 正向Prompt示例
a beautiful young woman with long flowing hair, standing in a sunlit meadow,
golden hour lighting, warm color palette, bokeh background,
shot on Canon EOS R5, 85mm f/1.2, highly detailed, 8K

# 反向Prompt(Negative Prompt)
blurry, low quality, distorted face, extra fingers, watermark,
text, deformed, bad anatomy, ugly

SD3.5 Prompt要点

  • 自然语言优先:SD3.5对自然语言描述的理解能力远超前代,不再需要大量”标签式”关键词
  • 构图在前:先描述主体位置、相机角度、镜头参数,再描述细节
  • 光照为核心:明确指定光照类型(golden hour、studio lighting、neon等)对画面效果影响巨大
  • 风格词放最后:如”photorealistic”、”anime style”、”oil painting”等放Prompt末尾效果更好

六、LoRA与ControlNet使用

LoRA(低秩适配器)

LoRA允许你在不修改基础模型的情况下,为特定风格或主题进行微调:

# ComfyUI中使用LoRA的节点配置
# 1. Load Checkpoint节点:加载SD3.5 Medium
# 2. Load LoRA节点:
#    - model_name: "your-lora-name.safetensors"
#    - strength_model: 0.8(推荐0.5-1.0之间)
#    - strength_clip: 0.8
# 3. CLIP Text Encode节点:编写Prompt

ControlNet

ControlNet允许你使用参考图(边缘图、深度图、姿态图等)来精确控制生成结果:

# ComfyUI中ControlNet工作流
# 1. 加载预处理器:Canny边缘检测 / Depth深度估计 / OpenPose姿态
# 2. 加载ControlNet模型(SD3.5专用版本)
# 3. 设置控制强度(推荐0.6-0.85)
# 4. 连接到采样器节点的positive条件

七、性能优化

如果你的硬件配置较低,以下优化方法可以显著提升体验:

优化方法 效果 适用场景
--lowvram 显存占用降低约40% 8GB显存
--fp8 显存占用再降约20%,画质损失极小 6-8GB显存
--fp16_e4m3fn 使用FP16替代FP32 所有配置
SD3.5 Turbo 推理速度提升5-8倍 快速预览
批处理(Batch Size=4) 充分利用GPU并行能力 12GB+显存
TAESD(轻量VAE) VAE解码速度提升2倍 所有配置

八、常见问题FAQ

Q1: 显存不足(OOM)怎么办?

依次尝试以下方案:① 使用SD3.5 Medium而非Large ② 添加 --lowvram --fp8 启动参数 ③ 降低生成分辨率至768×768 ④ 使用SD3.5 Turbo模型 ⑤ 添加 --medvram--tinyvram 参数。

Q2: 生成速度太慢?

推荐方案:① 更新至最新版CUDA(12.1+)② 使用SD3.5 Turbo进行预览 ③ 关闭不必要的后台程序 ④ 考虑升级GPU(RTX 4070 Ti性价比最高)。

Q3: 画面质量不满意?

建议:① 改用自然语言Prompt ② 使用高质量VAE(如SD3.5内置的sdxl_vae.safetensors)③ 添加LoRA增强风格 ④ 使用ControlNet精确控制构图 ⑤ 调整采样步数至25-35步。

Q4: ComfyUI启动报错?

最常见原因是Python版本不兼容——SD3.5要求Python 3.10.x。如果使用其他版本,可能出现torch编译失败或依赖冲突。建议卸载所有Python版本后重新安装3.10.11。

结语

Stable Diffusion 3.5的本地部署虽然比云端工具多了一些技术门槛,但换来的是完全免费、无限生成、高度可控的创作体验。随着ComfyUI生态的成熟和SD3.5自身架构的优化,本地AI绘画已经从”极客玩具”变成了”设计师工具”。希望这篇教程能帮助你顺利跑通SD3.5,开启AI绘画的创作之旅。

原文链接:https://www.jikeyum.com/105.html,转载请注明出处。
0

评论0

显示验证码
没有账号?注册  忘记密码?