01 - 扩散模型概述¶

原始画作 ──→ 加一点墨水 ──→ 再加一点 ──→ ... ──→ 完全模糊
   ↑                                              ↓
  清晰                                          纯噪声
   │                                              │
   └──────── 学习反向过程：从纯噪声恢复画作 ────────┘

生成模型
├── 显式密度模型
│   ├── 自回归模型（PixelCNN、GPT）
│   └── 流模型（Normalizing Flows）
│
├── 隐式密度模型
│   ├── GAN（生成对抗网络）
│   ├── VAE（变分自编码器）
│   └── 扩散模型（Diffusion Models）← 我们在这里
│
└── 能量模型
    └── 基于能量的模型（EBM）

x_0 → x_1 → x_2 → ... → x_T
 │     │     │          │
data  noisy noisy      pure noise

x_T → x_{T-1} → ... → x_1 → x_0
 │       │            │     │
noise  less noisy     ...   data

训练阶段：
┌─────────────────────────────────────────────────────────────┐
│  数据 x_0 ──→ [前向过程] ──→ x_t (加噪图像)                  │
│                              ↓                              │
│                         [神经网络]                          │
│                         预测噪声 ε_θ                        │
│                              ↓                              │
│                         对比真实噪声 ε                       │
│                              ↓                              │
│                         计算损失                             │
│                              ↓                              │
│                         更新参数                             │
└─────────────────────────────────────────────────────────────┘

采样阶段：
┌─────────────────────────────────────────────────────────────┐
│  随机噪声 x_T ~ N(0, I)                                     │
│       ↓                                                     │
│  for t = T, T-1, ..., 1:                                    │
│       ↓                                                     │
│    [神经网络] 预测噪声 ε_θ(x_t, t)                          │
│       ↓                                                     │
│    去噪得到 x_{t-1}                                         │
│       ↓                                                     │
│  输出 x_0 (生成图像)                                         │
└─────────────────────────────────────────────────────────────┘

2015: 扩散概率模型首次提出（Sohl-Dickstein et al.）
       └── 理论框架，但效果不佳

2020: DDPM（Denoising Diffusion Probabilistic Models）
       └── 突破！生成质量接近GAN
       └── Ho et al., "Denoising Diffusion Probabilistic Models"

2020: DDIM（Denoising Diffusion Implicit Models）
       └── 加速采样，10倍提速

2021: Classifier Guidance / Classifier-Free Guidance
       └── 更好的条件控制

2022: Latent Diffusion Models (LDM)
       └── 在潜空间进行扩散，效率大幅提升
       └── Stable Diffusion基于此

2022+: 应用爆发
       ├── DALL-E 2 (OpenAI)
       ├── Stable Diffusion (Stability AI)
       ├── Midjourney
       └── Imagen (Google)

Phase 1: 数学基础（Week 1-2）
├── 概率论基础
├── 随机过程与马尔可夫链
├── 变分推断基础
└── 得分匹配与能量模型

Phase 2: 核心原理（Week 2-3）
├── 扩散模型概述 ← 你现在在这里
├── 前向扩散过程
├── 反向去噪过程
├── 训练目标推导
├── 采样算法详解
└── 与VAE和GAN的关系

Phase 3: 动手实现（Week 3-4）
├── 环境搭建与数据准备
├── UNet架构详解
├── 时间步嵌入
├── 完整DDPM实现
├── 训练流程与技巧
└── 采样与图像生成

Phase 4: 进阶应用（Week 5）
├── DDIM加速采样
├── 条件生成与引导
├── 潜空间扩散模型LDM
├── 稳定扩散Stable Diffusion
└── 其他变体介绍

Phase 5: 实战项目（Week 6）
├── 项目1: 手写数字生成
├── 项目2: 自定义图像生成
└── 项目3: 文本到图像生成