VAE 原理

似然生成模型：给定一个数据集 $x_D$，训练使得模型最大化似然 $p_\phi(x_D)$。

1. ELBO 的定义和公式

VAE 的目标是对数据 $x$ 的分布 $p(x)$ 进行建模，但直接优化 $p(x)$ 通常不可行。通过引入潜变量 $z$，对对数边际似然 $\log p(x)$ 进行变分下界（ELBO）的近似：

$$ \log p(x) = \mathbb{E}_ {q_\phi(z|x)} \left[\log \frac{p(x, z)}{q_\phi(z|x)} \right] + \text{KL}\left[q_\phi(z|x) | p(z|x)\right] $$

  • 第一项是 ELBO，即对 $\log p(x)$ 的下界：

$$ \text{ELBO} = \mathbb{E}_ {q_\phi(z|x)}[\log p(x, z) - \log q_\phi(z|x)] $$

  • 第二项是 KL 散度，用于衡量模型 $q_\phi(z|x)$ 和真实后验 $p(z|x)$ 的差异。

2. ELBO 和 $\log p(x)$ 的关系

ELBO 是 $\log p(x)$ 的下界，差值由 KL 散度决定：

$$ \log p(x) - \text{ELBO} = \text{KL} \left[q_\phi(z|x) | p(z|x)\right] $$

如果 KL 散度为 0，意味着 $q_\phi(z|x) = p(z|x)$，此时 ELBO 与 $\log p(x)$ 相等。

3. 为什么优化 VAE 等价于最大化 ELBO？

VAE 的建模框架是通过 encoder（推断网络） $q_\phi(z|x)$ 和 decoder（生成网络） $p_\theta(x|z)$，学习数据 $x$ 与潜变量 $z$ 的关系。

  • $q_\phi(z|x)$：近似 $p(z|x)$
  • $p_\theta(x|z)$：从潜变量生成数据

通过最大化 ELBO：

  • 第一项（重构误差）： 提升模型 $p_\theta(x|z)$ 对数据的生成质量。
  • 第二项（KL 散度）： 减少 $q_\phi(z|x)$ 与真实分布 $p(z|x)$ 的偏差。

4. KL 散度的意义

  • KL 散度反映了 encoder $q_\phi(z|x)$ 对真实后验 $p(z|x)$ 的拟合程度。
  • 目标：最小化 KL 散度，使得 $q_\phi(z|x)$ 尽可能接近 $p(z|x)$。
  • 限制：直接优化 KL 散度不可行，因为真实分布 $p(z|x)$ 是未知的。

5. VAE 优化的核心

  • ELBO 最大化既可以：
    1. 提高生成器 $p_\theta(x|z)$ 的重构能力。
    2. 让推断器 $q_\phi(z|x)$ 更接近真实后验 $p(z|x)$。

这使得 VAE 能够有效学习数据的隐变量结构，完成生成与重构任务。

结论

VAE 的核心思想是通过最大化 ELBO，在生成数据 $x$ 和隐变量 $z$ 的关系中找到一个平衡：

  • KL 散度最小化 → encoder 近似真实后验
  • 重构误差最小化 → decoder 生成的样本逼近真实数据分布

ELBO（Evidence Lower Bound）

1. ELBO 的分解公式

通过链式法则和 KL 散度的定义，ELBO 被分解为两部分：

$$ \text{ELBO} = \mathbb{E}_ {q_\phi(z|x)}[\log p_\theta(x|z)] - D_\text{KL}[q_\phi(z|x) | p(z)] $$

  • 第一项（Reconstruction Term）：

    $$ \mathbb{E}_ {q_\phi(z|x)}[\log p_\theta(x|z)] $$

    • 表示从潜变量 $z$ 生成原始数据 $x$ 的能力。
    • 目标是最大化重构概率，即让生成的 $x$ 尽可能接近原始数据。

  • 第二项（Prior Matching Term）：

    $$ D_\text{KL}[q_\phi(z|x) | p(z)] $$

    • 表示 encoder 生成的潜变量 $z$ 的分布 $q_\phi(z|x)$ 和先验分布 $p(z)$ 之间的差异。
    • 目标是最小化 KL 散度，使得潜变量分布接近先验分布（通常是标准正态分布 $N(0, I)$）。

2. 两个部分的作用和优化目标

重构项（Reconstruction Term）

  • 作用：
    • 优化 decoder 的重构能力，确保从潜变量 $z$ 恢复出输入数据 $x$。
  • 优化目标：
    • 最大化 $\mathbb{E}_ {q_\phi(z|x)}[\log p_\theta(x|z)]$，提高生成质量。

先验匹配项（Prior Matching Term）

  • 作用：
    • 通过最小化 KL 散度，让 encoder 生成的潜变量分布 $q_\phi(z|x)$ 接近先验 $p(z)$。
  • 优化目标：
    • 最小化 $D_\text{KL}[q_\phi(z|x) | p(z)]$，确保隐变量空间的规范性。

3. 两部分如何协作？

  • 重构项：优化生成能力（decoder）
  • 先验匹配项：优化潜变量分布（encoder）

这两个部分是一个平衡过程：

  • 重构能力越强，样本越真实。
  • 潜变量越符合先验分布，生成过程越稳定且泛化能力更好。

4. 为什么需要先验匹配项？

如果去掉先验匹配项（KL 散度部分），VAE 会退化为普通自编码器（AE）：

  • AE 没有对潜变量空间进行规范化，生成器难以生成新样本。
  • 只能进行重构，而无法作为生成模型使用。

5. 总结

VAE 的 ELBO 分解为：

  • 重构项：提升生成器的质量。
  • 先验匹配项：保证潜变量分布的规范性。

通过最大化 ELBO，VAE 在生成质量与潜变量空间规范性之间取得平衡。

重参数化技巧（Reparameterization Trick）

1. 定义

重参数化技巧是 VAE 中用于解决随机采样导致参数不可导的问题的方法。通过引入一个可分解的噪声变量，使采样过程对模型参数可导，从而支持梯度反传。

2. 为什么需要重参数化？

在 VAE 中，潜变量 $z$ 从正态分布中采样：

$$ z \sim \mathcal{N}(\mu_\phi(x), \sigma_\phi^2(x)) $$

直接采样会导致采样过程（包含参数 $\phi$）不可导，无法优化模型参数。

3. 实现方法

通过重参数化，将采样写成确定性变换：

$$ z = \mu_\phi(x) + \sigma_\phi(x) \cdot \epsilon $$

其中：

  • $\mu_\phi(x)$：encoder 输出的均值
  • $\sigma_\phi(x)$：encoder 输出的标准差
  • $\epsilon \sim \mathcal{N}(0, I)$：从标准正态分布采样的独立噪声

关键点：

  • 分离随机性与参数：随机性来自 $\epsilon$，与网络参数 $\phi$ 无关。
  • 保持采样分布不变：经过变换后，$z$ 仍然符合原分布。

4. 好处

  • 可导性：采样过程对参数可导。
  • 优化效率：梯度计算高效。
  • 灵活性：适用于任意可微分采样分布。

5. 过程总结

  1. Encoder：
    • 输入 $x$，输出 $\mu_\phi(x)$ 和 $\sigma_\phi(x)$。
  2. 随机性分离：
    • 采样 $\epsilon \sim \mathcal{N}(0, I)$。
    • 计算 $z = \mu_\phi(x) + \sigma_\phi(x) \cdot \epsilon$。
  3. Decoder：
    • 使用 $z$ 生成数据 $x$ 的重构结果。

6. 总结

重参数化技巧是 VAE 的核心步骤，通过可导变换解决采样带来的优化问题，使 VAE 既保留随机性又能高效训练。