分数函数
Why Score Function?
之前，我们使用流匹配来训练流模型。为了训练扩散模型，我们则使用了一个不同的工具 分数函数 Score Function 。
在流匹配中，我们通过学习一个向量场来推动数据分布的演化。而在扩散模型中，我们需要一个能够描述数据分布局部结构的工具，这就是分数函数。
在训练一个简单的分类器时，我们训练一个输出各个类别维度分数的模型，然后使用Softmax函数将其归一化成概率分布，可以写成 p ( x ) = p ~ ( x ) Z p(x) = \frac{\tilde{p}(x)}{Z} p ( x ) = Z p ~ ( x ) p ~ ( x ) \tilde{p}(x) p ~ ( x ) Z = ∫ p ~ ( x ) d x Z = \int \tilde{p}(x) dx Z = ∫ p ~ ( x ) d x
而在扩散模型中，我们要做的是预测一整张图片状态的概率分布——不同于用ImageNet训练的只有1000种分类的分类器，我们需要预测H e i g h t × W i d t h × 3 Height \times Width \times 3 He i g h t × Wi d t h × 3 Z Z Z
分数函数的引入，正是为了优雅地绕过这一理论瓶颈。
分数函数的定义
对于任何概率分布 q ( x ) q(x) q ( x )
s ( x ) = ∇ x log q ( x ) s(x) = \nabla_x \log q(x)
s ( x ) = ∇ x log q ( x )
也就是x x x Z Z Z x x x ∇ x log p ( x ) = ∇ x log p ~ ( x ) − ∇ x log Z = ∇ x log p ~ ( x ) \nabla_x \log p(x) = \nabla_x \log \tilde{p}(x) - \nabla_x \log Z = \nabla_x \log \tilde{p}(x) ∇ x log p ( x ) = ∇ x log p ~ ( x ) − ∇ x log Z = ∇ x log p ~ ( x ) Z Z Z x x x
条件分数函数与边缘分数函数
在扩散模型与流匹配的数学描述中，演化过程并非静态的，而是由一个时间参数 t t t t = 0 t=0 t = 0 p i n i t p_{init} p ini t t = 1 t=1 t = 1 p d a t a p_{data} p d a t a
定义与演化
令 δ z \delta_z δ z z ∈ R d z \in \mathbb{R}^d z ∈ R d p t ( x ∣ z ) p_t(x|z) p t ( x ∣ z ) z z z t t t t = 0 t=0 t = 0 p 0 ( ⋅ ∣ z ) = p i n i t p_0(\cdot|z) = p_{init} p 0 ( ⋅ ∣ z ) = p ini t t = 1 t=1 t = 1 p 1 ( ⋅ ∣ z ) = δ z p_1(\cdot|z) = \delta_z p 1 ( ⋅ ∣ z ) = δ z ∇ log p t ( x ∣ z ) \nabla \log p_t(x|z) ∇ log p t ( x ∣ z )
相较于微观的条件演化，边缘概率路径 p t ( x ) p_t(x) p t ( x ) p d a t a ( z ) p_{data}(z) p d a t a ( z ) p t ( x ) = ∫ p t ( x ∣ z ) p d a t a ( z ) d z p_t(x) = \int p_t(x|z)p_{data}(z) dz p t ( x ) = ∫ p t ( x ∣ z ) p d a t a ( z ) d z ∇ log p t ( x ) \nabla \log p_t(x) ∇ log p t ( x )
边缘分布函数的导出
连接已知但局部的条件分数函数与未知但全局所需的边缘分数函数，是生成模型数学框架中的一大挑战。通过精妙的微积分与概率论变换，两者之间可以建立严密的积分恒等式。具体推导步骤如下 ：
根据对数求导法则 ∂ y log y = 1 y \partial_y \log y = \frac{1}{y} ∂ y log y = y 1
∇ log p t ( x ) = ∇ p t ( x ) p t ( x ) \nabla \log p_t(x) = \frac{\nabla p_t(x)}{p_t(x)}
∇ log p t ( x ) = p t ( x ) ∇ p t ( x )
将边缘分布的积分形式 p t ( x ) = ∫ p t ( x ∣ z ) p d a t a ( z ) d z p_t(x) = \int p_t(x|z)p_{data}(z) dz p t ( x ) = ∫ p t ( x ∣ z ) p d a t a ( z ) d z z z z ∇ \nabla ∇ x x x
∇ log p t ( x ) = ∇ ∫ p t ( x ∣ z ) p d a t a ( z ) d z p t ( x ) = ∫ ∇ p t ( x ∣ z ) p d a t a ( z ) d z p t ( x ) \nabla \log p_t(x) = \frac{\nabla \int p_t(x|z)p_{data}(z) dz}{p_t(x)} = \frac{\int \nabla p_t(x|z) p_{data}(z) dz}{p_t(x)}
∇ log p t ( x ) = p t ( x ) ∇ ∫ p t ( x ∣ z ) p d a t a ( z ) d z = p t ( x ) ∫ ∇ p t ( x ∣ z ) p d a t a ( z ) d z
接下来，进行一步关键的代数恒等变换，利用 ∇ p t ( x ∣ z ) = p t ( x ∣ z ) ∇ log p t ( x ∣ z ) \nabla p_t(x|z) = p_t(x|z) \nabla \log p_t(x|z) ∇ p t ( x ∣ z ) = p t ( x ∣ z ) ∇ log p t ( x ∣ z )
∇ log p t ( x ) = ∫ [ p t ( x ∣ z ) ∇ log p t ( x ∣ z ) ] p d a t a ( z ) d z p t ( x ) \nabla \log p_t(x) = \frac{\int \left[ p_t(x|z) \nabla \log p_t(x|z) \right] p_{data}(z) dz}{p_t(x)}
∇ log p t ( x ) = p t ( x ) ∫ [ p t ( x ∣ z ) ∇ log p t ( x ∣ z ) ] p d a t a ( z ) d z
重排项，将包含概率密度的部分组合在一起：
∇ log p t ( x ) = ∫ ∇ log p t ( x ∣ z ) p t ( x ∣ z ) p d a t a ( z ) p t ( x ) d z \nabla \log p_t(x) = \int \nabla \log p_t(x|z) \frac{p_t(x|z)p_{data}(z)}{p_t(x)} dz
∇ log p t ( x ) = ∫ ∇ log p t ( x ∣ z ) p t ( x ) p t ( x ∣ z ) p d a t a ( z ) d z
观察公式中作为积分权重的分数项 p t ( x ∣ z ) p d a t a ( z ) p t ( x ) \frac{p_t(x|z)p_{data}(z)}{p_t(x)} p t ( x ) p t ( x ∣ z ) p d a t a ( z ) p t ( z ∣ x ) p_t(z|x) p t ( z ∣ x ) x x x z z z
因此，宏观的边缘分数函数，本质上是微观条件分数函数在贝叶斯后验分布下的期望。即：位于状态空间坐标 x x x z z z z z z z z z
高斯路径下的解析解与向量场
条件分数函数的解析形式
设定连续可微且单调的噪声调度函数 α t \alpha_t α t β t \beta_t β t p 0 = p i n i t p_0=p_{init} p 0 = p ini t p 1 = δ z p_1=\delta_z p 1 = δ z α 0 = 0 , β 0 = 1 \alpha_0=0, \beta_0=1 α 0 = 0 , β 0 = 1 α 1 = 1 , β 1 = 0 \alpha_1=1, \beta_1=0 α 1 = 1 , β 1 = 0 α t z \alpha_t z α t z β t 2 I d \beta_t^2 I_d β t 2 I d
p t ( x ∣ z ) = N ( x ; α t z , β t 2 I d ) p_t(x|z) = \mathcal{N}(x; \alpha_t z, \beta_t^2 I_d)
p t ( x ∣ z ) = N ( x ; α t z , β t 2 I d )
对于多维高斯分布，其密度函数的形式为 ( 2 π β t 2 ) − d 2 exp ( − ∥ x − α t z ∥ 2 2 β t 2 ) (2\pi\beta_t^2)^{-\frac{d}{2}} \exp\left( -\frac{\|x - \alpha_t z\|^2}{2\beta_t^2} \right) ( 2 π β t 2 ) − 2 d exp ( − 2 β t 2 ∥ x − α t z ∥ 2 ) x x x
∇ log p t ( x ∣ z ) = ∇ x [ − d 2 log ( 2 π β t 2 ) − 1 2 β t 2 ∥ x − α t z ∥ 2 ] = − x − α t z β t 2 \nabla \log p_t(x|z) = \nabla_x \left[ -\frac{d}{2} \log(2\pi\beta_t^2) - \frac{1}{2\beta_t^2} \|x - \alpha_t z\|^2 \right] = -\frac{x - \alpha_t z}{\beta_t^2}
∇ log p t ( x ∣ z ) = ∇ x [ − 2 d log ( 2 π β t 2 ) − 2 β t 2 1 ∥ x − α t z ∥ 2 ] = − β t 2 x − α t z
这一解析公式展示了高斯扩散过程的核心特性：条件分数函数是一个关于当前状态 x x x z z z α t z \alpha_t z α t z β t 2 \beta_t^2 β t 2
向量场与分数函数的数学等价性 在流匹配的语境下，驱动概率密度演化的核心引擎是常微分方程及其对应的目标向量场 u t t a r g e t ( x ∣ z ) u_t^{target}(x|z) u t t a r g e t ( x ∣ z )
u t t a r g e t ( x ∣ z ) = ( α ˙ t − β ˙ t β t α t ) z + β ˙ t β t x u_t^{target}(x|z) = \left( \dot{\alpha}_t - \frac{\dot{\beta}_t}{\beta_t} \alpha_t \right) z + \frac{\dot{\beta}_t}{\beta_t} x
u t t a r g e t ( x ∣ z ) = ( α ˙ t − β t β ˙ t α t ) z + β t β ˙ t x
通过巧妙的代数配凑，可以将条件分数函数 ∇ log p t ( x ∣ z ) \nabla \log p_t(x|z) ∇ log p t ( x ∣ z ) a t a_t a t b t b_t b t
a t = β t 2 α ˙ t α t − β ˙ t β t a_t = \beta_t^2 \frac{\dot{\alpha}_t}{\alpha_t} - \dot{\beta}_t \beta_t
a t = β t 2 α t α ˙ t − β ˙ t β t
b t = α ˙ t α t b_t = \frac{\dot{\alpha}_t}{\alpha_t}
b t = α t α ˙ t
由此可得：
u t t a r g e t ( x ∣ z ) = ( β t 2 α ˙ t α t − β ˙ t β t ) ( α t z − x β t 2 ) + α ˙ t α t x u_t^{target}(x|z) = \left( \beta_t^2 \frac{\dot{\alpha}_t}{\alpha_t} - \dot{\beta}_t \beta_t \right) \left( \frac{\alpha_t z - x}{\beta_t^2} \right) + \frac{\dot{\alpha}_t}{\alpha_t} x
u t t a r g e t ( x ∣ z ) = ( β t 2 α t α ˙ t − β ˙ t β t ) ( β t 2 α t z − x ) + α t α ˙ t x
u t t a r g e t ( x ∣ z ) = a t ∇ log p t ( x ∣ z ) + b t x u_t^{target}(x|z) = a_t \nabla \log p_t(x|z) + b_t x
u t t a r g e t ( x ∣ z ) = a t ∇ log p t ( x ∣ z ) + b t x
由于这一关系对所有的 z z z a t a_t a t b t b_t b t
u t t a r g e t ( x ) = a t ∇ log p t ( x ) + b t x u_t^{target}(x) = a_t \nabla \log p_t(x) + b_t x
u t t a r g e t ( x ) = a t ∇ log p t ( x ) + b t x
它明确表明：在确定的高斯概率路径下，学习边缘目标向量场与学习边缘分数函数是完全等价的命题 。对于任何一个给定的模型输出，我们总是能够通过上述简单的线性变换，在常微分向量场和随机分数场之间无缝切换。
Denoiser 重参数化
对这一线性关系的进一步提炼，催生了所谓的 去噪器 Denoiser 视角。条件向量场与条件分数函数本质上都是关于目标 z z z x x x D t ( x ) D_t(x) D t ( x )
D t ( x ) = ∫ z p t ( x ∣ z ) p d a t a ( z ) p t ( x ) d z = E z ∣ x [ z ] D_t(x) = \int z \frac{p_t(x|z)p_{data}(z)}{p_t(x)} dz = \mathbb{E}_{z|x}[z]
D t ( x ) = ∫ z p t ( x ) p t ( x ∣ z ) p d a t a ( z ) d z = E z ∣ x [ z ]
根据等价推导，我们只需获得去噪器对最优原始图像的预测，就能立即恢复出无条件向量场和分数函数。在深度学习的工程实践中，由于分数函数在纯噪声阶段其模长可能极大（引发梯度爆炸），直接让神经网络预测分数有时会在数值上显得脆弱。而预测有界的原始图像（归一化至 [ − 1 , 1 ] [-1, 1] [ − 1 , 1 ]
基于 SDE 的概率采样
在深刻理解了 ODE 体系中向量场的性质后，我们必然要将目光投向更具泛化性和鲁棒性的随机微分方程体系。扩散模型的精髓之一，就在于其不仅能构建平滑的确定性曲线，更能在高维空间中运用扩散原理，通过引入并对消随机噪声，探索并生成更高质量、更多样化的样本 。
SDE Extension Trick
可以将确定性的常微分方程轨迹扩展为携带随机扰动项的概率轨迹，而该随机轨迹在任意宏观时刻其截面分布依然精准匹配既定的边缘概率路径 p t ( x ) p_t(x) p t ( x ) σ t ≥ 0 \sigma_t \ge 0 σ t ≥ 0
d X t = [ u t t a r g e t ( X t ) + σ t 2 2 ∇ log p t ( X t ) ] d t + σ t d W t dX_t = \left[ u_t^{target}(X_t) + \frac{\sigma_t^2}{2} \nabla \log p_t(X_t) \right] dt + \sigma_t dW_t
d X t = [ u t t a r g e t ( X t ) + 2 σ t 2 ∇ log p t ( X t ) ] d t + σ t d W t
这里的初始条件为 X 0 ∼ p i n i t X_0 \sim p_{init} X 0 ∼ p ini t σ t d W t \sigma_t dW_t σ t d W t σ t 2 2 ∇ log p t ( X t ) \frac{\sigma_t^2}{2} \nabla \log p_t(X_t) 2 σ t 2 ∇ log p t ( X t )
分数函数 ∇ log p t ( X t ) \nabla \log p_t(X_t) ∇ log p t ( X t ) σ t 2 2 ∇ log p t ( X t ) \frac{\sigma_t^2}{2} \nabla \log p_t(X_t) 2 σ t 2 ∇ log p t ( X t ) σ t 2 \sigma_t^2 σ t 2 u t t a r g e t u_t^{target} u t t a r g e t
Fokker-Planck 方程
要从数学上绝对严密地证明“SDE 扩展方程的宏观分布就是 p t ( x ) p_t(x) p t ( x )
FPE 是一阶偏微分方程，它精确描述了处于受随机力（布朗运动）与确定性势场作用下的粒子，其空间位置的概率密度函数随时间的全局演化法则。该方程在由微观单一过程到宏观统计力学的桥接中发挥着不可替代的作用 。
对于一般的 ITO SDE 形式：d X t = μ t ( X t ) d t + σ t d W t dX_t = \mu_t(X_t) dt + \sigma_t dW_t d X t = μ t ( X t ) d t + σ t d W t
∂ t p t ( x ) = − ∇ ⋅ ( p t ( x ) μ t ( x ) ) + σ t 2 2 Δ p t ( x ) \partial_t p_t(x) = -\nabla \cdot (p_t(x) \mu_t(x)) + \frac{\sigma_t^2}{2} \Delta p_t(x)
∂ t p t ( x ) = − ∇ ⋅ ( p t ( x ) μ t ( x )) + 2 σ t 2 Δ p t ( x )
我们将其分为两个具备深刻直觉意涵的物理模块进行拆解分析 ：
对流/漂移分量 Drift Term [− ∇ ⋅ ( p t μ t ) -\nabla \cdot (p_t \mu_t) − ∇ ⋅ ( p t μ t ) μ t \mu_t μ t ∇ ⋅ ( ⋅ ) \nabla \cdot (\cdot) ∇ ⋅ ( ⋅ ) d i v ( ⋅ ) div(\cdot) d i v ( ⋅ ) − ∇ ⋅ ( p t μ t ) -\nabla \cdot (p_t \mu_t) − ∇ ⋅ ( p t μ t ) 扩散分量 Diffusion Term [σ t 2 2 Δ p t ( x ) \frac{\sigma_t^2}{2} \Delta p_t(x) 2 σ t 2 Δ p t ( x ) Δ = ∇ ⋅ ∇ = ∑ ∂ 2 ∂ x i 2 \Delta = \nabla \cdot \nabla = \sum \frac{\partial^2}{\partial x_i^2} Δ = ∇ ⋅ ∇ = ∑ ∂ x i 2 ∂ 2
现在利用 FPE 证明 SDE Extension Trick。将 SDE 扩展技巧中定制的漂移场代入 FPE：
μ t ( x ) = u t t a r g e t ( x ) + σ t 2 2 ∇ log p t ( x ) \mu_t(x) = u_t^{target}(x) + \frac{\sigma_t^2}{2} \nabla \log p_t(x)
μ t ( x ) = u t t a r g e t ( x ) + 2 σ t 2 ∇ log p t ( x )
计算 FPE 的对流项：
− ∇ ⋅ ( p t ( u t t a r g e t + σ t 2 2 ∇ log p t ) ) -\nabla \cdot \left( p_t \left( u_t^{target} + \frac{\sigma_t^2}{2} \nabla \log p_t \right) \right)
− ∇ ⋅ ( p t ( u t t a r g e t + 2 σ t 2 ∇ log p t ) )
展开散度：
= − ∇ ⋅ ( p t u t t a r g e t ) − σ t 2 2 ∇ ⋅ ( p t ∇ log p t ) = -\nabla \cdot (p_t u_t^{target}) - \frac{\sigma_t^2}{2} \nabla \cdot (p_t \nabla \log p_t)
= − ∇ ⋅ ( p t u t t a r g e t ) − 2 σ t 2 ∇ ⋅ ( p t ∇ log p t )
关键在此刻发生：根据梯度的对数法则 ∇ log p t = ∇ p t p t \nabla \log p_t = \frac{\nabla p_t}{p_t} ∇ log p t = p t ∇ p t p t ∇ log p t = ∇ p t p_t \nabla \log p_t = \nabla p_t p t ∇ log p t = ∇ p t
− σ t 2 2 ∇ ⋅ ( ∇ p t ) = − σ t 2 2 Δ p t -\frac{\sigma_t^2}{2} \nabla \cdot (\nabla p_t) = -\frac{\sigma_t^2}{2} \Delta p_t
− 2 σ t 2 ∇ ⋅ ( ∇ p t ) = − 2 σ t 2 Δ p t
综上，我们将修正后的漂移项的净流入量完全拆解为：
− ∇ ⋅ ( p t u t t a r g e t ) − σ t 2 2 Δ p t -\nabla \cdot (p_t u_t^{target}) - \frac{\sigma_t^2}{2} \Delta p_t
− ∇ ⋅ ( p t u t t a r g e t ) − 2 σ t 2 Δ p t
将其代回完整的 FPE 右侧：
∂ t p t = ( − ∇ ⋅ ( p t u t t a r g e t ) − σ t 2 2 Δ p t ) + σ t 2 2 Δ p t \partial_t p_t = \left( -\nabla \cdot (p_t u_t^{target}) - \frac{\sigma_t^2}{2} \Delta p_t \right) + \frac{\sigma_t^2}{2} \Delta p_t
∂ t p t = ( − ∇ ⋅ ( p t u t t a r g e t ) − 2 σ t 2 Δ p t ) + 2 σ t 2 Δ p t
热扩散拉普拉斯项 σ t 2 2 Δ p t \frac{\sigma_t^2}{2} \Delta p_t 2 σ t 2 Δ p t
∂ t p t = − ∇ ⋅ ( p t u t t a r g e t ) \partial_t p_t = -\nabla \cdot (p_t u_t^{target})
∂ t p t = − ∇ ⋅ ( p t u t t a r g e t )
而这正是对应于纯 ODE 无噪声流模型的连续性方程 ！因为偏微分方程系统的解具备存在性与唯一性，既然引入极强随机行为的动态 SDE 体系与无噪声稳定流动的纯 ODE 体系，在空间任意一点的宏观分布随时间偏导数的演变规律完全一致，这就构成了严密的数学铁证：SDE 扩展轨道所对应的概率轨迹与目标一致，随机性不会改变系统的既定演变宏观路径。
Langevin Dynamics
当我们期望概率路径是不随时间变化的恒定目标分布（即 p t = p p_t = p p t = p ∂ t p t = 0 \partial_t p_t = 0 ∂ t p t = 0 u t t a r g e t = 0 u_t^{target} = 0 u t t a r g e t = 0
将 u t t a r g e t = 0 u_t^{target} = 0 u t t a r g e t = 0
d X t = σ t 2 2 ∇ log p ( X t ) d t + σ t d W t dX_t = \frac{\sigma_t^2}{2} \nabla \log p(X_t) dt + \sigma_t dW_t
d X t = 2 σ t 2 ∇ log p ( X t ) d t + σ t d W t
这一公式即为 过阻尼朗之万方程 Overdamped Langevin Equation 。若保留动量与惯性项，则为 欠阻尼朗之万方程 Underdamped Langevin Equation ，其在改善高频图像生成质量方面展现出特定潜力。在马尔可夫链蒙特卡罗（MCMC）与分子动力学模拟领域，这是一个用来模拟并采样复杂平稳分布的黄金标准算法。根据福克-普朗克分析，由于 ∂ t p = 0 \partial_t p = 0 ∂ t p = 0 p p p
分数匹配
不论是使用 ODE 的确定性采样，还是使用包含朗之万效应的 SDE 采样策略，一切的基点都建立在我们拥有完美已知的边缘分数函数 ∇ log p t ( x ) \nabla \log p_t(x) ∇ log p t ( x ) p d a t a p_{data} p d a t a s t θ : R d × → R d s_t^\theta: \mathbb{R}^d \times \rightarrow \mathbb{R}^d s t θ : R d × → R d
显式分数匹配
最直观的求解方案是最小化神经网络预测与真实边缘分数函数之间的欧几里得距离，这被称为 显式分数匹配 Explicit Score Matching ：
L S M ( θ ) = E t ∼ U n i f , x ∼ p t [ ∥ s t θ ( x ) − ∇ log p t ( x ) ∥ 2 ] \mathcal{L}_{SM}(\theta) = \mathbb{E}_{t \sim Unif, x \sim p_t} \left[ \| s_t^\theta(x) - \nabla \log p_t(x) \|^2 \right]
L SM ( θ ) = E t ∼ U ni f , x ∼ p t [ ∥ s t θ ( x ) − ∇ log p t ( x ) ∥ 2 ]
这个损失函数遭遇了两个致命的障碍：第一，在计算中它仍然强制要求知晓不可知的全局目标 ∇ log p t ( x ) \nabla \log p_t(x) ∇ log p t ( x )
去噪分数匹配
2011年，Vincent 在探讨去噪自编码器理论时提出了一项极具震撼力的数学联系——去噪分数匹配 Denoising Score Matching 。他揭示出，我们无需去硬碰硬地匹配那个充满不确定性的复杂宏观边缘分布的分数，而是可以将问题转化到微观的已知物理空间中：去拟合加噪过程的“条件分数函数” 。
定义更为温和且容易计算的条件去噪分数匹配损失：
L C S M ( θ ) = E t ∼ U n i f , z ∼ p d a t a , x ∼ p t ( ⋅ ∣ z ) [ ∥ s t θ ( x ) − ∇ log p t ( x ∣ z ) ∥ 2 ] \mathcal{L}_{CSM}(\theta) = \mathbb{E}_{t \sim Unif, z \sim p_{data}, x \sim p_t(\cdot|z)} \left[ \| s_t^\theta(x) - \nabla \log p_t(x|z) \|^2 \right]
L CSM ( θ ) = E t ∼ U ni f , z ∼ p d a t a , x ∼ p t ( ⋅ ∣ z ) [ ∥ s t θ ( x ) − ∇ log p t ( x ∣ z ) ∥ 2 ]
与 L S M \mathcal{L}_{SM} L SM z z z t t t x x x ∇ log p t ( x ∣ z ) \nabla \log p_t(x|z) ∇ log p t ( x ∣ z )
因此我们得到下面这个定理：
边缘分数匹配损失等同于去噪分数匹配损失加上一个常数项 ，即 L S M ( θ ) = L C S M ( θ ) + C \mathcal{L}_{SM}(\theta) = \mathcal{L}_{CSM}(\theta) + C L SM ( θ ) = L CSM ( θ ) + C
这宣告了两者对神经网络参数 θ \theta θ L C S M \mathcal{L}_{CSM} L CSM L S M \mathcal{L}_{SM} L SM L S M \mathcal{L}_{SM} L SM E t ∼ U n i f , x ∼ p t \mathbb{E}_{t \sim Unif, x \sim p_t} E t ∼ U ni f , x ∼ p t
将期望积分算子显式展开，并且利用前面讨论过的贝叶斯重排公式 ∇ log p t ( x ) = ∫ ∇ log p t ( x ∣ z ) p t ( x ∣ z ) p d a t a ( z ) p t ( x ) d z \nabla \log p_t(x) = \int \nabla \log p_t(x|z) \frac{p_t(x|z)p_{data}(z)}{p_t(x)} dz ∇ log p t ( x ) = ∫ ∇ log p t ( x ∣ z ) p t ( x ) p t ( x ∣ z ) p d a t a ( z ) d z
∫ 0 1 ∫ x p t ( x ) ⋅ s t θ ( x ) T ⋅ [ ∫ z ∇ log p t ( x ∣ z ) p t ( x ∣ z ) p d a t a ( z ) p t ( x ) d z ] d x d t \int_0^1 \int_x p_t(x) \cdot s_t^\theta(x)^T \cdot \left[ \int_z \nabla \log p_t(x|z) \frac{p_t(x|z)p_{data}(z)}{p_t(x)} dz \right] dx dt
∫ 0 1 ∫ x p t ( x ) ⋅ s t θ ( x ) T ⋅ [ ∫ z ∇ log p t ( x ∣ z ) p t ( x ) p t ( x ∣ z ) p d a t a ( z ) d z ] d x d t
极为神奇的是，积分域外的配分因子 p t ( x ) p_t(x) p t ( x )
∫ 0 1 ∫ x ∫ z s t θ ( x ) T ∇ log p t ( x ∣ z ) p t ( x ∣ z ) p d a t a ( z ) d z d x d t \int_0^1 \int_x \int_z s_t^\theta(x)^T \nabla \log p_t(x|z) p_t(x|z) p_{data}(z) dz dx dt
∫ 0 1 ∫ x ∫ z s t θ ( x ) T ∇ log p t ( x ∣ z ) p t ( x ∣ z ) p d a t a ( z ) d z d x d t
重新按照概率组合期望的语境整理积分，这正是联合分布下的期望：E t ∼ U n i f , z ∼ p d a t a , x ∼ p t ( ⋅ ∣ z ) \mathbb{E}_{t \sim Unif, z \sim p_{data}, x \sim p_t(\cdot|z)} E t ∼ U ni f , z ∼ p d a t a , x ∼ p t ( ⋅ ∣ z )
通过这种替换，整个平方面积误差展开后的核心难点被优雅替换。将 L S M \mathcal{L}_{SM} L SM C C C x x x z z z
DDPM
将精妙的去噪分数匹配理论彻底带入工程实用的阶段，离不开对目标公式进一步的去量纲与平滑重构。我们再次考察应用最为广泛的高斯条件概率路径 p t ( x ∣ z ) = N ( x ; α t z , β t 2 I d ) p_t(x|z) = \mathcal{N}(x; \alpha_t z, \beta_t^2 I_d) p t ( x ∣ z ) = N ( x ; α t z , β t 2 I d )
回忆先前的结论，条件分数的解析形式为 − x − α t z β t 2 -\frac{x - \alpha_t z}{\beta_t^2} − β t 2 x − α t z x = α t z + β t ϵ x = \alpha_t z + \beta_t \epsilon x = α t z + β t ϵ ϵ ∼ N ( 0 , I d ) \epsilon \sim \mathcal{N}(0, I_d) ϵ ∼ N ( 0 , I d )
将由噪音重组成的 x x x
∇ log p t ( x ∣ z ) = − ( α t z + β t ϵ ) − α t z β t 2 = − β t ϵ β t 2 = − ϵ β t \nabla \log p_t(x|z) = -\frac{(\alpha_t z + \beta_t \epsilon) - \alpha_t z}{\beta_t^2} = -\frac{\beta_t \epsilon}{\beta_t^2} = -\frac{\epsilon}{\beta_t}
∇ log p t ( x ∣ z ) = − β t 2 ( α t z + β t ϵ ) − α t z = − β t 2 β t ϵ = − β t ϵ
代入先前提及的去噪分数匹配损失 DSM：
L C S M ( θ ) = E t , z , ϵ [ ∥ s t θ ( x ) + ϵ β t ∥ 2 ] = E t , z , ϵ [ 1 β t 2 ∥ β t s t θ ( x ) + ϵ ∥ 2 ] \mathcal{L}_{CSM}(\theta) = \mathbb{E}_{t, z, \epsilon} \left[ \left\| s_t^\theta(x) + \frac{\epsilon}{\beta_t} \right\|^2 \right] = \mathbb{E}_{t, z, \epsilon} \left[ \frac{1}{\beta_t^2} \left\| \beta_t s_t^\theta(x) + \epsilon \right\|^2 \right]
L CSM ( θ ) = E t , z , ϵ [ s t θ ( x ) + β t ϵ 2 ] = E t , z , ϵ [ β t 2 1 β t s t θ ( x ) + ϵ 2 ]
此时出现了一个关键的工程分叉点：在深度学习实践中，如果强行让网络去预测实际的分数值 s t θ ( x ) s_t^\theta(x) s t θ ( x ) t ≈ 0 t \approx 0 t ≈ 0 β t \beta_t β t ϵ t θ ( x ) \epsilon_t^\theta(x) ϵ t θ ( x )
令 ϵ t θ ( x ) = − β t s t θ ( x ) \epsilon_t^\theta(x) = -\beta_t s_t^\theta(x) ϵ t θ ( x ) = − β t s t θ ( x ) 1 β t 2 \frac{1}{\beta_t^2} β t 2 1
L D D P M ( θ ) = E t ∼ U n i f , z ∼ p d a t a , ϵ ∼ N ( 0 , I d ) [ ∥ ϵ t θ ( α t z + β t ϵ ) − ϵ ∥ 2 ] \mathcal{L}_{DDPM}(\theta) = \mathbb{E}_{t \sim Unif, z \sim p_{data}, \epsilon \sim \mathcal{N}(0, I_d)} \left[ \left\| \epsilon_t^\theta(\alpha_t z + \beta_t \epsilon) - \epsilon \right\|^2 \right]
L DD PM ( θ ) = E t ∼ U ni f , z ∼ p d a t a , ϵ ∼ N ( 0 , I d ) [ ϵ t θ ( α t z + β t ϵ ) − ϵ 2 ]
它的算法很简洁：
