Refining Generative Process with Discriminator Guidance in Score-based Diffusion Models

一句话直觉

冻结已有扩散模型，再训练判别器估计生成分布与真实分布的差距，用这个差距修正采样score。

要解决什么，怎样做

Discriminator Guidance在score模型训练完后单独训练判别器，推理时给预训练score增加辅助项。原文摘要说明在最优判别器条件下，修正项能把模型score补向真实数据score。

等类先验下的教学关系是

$$D^*(x)=\frac{p_{data}(x)}{p_{data}(x)+p_{model}(x)},\qquad \log\frac{D^*}{1-D^*}=\log\frac{p_{data}}{p_{model}}.$$

对同一噪声时刻的$x$求梯度，就能看出log-odds为何对应score差。

和已有方法的区别

与GAN中生成器和判别器联合对抗训练不同，这里先冻结score网络再训练判别器，主要改变采样路径。它也与分类器引导不同：判别目标是真实/生成差异，而非某个语义类别。

阅读边界与局限

最优判别器只是理想条件，实际梯度可能失准或在分布外很不稳定。训练和采样噪声分布必须匹配；引导强度过大可能提高某个质量分数却损伤覆盖。

自测

1. 上述判别器等式为何依赖类先验？
2. 只在干净图像上学好的判别器，为什么未必能指导高噪声采样步？

小实验（自学设计）

在二维高斯混合上训练简易真实/生成判别器，画log-odds梯度与真实score差。分别减少数据量、改变类比例和放大引导系数，观察估计误差与样本覆盖。

来源与核验

已核验原始论文摘要或官方论文记录，以上是导读级自学笔记，尚未逐节复核全文证明与实验。清单年份2022对应预印本2211.17091；正式会议为ICML 2023，此处采用会议年份。

原论文或作者官方来源。本地研究清单提供了补充摘录；自测、小实验及分析性提醒为学习设计，不是论文报告的结果。