DiffRGD: An Inference-Time Diffusion Guidance Through Riemannian Gradient Descent

一句话直觉

朝奖励梯度走一步虽然可能更符合目标，也可能把 latent 推到模型不熟悉的区域；需要同时考虑“往哪走”和“还能否待在合理区域”。

问题与机制

DiffRGD 针对扩散模型的推理时引导。普通可微目标直接修改 latent 容易破坏原有高斯结构，进而损害图像质量。作者把每个采样步写成由 latent 高斯分布诱导的球面流形约束优化，用黎曼梯度下降（RGD）求解。作为学习直觉，欧氏梯度可以包含离开约束面的分量，而流形优化按允许的几何方向移动；具体投影、步长及回到流形的算子应以正文为准。

与无约束 guidance 的差别

它不只是把步长变小，而是改变可行更新的几何。小步欧氏更新累积后仍可能偏离典型区域；几何约束则试图直接控制这种偏离。框架是即插即用的推理方法，无需为新目标微调生成器，但仍要能计算引导目标及所需导数。

阅读边界

保持某个球面约束不等于自动恢复完整高斯分布，理解论文时要核对“保持结构”的精确定义和维度假设。摘要报告图像恢复与条件生成上的大多数任务改善，不是所有扩散模型与所有目标的普遍保证。流匹配迁移仍需要单独分析。

自测

1. 向量范数保持不变，为什么不意味着联合分布完全不变？
2. 减小欧氏步长与限制更新切空间，在长期采样上有何不同？

小实验（自学设计）

在同一扩散采样器上对比普通奖励梯度、梯度裁剪与球面约束更新。除任务分数外记录 latent 范数、方向分布和生成多样性，并做相同梯度调用次数下的比较，以判断收益是否来自几何本身。

来源

论文原文与摘要。笔记中的自测与小实验为自学设计。

原清单摘录与附图（保留原始表述）

以下内容来自原研究清单，可能包含旧标题、待验证的推测或尚未纠正的摘要。附图也可能是个人或 AI 辅助示意，未独立核验其出处与推导；阅读时以本页上方核验说明和论文原文为准。

研究想法 #51

针对扩散模型推理时引导方法存在的分布漂移问题，提出DiffRGD框架：**将每个采样步建模为潜在高斯分布诱导的球面流形上的约束优化问题，通过黎曼梯度下降高效求解，显式保持潜在高斯结构。**作为即插即用方法可无缝集成到任意预训练扩散模型，在图像恢复和条件生成任务上优于先前方法，为扩散模型的可控对齐提供了分布感知方案。

---

研究想法 #80

针对扩散模型推理时引导方法存在的分布漂移问题，提出DiffRGD框架：将每个采样步建模为潜在高斯分布诱导的球面流形上的约束优化问题，通过黎曼梯度下降高效求解，显式保持潜在高斯结构。作为即插即用方法可无缝集成到任意预训练扩散模型，在图像恢复和条件生成任务上优于先前方法，为扩散模型的可控对齐提供了分布感知方案。