Target Concrete Score Matching: A Holistic Framework for Discrete Diffusion

一句话直觉

把离散扩散需要估计的统计量放回干净目标空间，可以更自然地接上奖励、偏好和自回归教师。

要解决什么，怎样做

TCSM提出target concrete score matching，核心是估计原始干净数据空间中目标分布的concrete score，而不是只围绕中间噪声空间构造目标。这样同一框架可连接离散扩散预训练、奖励或偏好后训练，以及从自回归模型蒸馏。

用于理解的离散比率示意是$r(x,x^{\prime})=p(x^{\prime})/p(x)$：相邻状态的概率比可代替连续空间的梯度信息。该式只帮助理解离散score的角色，不是论文完整训练公式。

和已有方法的区别

标准连续score通常是对输入求梯度；离散对象没有相同的微分结构，因此需要概率比等离散统计量。TCSM的重要设计是目标所在空间，使只接受干净文本的奖励或教师可参与训练。

阅读边界与局限

统一框架包含多个噪声、参数化和散度选择，不能从“统一”推出这些实例在有限数据下表现相同。奖励目标仍可能不准，离散扩散也仍受采样成本与近似误差限制。

自测

1. 为什么只接受完整干净文本的奖励函数，很难直接评价噪声中间状态？
2. 离散概率比与连续对数密度梯度有什么相似和不同？

小实验（自学设计）

构造两个位置的离散字符串分布，枚举每个字符串概率与单token替换比率。加入一个奖励并重新归一化目标，观察干净空间比率如何改变，再比较在不同噪声水平估计它的难度。

来源与核验

已核验原始论文摘要或官方论文记录，以上是导读级自学笔记，尚未逐节复核全文证明与实验。已核验2025原文摘要及作者机构的ICML 2025记录。

原论文或作者官方来源。本地研究清单提供了补充摘录；自测、小实验及分析性提醒为学习设计，不是论文报告的结果。