Beyond Optimal Transport: Model-Aligned Coupling for Flow Matching

一句话直觉

地图上最短的路线不一定是当前学习者最容易掌握的路线；为 flow matching 安排起终点配对也有类似问题。

问题与机制

Flow Matching 学习把源分布送到目标分布的向量场。随机耦合可能产生路径交叉；最优传输（OT）通过几何距离改进配对，却未必匹配模型偏好的运输方向。Model-Aligned Coupling（MAC）把模型预测误差纳入耦合选择，兼顾几何和可学习性，并以低误差的 top-k 比例筛选降低匹配成本。模型状态参与了“什么配对更好”的判断。

教学示意

简单直线路径可写作 $x_t=(1-t)x_0+tx_1$。换一组 $x_0,x_1$ 配对，端点边缘分布可以不变，但训练时看到的中间路径与速度目标会变。这是理解耦合的示例，不是 MAC 的完整代价函数。

与人类偏好对齐的区别

本篇的 model-aligned 指运输方向与模型可学习性的匹配，并非直接对齐人类奖励或审美偏好。它与研究清单的关系在于生成动力学基础：若后续偏好优化依赖运输轨迹，训练耦合也可能影响稳定性，但这是迁移思路，尚不是本文结论。

阅读边界

只挑低误差配对可能偏向容易样本，因此应核对选择比例、训练阶段和分布覆盖。few-step 生成质量的改善不能自动推出偏好优化中的奖励黑客更少；两者需要不同评测。

自测

1. 边缘分布相同，为什么不同耦合仍会改变向量场学习难度？
2. 几何最短与模型预测误差最低，什么时候可能冲突？

小实验（自学设计）

在二维混合高斯上比较随机、OT 与误差感知耦合，用相同网络和训练步数。画出配对路径、速度误差和少步采样结果，再检查低误差筛选是否遗漏小概率模式。

来源

论文原文与摘要。笔记中的自测与小实验为自学设计。

原清单摘录与附图（保留原始表述）

以下内容来自原研究清单，可能包含旧标题、待验证的推测或尚未纠正的摘要。附图也可能是个人或 AI 辅助示意，未独立核验其出处与推导；阅读时以本页上方核验说明和论文原文为准。

研究想法 #63

流匹配（Flow Matching，FM）是一种有效的框架，用于训练模型学习将样本从源分布传输到目标分布的向量场。为了训练模型，早期的FM方法采用随机耦合，这常导致路径交叉，使模型学习到非直线路径，进而需要较多的积分步骤才能生成高质量样本。为了解决这一问题，近期方法采用最优传输（Optimal Transport，OT）通过最小化几何距离来构建耦合，从而有助于减少路径交叉。然而，我们观察到，**这种基于几何的耦合不一定与模型偏好的轨迹一致，导致难以学习由这些耦合诱导的向量场，阻碍模型学习直线路径。基于此，我们提出了模型对齐耦合（Model-Aligned Coupling，MAC），这是一种有效的方法，不仅基于几何距离，还结合模型基于预测误差的偏好传输方向来匹配训练耦合。**为避免耗时的匹配过程，MAC提出选择预测误差最低的前$k$比例耦合进行训练。