达摩院 ICLR'26｜K-Flow：开启流匹配在K-幅度空间的探索新维度

DAMO开发者矩阵

43人浏览 · 2026-07-20 15:04:31

DAMO开发者矩阵 · 2026-07-20 15:04:31 发布

作者｜杜伟韬，阿里巴巴达摩院算法专家

引言：生成空间的新坐标系

在生成式AI的前沿探索中，流匹配（Flow Matching）已成为连接简单分布与复杂数据分布的高效桥梁。然而，如何在生成路径中实现精细的尺度控制，一直是研究的难点。

阿里达摩院（DAMO Academy）联合UC Berkeley推出的最新研究K-Flow，为我们提供了一个全新的视角：通过引入K-幅度空间（K-amplitude space），为流匹配所在的空间引入了一个可供探索的“新维度”——频率尺度

。

论文地址：https://openreview.net/forum?id=O224NIizhz&referrer=%5BAuthor+Console%5D%28%2Fgroup%3Fid%3DICLR.cc%2F2026%2FConference%2FAuthors%23your-submissions%29

核心范式：视觉分层与语义对齐的深度耦合

传统的生成模型往往在像素空间进行同步更新，这导致不同频带间存在严重的梯度竞争。K-Flow的核心创新在于将频率尺度

重新诠释为流动的时间

。

（一）结构化对齐的理论背景

语义信息的频率分布：自然图像的能量和关键语义信息（如全局形状、物体类别）主要集中在低中频段：
分层建模的优势：显式地将视觉模态进行频率分层，不仅符合人类从粗糙到细腻的认知过程，更有助于将视觉特征与文本Caption进行结构化对齐。通过这种方式，类别标签能够精准地作用于对应的低尺度分量，从而提升条件生成的受控性。

（二）局部化向量场：优化的艺术

[cite_start]K-Flow证明了在给定的尺度

下，生成路径的导数仅与当前激活的尺度带相关[cite: 223][cite_start]。这意味着模型在每一阶段只需专注于当前频带的拟合，将复杂的全空间优化分解为一系列局部频域的平滑过渡。

范式演进：从经典基底到数据驱动

K-Flow范式具有极强的普适性，它探索了如何通过不同的数学语言来定义这个“新维度”：

经典基底的探索：
- Fourier（傅里叶）：利用径向频率环带定义单一尺度参数
  
  。
- Wavelet（小波）：兼顾频率与空间局部化，完美匹配自然图像的层次结构。
- PCA（主成分分析）：基于数据特征分解的尺度定义，捕捉流形中的主要方向。

范式进阶（Frequency-Forcing）：最新的Frequency-Forcing[1]则是对K-Flow思想的深度延伸。它观察到K-Flow的“硬”约束会修改流轨迹，而Frequency-Forcing选择了一种更灵活的路径。

路径保留的像素流：保留标准的线性流匹配轨迹，通过异步时间调度，让低频信号作为“脚手架”先行成熟，以“forcing”的方式引导高频像素的生成。
可学习的小波包变换 (L-WPT)：不再依赖固定的Haar等基底，而是通过数据训练出一个能自动适配数据集统计特性的自强制信号（Self-forcing signal）。这种数据驱动的基底在性能上优于传统固定基底。

实验验证：精准受控的生成力量

（一）语义级的“精准手术”：非监督编辑

K-Flow赋予了开发者在无需任何微调（Zero-shot）的情况下，对生成内容进行频率控制的能力：

修改语义，保留细节：固定高频噪声。你会发现人物的五官特征（眼睛形状、微笑弧度）保持不变，但人物的年龄、发型甚至背景却发生了显著变化。
固定身份，修改表情：固定低频噪声。人物的身份和背景色调保持恒定，而面部表情等高频细节则随噪声变换而更替。

（二）标签丢弃实验：验证频率与语义的关联

为了验证“语义信息主要存在于低尺度”这一假设，我们进行了高频标签丢弃（Label Dropout）实验：

实验设计：在推断过程中，仅在低尺度阶段提供类别标签（如“狗”或“鱼”），而在占推断时间70%的高频阶段完全去掉标签[cite: 462, 500]。
结果分析：实验测得的分类丢弃比（CDR）接近于1，这意味着在高频阶段去掉标签并不会影响生成的准确性和FID质量。这有力地证明了K-Flow能够将类别语义有效锁定在低频段，而高频段则专注于细节重建。