Transformer 虽好，但在面对长序列时，其计算瓶颈与噪声敏感度始终是挥之不去的阴影。破局的关键，或许藏在经典的 傅里叶变换 之中。频域视角正在重塑时间序列预测的格局。这一方向正迎来爆发期：从 ICLR 23 的经典之作 TimesNet，到 AAAI 25 将 Mamba 与 傅里叶 结合的 Affirm，经典数学工具正在与最前沿的深度学习模型碰撞出惊人的火花。

为了帮大家理清脉络，我特意整理了 15 篇“傅里叶变换 + 时间序列”方向的顶会论文。

1.Revisiting Attention for Multivariate Time Series Forecasting

本文提出了一种新的基于频域空间的注意力机制Frequency Spectrum attention (FSatten)和一种更通用的Scaled Orthogonal attention (SOatten)，用于多变量时间序列预测，有效提升了预测性能。

创新点:

• 重新审视了多变量时间序列预测中的注意力机制，指出现有的线性映射空间可能不是最优的。

• 提出了 频谱注意力 (Frequency Spectrum Attention, FSatten)，在频域空间中计算注意力。

• 使用傅里叶变换进行嵌入，并引入 多头频谱缩放 (Multi-head Spectrum Scaling, MSS) 来替代传统的 Q、K 线性映射，能够更准确地捕捉序列间的周期性依赖关系。

2.FreEformer: Frequency Enhanced Transformer for Multivariate Time Series Forecasting

本文提出了一种名为FreEformer的新型频率增强Transformer模型，用于多变量时间序列预测，通过在频率域内转换时间序列数据，并结合改进的注意力机制，有效提升了预测性能和表示多样性。

创新点:

• 针对现有频域模型主要依赖 MLP 而忽视 Transformer 潜力的问题，提出将 Transformer 应用于频域变量 token。

• FreEformer 将整个频谱嵌入为变量 token，利用增强的注意力机制捕捉跨变量的依赖关系。

• 通过增强注意力矩阵的秩，提供了更灵活的梯度流，在多元时间序列预测中实现了鲁棒的跨变量表示学习。

3.ST-MTM: Masked Time Series Modeling with Seasonal-Trend Decomposition for Time Series Forecasting

论文提出ST-MTM模型，通过季节性-趋势分解对时间序列进行掩码建模，以学习复杂时间序列中的时间变异和依赖性，创新性地结合了对比学习任务增强模型性能。

创新点:

• 结合了掩码建模（Masked Modeling）与经典的 季节-趋势分解 (Seasonal-Trend Decomposition)。

• 提出 Seasonal Frequency MLP (SFM) 作为季节性时间序列的编码器，利用傅里叶变换捕捉周期性信息。

• 设计了周期掩码（Period Masking）策略，专门用于季节性成分，以学习复杂的周期性变化和依赖关系。

4.VarDrop: Enhancing Training Efficiency by Reducing Variate Redundancy in Periodic Time Series Forecasting

本文提出了VarDrop策略，通过减少训练中的冗余变量标记来提高周期性时间序列预测的训练效率。

创新点:

• 提出 k-Dominant Frequency Hashing (k-DFH)，通过对时间序列应用傅里叶变换，利用振幅最大的前 $k$ 个频率作为哈希值。

• 利用频域哈希进行变量聚类，去除冗余变量，从而显著提高了多变量时间序列预测模型的训练效率，同时保持了预测精度。