在数字化时代,海量复杂数据蕴含丰富时空信息,时间序列与时空数据融合研究成为解决实际问题的关键。传统时间序列分析仅关注时间变化趋势,忽略空间属性,难以精准刻画交通流量、气象变化等现实现象——这类现象既随时间动态演变,又受空间关联影响。物联网、传感器技术的发展提供了充足数据支撑,机器学习与深度学习算法的进步则为挖掘数据规律提供了有力工具。二者融合能更全面理解数据,提升预测准确性与可靠性,为城市规划、灾害预警、市场分析等领域提供高价值决策依据,已成为学术界与工业界的研究热点,应用前景广阔。

我总结了2024年到2025年顶会中16篇有关时间序列和时空数据的最新论文。无偿分享给大家,感兴趣的自取!

原文 资料 这里!

【论文1】Diffusion Transformer Captures Spatial-Temporal Dependencies: A Theory for Gaussian Process Data(ICLR2025)

关键词:扩散Transformer、时空依赖、高斯过程、分数函数近似、时序数据建模、注意力机制

1. 研究方法

Constructionof scorefunctionapproximationusingatransformer

论文提出扩散Transformer理论框架,将分数函数表示为梯度下降算法的迭代结果,通过Transformer架构展开该算法;利用自注意力层计算时间嵌入相关性,捕捉高斯过程数据的时空依赖,结合相关性截断与衰减特性优化模型。在含128时间步的高斯过程数据上验证,能精准复现真实时空依赖,样本复杂度随数据量呈1/√n缩放,且软max与ReLU激活均适配。

2. 论文创新点

  1. 首次建立扩散Transformer捕捉时空依赖的理论,为时序影像、动态监测等时空数据建模提供严谨支撑,解决传统模型难以刻画连续动态依赖的问题。
  2. 提出算法展开式分数函数近似方案,让Transformer通过注意力层关联时空维度信息,适配时序数据中“时间连续性+空间关联性”的双重特性。
  3. 揭示时空依赖衰减模式对学习效率的影响,为长时序时空数据(如多帧CT)建模提供参数优化方向,降低长依赖带来的计算负担。
  4. 验证不同激活函数的Transformer均能高效建模时空依赖,为不同场景的时空数据(如高频监测、低频扫描数据)提供灵活模型选择。

论文链接:https://openreview.net/forum?id=MbM1BqGpZu

原文 资料 这里!

【论文2】AutoSTF: Decoupled Neural Architecture Search for Cost-Effective Automated Spatio-Temporal Forecasting(KDD2025)

关键词:时空预测、神经架构搜索、解耦搜索空间、多粒度依赖建模、参数共享、表示压缩

The spatial search in a Spatial-DAG

1. 研究方法

AutoSTFframework.

论文提出AutoSTF框架,将混合搜索空间解耦为时间和空间搜索,通过表示压缩与参数共享降低计算开销;设计多补丁迁移模块捕捉多粒度时间依赖,扩展空间搜索空间支持层-wise细粒度空间依赖搜索。在8个时空数据集验证,较SOTA自动化模型提速达13.48倍,同时保持最优预测精度。

2. 论文创新点

Ablation studies on different type datasets.

  1. 提出解耦式时空搜索框架,分离时间与空间搜索空间并优化计算效率,解决传统混合搜索的指数级复杂度问题,适配大规模时空数据预测场景。
  2. 设计多补丁迁移模块,将时序特征分段压缩,捕捉时间序列的多粒度依赖,提升时空数据中动态时序模式的建模能力。
  3. 扩展空间搜索空间包含固定、半自适应、全自适应邻接矩阵算子,支持层-wise动态选择,精准刻画时空数据的复杂空间关联。
  4. 引入参数共享策略减少空间搜索冗余参数,在保障时空数据依赖建模完整性的同时,大幅提升神经架构搜索效率。

链接:https://arxiv.org/abs/2409.16586

原文 资料 这里!

Logo

DAMO开发者矩阵,由阿里巴巴达摩院和中国互联网协会联合发起,致力于探讨最前沿的技术趋势与应用成果,搭建高质量的交流与分享平台,推动技术创新与产业应用链接,围绕“人工智能与新型计算”构建开放共享的开发者生态。

更多推荐