CNN-LSTM时序预测实战：从原理到PyTorch代码实现

WWF世界自然基金会

334人浏览 · 2026-08-31 12:52:34

WWF世界自然基金会 · 2026-08-31 12:52:34 发布

简介：CNN-LSTM卷积-长短期记忆网络数据回归预测Python代码包，面向需要开展时间序列回归预测的深度学习开发者、科研人员，也适合作为课程设计或论文实验的基线参考。代码包以Python脚本为主，配套CSV格式的训练集和测试集，可直接运行验证CNN特征提取与LSTM时序建模的联合效果，免去自行准备数据和搭建模型的繁琐过程。压缩包总大小仅2.68MB，共3个文件，结构简洁，便于快速下载和部署。目前已有974人学习浏览，说明该实现具备一定的实用参考价值。通过自带示例，读者可以清晰地看到数据加载、模型构建、训练与预测输出的完整流程；模型中一维卷积负责提取局部特征，LSTM负责捕获长短期依赖，两者串联可有效提升回归预测精度。同时，现有代码便于二次修改，可灵活调整网络层数、卷积核数量或LSTM隐层节点，适配股价预测、负荷预测等不同回归任务，是快速上手CNN-LSTM组合模型的实用工具。看到“CNN-LSTM”这个组合，不少做时序预测的朋友应该不陌生。简单说，就是用卷积神经网络（CNN）提取局部特征，再把特征序列丢给长短期记忆网络（LSTM）捕捉长期依赖，最后接一个全连接层输出回归结果。这种结构在设备剩余寿命预测、电力负荷预测、天气温度预报、交通流量估算这些场景里都有不错的落地表现。我自己用Python和PyTorch实现过一套完整流程，从数据处理、模型搭建到训练评估都跑通了。这篇博文就把这套实践拆开来讲，包括为什么用这种组合、代码怎么写、参数怎么调，以及我踩过的几个坑。

如果你对纯时间序列回归预测有需求，又不想自己从零研究LSTM的滑窗细节，这篇文章可以直接当参考方案抄作业。新手按步骤走也能跑通，老手可以直接看中间模型设计和问题排查那两段。

1. 项目思路拆解：为什么是CNN加LSTM的组合？

1.1 单靠LSTM不够用，单靠CNN也不够

做时间序列回归，LSTM确实是主力选手，它门控机制的特点就是擅长记住和遗忘长序列里的关键信息。但纯LSTM在处理很长的输入序列时，训练速度慢，而且对局部模式的捕捉能力偏弱。举一个直观的例子：如果输入是一段60步长的传感器数据，里面有一个快速尖峰，LSTM要逐步往后传，注意力容易被后面一大段平缓数据稀释掉。

CNN这边则恰恰相反，一维卷积核天然适合提取局部特征。比如一个kernel_size=3的一维卷积，只看相邻三个时间步的局部变化，能非常高效地抓住“连续上升”“突然跳变”这类模式。但CNN受限于感受野，对全局依赖的建模能力不够，单靠堆卷积层去捕捉超长周期规律，网络会变得又深又笨重。

CNN-LSTM这个组合正好互补：先用CNN对原始序列做特征提取和降维，把局部的、短期的模式压缩成更紧凑的特征图，再用LSTM对压缩后的特征序列建模长期依赖。实测下来，在很多中等长度序列（20到200步）的回归任务上，这种组合比单独用LSTM收敛快，最终误差也更低。

1.2 项目目标与输入输出定义

我做的具体任务是：基于UCI公开数据集中的电厂联合循环发电厂数据（包含温度、压力、湿度等传感器变量），预测净每小时电能输出。原始数据集有9568条样本，4个输入特征，1个输出目标。这种数据很适合做多变量回归预测演示，因为特征间有明显的物理关联，CNN提取出来的局部模式有实际语义。

输入设计上，我用了滑动窗口，每个样本取过去step=30个时间步的4个特征，组成形状为(batch, 30, 4)的张量，输出是下一时刻的功率数值。这段数据不需要特殊处理，直接按时间顺序切成窗口即可。

1.3 整体技术路线

整个流程分五步：数据加载与归一化、滑窗构造样本、划分训练集测试集、搭建CNN-LSTM模型、训练并评估。

这里有个关键点：划分训练集和测试集时，一定不能随机打乱，要按照时间顺序来。否则测试集里混进未来信息，评估结果会虚高，实际部署时立刻现原形。我用的是前80%训练、后20%测试，完全按时间切。

2. 开发环境准备与数据处理细节

2.1 Python版本与依赖库选择

Python版本我建议直接用3.8以上，因为新版PyTorch早就放弃旧版本支持了。我用的是Python 3.9.18，PyTorch 2.0.1，CUDA 11.8。

核心依赖就这几个：

torch
numpy
pandas
scikit-learn
matplotlib

安装命令：

pip install torch numpy pandas scikit-learn matplotlib

没有GPU的机器也能跑，只是慢一点。这个数据集规模不到一万条，CPU上跑50轮也就几分钟，问题不大。

2.2 数据归一化的关键操作

多变量数据必须归一化，不然量纲差异会让模型训练非常痛苦。比如温度是几百、压力是几十、功率是几百，直接喂给神经网络，梯度更新会被大数值特征主导。

我用的是 MinMaxScaler ，把所有特征缩放到[0,1]区间。为什么选MinMax而不是StandardScaler？因为神经网络对输入分布固定在一个有限区间内通常更稳定，训练也更容易收敛。另外MinMax对原始数据的相对顺序保持不变，适合这种数值范围没有极端离群值的工业数据集。

有一个很容易踩的坑：训练集和测试集的归一化参数必须统一。先fit训练集，再transform训练集和测试集，绝对不能用测试集去fit，否则会有数据泄露。

from sklearn.preprocessing import MinMaxScaler

scaler = MinMaxScaler()
train_scaled = scaler.fit_transform(train_data)
test_scaled = scaler.transform(test_data)

2.3 滑窗函数设计

LSTM和CNN-LSTM处理序列数据时都需要滑窗构造样本。我写了一个简单的create_windows函数：

def create_windows(data, targets, step=30):
    X, y = [], []
    for i in range(len(data) - step):
        X.append(data[i:i+step, :])
        y.append(targets[i+step])
    return np.array(X), np.array(y)

取len(data)-step这个范围是保证窗口完整不越界。这里有个经验：步长到底选多少合适，一般取序列周期的一到两倍。我的数据是每小时采样一天24个点，取30小时窗口，能覆盖跨天趋势，表现不错。

3. CNN-LSTM模型实现与训练流程

3.1 模型结构定义

我搭的模型分三部分：

第一层是一维卷积层，输入通道数是4（对应4个特征），输出16个通道，卷积核大小3，padding保持序列长度不变。卷积层后面跟ReLU激活。这一层的作用就是提取局部特征，把4维原始传感器模式映射到16维特征空间。

第二层是LSTM层，输入维度是16（卷积输出特征数），隐藏层维度设了64。这里用LSTM对卷积提取出的整个时间序列做时序建模，输出每个时间步的hidden state。

第三层是全连接层，把LSTM最后一步的输出映射到1个值，作为回归预测结果。

核心代码：

import torch
import torch.nn as nn

class CNNLSTM(nn.Module):
    def __init__(self, input_dim=4, hidden_dim=64, num_layers=2, output_dim=1, dropout=0.2):
        super(CNNLSTM, self).__init__()
        self.conv1 = nn.Conv1d(in_channels=input_dim, out_channels=16, kernel_size=3, padding=1)
        self.relu = nn.ReLU()
        self.lstm = nn.LSTM(input_size=16, hidden_size=hidden_dim,
                            num_layers=num_layers, batch_first=True, dropout=dropout)
        self.fc = nn.Linear(hidden_dim, output_dim)
    
    def forward(self, x):
        # x shape: (batch, seq_len, input_dim)
        x = x.permute(0, 2, 1)  # 转成(batch, input_dim, seq_len)给Conv1d
        x = self.conv1(x)
        x = self.relu(x)
        x = x.permute(0, 2, 1)  # 转回(batch, seq_len, channels)
        lstm_out, _ = self.lstm(x)
        out = self.fc(lstm_out[:, -1, :])  # 取最后一个时间步
        return out

3.2 训练配置与超参数选择

模型选好后，训练配置直接影响效果。我的选择如下：

损失函数：MSELoss。回归任务的标准选择，直接度量预测值与真实值的平方误差。
优化器：Adam，学习率0.001。Adam对新手很友好，自适应调节学习率，不用手动微调太多。
batch_size：64，在稳定性和训练速度之间平衡。
epoch：50。跑50轮后验证集损失基本收敛。
早停：做了简单实现，如果连续10轮验证集损失没有下降，就提前终止，防止过拟合。

criterion = nn.MSELoss()
optimizer = torch.optim.Adam(model.parameters(), lr=0.001)

for epoch in range(50):
    model.train()
    total_loss = 0
    for batch_x, batch_y in train_loader:
        optimizer.zero_grad()
        pred = model(batch_x)
        loss = criterion(pred.squeeze(), batch_y)
        loss.backward()
        optimizer.step()
        total_loss += loss.item()
    # 每个epoch结束在测试集上评估

3.3 训练过程中的细节观察

训练过程有个比较有意思的现象：前10轮损失下降特别快，损失基本能降一个数量级左右。之后进入长尾收敛阶段，下降速度变缓，这是正常的，不用焦虑。如果训练曲线出现阶梯状下降，通常是数据归一化不干净或者存在周期性波动，这是正常现象。

训练结束后，保存模型和归一化器是必要的，尤其是MinMaxScaler。模型部署时，新数据要先经过同一个scaler转换，再喂给模型。如果只存模型不存scaler，新数据到模型里就是垃圾进垃圾出。

4. 测试效果、常见问题与优化方向

4.1 测试集上的表现分析

经过30轮有效训练后，测试集的R²达到0.94以上，RMSE比纯LSTM低大概15%到20%。把真实值和预测值画在一起看，CNN-LSTM能较好捕捉到曲线的整体形状，尤其在尖峰附近的跟随能力比纯LSTM要强。

有个细节值得说一下，模型在测试集尾部误差会略微增大。因为测试集末尾的数据是数据集最后一段，本身就处于功率快速变化区间，预测难度相对较高。如果你发现预测曲线整体滞后于真实曲线，大概率是滑窗长度太短，模型看不到足够的上下文。

4.2 常见问题速查表

问题现象	可能原因	解决方法
训练损失不下降	学习率过大或过小	把学习率调到0.001这个量级；检查数据是否归一化
预测值始终接近均值	模型输出被归一化拉平	检查是否误把非线性层叠错了；改用更深的LSTM层数
训练快但测试差	过拟合	增大dropout到0.3或0.4；加早停；减少LSTM层数
反向传播报维度错误	LSTM状态维度和输入维度对不上	重点检查LSTM的input_size是不是卷积输出通道数16，不是原始特征数4
测试时预测结果错乱	归一化参数不一致	确认用scaler.transform而不是重新fit

4.3 优化方向：注意力机制和超参数调优

如果想让效果再上一步，有几个方向可以试：

第一是加注意力机制。LSTM的输出序列经过一个加权重加权后再接全连接层，比直接取最后一个隐藏状态信息利用率高。我后来试过在LSTM后面接一个简单的全局注意力层，测试集R²能再提升1%到3%。

第二是超参数调优。用手动网格搜索或者Optuna来搜索最合适的卷积核大小、LSTM隐藏层维度和dropout比例。我的推荐搜索空间：卷积核大小3或5，隐藏维度32到128，dropout 0.1到0.4。

4.4 数据量与多步预测场景扩展

如果你的任务是多步预测，比如预测未来12个小时的温度，那模型输出层要改成hidden_dim到预测步数的映射，同时标签构造要相应调整。注意多步预测误差会累积，通常建议做滚动预测，每次只预测一步，把预测值回填到窗口里继续推进。

如果数据量很小（几千条以内），CNN-LSTM容易过拟合，建议加入更强的dropout或者改用轻量级的一维卷积残差网络。如果数据量非常大（几十万条），CNN部分可以适度加深，叠加两到三层卷积。

5. 踩坑与实操心得

5.1 最耽误时间的坑：数据泄露

最让我头疼的一次问题是评估指标虚高到不可思议，测试集损失几乎和训练集持平。排查了很久发现是数据预处理时把scaler放在了划分训练集测试集之前，整个数据集做了一次归一化。这会导致测试集的均值、方差信息提前泄露给模型，评估结果不可信。正确顺序一定是：先划分，再fit训练集，然后用训练集的scaler去transform测试集。这一点无论如何强调都不过分。

5.2 关于训练轮数和收敛判断

Epoch设置并不是越多越好。我观察到很多模型在40到50轮之后，验证集损失就不再明显下降，甚至开始回升，尤其是dropout参数设置较小的时候。加了早停之后，实际训练往往在第30到40轮就停下来了，省时省力。如果你在日志里看到验证集损失连续多个epoch不降反升，果断停。

5.3 小技巧：画损失曲线比盯数值更直观

训练过程中一定要把训练集和验证集的损失曲线画出来，不要只看最后打印的数值。曲线能告诉你学习率是不是太大（震荡剧烈）、是不是过拟合（训练线继续降、验证线开始升）、是不是梯度消失（损失线平得不正常）。一张图比十个指标都管用。

import matplotlib.pyplot as plt

plt.figure(figsize=(10, 4))
plt.plot(train_losses, label='train loss')
plt.plot(val_losses, label='val loss')
plt.xlabel('epoch')
plt.ylabel('loss')
plt.legend()
plt.show()

5.4 可扩展方向

这个架构除了做电厂数据回归预测，换数据就能换场景。比如把输入特征换成股票历史行情特征，窗口长度拉到60，理论上可以做趋势回归实验；换成传感器振动信号，可以做设备退化预测。核心结构不用动，要调的主要是输入维度和窗口长度。但提醒一句：时序预测模型的泛化能力高度依赖数据质量，同一套结构在不同领域的效果差异可能会非常大，迁移前先做小规模验证。

我个人在实际操作中最大的体会是：CNN-LSTM的定位不是“万能模型”，而是在序列长度中等、特征维度不太高、局部特征和长期依赖都重要的场景里，它比单模型有明显优势。如果你正卡在LSTM效果不够好这一步，这个结构值得一试。先去把代码跑通，再慢慢调参数，效果通常会给你惊喜。

本文还有配套的精品资源，点击获取