这本书系统阐述了深度学习方法论在道路短期交通状态时空序列预测领域的最新研究成果。需要着重说明以下几点：（1）领域限定在了道路交通，因为交通是个大系统，存在着航空、水运、道路等多种运输方式，而本书所阐述的研究均是针对道路交通领域的数据以及面向道路交通领域的应用；（2）本书所讨论的研究问题是道路短期交通状态时空序列预测问题，该问题是时空数据挖掘领域中时空预测问题的一个重要子集，在本书的第1章中将会对这个问题进行数学上的形式化定义；（3）本书针对道路短期交通状态时空序列预测问题的讨论，完全是基于深度学习的方法论，所参考的文献绝大部分发表于2017年以后，并不涵盖前人对该研究问题所采用的全部方法论（如ARIMA，卡尔曼滤波、SVR等）。

崔建勋，哈尔滨工业大学 交通学院 副教授硕士生导师，长期从事人工智能与道路交通的交叉领域研究，主要研究方向包括基于深度学习的短时交通状态预测、基于深度强化学习的自动驾驶决策规划与控制等。

目 录
第 1 章 道路短期交通状态时空序列预测总论.................................................... 001
1.1 时空数据............................................................................................................... 001
1.2 时空数据挖掘....................................................................................................... 002
1.3 道路短期交通状态时空序列预测 ....................................................................... 003
1.3.1 问题描述 .................................................................................................. 003
1.3.2 核心挑战 .................................................................................................. 005
1.3.3 问题分类 .................................................................................................. 007
1.4 道路短期交通状态时空序列预测研究概要性综述 ........................................... 012
1.5 基于深度学习的道路短期交通状态时空序列预测建模一般性框架................ 014
1.6 本章小结............................................................................................................... 015
第 1 篇 基于深度学习的网格化道路交通状态时空序列预测
第 2 章 基于 2D 图像卷积神经网络的时空相关性建模................................... 018
2.1 ST-ResNet ............................................................................................................. 020
2.1.1 问题提出 .................................................................................................. 020
2.1.2 历史交通状态切片数据的获取............................................................... 020
2.1.3 预测模型 .................................................................................................. 022
2.1.4 训练算法 .................................................................................................. 026
2.2 MDL...................................................................................................................... 027
2.2.1 问题提出 .................................................................................................. 027
2.2.2 预测模型 .................................................................................................. 029
2.2.3 训练算法 .................................................................................................. 035
2.3 MF-STN ................................................................................................................ 036
2.3.1 问题提出 .................................................................................................. 037
2.3.2 预测模型 .................................................................................................. 037
2.3.3 训练算法 .................................................................................................. 040
2.4 DeepLGR[23] .......................................................................................................... 042
2.4.1 问题提出 .................................................................................................. 043
2.4.2 预测模型 .................................................................................................. 043
2.4.3 模型小结 .................................................................................................. 048
2.5 ST-NASNet ........................................................................................................... 048
2.5.1 问题提出 .................................................................................................. 051
2.5.2 预测模型 .................................................................................................. 051
2.5.3 训练算法 .................................................................................................. 054
2.6 本章小结............................................................................................................... 055
第 3 章 基于 2D 图像卷积与循环神经网络相结合的时空相关性建模....... 057
3.1 STDN[25]................................................................................................................ 058
3.1.1 问题提出 .................................................................................................. 059
3.1.2 预测模型 .................................................................................................. 059
3.1.3 训练算法 .................................................................................................. 066
3.2 ACFM[26] ............................................................................................................... 067
3.2.1 问题提出 .................................................................................................. 067
3.2.2 预测模型 .................................................................................................. 068
3.2.3 模型拓展 .................................................................................................. 073
3.2.4 训练算法 .................................................................................................. 075
3.3 PredRNN[27] .......................................................................................................... 076
3.4 PredRNN++[28] ...................................................................................................... 081
3.4.1 模型架构 .................................................................................................. 082
3.4.2 Casual-LSTM............................................................................................ 083
3.4.3 GHU.......................................................................................................... 084
3.5 MIM[29].................................................................................................................. 084
3.6 SA-ConvLSTM[30]................................................................................................. 088
3.6.1 模型背景 .................................................................................................. 089
3.6.2 模型构造 .................................................................................................. 090
3.7 本章小结............................................................................................................... 092
第 4 章 基于 3D 图像卷积的时空相关性建模..................................................... 094
4.1 问题提出............................................................................................................... 095
4.2 预测模型............................................................................................................... 095
4.2.1 近期时空相关性捕获模块....................................................................... 096
4.2.2 短期时空相关性捕获模块....................................................................... 098
4.2.3 特征融合模块........................................................................................... 099
4.2.4 预测模块 .................................................................................................. 099
4.2.5 损失函数 .................................................................................................. 099
4.3 训练算法............................................................................................................... 100
4.4 本章小结............................................................................................................... 100
第 2 篇 基于深度学习的拓扑化道路交通状态时空序列预测
第 5 章 基于 1D 图像卷积与卷积图神经网络相结合的时空相关性建模 .. 102
5.1 STGCN[32] ............................................................................................................. 102
5.1.1 问题提出 .................................................................................................. 102
5.1.2 模型建立 .................................................................................................. 103
5.2 TSSRGCN[33] ........................................................................................................ 105
5.2.1 问题提出 .................................................................................................. 106
5.2.2 模型建立 .................................................................................................. 106
5.3 Graph Wave Net[34]................................................................................................ 112
5.3.1 问题提出 .................................................................................................. 112
5.3.2 模型建立 .................................................................................................. 113
5.4 ASTGCN[35] .......................................................................................................... 116
5.4.1 问题提出 .................................................................................................. 116
5.4.2 模型建立 .................................................................................................. 117
5.5 本章小结............................................................................................................... 123
第 6 章 基于循环与卷积图神经网络相结合的时空相关性建模.................... 124
6.1 AGC-Seq2Seq[36]................................................................................................... 124
6.1.1 问题提出 .................................................................................................. 125
6.1.2 模型建立 .................................................................................................. 125
6.2 DCGRU[37] ............................................................................................................ 129
6.2.1 问题提出 .................................................................................................. 130
6.2.2 模型建立 .................................................................................................. 130
6.3 T-MGCN[38] ........................................................................................................... 132
6.3.1 问题提出 .................................................................................................. 132
6.3.2 模型建立 .................................................................................................. 133
6.4 GGRU[39] ............................................................................................................... 138
6.4.1 符号定义 .................................................................................................. 139
6.4.2 GaAN 聚合器 ........................................................................................... 140
6.4.3 GGRU 循环单元 ...................................................................................... 141
6.4.4 基于 Encoder-Decoder 架构和 GGRU 的交通状态时空预测网络 ........ 141
6.5 ST-MetaNet[40]....................................................................................................... 142
6.5.1 问题提出 .................................................................................................. 143
6.5.2 模型建立 .................................................................................................. 143
6.6 本章小结............................................................................................................... 147
第 7 章 基于 Self-Attention 与卷积图神经网络相结合的时空相关性建模.... 149
7.1 GMAN[41] .............................................................................................................. 150
7.1.1 问题提出 .................................................................................................. 150
7.1.2 模型建立 .................................................................................................. 150
7.2 ST-GRAT[42] .......................................................................................................... 157
7.2.1 问题提出 .................................................................................................. 157
7.2.2 模型建立 .................................................................................................. 158
7.3 STTN[43] ................................................................................................................ 163
7.3.1 问题提出 .................................................................................................. 163
7.3.2 模型建立 .................................................................................................. 164
7.4 STGNN[44] ............................................................................................................. 169
7.4.1 问题提出 .................................................................................................. 169
7.4.2 模型建立 .................................................................................................. 169
7.5 本章小结............................................................................................................... 173
第 8 章 基于卷积图神经网络的时空相关性同步建模 ...................................... 174
8.1 MVGCN[45] ........................................................................................................... 175
8.1.1 问题提出 .................................................................................................. 176
8.1.2 模型建立 .................................................................................................. 177
8.2 STSGCN[46] ........................................................................................................... 180
8.2.1 问题提出 .................................................................................................. 180
8.2.2 模型建立 .................................................................................................. 180
8.3 本章小结............................................................................................................... 186
第 3 篇 深度学习相关基本理论
第 9 章 全连接神经网络 ............................................................................................. 190
9.1 理论介绍............................................................................................................... 190
9.2 本章小结............................................................................................................... 192
第 10 章 卷积神经网络 ............................................................................................... 193
10.1 二维卷积神经网络（2D CNN）....................................................................... 193
10.2 一维卷积和三维卷积神经网络（1D 和 3D CNN） ........................................ 198
10.3 挤压和激励卷积网络（Squeeze and Excitation Networks）............................ 199
10.4 残差连接网络（ResNet） ................................................................................. 201
10.5 因果卷积（Casual CNN）................................................................................. 202
10.6 膨胀卷积（Dilated Convolution） .................................................................... 203
10.7 可变形卷积（Deformable Convolution） ......................................................... 204
10.8 可分离卷积（Separable Convolution） ............................................................ 206
10.9 亚像素卷积（SubPixel Convolution）.............................................................. 207
10.10 本章小结........................................................................................................... 208
第 11 章 循环神经网络................................................................................................ 210
11.1 标准循环神经网络（RNN）............................................................................. 211
11.2 双向循环神经网络（Bi-RNN）........................................................................ 211
11.3 深度循环神经网络（Deep RNN） ................................................................... 212
11.4 长短期记忆神经网络（LSTM）[60] .................................................................. 213
11.5 门控循环单元（GRU）..................................................................................... 215
11.6 ConvLSTM ......................................................................................................... 216
11.7 本章小结............................................................................................................. 217
第 12 章 卷积图神经网络........................................................................................... 218
12.1 谱域图卷积[66] .................................................................................................... 220
12.1.1 拓扑图数据上的卷积操作推导............................................................. 220
12.1.2 切比雪夫多项式卷积............................................................................. 225
12.1.3 图卷积网络（Graph Convolutional Networks，GCN）....................... 226
12.1.4 扩散卷积（Diffusion Convolution）..................................................... 226
12.2 空间域图卷积..................................................................................................... 228
12.2.1 顶点域图卷积特征聚合器的一般性定义 ............................................. 228
12.2.2 GraphSAGE[71]........................................................................................ 229
12.2.3 GAT......................................................................................................... 232
12.3 本章小结............................................................................................................. 235
第 13 章 注意力机制（Attention）......................................................................... 236
13.1 Encoder-Decoder 模型[75-77] ................................................................................ 236
13.2 基于注意力机制的 Encoder-Decoder 模型[78-80] ............................................... 238
13.3 广义注意力机制[81-83] ......................................................................................... 240
13.4 多头注意力机制（Multi-Head Attention）[84-87] ............................................... 241
13.5 自注意力机制（Self-Attention）[88-91] .............................................................. 242
13.6 Encoder-Decoder 架构的变体及训练方法 ........................................................ 245
13.7 本章小结............................................................................................................. 249
第 14 章 Transformer[74,94-97] .................................................................................... 250
14.1 模型介绍............................................................................................................. 251
14.2 本章小结............................................................................................................. 254
第 15 章 深度神经网络训练技巧............................................................................. 255
15.1 Batch Normalization（BN） .............................................................................. 255
15.2 Layer Normalization（LN）[99] .......................................................................... 262
15.3 本章小结............................................................................................................. 263
第 16 章 矩阵分解（Matrix Factorization）[100] ................................................ 264
16.1 理论介绍............................................................................................................. 264
16.2 本章小结............................................................................................................. 267
后记 ....................................................................................................................................... 268
参考文献.............................................................................................................................. 270