GMAN：基于多层注意力图神经网络的交通流量预测---深度学习与交通大数据

1、文章信息

《GMAN: A Graph Multi-Attention Network for Traffic Prediction》。

AAAI2020 | 厦门大学、墨尔本大学联合提出：一种多层注意力图神经网络的交通流量预测方法

长时交通流预测：时空注意力机制建模动态的空间相关性和非线性的时间相关性，转移注意力机制缓解误差传播。

论文地址：https://arxiv.org/abs/1911.08415

论文作者：Chuanpan Zheng(厦门大学), Xiaoliang Fan(厦门大学), Cheng Wang(厦门大学), Jianzhong Qi（墨尔本大学）

2、摘要

交通流预测（traffic prediction）是一个经典的时间序列预测问题，根据历史交通状况观测值来预测未来的交通状况。

图1 复杂的时空相关性。(a)道路网络上的传感器。(b)动态空间相关性：虽然传感器1和2在路网中距离很近，但他们并不总是高度相关；非线性时间相关性：传感器3在时间步t+l+1的交通状况可能与较远的时间步(如t-1)的交通状况相关，而与较近的时间步长(如t+l)的交通状况不大相关。

然而，现有的交通流预测方法在长时交通流预测上效果不容乐观，主要是由于长时交通流预测具有以下挑战：

1）复杂的时空相关性：动态的空间相关性。如图1所示，路网中传感器交通状况之间的关系随着时间的推移发生明显的变化(例如，在高峰时间之前和高峰期间)，如何动态选择相关的传感器数据来预测目标传感器长期的交通状况是一个具有挑战性的问题；非线性的时间相关性。如图1所示，传感器所在地的交通状况可能会突然发生巨大的波动(例如，由于事故)，从而影响不同时间步交通状况之间的关系，因此，随着时间的推移，如何对非线性的时间相关性进行自适应建模也是一个挑战。

2）误差传播效应。在长时预测任务中，每一个时间步的预测误差在预测未来时，均可能被放大，这种误差传播为未来交通状况预测带来极大的挑战。

为了有效解决以上挑战，我们提出了一种新的交通流预测方法，多层注意力图神经网络 (Graph Multi-Attention Network, GMAN)，来预测路网的交通状况。模型提出了一种时空注意力机制，能够更好地建模动态的空间相关性和非线性的时间相关性，并设计了一个门控融合器，来自适应地融合时空注意力机制提取的信息。此外，提出一种转移注意力机制，将历史交通特征转移到未来表征，建模历史时间步和未来时间步之间的直接关系。这种注意力机制调整观察时间步与未来时间步的依赖关系，从而避免误差累积，以有效缓解误差传播问题。具体作用机制见论文。本文已被国际人工智能领域顶级学术学术会议AAAI-2020 (The Thirty-Fourth AAAI Conference on Artificial Intelligence) 收录，会议将于2020年2月7日-12日在美国纽约举行。

3、问题形式化

4、算法框架

图2 算法框架

我们的模型框架如图2左图所示。GMAN改变了一种编码器-解码器结构，编码器和解码器均包含L个ST-注意力块，其中，每个ST-注意力块均由一个门控融合器将时间注意力机制和空间注意机制融合组成，见图2右下图。在编码器和解码器之间，应用一个转移注意力层，将已编码的流量特征转移到解码器。通过时空嵌入向量(STE)，将路网的图结构和交通流的时间信息融合到多注意力机制中，见图2右上图。此外，所有层都产生d维的输出，以便网络的残差连接。

在此框架下，本文提出了空间注意力机制，时间注意力机制和转移注意力机制，三种注意力机制相互配合，最终提高了长时交通流预测的预测精度，模型具体细节见论文。

5、实验与验证

本实验所使用的两个数据集如图3所示:

1) 厦门数据集（交通流量预测）：包含2015年8月1日至2015年12月31日在中国厦门由95个交通传感器记录的5个月的数据;

(2) PEMS数据集（交通流速预测）：包含2017年1月1日至2017年6月30日在旧金山湾区由325个交通传感器记录的6个月的数据。

评估指标为平均绝对误差（MAE），均方根误差（RMSE）和平均绝对百分比误差（MAPE）。

图3 厦门和PEMS数据集中的传感器分布情况

6、实验结果

1. 在厦门数据集和PEMS数据集上的预测准确率

表1 厦门和PeMS数据集交通流预测方法的性能比较

观察表1结果发现，GMAN实现了最先进的预测性能，在长时预测上(如1小时)优势更加明显。

2. 在厦门数据集和PEMS数据集上的容错率比较：

我们随机删除一定比率的历史观测值(错误率从10%到90%不等)去做未来1小时的交通流预测。

图4 容错比较

如图4所示，GMAN比最先进的方法容错率更高，这表明GMAN能够从污染的交通数据中获取复杂的时空相关性，并从观测结果中进行调整。

此外，本文还在厦门数据集和PEMS数据集上评估模型各组分的作用，具体实验结果见论文。

7、总结

本文提出了一种多层注意力图神经网络的交通流量预测方法（GMAN），来预测路网的交通状况，首先，提出了门控融合的时空注意力机制，以建模复杂的时空相关性进行，然后进一步设计了一种转移注意力机制，以缓解误差传播效应，从而提高长时交通流预测性能。在两个真实世界的数据集上进行实验，结果表明，GMAN的预测效果最好，并且随预测时间的增长，其优势更加明显。本文认为长期的交通预测对实际应用更有利，例如，交通管理机构根据交通流预测结果优化交通状况，长时交通流预测让他们有更多的时间采取行动。

了解更多技术细节，请点击https://arxiv.org/abs/1911.08415查看论文:

GMAN: A Graph Multi-Attention Network for Traffic Prediction

代码链接：https://github.com/zhengchuanpan/GMAN

本文作者：闫旭、郑传潘、范晓亮