Memory, attention and prediction: a deep learning architecture for car-following

该系统通过深度学习架构实现对车辆跟随行为的动态预测与优化

本篇文章于2019年发表在Transportmetrica B: Transport Dynamics

摘要

具有吸引力的汽车跟随（CF）模型研究领域

模型结构

该预测模型采用加权参数作为输入，并生成用于分析领导者驾驶行为的特征。该模型经过预先训练的过程，在其标签中使用了领导者的驾驶参数数据集（涉及速度与移动距离）来构建学习任务。经过预训练后，该预测模型被整合进MAP架构框架中。

一个行动模型，将加权参数作为输入，为跟随者的驾驶行为生成特征。

输出层神经元基于所有特征进行计算以确定被跟踪车辆的行为模式，并涵盖速度变化、加速度值以及行驶路径长度

Attention model

具体而言，在我们的研究中采用了具有sigmoid激活函数的一维卷积神经网络来生成注意力权重矩阵A。该模型包含T个特征图（即通道），其中T是输入序列的时间长度参数值。为了确保关注权重的一致性，在卷积核填充方式设置为'same'以保持关注权重的一致性。此外,A的维度与输入序列X一致,其中α c代表sigmoid激活函数的具体实现细节。在每个时间步长上,我们的注意力机制模块负责生成对应的注意力权重矩阵,并将其传递给后续处理层进行特征融合操作。值得注意的是,在现有研究中除了卷积神经网络外,还尝试了其他结构如循环神经网络和传统的Transformer架构,但因为该架构在实验测试中展现了最佳的预测效果而最终选择了该方案作为主要的研究框架.

Prediction model

该系统架构基于注意力机制，并整合了多个GRU隐层以及一个输出层。传统的神经网络架构通常采用线性回归作为输出单元，在本文研究中则采用了基于GRU隐层的时间序列建模方法，并结合位置估计技术构建了完整的预测机制。本文提出的预测机制首先通过GRU隐层计算领导者的加速度，在此基础上推导出行驶速度及位移。为了提升预测精度，在此阶段我们采用了预训练策略（即先对原始数据进行充分学习），随后将预训练得到的最佳参数作为初始值启动整个系统的联合优化过程）。

Action model

MAP的行为模式是一个神经网络模块，在设计时特别关注生成跟踪者速度与移动距离的能力。行为模式的设计遵循了与预测模式相同的指导原则。该行为模式具备描述记忆特性的能力，在构建过程中我们采用了图3所示的相同架构。

输出层

通过融合两个模型输出结果并连接数据序列来进行加速度、速度以及距离的估算

实验

证明模型的优越性

1. 经典神经网络架构
2. 基于单层循环单元的模型
3. 采用三层循环单元结构的模型
4. 深度循环单元与注意力机制融合的改进型模型
5. 作者提出的改进型映射机制(MAP)模型
6. 基于单层长短期记忆单元(LSTM)的设计
7. 三层卷积神经网络(CNN)架构
   8. 具有限速约束条件下的MAP优化版本（效果最优）
8. 经典交通流模型（IDM, VDIFF）

证明模型的结构正确性

1.MAP
2.MAP受到加速限制（表现最为突出）
3.MAP不依赖于预测机制
4.MAP依赖于其中的预测机制，在其训练过程中该机制的参数不会被更新
5.MAP依赖于其中的预测机制，在预训练阶段对该模型引入了人工噪声干扰

总结

1. 我们通过DNN结构构建了一个基于数据的反事实（counterfactual, CF）模型–MAP。该模型能够对人类驾驶员的关注选择机制、记忆过程以及预测能力进行详细描述。通过实验验证可知：模仿人类驾驶员的能力确实能够提升神经网络类别的性能（CF）。相较于传统的基于数学方程的CF模型，在轨迹预测任务上的准确率显著高于现有方法。
2. 对MAP子系统的深入分析有助于揭示其预测能力、注意力机制以及这些要素如何影响生成的CF行为之间的关系。这种分析不仅帮助人们更好地理解MAP的学习过程及其内部机制，并且为研究者提供了深入的理解工具和有效的工具来探索神经网络在交通场景中的应用。
3. 为了进一步验证该方法的有效性，我们还进行了模拟研究。实验结果表明：所提出的方法能够再现真实时空图谱以及复杂的不对称驾驶行为特征。然而这些监督学习类别的模型仍无法完美模拟人类驾驶员的行为模式的一个主要原因是：现有的监督学习模型无法精确生成与真实驾驶员行为一致的数据序列。

接下来研究方向

未来研究的方向值得深入探讨

网络结构比较新颖，实验部分很充分，作图部分很好看