Advertisement

论文略读:Graph Neural Processes for Spatio-Temporal Extrapolation

阅读量:

2023 KDD

1 背景

这类时空图的数据包括交通、空气质量以及气候等类型的数据。通常情况下,在最佳条件下这些时空图的数据应具有较高的粒度

因为沉重的费用,在某个特定区域大量布置足够的传感器往往难以实施

——>因此,许多应用不得不依赖稀疏的数据,导致次优的解决方案

——>如何在没有传感器的区域近似数据成为了一个亟待解决的问题

  • 该研究致力于探索时空外推问题。
  • 该方法通过分析周围节点与外生协变量的数据关系,在图结构中估算目标区域的时空数据。
  • 该模型综合考虑了上下文传感器提供的空气质量指数,并结合天气等潜在影响因素来预测目标位置的空气状况。

2 神经网络的不足

论文一个重要特征是其时空一致性。
在该问题中使用神经网络存在两个主要缺陷:一是缺乏估计不确定性的能力;二是容易受到外界干扰的影响。
传感器通常会产生不同程度的模糊信号,在这种情况下可能产生噪声或缺失观测数据。
准确估计这些不确定性对于作出可靠决策具有重要意义。
然而,在实际应用中发现传统神经网络往往具有确定性特征,并不能很好地应对这种不确定性。
尽管如此,在不可预测的现实环境中应用时会出现适应性问题:因为每当环境发生变化时模型必须进行频繁重训才能维持性能。

3 高斯过程和神经过程的不足

  • 神经网络在其局限性面前促使研究人员转向概率模型。
  • 高斯过程(GPs)作为一个潜在的方法,在利用不同种类的核函数构建时空关系方面展现出 promise。
  • 然而,在这一领域仍然存在挑战:高斯过程的核表达能力有限。
  • 神经过程(NPs)作为一种有前途的方法出现。
  • NPs 利用参数化的神经网络架构去学习生成随机过程,并结合聚合器模块整合上下文信息。
  • 不幸的是,在这一领域仍然存在挑战:虽然神经过程(NPs)展现出潜力。
  • 它们在时间依赖性的学习方面存在一定的挑战:转换崩溃可能会影响对长序列的学习效果。
  • 它们不具备在图结构中建模空间关系的能力。

4 论文思路

该模型旨在实现时空序列外推任务。
第一阶段通过确定性网络架构提取节点的时间空间特征。
未采用递归架构,在构建时间演变过程时主要依赖自底向上逐层卷积操作。
同时利用跨图卷积层捕获空间交互模式。
第二阶段中,则通过状态转换机制将目标节点的隐变量信息自顶向下整合。

全部评论 (0)

还没有任何评论哟~