天天看点

图系列|7篇动态时空图网络学习必读的顶会论文

Dynamic Graph Embedding

图系列|7篇动态时空图网络学习必读的顶会论文

整理:AIGraph

内容:7篇Dynamic Graph Embedding相关的内容

简介:本文汇总了7篇Dynamic Graph Embedding相关的内容

1.Streaming Graph Neural Networks

  • ​​https://arxiv.org/pdf/1810.10627.pdf​​
  • Yao Ma, Ziyi Guo, Zhaochun Ren, Eric Zhao, Jiliang Tang, Dawei Yin

现有大多数图模型都是为静态图设计的,但是我们知道许多图是动态变化的,比如说,社交网络会随着新用户加入和新关系建立进行一定的演化和重构。目前设计的模型不能很好地利用这些图的动态特性。因此,有必要设计用于动态图的专用图神经网络。在本文中,作者提出了一种新的动态图神经网络模型DGNN,提出的框架可以通过捕获边(交互作用)的顺序信息,利用边之间的时间间隔和信息传播的连贯性来保持更新节点信息。

图系列|7篇动态时空图网络学习必读的顶会论文

对于不同状态的结点进行不同的更新方式

2.Dynnode2vec: Scalable Dynamic Network Embedding

  • ​​https://arxiv.org/abs/1812.02356​​
  • Sedigheh Mahdavi, Shima Khoshraftar, Aijun An

现有的图嵌入方法大多是针对静态网络设计的,不能捕获大规模动态网络中的演化模式。本文在已有的图嵌入方法node2vec的基础上,提出了一种动态嵌入方法dynnode2vec。Node2vec是一种基于随机游走的静态网络嵌入方法。将静态网络嵌入到动态环境中有两个关键问题:1)为每个时间步生成随机游动是非常耗时的;2)在每个时间戳中嵌入向量空间是不同的。为了解决这些问题,dynnode2vec使用进化随机游动,并使用先前的嵌入向量初始化当前的图嵌入。作者通过对几个大型动态网络数据集进行经验评估,展示了所提出的动态网络嵌入效果。

图系列|7篇动态时空图网络学习必读的顶会论文

3.Dynamic Network Embedding: An Extended Approach for Skip-gram based Network Embedding

  • ​​https://www.ijcai.org/proceedings/2018/0288.pdf​​
  • Lun Du, Yun Wang, Guojie Song, Zhicong Lu, Junshan Wang

网络嵌入作为一种学习顶点低维表示的方法,在许多应用中都被证明是非常有用的。很多的图模型都是基于Skip-gram算法的,但是这些方法主要集中在静态网络嵌入上,不能自然地推广到动态环境中。本文提出了一个稳定、高效的动态嵌入框架, 这是对基于skip-gram网络嵌入方法的一个扩展,同时在理论上保证了基于skip-gram网络嵌入方法目标的最优性。该模型可以推广到学习新顶点表示。在三个实际网络上的节点分类表明,该模型能够有效地更新顶点表示,同时达到再训练的性能。

4.EvolveGCN: Evolving Graph Convolutional Networks for Dynamic Graphs

  • ​​https://arxiv.org/abs/1902.10191​​
  • Aldo Pareja, Giacomo Domeniconi, Jie Chen, Tengfei Ma, Toyotaro Suzumura, Hiroki Kanezashi, Tim Kaler, Charles E. Leisersen, ArXiv.

现有的方法通常采用节点嵌入,并使用递归神经网络(广义上说是RNN)来调节节点的嵌入并学习时间变化的动态特征。这些方法需要了解整个时间范围内的节点(包括训练和测试),并且不适用于频繁更改节点集的情况。在某些极端情况下,不同时间步长的节点集可能会完全不同。为了解决这一挑战,我们提出了EvolveGCN,它沿时间维度适应图卷积网络(GCN)模型,而无需借助节点嵌入。所提出的方法通过使用RNN演化GCN参数来捕获图序列的动态性。考虑两种架构进行参数演化。我们评估提出的方法,包括链接预测,边缘分类和节点分类等任务。实验结果表明,与相关方法相比,EvolveGCN的性能通常更高。

图系列|7篇动态时空图网络学习必读的顶会论文

思路清奇:学习演化的权重

5.Gated Residual Recurrent Graph Neural Networks for Traffic Prediction

  • ​​https://oar.a-star.edu.sg/jspui/bitstream/123456789/3020/1/AAAI-ChenC.4591.pdf#page8​​
  • Cen Chen, Kenli Li, Sin G. Teo, Xiaofeng Zou, Kang Wang, Jie Wang, Zeng Zeng, AAAI 2019.

交通流预测对于交通管理和公共安全具有重要意义,同时也受到许多复杂因素的影响,如复杂路网的空间依赖性、时间动态等,因此具有很大的挑战性。由于交通状态的不确定性和复杂性,这些因素使得交通预测成为一项具有挑战性的任务。在文献中,许多研究工作将卷积神经网络(CNNs)与递归神经网络(RNNs)相结合应用于交通预测问题,前者用于空间相关性,后者用于时间动力学。然而,这样的组合不能捕捉到交通网络的连通性和全局性。本文首先提出采用残差递归图神经网络(Res-RGNN)来联合捕获基于图的空间依赖和时间动态。由于梯度消失,RNNs很难捕捉到周期性的时间相关性。因此,我们进一步提出了一种新的skip Res-RGNN的方案来利用周期时间依赖。在Res-RGNN和hop-Res-RGNN的基础上,提出了一种新的端到端多Res-RGNNs流量预测框架MRes-RGNN。在两个流量数据集上的实验结果表明,所提出的MRes-RGNN方法明显优于现有的方法。

6.Structured Sequence Modeling with Graph Convolutional Recurrent Networks

  • ​​https://arxiv.org/abs/1612.07659​​
  • Youngjoo Seo, Michaël Defferrard, Pierre Vandergheynst, Xavier Bresson, ICONIP 2017.

本文介绍了图卷积递归网络(GCRN)一种能够预测结构化数据序列的深度学习模型。 准确地说,GCRN是经典递归神经网络(RNN)对由任意图构成的数据的概括。 这样的结构化序列可以表示视频中的一系列帧,传感器网络上的时空测量值或词汇表上的随机游走,用于自然语言建模。 所提出的模型在图上结合了卷积神经网络(CNN)来识别空间结构,并在RNN中找到动态模式。 我们研究了GCRN的两种可能的体系结构,并将模型应用于两个实际问题:预测移动的MNIST数据,以及使用Penn Treebank数据集对自然语言进行建模。 实验表明,同时利用图形表示关于数据的空间和动态信息可以提高精度和学习速度。

图系列|7篇动态时空图网络学习必读的顶会论文

7.Dynamic Network Embedding by Modeling Triadic Closure Process

  • ​​http://yangy.org/works/dynamictriad/dynamic_triad.pdf​​
  • Lekui Zhou, Yang Yang, Xiang Ren, Fei Wu, Yueting Zhuang. AAAI 2018.

在本文中,作者提出了一种新的表示学习方法DynamicTriad,既可以保留给定网络的结构信息又可以保留其演化模式。总体思路是采用三元组的方式,也就是三个顶点构成的数据结构,这也是网络的基本单位之一。具体地,作者对由三个相互连接的顶点组成的封闭三合会建模:如何从不相连的状态到相连的状态。这个三元组闭合的演化过程是网络形成和演化的基本机制,因此能够捕获网络动态的变化并学习不同时间步长的顶点的表示。该方法可以有效地应用识别移动网络中的电话欺诈行为,并预测用户是否将在贷款网络中偿还其贷款等。

继续阅读