天天看點

圖系列|7篇動态時空圖網絡學習必讀的頂會論文

Dynamic Graph Embedding

圖系列|7篇動态時空圖網絡學習必讀的頂會論文

整理:AIGraph

内容:7篇Dynamic Graph Embedding相關的内容

簡介:本文彙總了7篇Dynamic Graph Embedding相關的内容

1.Streaming Graph Neural Networks

  • ​​https://arxiv.org/pdf/1810.10627.pdf​​
  • Yao Ma, Ziyi Guo, Zhaochun Ren, Eric Zhao, Jiliang Tang, Dawei Yin

現有大多數圖模型都是為靜态圖設計的,但是我們知道許多圖是動态變化的,比如說,社交網絡會随着新使用者加入和新關系建立進行一定的演化和重構。目前設計的模型不能很好地利用這些圖的動态特性。是以,有必要設計用于動态圖的專用圖神經網絡。在本文中,作者提出了一種新的動态圖神經網絡模型DGNN,提出的架構可以通過捕獲邊(互動作用)的順序資訊,利用邊之間的時間間隔和資訊傳播的連貫性來保持更新節點資訊。

圖系列|7篇動态時空圖網絡學習必讀的頂會論文

對于不同狀态的結點進行不同的更新方式

2.Dynnode2vec: Scalable Dynamic Network Embedding

  • ​​https://arxiv.org/abs/1812.02356​​
  • Sedigheh Mahdavi, Shima Khoshraftar, Aijun An

現有的圖嵌入方法大多是針對靜态網絡設計的,不能捕獲大規模動态網絡中的演化模式。本文在已有的圖嵌入方法node2vec的基礎上,提出了一種動态嵌入方法dynnode2vec。Node2vec是一種基于随機遊走的靜态網絡嵌入方法。将靜态網絡嵌入到動态環境中有兩個關鍵問題:1)為每個時間步生成随機遊動是非常耗時的;2)在每個時間戳中嵌入向量空間是不同的。為了解決這些問題,dynnode2vec使用進化随機遊動,并使用先前的嵌入向量初始化目前的圖嵌入。作者通過對幾個大型動态網絡資料集進行經驗評估,展示了所提出的動态網絡嵌入效果。

圖系列|7篇動态時空圖網絡學習必讀的頂會論文

3.Dynamic Network Embedding: An Extended Approach for Skip-gram based Network Embedding

  • ​​https://www.ijcai.org/proceedings/2018/0288.pdf​​
  • Lun Du, Yun Wang, Guojie Song, Zhicong Lu, Junshan Wang

網絡嵌入作為一種學習頂點低維表示的方法,在許多應用中都被證明是非常有用的。很多的圖模型都是基于Skip-gram算法的,但是這些方法主要集中在靜态網絡嵌入上,不能自然地推廣到動态環境中。本文提出了一個穩定、高效的動态嵌入架構, 這是對基于skip-gram網絡嵌入方法的一個擴充,同時在理論上保證了基于skip-gram網絡嵌入方法目标的最優性。該模型可以推廣到學習新頂點表示。在三個實際網絡上的節點分類表明,該模型能夠有效地更新頂點表示,同時達到再訓練的性能。

4.EvolveGCN: Evolving Graph Convolutional Networks for Dynamic Graphs

  • ​​https://arxiv.org/abs/1902.10191​​
  • Aldo Pareja, Giacomo Domeniconi, Jie Chen, Tengfei Ma, Toyotaro Suzumura, Hiroki Kanezashi, Tim Kaler, Charles E. Leisersen, ArXiv.

現有的方法通常采用節點嵌入,并使用遞歸神經網絡(廣義上說是RNN)來調節節點的嵌入并學習時間變化的動态特征。這些方法需要了解整個時間範圍内的節點(包括訓練和測試),并且不适用于頻繁更改節點集的情況。在某些極端情況下,不同時間步長的節點集可能會完全不同。為了解決這一挑戰,我們提出了EvolveGCN,它沿時間次元适應圖卷積網絡(GCN)模型,而無需借助節點嵌入。所提出的方法通過使用RNN演化GCN參數來捕獲圖序列的動态性。考慮兩種架構進行參數演化。我們評估提出的方法,包括連結預測,邊緣分類和節點分類等任務。實驗結果表明,與相關方法相比,EvolveGCN的性能通常更高。

圖系列|7篇動态時空圖網絡學習必讀的頂會論文

思路清奇:學習演化的權重

5.Gated Residual Recurrent Graph Neural Networks for Traffic Prediction

  • ​​https://oar.a-star.edu.sg/jspui/bitstream/123456789/3020/1/AAAI-ChenC.4591.pdf#page8​​
  • Cen Chen, Kenli Li, Sin G. Teo, Xiaofeng Zou, Kang Wang, Jie Wang, Zeng Zeng, AAAI 2019.

交通流預測對于交通管理和公共安全具有重要意義,同時也受到許多複雜因素的影響,如複雜路網的空間依賴性、時間動态等,是以具有很大的挑戰性。由于交通狀态的不确定性和複雜性,這些因素使得交通預測成為一項具有挑戰性的任務。在文獻中,許多研究工作将卷積神經網絡(CNNs)與遞歸神經網絡(RNNs)相結合應用于交通預測問題,前者用于空間相關性,後者用于時間動力學。然而,這樣的組合不能捕捉到交通網絡的連通性和全局性。本文首先提出采用殘差遞歸圖神經網絡(Res-RGNN)來聯合捕獲基于圖的空間依賴和時間動态。由于梯度消失,RNNs很難捕捉到周期性的時間相關性。是以,我們進一步提出了一種新的skip Res-RGNN的方案來利用周期時間依賴。在Res-RGNN和hop-Res-RGNN的基礎上,提出了一種新的端到端多Res-RGNNs流量預測架構MRes-RGNN。在兩個流量資料集上的實驗結果表明,所提出的MRes-RGNN方法明顯優于現有的方法。

6.Structured Sequence Modeling with Graph Convolutional Recurrent Networks

  • ​​https://arxiv.org/abs/1612.07659​​
  • Youngjoo Seo, Michaël Defferrard, Pierre Vandergheynst, Xavier Bresson, ICONIP 2017.

本文介紹了圖卷積遞歸網絡(GCRN)一種能夠預測結構化資料序列的深度學習模型。 準确地說,GCRN是經典遞歸神經網絡(RNN)對由任意圖構成的資料的概括。 這樣的結構化序列可以表示視訊中的一系列幀,傳感器網絡上的時空測量值或詞彙表上的随機遊走,用于自然語言模組化。 所提出的模型在圖上結合了卷積神經網絡(CNN)來識别空間結構,并在RNN中找到動态模式。 我們研究了GCRN的兩種可能的體系結構,并将模型應用于兩個實際問題:預測移動的MNIST資料,以及使用Penn Treebank資料集對自然語言進行模組化。 實驗表明,同時利用圖形表示關于資料的空間和動态資訊可以提高精度和學習速度。

圖系列|7篇動态時空圖網絡學習必讀的頂會論文

7.Dynamic Network Embedding by Modeling Triadic Closure Process

  • ​​http://yangy.org/works/dynamictriad/dynamic_triad.pdf​​
  • Lekui Zhou, Yang Yang, Xiang Ren, Fei Wu, Yueting Zhuang. AAAI 2018.

在本文中,作者提出了一種新的表示學習方法DynamicTriad,既可以保留給定網絡的結構資訊又可以保留其演化模式。總體思路是采用三元組的方式,也就是三個頂點構成的資料結構,這也是網絡的基本機關之一。具體地,作者對由三個互相連接配接的頂點組成的封閉三合會模組化:如何從不相連的狀态到相連的狀态。這個三元組閉合的演化過程是網絡形成和演化的基本機制,是以能夠捕獲網絡動态的變化并學習不同時間步長的頂點的表示。該方法可以有效地應用識别移動網絡中的電話欺詐行為,并預測使用者是否将在貸款網絡中償還其貸款等。

繼續閱讀