天天看點

NIPS2020 | DiffGCN:利用微分算子和代數多重網格池化優化圖卷積

NIPS2020 | DiffGCN:利用微分算子和代數多重網格池化優化圖卷積

今天給大家介紹以色列本·古裡安大學的研究人員發表在NIPS2020上的一篇論文。圖卷積網絡(GCN)在處理無序資料(如點雲和網格)方面已被證明是有效的方法,作者在有限差分和代數多重網格架構的啟發下,提出了用于圖卷積,池化和解池化的新穎方法——DiffGCN,經各種實驗證明,DiffGCN擁有最好的結果。

介紹

過去的幾年中,許多工作使用标準的CNN對無序資料(例如點雲和網格)執行3D相關任務。随後,GCN也用于處理與三維輸入相關的任務,通過直接在資料的基礎結構中進行操作,更加自然地處理非結構化資料。

這項工作中,作者利用标準CNN與偏微分方程(PDE)之間的相似性,提出了一種基于非結構化網格上的差分算子離散化圖卷積方法,此類方法用于非結構化網格會導緻卷積運算的抽象參數化,而該參數化與特定圖形的幾何形狀無關。除此之外,作者還利用代數多重網格方法,提出了新穎的池化和解池化操作,可以擴大神經元感受野,降低計算成本,從進而可以實作更寬和更深的網絡。

模型

作者根據圖上定義的離散微分算子對圖卷積核進行參數化,是以,将這種卷積稱為DiffGCN。為了擁有完整的神經網絡構模組化塊,作者還提出了AMG啟發性的池化和解池算子,以擴大神經元的接受範圍,并允許更廣和更深的網絡。

通過微分運算符進行卷積核 作者利用簡單的算子來估計圖上定義的非結構化特征圖的梯度和拉普拉斯算子,給定無向圖G =(V,E),其中V,E分别表示圖的頂點和邊,卷積核的公式如下,該核由圖上定義的信号品質,梯度和拉普拉斯算子組成。

NIPS2020 | DiffGCN:利用微分算子和代數多重網格池化優化圖卷積
NIPS2020 | DiffGCN:利用微分算子和代數多重網格池化優化圖卷積

圖1 DiffGCN 模型結構

實驗

為了證明架構的有效性,作者在三個不同的資料集上進行了三個實驗-分類(ModelNet40 ),部分分割(ShapeNet部件)和語義分割(S3DIS)。在所有實驗中,實驗資料都是從點雲開始,并且在每個DiffGCN塊中,根據點的特征構造一個K最近鄰圖。

分類結果 分類結果在所對比方法中效果最好,作者指出這種差異主要是由于拉普拉斯項加到卷積以及池化子產品的貢獻,結果如表1所示:

NIPS2020 | DiffGCN:利用微分算子和代數多重網格池化優化圖卷積

表1 分類結果

分割結果 作者在兩個不同的分割資料集中測試了提出的方法,結果如表2,3所示,。在所有考慮的網絡中,所提出的方法均實作了最高的mIoU:

NIPS2020 | DiffGCN:利用微分算子和代數多重網格池化優化圖卷積

表2 ShapeNet分割結果

NIPS2020 | DiffGCN:利用微分算子和代數多重網格池化優化圖卷積

表3 S3DIS分割結果

總結

作者提出了一種基于離散差分算子的新穎圖卷積核,它AMG池化和解池化運算符一起構成了CNN的最重要組成部分。與目前最先進的GCN相比,DiffGCN網絡顯示出同等或更好的性能。作者還對标準結構的CNN和所提出方法進行了類比,與其他GCN相比,成本有所降低。

繼續閱讀