Towards Deeper Graph Neural Networks

問題:

  • 一層的GCN layer只考慮直接鄰域,加深模型層數可獲得更大的感受野receptive fields,但性能卻會變壞
  • 以前認爲是over-smoothing問題導致的。

本文

  • 增加層性能變壞是因爲GCN模型裏兩個關鍵部分——representation transformation和propagation——的糾纏導致的。
  • 分離這兩個部分可以解決該問題。

模型:

  1. 進行特徵變換,
  2. 堆疊層,只進行propagaition,不進行特徵變換。
  3. adaptive adjustment,因爲層數不好確定。用來確定各層的權重。
    在這裏插入圖片描述 分離特徵變換和信息傳導,簡化了模型,使得加深模型成爲可能。雖然已有相應的工作,但關注點不在如何加深模型層數上。