> ML_LITERATURE // VELICKOVIC-2018-GRAPH-ATTENTION-NETWORKS_v1.0
Graph Attention Networks (GAT)
Petar Veličković, Guillem Cucurull, Arantxa Casanova, Adriana Romero, Pietro Liò, Yoshua Bengio · International Conference on Learning Representations (ICLR) (2018)
seminal-architecture2018industry-standardthirdPartyReproduced
Temel Katkı (Principal Contribution)
Çizgelere maskelenmiş öz dikkati uygulayarak mesaj iletimi sırasında komşu düğümlere dinamik, anizotropik dikkat ağırlıkları atadı.
Operasyonel ve Mühendislik Uygunluğu
Protein-protein etkileşim ağları ve dolandırıcılık tespit çizgelerinde tümevarımsal tahmin için evrensel çizge sinir mimarisi.
Temel Varsayımlar (Assumptions)
- Kenarlar çok başlıklı öz dikkat yoluyla uçtan uca öğrenilebilen tek tip olmayan anlamsal önem taşır
Kısıtlar ve Sınırlamalar (Limitations)
- Orijinal GAT komşuların sıralamasının sorgudan bağımsız olduğu statik dikkat hesaplar (Brody ve ark. tarafından GATv2'de düzeltildi)