> ML_ALGORITHM // GRAPH-ATTENTION-NETWORKS-GAT_v1.0

Çizge Dikkat Ağları (GAT ve GATv2)

Toplama sırasında komşu kenarlara anizotropik önem ağırlıkları atamak için çok başlıklı öz dikkat mekanizmalarından yararlanan çizge sinir ağı.

Spatial Graph Neural Networksgraph-relationalhigh-intrinsicmedium (1k-100k)

Hesaplama Karmaşıklığı

Eğitim (Training):O(heads * (|V| * d^2 + |E| * d))

Çıkarım (Inference):O(heads * |E| * d)

Donanım Karakteristiği

CPU Uygunluğu:Hayır

GPU Zorunluluğu:Evet

Bellek Ayak İzi:high

Açıklanabilirlik ve Veri

Açıklanabilirlik Düzeyi:high-intrinsic

Eğitim Verisi İhtiyacı:medium (1k-100k)

Öğrenilen kenar dikkat ağırlıkları hangi topolojik bağlantıların düğüm tahminlerini belirlediğini doğrudan niceliklendirir.

Uygun Görevler:

node classificationlink prediction

Desteklenen Modaliteler:

graph

torch-geometric

Deep Graph Library (DGL)DMLC / AWS / NYU · v2.2.1

Graph Attention Networks (GAT)Petar Veličković, Guillem Cucurull (2018) · International Conference on Learning Representations (ICLR)

Sık Karşılaşılan Hatalar ve Dikkat Edilmesi Gerekenler

Standart GAT düğüm sıralamasının sorgu düğümünden bağımsız olduğu statik dikkat hesaplar (GATv2 dinamik dikkat ile çözülür)