> ML_LITERATURE // HE-2016-DEEP-RESIDUAL-LEARNING-IMAGE-RECOGNITION_v1.0
Deep Residual Learning for Image Recognition
Kaiming He, Xiangyu Zhang, Shaoqing Ren, Jian Sun · IEEE Conference on Computer Vision and Pattern Recognition (CVPR) (2016)
seminal-architecture2016industry-standardthirdPartyReproduced
Temel Katkı (Principal Contribution)
Artık atlama bağlantılarını (y = F(x) + x) tanıtarak performans düşüşü olmadan 100+ ila 1000+ katmanlı ağların eğitilmesini sağladı.
Operasyonel ve Mühendislik Uygunluğu
Artık bağlantılar ResNet'lerde, Transformer'larda, Difüzyon U-Net'lerinde ve Mamba'da bulunan her yerde mevcut mimari değişmezdir.
Temel Varsayımlar (Assumptions)
- Artık bir eşlemeyi F(x) = H(x) - x optimize etmek, orijinal referanssız H(x) eşlemesini optimize etmekten çok daha kolaydır
Kısıtlar ve Sınırlamalar (Limitations)
- Saf konvolüsyon küresel dinamik alıcı alandan yoksundur; devasa veri rejimlerinde Vision Transformer'ların gerisinde kalmıştır
Bağlantılı Algoritmalar, Mimariler ve Kütüphaneler
İlgili Algoritmalar:
İlgili Mimariler:
Uygulayıcı Kütüphaneler: