> ML_LITERATURE // IOFFE-2015-BATCH-NORMALIZATION-ACCELERATING-DEEP-NETWORK-TRAINING_v1.0
Batch Normalization: Accelerating Deep Network Training by Reducing Internal Covariate Shift
Sergey Ioffe, Christian Szegedy · International Conference on Machine Learning (ICML) (2015)
foundational2015foundationalthirdPartyReproduced
Temel Katkı (Principal Contribution)
Öğrenilebilir ölçek (gamma) ve kaydırma (beta) parametreleriyle katman girdilerini mini gruplar boyunca normalleştirerek çok daha yüksek öğrenme oranları sağladı ve güçlü bir düzenlileştirici görevi gördü.
Operasyonel ve Mühendislik Uygunluğu
task-image-classification için yetkili teorik ve ampirik referans olarak hizmet eder.
Temel Varsayımlar (Assumptions)
- Matematiksel dışbükeylik, düzenlilik ve ampirik tutarlılık problem konfigürasyonlarında geçerlidir
Kısıtlar ve Sınırlamalar (Limitations)
- Teorik sınırlar ve kıyaslama doygunluk özellikleri model mimarileri ve eğitim ölçekleri arasında farklılık gösterir
Bağlantılı Algoritmalar, Mimariler ve Kütüphaneler
İlgili Algoritmalar:
İlgili Mimariler:
Uygulayıcı Kütüphaneler:
