Skip to main content

> ML_LITERATURE // IOFFE-2015-BATCH-NORMALIZATION-ACCELERATING-DEEP-NETWORK-TRAINING_v1.0

Batch Normalization: Accelerating Deep Network Training by Reducing Internal Covariate Shift

Sergey Ioffe, Christian Szegedy · International Conference on Machine Learning (ICML) (2015)

foundational2015foundationalthirdPartyReproduced

Temel Katkı (Principal Contribution)

Öğrenilebilir ölçek (gamma) ve kaydırma (beta) parametreleriyle katman girdilerini mini gruplar boyunca normalleştirerek çok daha yüksek öğrenme oranları sağladı ve güçlü bir düzenlileştirici görevi gördü.

Operasyonel ve Mühendislik Uygunluğu

task-image-classification için yetkili teorik ve ampirik referans olarak hizmet eder.

Temel Varsayımlar (Assumptions)

  • Matematiksel dışbükeylik, düzenlilik ve ampirik tutarlılık problem konfigürasyonlarında geçerlidir

Kısıtlar ve Sınırlamalar (Limitations)

  • Teorik sınırlar ve kıyaslama doygunluk özellikleri model mimarileri ve eğitim ölçekleri arasında farklılık gösterir

Bağlantılı Algoritmalar, Mimariler ve Kütüphaneler

İlgili Algoritmalar:
İlgili Mimariler:
Uygulayıcı Kütüphaneler: