Understanding the difficulty of training deep feedforward neural networks (Xavier Initialization)

Derin ağlarda varyans patlamasını ve kaybolan gradyanları tespit ederek fan-in ve fan-out'a dayalı Xavier varyans normalleştirilmiş ağırlık başlatmasını geliştirdi.

task-multiclass-classification için yetkili teorik ve ampirik referans olarak hizmet eder.

Temel Varsayımlar (Assumptions)

• Matematiksel dışbükeylik, düzenlilik ve ampirik tutarlılık problem konfigürasyonlarında geçerlidir

Kısıtlar ve Sınırlamalar (Limitations)

• Teorik sınırlar ve kıyaslama doygunluk özellikleri model mimarileri ve eğitim ölçekleri arasında farklılık gösterir