Delving Deep into Rectifiers: Surpassing Human-Level Performance on ImageNet Classification (PReLU / Kaiming Init)

Sıfır kırpmayı hesaba katarak (Var(w) = 2/fan-in) ReLU aktivasyonları için özel olarak He/Kaiming başlatmasını türetti ve ImageNet'te insan performansını aştı.

task-image-classification için yetkili teorik ve ampirik referans olarak hizmet eder.

Temel Varsayımlar (Assumptions)

• Matematiksel dışbükeylik, düzenlilik ve ampirik tutarlılık problem konfigürasyonlarında geçerlidir

Kısıtlar ve Sınırlamalar (Limitations)

• Teorik sınırlar ve kıyaslama doygunluk özellikleri model mimarileri ve eğitim ölçekleri arasında farklılık gösterir