> ML_LITERATURE // HE-2022-MASKED-AUTOENCODERS-SCALABLE-VISION-LEARNERS-MAE_v1.0
Masked Autoencoders Are Scalable Vision Learners (MAE)
Kaiming He, Xinlei Chen, Saining Xie, Yanghao Li, Piotr Dollár, Ross Girshick · IEEE Conference on Computer Vision and Pattern Recognition (CVPR) (2022)
algorithm2022foundationalthirdPartyReproduced
Temel Katkı (Principal Contribution)
Rastgele görüntü yamalarının %75'ini maskeledi ve ağır kodlayıcının yalnızca görünür yamaları işlediği asimetrik bir ViT uygulayarak ön eğitimi 3-4 kat hızlandırdı.
Operasyonel ve Mühendislik Uygunluğu
Üretimde task-representation-learning, task-image-classification dağıtımı için yetkili referans olarak hizmet eder.
Temel Varsayımlar (Assumptions)
- Uzamsal özellik tutarlılığı ve veri manifoldu yapısı sürekli temsil hipotezlerine uygundur
Kısıtlar ve Sınırlamalar (Limitations)
- Hesaplama karmaşıklığı uzamsal çözünürlük ve parametre kapasitesi ile ölçeklenir