> ML_LITERATURE // RADFORD-2022-ROBUST-SPEECH-RECOGNITION-LARGE-SCALE-WEAK-SUPERVISION_v1.0
Robust Speech Recognition via Large-Scale Weak Supervision (Whisper)
Alec Radford, Jong Wook Kim, Tao Xu, Greg Brockman, Christine McLeavey, Ilya Sutskever · arXiv preprint (2022)
seminal-architecture2022industry-standardthirdPartyReproduced
Temel Katkı (Principal Contribution)
Web'den toplanan 680.000 saatlik çok dilli, çok görevli ses üzerinde bir kodlayıcı-kod çözücü eğiterek gürültü ve aksanlarda insan düzeyinde sağlamlık elde etti.
Operasyonel ve Mühendislik Uygunluğu
task-speech-recognition, task-machine-translation için mimari kararları, hizalama stratejisini ve sunum altyapısını doğrudan yönlendirir.
Temel Varsayımlar (Assumptions)
- Ampirik dağılım düzenliliği geçerlidir ve hedef alan ön eğitim dilsel/görsel desteğine uygundur
Kısıtlar ve Sınırlamalar (Limitations)
- Kaynak ölçekleme, çıkarım bellek gereksinimleri ve hizalama sağlamlığı model boyutuna ve donanım topolojisine göre değişir
Bağlantılı Algoritmalar, Mimariler ve Kütüphaneler
İlgili Algoritmalar:
İlgili Mimariler:
Uygulayıcı Kütüphaneler:
