Skip to main content

> ML_LITERATURE // RADFORD-2022-ROBUST-SPEECH-RECOGNITION-LARGE-SCALE-WEAK-SUPERVISION_v1.0

Robust Speech Recognition via Large-Scale Weak Supervision (Whisper)

Alec Radford, Jong Wook Kim, Tao Xu, Greg Brockman, Christine McLeavey, Ilya Sutskever · arXiv preprint (2022)

seminal-architecture2022industry-standardthirdPartyReproduced

Temel Katkı (Principal Contribution)

Web'den toplanan 680.000 saatlik çok dilli, çok görevli ses üzerinde bir kodlayıcı-kod çözücü eğiterek gürültü ve aksanlarda insan düzeyinde sağlamlık elde etti.

Operasyonel ve Mühendislik Uygunluğu

task-speech-recognition, task-machine-translation için mimari kararları, hizalama stratejisini ve sunum altyapısını doğrudan yönlendirir.

Temel Varsayımlar (Assumptions)

  • Ampirik dağılım düzenliliği geçerlidir ve hedef alan ön eğitim dilsel/görsel desteğine uygundur

Kısıtlar ve Sınırlamalar (Limitations)

  • Kaynak ölçekleme, çıkarım bellek gereksinimleri ve hizalama sağlamlığı model boyutuna ve donanım topolojisine göre değişir

Bağlantılı Algoritmalar, Mimariler ve Kütüphaneler

İlgili Algoritmalar:
İlgili Mimariler:
Uygulayıcı Kütüphaneler: