> ML_ALGORITHM // HYPERBAND-SUCCESSIVE-HALVING_v1.0
Hyperband ve Kademeli Yarıya İndirme (Successive Halving)
Kaynakları dinamik olarak tahsis ederek ve düşük performans gösterenleri erken durdurarak rastgele ve Bayesci aramayı hızlandıran çoklu sadakatli optimizasyon algoritması.
Multi-Fidelity Resource Allocationevolutionary-searchhigh-intrinsiclarge (>100k)
Tüm Algoritmalara DönHesaplama Karmaşıklığı
Eğitim (Training):O(B * log(B)) where B is total evaluation budget
Çıkarım (Inference):O(1)
Donanım Karakteristiği
CPU Uygunluğu:Evet
GPU Zorunluluğu:Evet
Bellek Ayak İzi:moderate
Açıklanabilirlik ve Veri
Açıklanabilirlik Düzeyi:high-intrinsic
Eğitim Verisi İhtiyacı:large (>100k)
Açıklanabilirlik Değerlendirmesi
Kademeli yarıya indirme dilimleri bütçeyi en iyi modellere odaklamak için umut vadetmeyen modelleri erken eler.
Uygun Görevler ve Desteklenen Modaliteler
Uygun Görevler:
hyperparameter tuningdeep learning architecture search
Desteklenen Modaliteler:
tabular
Uygulayıcı Kütüphaneler
OptunaPreferred Networks · v3.6.1
İnceleray-tune
Temel Literatür & Yayınlar
Sık Karşılaşılan Hatalar ve Dikkat Edilmesi Gerekenler
- Yavaş başlayan öğrenme oranı çizelgeleri veya yüksek ısınma gerektiren mimariler erken aşamalarda vaktinden önce elenir
