Skip to main content

> ML_ALGORITHM // HYPERBAND-SUCCESSIVE-HALVING_v1.0

Hyperband ve Kademeli Yarıya İndirme (Successive Halving)

Kaynakları dinamik olarak tahsis ederek ve düşük performans gösterenleri erken durdurarak rastgele ve Bayesci aramayı hızlandıran çoklu sadakatli optimizasyon algoritması.

Multi-Fidelity Resource Allocationevolutionary-searchhigh-intrinsiclarge (>100k)
Tüm Algoritmalara Dön
Hesaplama Karmaşıklığı
Eğitim (Training):O(B * log(B)) where B is total evaluation budget
Çıkarım (Inference):O(1)
Donanım Karakteristiği
CPU Uygunluğu:Evet
GPU Zorunluluğu:Evet
Bellek Ayak İzi:moderate
Açıklanabilirlik ve Veri
Açıklanabilirlik Düzeyi:high-intrinsic
Eğitim Verisi İhtiyacı:large (>100k)

Açıklanabilirlik Değerlendirmesi

Kademeli yarıya indirme dilimleri bütçeyi en iyi modellere odaklamak için umut vadetmeyen modelleri erken eler.

Uygun Görevler ve Desteklenen Modaliteler

Uygun Görevler:
hyperparameter tuningdeep learning architecture search
Desteklenen Modaliteler:
tabular

Uygulayıcı Kütüphaneler

OptunaPreferred Networks · v3.6.1
İncele
ray-tune

Temel Literatür & Yayınlar

Sık Karşılaşılan Hatalar ve Dikkat Edilmesi Gerekenler
  • Yavaş başlayan öğrenme oranı çizelgeleri veya yüksek ısınma gerektiren mimariler erken aşamalarda vaktinden önce elenir