> ML_ALGORITHM // INFORMER-PROBSPARSE-ATTENTION_v1.0
Informer (ProbSparse Dikkati)
ProbSparse dikkati yoluyla karesel öz dikkat karmaşıklığını O(L log L)'ye düşüren uzun dizili zaman serisi tahmini için verimli Transformer.
Transformer-Based Forecastingtime-series-forecastingmoderate-posthoclarge (>100k)
Tüm Algoritmalara DönHesaplama Karmaşıklığı
Eğitim (Training):O(L * log(L) * d)
Çıkarım (Inference):O(L * log(L) * d)
Donanım Karakteristiği
CPU Uygunluğu:Hayır
GPU Zorunluluğu:Evet
Bellek Ayak İzi:moderate
Açıklanabilirlik ve Veri
Açıklanabilirlik Düzeyi:moderate-posthoc
Eğitim Verisi İhtiyacı:large (>100k)
Açıklanabilirlik Değerlendirmesi
Klasik karesel Transformer belleğini seçici aktif sorgular aracılığıyla O(L log L)'ye düşürür.
Uygun Görevler ve Desteklenen Modaliteler
Uygun Görevler:
long horizon forecastingmultivariate time series forecasting
Desteklenen Modaliteler:
time-series
Uygulayıcı Kütüphaneler
Temel Literatür & Yayınlar
Sık Karşılaşılan Hatalar ve Dikkat Edilmesi Gerekenler
- Birçok standart kıyaslamada basit tek katmanlı doğrusal modeller (DLinear) hesaplamanın yüzde biri ile Informer'ı geride bırakır