Batch Processing Framework

Normal Davranış

Büyük miktarda veriyi insan etkileşimi (human interaction) olmadan işlemek için bir sistem.

Çöküş Davranışı

Yük altında istekleri düşürebilir (drop) veya düşürülmüş (degraded) moda geçebilir.

İş Sonuçları

Bir Toplu İşlem Çerçevesi (Batch Processing Framework) arızası, işletmelerin gün sonu (end-of-day) mutabakatı (reconciliation), bordro üretimi ve gecelik (nightly) makine öğrenimi (machine learning) model eğitimi için güvendiği devasa, asenkron (asynchronous) veri boru hatlarını (data pipelines) durdurur. Toplu işler (batch jobs) saatler boyunca terabaytlarca veriyi işlediğinden, çalışmanın sonuna yakın bir arıza önemli miktarda hesaplama (computational) kaynağını ve zamanı boşa harcar. Bir toplu iş penceresini (batch window) kaçırmak, yasal raporlama (regulatory reporting) son tarihlerinin ihlal edilmesi, müşteri hesaplarının ertesi sabah yanlış bakiyeler göstermesi ve sonraki bağımlı (dependent) ardışık düzenlerin ardışık (cascade) olarak başarısız olması anlamına gelir.

Görsel Tezahür

"Bir orkestrasyon UI (Airflow veya Control-M gibi), bir DAG'de (Yönlü Asiklik Grafik - Directed Acyclic Graph) kırmızı bir 'Başarısız' (Failed) düğümler (nodes) denizi gösterir. Konsol günlükleri Yetersiz Bellek (OutOfMemory - OOM) istisnaları veya kilitlenmiş (hanging) veritabanı kilitleriyle (database locks) aniden sonlanır."

Satirical Behavior

"A nightly ritual where engineers pray to the database gods that a 12-hour ETL script written by a contractor in 2014 doesn't choke on an unexpected null value at hour 11."

Teknik Terminoloji

Hata Göstergeleri