İnsan Muhakemesi Otomatik Sistemlerin Kontrol Düzlemidir
Yetkin bir insan muhakemesi; otomasyon belirsiz veya kritik bir sınıra ulaştığında kanıtları, bağlamı, kalibre edilmiş belirsizliği, karar yetkisini, hesap verebilirliği ve geri bildirimi bir araya getirir. İnsan muhakemesi; bir sistem kararı bağlamı, yetkiyi, kurumsal değerleri veya hesap verebilirliği kaybetmeden sabit bir kurala indirgeyemediği noktalarda vazgeçilmezdir. İş akışının sonuna eklenen sembolik bir onay adımı ya da güvensiz otomasyonu sınırsız bırakma mazereti haline getirilmemelidir. Kontrol, gerçek karar ve onun sonuçları etrafında tasarlanmalıdır.
01.Öngörülebilir bir TinyCTO Olayı
Sistem tüm otomatik kontrolleri başarıyla tamamladı, dağıtımı onayladı ve canlı ortamda çöktü; çünkü kontrollerin gerçek riski temsil edip etmediğini sorgulamak kimsenin sorumluluğunda değildi. Arıza, arayüzden bir insanın kaybolması değildir. Arıza; niyet, kanıt, yetki, geri döndürülebilirlik ve hesap verebilirliğin birlikte ilerlemeyi bırakmasıdır. Böylece kusursuz görünen bir iş akışı, prosedürel olarak doğru kalırken operasyonel olarak tamamen yanlış sonuçlar üretebilir.
02.Temel İlke
İnsan muhakemesi iş akışının sonuna iliştirilmiş bir sezgi değildir. Niyeti tanımlayan, eksik kanıtları yorumlayan, değer çatışmalarını çözen ve sonuçları sahiplenen mühendislik ürünü bir karar katmanıdır. Bu ayrım kritiktir çünkü otomasyon kararların ekonomik boyutunu değiştirir. Yararlı bir eylemi devasa ölçekte tekrarlayabileceği gibi, geçersiz bir varsayımı da organizasyon fark etmeden çok daha hızlı büyütebilir. İyi muhakeme otomasyonla rekabet etmez; otonominin güvenle hak edildiği çalışma sınırlarını çizer.
03.İyi Bir Uygulama Nasıl Görünür?
- Otomasyonun hangi hedefleri optimize edebileceğini açıkça tanımlayın. - Kanıtı, veri kaynağını, güven skorunu ve eksik bağlamı görünür kılın. - Karar yetkisini sonuçların büyüklüğü ve geri döndürülebilirlik ile eşleştirin. - Açık eskalasyon ve müdahale (override) yolları inşa edin. - Muhakemenin hem politikaları hem de otomasyonu iyileştirmesi için sonuçları düzenli inceleyin. Bu kontroller çalışma anında (runtime) aktif olmalıdır. Sistem davranışını durduramayan, daraltamayan, açıklayamayan veya geri alamayan bir politika belgesi operasyonel güvence sağlamaz.
04.Yaygın Arıza Modları ve Karşı-Desenler
- İncelemecinin elinde kanıt olmadan bir sonucu onaylamaya zorlanması. - İncelemecinin sorumluluk taşıması ancak müdahale yetkisine sahip olmaması. - Arayüzün belirsizliği sahte bir 'yeşil durum' gibi maskelemesi. - İnsanın öneriyi neden kabul veya ret ettiğinin hiçbir yere kaydedilmemesi. En sık tekrarlanan karşı-desen yetkisiz sorumluluktur: sistem kanıtı gizledikten, süreyi kısalttıktan, seçenekleri daralttıktan veya işlemi başlattıktan sonra bir kişi sorumlu ilan edilir. Bu anlamlı bir insan denetimi değildir; yalnızca yasal sorumluluk devridir.
05.Pratik Değerlendirme Soruları
1. Hedefin sahibi kimdir ve sistemi kim durdurup geri alabilir? 2. Hangi kanıtlar, belirsizlikler, veri kaynakları ve alternatifler görünür durumdadır? 3. Olası en kötü sonuç nedir ve işlemin tamamı geri döndürülebilir mi? 4. Sistem ne zaman duraklamalı veya insana devretmelidir? 5. Karar ve nihai sonuç; politikaları, değerlendirmeleri ve tasarımı nasıl iyileştirecek?
MUHAKEME KATMANI ZORUNLUDUR > Kararı otomasyon verdi. Sonuçları insan miras aldı.