> tpl_air_014
İnsan Gözetimi, Müdahale ve Eskalasyon Planı
Otonom yapay zekâ sistemleri için operasyonel İnsan Döngüde (HITL), İnsan Döngü Üzerinde (HOTL) ve İnsan Komutada (HIC) yönetişim mimarilerini, güven skoru inceleme eşiklerini, gerçek zamanlı manuel müdahale tetikleyicilerini ve devre kesici acil durdurma (kill-switch) protokollerini belirleyen yasal insan gözetimi ve müdahale çerçevesi.
Yüksek riskli yapay zekâ için insan döngüde inceleme kuyruklarını, gerçek zamanlı müdahale kontrollerini ve acil durdurma anahtarlarını tanımlayan operasyonel çerçeve.
Önemli Teknik Doküman Şablonu ve Hukuki Uyarı
TinyCTO.tv Teknik Doküman Şablon Bildirimi: Bu şablon genel eğitim ve operasyon amaçlı bir başlangıç materyalidir. Hukuki, vergisel, muhasebesel, yatırım, satın alma, mevzuat, güvenlik veya sertifikasyon danışmanlığı değildir. Gereklilikler ülkeye, kuruma, sözleşmeye ve riske göre değişir. Kullanmadan önce yetkin uzmanlarla gözden geçirip uyarlayın.
Çözülen Üretim Problemi
Kurumlar operasyonel müdahale kapıları olmadan otonom ajan akışları ve otomatik puanlama motorları devreye alır; bu da denetlenmeyen algoritmik halüsinasyonlara, yetkisiz finansal taahhütlere ve yasal insan gözetimi zorunluluklarının doğrudan ihlaline yol açar.
Ne Zaman Kullanılmalı?
- •AB Yapay Zekâ Yasası Madde 14 kapsamında Yüksek Riskli yapay zekâ sistemleri için zorunlu İnsan Gözetimi uyumluluğunu işletirken
- •Düşük güven skoruna sahip model çıktılarının insan inceleme kuyruklarına yönlendirildiği otomatik yönlendirme eşiklerini yapılandırırken
- •Otonom ajanlar için acil durum manuel müdahalelerini, çıkarım durdurma (kill-switch) anahtarlarını ve otomatik geri alma tetikleyicilerini kurarken
Ne Zaman Kullanılmamalı?
- •Temel dahili IT yardım masası çağrı yönlendirmesi ve donanım eskalasyon matrislerinde (TPL-SVC-004 kullanın)
- •Tamamen çevrimdışı toplu ML eğitim boru hatları ve öznitelik deposu hazırlığında (TPL-AIM-018 kullanın)
5 Şablon Bölümü ve Yapısal İskelet
Operasyonel modellerin belirlenmesi: İnsan Döngüde (çalıştırma öncesi zorunlu insan onayı), İnsan Döngü Üzerinde (müdahale yetenekli gerçek zamanlı izleme) ve İnsan Komutada (dağıtım parametrelerinin üst yönetici gözetimi).
Kalibre edilmiş model güven bantlarının oluşturulması: Otomatik Onay (>%92 güven), İnsan İnceleme Kuyruğu (%70-92 güven) ve Otomatik Red/İnsan İncelemesi (<%70 güven).
İnsan incelemeciler için yeterlilik kriterlerinin belirlenmesi, bilişsel iş yükü sınırları (saatte en fazla 45 inceleme) ve operatörlerin önerileri körü körüne onayladığı otomasyon yanlılığı denetimleri.
Teknik acil durdurma mekanizmaları: anlık API çıkarımının statik yedeğe yönlendirilmesi, DNS düzeyinde atlama, veritabanı kilitleri ve ajan araç yetkilerinin geri alınması.
İnsan müdahalesinin kapsamlı değişmez günlüklerle kaydedilmesi: incelemeci kimliği, zaman damgası, orijinal model çıktısı, insan tarafından değiştirilen karar ve gerekçe.
Doldurma ve Uygulama Yönergeleri
Bağımsız İnceleme ve Onay Kontrol Listesi
- Tüm zorunlu bölümler dolduruldu
- Gizli anahtar veya parola içermiyor
- Yönetici sponsor onayı alındı
İnsan Gözetimi, Müdahale ve Eskalasyon Planı - Örnek Vaka Analizi
Örnek Organizasyon: Ticari Banka Otomatik KOBİ Kredi Değerlendirme Motoru
Ticari Banka Otomatik KOBİ Kredi Değerlendirme Motoru için eksiksiz operasyonel uygulamayı gösteren gerçek dünya vaka analizi.
- •%88 altı güvene sahip 100 bin - 1 milyon dolar arası kredi başvurularını kıdemli kredi yetkililerine yönlendiren 3 kademeli HITL mimarisi kuruldu
- •Rastgele denetim enjeksiyonuyla insan incelemecileri vardiya başına 35 karmaşık dosya ile sınırlayan bilişsel yorgunluk limitleri uygulandı
- •Sapma anlarında otonom kredi onayını 10 saniyenin altında eski manuel değerlendirmeye devreden acil durdurma (kill-switch) geliştirildi
Sıkça Sorulan Sorular
HITL (İnsan Döngüde) ile HOTL (İnsan Döngü Üzerinde) arasındaki operasyonel fark nedir?
HITL, otomatik bir eylem gerçekleşmeden önce açık bir insan müdahalesi ve onayı gerektirir (ör. kredi ödemesi veya tıbbi teşhis onayı). HOTL ise yapay zekânın gerçek zamanlı otonom çalışmasına izin verirken, insan operatörlerin telemetriyi sürekli izlemesini ve anormallik durumunda sistemi durdurma veya değiştirme gücünü elinde tutmasını sağlar.
AB Yapay Zekâ Yasası Madde 14 kapsamında zorunlu İnsan Gözetimini nasıl tanımlar?
Madde 14, Yüksek Riskli yapay zekâ sistemlerinin gerçek kişilerin operasyonu denetleyebileceği, otomasyon yanlılığının farkında olacağı, çıktıları doğru yorumlayacağı, kararları yok sayabilecek veya tersine çevirebilecek ve sistemi güvenle durduracak acil durdurma yetkisine sahip olacağı şekilde tasarlanmasını şart koşar.
Otomasyon yanlılığı (automation bias) nedir ve bu plan bunu nasıl engeller?
Otomasyon yanlılığı, insan operatörlerin rehavete kapılarak yapay zekâ önerilerini eleştirel analiz yapmadan alışkanlıkla onaylaması durumudur. Bu plan bilişsel yorgunluk kotaları, onaylar için zorunlu yazılı gerekçe alanları ve incelemeci dikkatini ölçmek için kuyruklara enjekte edilen sentetik denetim tuzakları ile bunu engeller.
Teknik Doküman Şablon Paketi
Giriş GerekliTüm boş şablonları, işlenmiş senaryoları ve doğrulama manifestolarını tek bir arşivde indirin.
Yetkili Standartlar ve Kaynaklar
- EU Artificial Intelligence Act: Article 14 Human Oversight RequirementsEuropean Parliament and Council • OFFICIAL REQUIREMENT
- NIST AI 100-1: Artificial Intelligence Risk Management Framework (AI RMF 1.0)National Institute of Standards and Technology • OFFICIAL REQUIREMENT
- ISO/IEC 42001:2023 Artificial intelligence — Management systemInternational Organization for Standardization • OFFICIAL REQUIREMENT