> tpl_air_047
İnsan Müdahalesi ve Acil Durdurma (Kill-Switch) İşletim Rehberi
Kontrolden çıkan veya hatalı çalışan otonom ajan olaylarında anında acil durdurma (kill-switch) mekanizmalarını, kontrollü kapatma protokollerini, durum geri almayı (rollback), kuyruk boşaltmayı, insanın kontrolü devralma prosedürlerini ve adli kara kutu bellek dökümlerini kurallara bağlayan işletim rehberi.
Acil durdurma butonlarını, kontrollü kapatmaları, durum geri almayı ve adli bellek dökümünü kurallara bağlayan işletim rehberi.
Önemli Teknik Doküman Şablonu ve Hukuki Uyarı
TinyCTO.tv Teknik Doküman Şablon Bildirimi: Bu şablon genel eğitim ve operasyon amaçlı bir başlangıç materyalidir. Hukuki, vergisel, muhasebesel, yatırım, satın alma, mevzuat, güvenlik veya sertifikasyon danışmanlığı değildir. Gereklilikler ülkeye, kuruma, sözleşmeye ve riske göre değişir. Kullanmadan önce yetkin uzmanlarla gözden geçirip uyarlayın.
Çözülen Üretim Problemi
Kurumlar otonom ajanları acil durdurma mekanizması olmaksızın yayına alır; bu da bir ajan kontrolden çıktığında, müşterilere binlerce hatalı mesaj attığında veya bulut bütçesini tükettiğinde operatörleri çaresiz bırakır.
Ne Zaman Kullanılmalı?
- •Kritik olaylar sırasında canlı ortamdaki otonom ajanları acil olarak durdururken veya güvenli şekilde devreden çıkarırken
- •Kötüye kullanılan veya arızalanan ajan iş akışlarında kontrolü insanın devralması protokollerini işletirken
- •AB Yapay Zeka Yasası (EU AI Act) Madde 14 kapsamındaki insan gözetimi ve müdahale zorunluluklarını karşılarken
Ne Zaman Kullanılmamalı?
- •Genel altyapı sunucu yedekleme ve felaket kurtarma planları için (TPL-OPS-009 kullanın)
- •Rutin planlı bakım penceresi yönetimi için (TPL-SVC-006 kullanın)
5 Şablon Bölümü ve Yapısal İskelet
3 aşamalı kapatma seviyesi: Seviye 1 (Yumuşak Duraklatma - yeni iş alımını durdur, mevcutları bitir), Seviye 2 (Sert Durdurma - Redis kill bayrakları/SIGTERM ile anında sonlandırma), Seviye 3 (Tam İzolasyon - tüm IAM ve veritabanı erişimini anında iptal etme).
Operasyonel kapatma tetikleyicileri: saatlik harcamanın 1.000 $'ı aşması, hata oranının >%20 olması veya prompt enjeksiyonu şüphesi. Nöbetçi Olay Yöneticisinin (Incident Commander) yetkileri.
Yarıda kalan veya hatalı adımları geri almak için Temporal/Saga telafi edici işlemlerinin çalıştırılması (ör. hatalı siparişi iptal etme veya veritabanı kaydını geri alma).
Devam eden kullanıcı sohbetlerinin ve bekleyen iş kuyruklarının kullanıcı bağlamı kaybolmadan insan müşteri temsilcilerine veya deterministik betiklere aktarılması.
Konteynerler sıfırlanmadan önce ajanın tüm bellek durumunun, bağlam önbelleğinin ve telemetri loglarının adli analiz için güvenli depolamaya aktarılması.
Doldurma ve Uygulama Yönergeleri
Bağımsız İnceleme ve Onay Kontrol Listesi
- Tüm zorunlu bölümler dolduruldu
- Gizli anahtar veya parola içermiyor
- Yönetici sponsor onayı alındı
İnsan Müdahalesi ve Acil Durdurma (Kill-Switch) İşletim Rehberi - Örnek Vaka Analizi
Örnek Organizasyon: Kurumsal Otonom DevOps Olay Giderme Ajanı (Bulut Altyapı Komutları Çalıştıran)
Kurumsal Otonom DevOps Olay Giderme Ajanı (Bulut Altyapı Komutları Çalıştıran) için eksiksiz operasyonel uygulamayı gösteren gerçek dünya vaka analizi.
- •Hatalı bir ajan özyineleme döngüsünde 18 saniyede Seviye 2 Sert Durdurmayı devreye alarak 85.000 $'lık bütçe kaybını önledi
- •Kısmen değiştirilmiş 14 AWS güvenlik grubunda otomatik telafi edici geri alma iş akışlarını başarıyla çalıştırdı
- •Belgelenmiş bant dışı acil durdurma butonlarıyla AB Yapay Zeka Yasası Madde 14 insan gözetimi denetimini başarıyla geçti
Sıkça Sorulan Sorular
Ajan acil durdurma butonu neden kesinlikle bant dışı (out-of-band) çalışmalıdır?
Durdurma komutu ajanın normal sohbet veya prompt arayüzü üzerinden iletilirse, sonsuz döngüye girmiş veya manipüle edilmiş bir ajan bu mesajı işlemeyebilir ya da reddedebilir. Bant dışı mekanizmalar (Redis bayrağı, konteyner durdurma vb.) fişi altyapı katmanında doğrudan çeker.
Seviye 1 Yumuşak Duraklatma ile Seviye 2 Sert Durdurma arasındaki kritik fark nedir?
Yumuşak Duraklatma ajanın yeni iş almasını engellerken devam eden işlemleri tamamlamasına izin verir ve veritabanı tutarlılığını korur. Sert Durdurma ise ajanın aktif olarak hasar verdiği acil durumlarda tüm süreçleri SIGTERM/SIGKILL ile derhal sonlandırır.
Sert durdurma sonrasında kısmen tamamlanmış çok adımlı işlemler nasıl telafi edilir?
Sistem dayanıklı iş akışı geçmişini (Temporal durumu) tarayarak tamamlanan adımları tespit eder. Yürütülen her ileri işlem için (ör. "KullanıcıOluştur") tersine işlem ("KullanıcıyıSil") tersten sırayla otomatik çalıştırılarak durum temizlenir.
Teknik Doküman Şablon Paketi
Giriş GerekliTüm boş şablonları, işlenmiş senaryoları ve doğrulama manifestolarını tek bir arşivde indirin.
Yetkili Standartlar ve Kaynaklar
- EU Artificial Intelligence Act: Article 14 - Human Oversight MandatesEuropean Parliament • OFFICIAL REQUIREMENT
- IEEE 7000-2021: Standard for Addressing Ethical Concerns During System DesignIEEE • OFFICIAL REQUIREMENT
- NIST AI Risk Management Framework: Govern Function (GOVERN 1.2)NIST • OFFICIAL REQUIREMENT