> tpl_air_018
Yapay Zekâ Güvenlik Gerekçesi ve Güvence Kanıt Paketi
Yüksek riskli otonom sistemler için İddia-Argüman-Kanıt (CAE) ve Hedef Yapılandırma Notasyonu (GSN) güvence mimarilerini, tehlike tanımlama matrislerini, ampirik doğrulama kütüklerini, sınır koşulu korkuluklarını ve yasal güvenlik gerekçesi (safety case) dosyalarını belirleyen resmi yapay zekâ güvenlik mühendisliği çerçevesi.
Hedef Yapılandırma Notasyonu argümanlarını ve ampirik güvence kanıtlarını belirleyen resmi yapay zekâ güvenlik gerekçesi çerçevesi.
Önemli Teknik Doküman Şablonu ve Hukuki Uyarı
TinyCTO.tv Teknik Doküman Şablon Bildirimi: Bu şablon genel eğitim ve operasyon amaçlı bir başlangıç materyalidir. Hukuki, vergisel, muhasebesel, yatırım, satın alma, mevzuat, güvenlik veya sertifikasyon danışmanlığı değildir. Gereklilikler ülkeye, kuruma, sözleşmeye ve riske göre değişir. Kullanmadan önce yetkin uzmanlarla gözden geçirip uyarlayın.
Çözülen Üretim Problemi
Kurumlar otonom yapay zekâ modellerini güvenlik kritik, tıbbi veya finansal iş akışlarına belirsiz "güvenlik" iddialarıyla devreye alır; bu da yönetim kurullarının ve AB Yapay Zekâ Yasası kapsamındaki denetçilerin talep ettiği yapılandırılmış argümanlardan ve ampirik kanıtlardan yoksundur.
Ne Zaman Kullanılmalı?
- •AB Yapay Zekâ Yasası Madde 9 ve 15 kapsamında Yüksek Riskli yapay zekâ sistemleri için yasal uyum dosyaları sunarken
- •Resmi bir İddia-Argüman-Kanıt (CAE) veya Hedef Yapılandırma Notasyonu (GSN) güvenlik mimarisi kurarken
- •Kurumsal ticari dağıtım öncesinde yönetim kurulu düzeyinde güvenlik incelemeleri ve bağımsız yapay zekâ uygunluk değerlendirmeleri yürütürken
Ne Zaman Kullanılmamalı?
- •Standart web uygulamalarında temel dahili kod linting veya birim test çalıştırmalarında (CI/CD test otomasyonu kullanın)
- •Geniş çalışan IT kabul edilebilir kullanım ve iş yeri cihaz güvenlik politikalarında (TPL-SEC-008 kullanın)
5 Şablon Bölümü ve Yapısal İskelet
Modüler alt iddialar ve argümantatif stratejilerle desteklenen Üst Düzey Güvenlik İddiasının (ör. Sistem X, tanımlı operasyonel etki alanında kabul edilebilir risk sınırları içinde çalışır) tanımlanması.
Halüsinasyonlar, kontrolden çıkan araç çağrıları, yanlılık, dağılım dışı girdiler ve fiziksel/finansal zarar vektörleri genelinde sistematik tehlike analizi.
Ampirik test çıktılarının (Promptfoo kıyaslamaları, Ragas doğruluk skorları, kırmızı takım sızma günlükleri) doğrudan destekleyici GSN iddialarına bağlanması.
Aktif çalışma zamanı savunmaları: girdi/çıktı toksisite sınıflandırıcıları, istem sınır doğrulayıcıları, belirteç bütçeleri ve otomatik devre kesici acil durdurma anahtarları.
Yaşam döngüsü yönetişimi: model ince ayarı, istem değişiklikleri veya veri kayması durumunda gerekçeyi geçersiz kılma kriterleri ve çeyreklik incelemeler.
Doldurma ve Uygulama Yönergeleri
Bağımsız İnceleme ve Onay Kontrol Listesi
- Tüm zorunlu bölümler dolduruldu
- Gizli anahtar veya parola içermiyor
- Yönetici sponsor onayı alındı
Yapay Zekâ Güvenlik Gerekçesi ve Güvence Kanıt Paketi - Örnek Vaka Analizi
Örnek Organizasyon: Otonom Klinik Tanı ve İlaç Etkileşimi Yapay Zekâ Sistemi
Otonom Klinik Tanı ve İlaç Etkileşimi Yapay Zekâ Sistemi için eksiksiz operasyonel uygulamayı gösteren gerçek dünya vaka analizi.
- •AB Yapay Zekâ Yasası Ek IV başvurusu için 18 iddia ve 94 ampirik kanıt içeren 42 sayfalık resmi GSN güvenlik dosyası hazırlandı
- •Klinik doz önerilerini katı farmakoloji sınırları içinde tutan deterministik güvenlik zarfları formüle edildi
- •%99,8 olgusal doğruluk testlerini geçemeyen istem güncellemelerini engelleyen otomatik CI/CD güvenlik gerekçesi kapıları kuruldu
Sıkça Sorulan Sorular
Kurumsal yapay zekâ bağlamında "Güvenlik Gerekçesi" (Safety Case) nedir?
Güvenlik Gerekçesi (Safety Case), bir yapay zekâ sisteminin açıkça tanımlanmış bir Operasyonel Tasarım Alanında (ODD) çalışmasının kabul edilebilir düzeyde güvenli olduğunu ampirik kanıtlarla kanıtlayan yapılandırılmış ve savunulabilir bir argümandır. Nükleer, havacılık ve savunma mühendisliğinden doğmuş olup günümüzde yüksek riskli yapay zekâ yasal uyumunun altın standardıdır.
Hedef Yapılandırma Notasyonu (GSN) yapay zekâ güvenlik argümanlarını nasıl düzenler?
GSN, üst düzey güvenlik iddialarını hiyerarşik unsurlara ayıran grafiksel bir notasyondur: Hedefler (kanıtlanacak iddialar), Stratejiler (argümantatif yaklaşımlar), Çözümler (kıyaslama skorları ve kırmızı takım günlükleri gibi ampirik kanıtlar) ve Bağlam (varsayımlar ve operasyonel kısıtlar). Bu açık izlenebilirlik, belirsiz söylemleri engeller.
Mevcut bir Yapay Zekâ Güvenlik Gerekçesini ne geçersiz kılar?
Sistemin operasyonel sınırları değiştiğinde güvenlik gerekçesi geçersiz hale gelir. Tetikleyiciler şunlardır: temel model ağırlık güncellemeleri, sistem istemi revizyonları, hiperparametre değişiklikleri, yeni coğrafi bölgelere veya kullanıcı kitlelerine genişleme veya dağılım dışı kaymayı gösteren telemetri sapmaları.
Teknik Doküman Şablon Paketi
Giriş GerekliTüm boş şablonları, işlenmiş senaryoları ve doğrulama manifestolarını tek bir arşivde indirin.
Yetkili Standartlar ve Kaynaklar
- Goal Structuring Notation (GSN) Community Standard Version 3Safety-Critical Systems Club (SCSC) • OFFICIAL REQUIREMENT
- EU Artificial Intelligence Act (Regulation 2024/1689): Articles 9, 15 & Annex IVEuropean Parliament and Council • OFFICIAL REQUIREMENT
- NIST AI 100-1: Artificial Intelligence Risk Management Framework (AI RMF 1.0)NIST • OFFICIAL REQUIREMENT