Kanonik Mühendislik Kılavuzu #07|TinyCTO RAG Bible
Güvenlik Bariyerleri ve Düzenleyici Yönetişim
Dolaylı prompt injection savunması, çok kiracılı izolasyon, logit maskeleme ve SHA-256 imzalı denetim kayıtları.
Kanonik Onaylı 15 min
#1. Arama Destekli Sistemlerde Tehdit Ortamı
RAG sistemleri, geleneksel ağ güvenlik duvarlarını aşan yeni saldırı vektörlerine açıktır:
- Dolaylı Prompt Injection: Üçüncü taraf web sayfalarına veya PDF'lere gömülen düşmanca talimatlar, bağlama alındığında LLM'i ele geçirebilir.
- Hassas Veri Sızıntısı (PII / PHI): Müşteri kimlik ve finansal kayıtlarının arındırılmadan ortak vektör uzayına aktarılması.
- Yasal / Tıbbi Halüsinasyonlar: Düzenlemeye tabi alanlarda hatalı ve yanıltıcı atıfların üretilmesi.
#2. Çok Aşamalı Koruma Mimarisi
- Alım Aşaması: İndeksleme öncesinde PII temizliği ve kötü amaçlı yazılım taraması.
- Getirme Aşaması: Çok kiracılı kriptografik bölüm izolasyonu.
- Bağlam Aşaması: Güvenilmeyen parçaları XML etiketleri içine hapsederek etiket kaçışını engelleme.
- Üretim Aşaması: GBNF gramer kısıtlamaları ile katı JSON şeması ve atıf doğrulama.
- Denetim Günlüğü: ISO 42001 ve EU AI Act uyumluluğu için değişmez SHA-256 imzalı denetim kayıtları tutma.