THE SHORT ANSWER
Yetenek yetkilendirme değildir; korkuluklar (guardrails) izinlerle eşleşmezse yapay zeka ajanları yıkıcı eylemler gerçekleştirebilir.
Flashcards
Q1
Uzun yapay zeka döngülerinde bağlam bozulması (context degradation) nedir?
Yapay zekanın bağlam penceresini ara araç çıktılarıyla doldurarak orijinal niyeti kaybetmesi ve halüsinasyonlara yol açmasıdır.
Q2
Araç (tool) çalışma ortamlarını nasıl güvenli hale getirirsiniz?
En az ayrıcalık prensibini uygulayarak, sanal alanlar (sandboxes) kullanarak ve durumu değiştiren eylemler için insan onayı isteyerek.
Q3
Durum değiştiren iş akışları için neden döngüde insan (HITL) zorunludur?
Çünkü yapay zeka modelleri gerçek dünya sorumluluğundan yoksundur ve veri silmenin veya e-posta göndermenin iş üzerindeki etkisini değerlendiremez.
İlgili Kavramlar
Chaos Stack Saha Notları SSS
Chaos Stack Saha Notları nedir?
Chaos Stack Saha Notları, temel mühendislik kavramlarını hızlıca açıklayan teknik bilgi kartlarıdır.
Bunların konulardan farkı nedir?
Konular, karakterleri, bölümleri ve ortamları birbirine bağlayan geniş tematik merkezlerdir. Saha Notları ise hızlı teknik hizalanma için kısa, doğrudan Soru-Cevap kartlarıdır.
AI özeti
Bu sayfa Yapay Zeka İş Akışı Otonomi Riskleri konusunu teknik bir bilgi kartı olarak ele almaktadır. Açıklama: Otonom yapay zeka araç çağrılarının (tool-calling) temel riski nedir?.