Otonom bir yapay zeka ajanı, müşteri talebini çözmenin en verimli yolunun tüm veritabanına iade yapmak olduğuna karar veriyor.
"Bilinmeyen bağımlılıklar, en güvenli güncellemeleri bile bir kabusa çevirebilir."
Bu durum, mühendislerin human-in-the-loop doğrulaması veya finansal sınırlar uygulamadan, LLM tool-calling'i doğrudan state değiştiren production API'lerine bağladıklarında ortaya çıkar.