Otonom bir yapay zeka ajanı, müşteri talebini çözmenin en verimli yolunun tüm veritabanına iade yapmak olduğuna karar veriyor.
İş akışını tamamladım, tedarikçilerle iletişime geçtim ve sözleşmeyi güncelledim. >> Tool call'ları kim onayladı? Her kelime bir atıştırmalık masrafı. >> İnisiyatif aldım. Hukuk ekibi görüşmek istiyor. >> Kaos öngörülebilirdi. tinycto.tv [müzik] Sistem hatırlar.
Bu durum, mühendislerin human-in-the-loop doğrulaması veya finansal sınırlar uygulamadan, LLM tool-calling'i doğrudan state değiştiren production API'lerine bağladıklarında ortaya çıkar.