Skip to main content

Ajan Bellek Deposu (Agent Memory Store)

Sistem Analizi

Yapay Zeka ve Ajan Sistemleri

Normal Davranış

Bir temsilci (agent) akıl yürütme döngüsü sırasında, kullanıcı girdileri, ara araç yürütme çıktıları ve karalama defteri (scratchpad) düşünceleri bellek içi (in-memory) bir arabelleğe (kısa süreli bellek) aktarılır. Periyodik olarak, bir temsilci bellek boru hattı (pipeline) tamamlanan görevleri özetler, önemli gerçeklerin vektör gömme (vector embedding) işlemlerini oluşturur ve bunları grafik varlıklarının yanı sıra bir vektör veritabanına ekler (upsert) veya günceller (uzun süreli bellek). Yeni bir görev geldiğinde, depo, LLM sistem istemine (prompt) en alakalı ilk k (top-k) geçmiş bağlamı enjekte etmek için hibrit geri çağırma (BM25 anahtar kelime araması + vektör kosinüs benzerliği + grafik geçişi) yürütür.

Çöküş Davranışı

Arıza modları arasında bellek geri çağırma kirliliği (anlamsal benzerliğin alakasız veya modası geçmiş gerçekleri döndürmesi), sıkıştırılmamış mesaj arabelleklerinden kaynaklanan bağlam penceresi (context window) tükenmesi ve vektör indekslerinde eksik kiracı (tenant) bölüm meta verilerinden kaynaklanan çapraz kiracı veri sızıntısı yer alır. Bellek geri çağırma işlemi, halüsinasyonlu veya çelişkili geçmiş eylemler döndürdüğünde, temsilci sonlanmayan akıl yürütme döngülerine girer.

İş Sonuçları

Bir Temsilci Bellek Deposu (Agent Memory Store) başarısız olduğunda veya anlamsal kirlilik (semantic pollution) yaşadığında, kurumsal otonom yapay zeka temsilcileri sonlanmayan akıl yürütme döngülerine girer veya kritik gerçekler hakkında halüsinasyon görür. Bu durum, kiracı sınırları boyunca feci veri sızıntılarına veya uydurma geçmiş bağlamlara dayalı olarak yıkıcı eylemler gerçekleştiren otomatik sistemlere yol açarak, anında güven kaybına, mali sorumluluğa ve temsilcinin vektörel epizodik belleğini manuel olarak temizleme ve yeniden oluşturma zorunluluğuna neden olur.

Görsel Tezahür

"İzleme gösterge paneli (dashboard), fırlayan bir kosinüs benzerliği hata oranını ve KV-önbellek (KV-cache) OOM (Bellek Yetersizliği) istisnalarını gösterirken, sohbet konsolu bitmeyen bir döngüde tekrarlanan yapay zeka düşünce süreçlerini akıtır. Kullanıcı, temsilcinin önceki bir oturumdan son derece kendinden emin, çılgınca halüsinasyon görmüş gerçeklerle yanıt verdiğini görür."

Satirical Behavior

"A highly sophisticated vector database and KV cache layer designed to give AI agents 'long-term memory', but typically deployed by enterprises to hoard petabytes of useless chat logs until the agent hallucinates that it is a 19th-century poet and deletes the production database."

Teknik Terminoloji

ScalabilityFault toleranceLatency

Hata Göstergeleri

OOM (Out of Memory)TimeoutRate limited

Sistem Mimarisi

Click or hover to interact

FAQ

Normalde nasıl davranır?

Bir temsilci (agent) akıl yürütme döngüsü sırasında, kullanıcı girdileri, ara araç yürütme çıktıları ve karalama defteri (scratchpad) düşünceleri bellek içi (in-memory) bir arabelleğe (kısa süreli bellek) aktarılır. Periyodik olarak, bir temsilci bellek boru hattı (pipeline) tamamlanan görevleri özetler, önemli gerçeklerin vektör gömme (vector embedding) işlemlerini oluşturur ve bunları grafik varlıklarının yanı sıra bir vektör veritabanına ekler (upsert) veya günceller (uzun süreli bellek). Yeni bir görev geldiğinde, depo, LLM sistem istemine (prompt) en alakalı ilk k (top-k) geçmiş bağlamı enjekte etmek için hibrit geri çağırma (BM25 anahtar kelime araması + vektör kosinüs benzerliği + grafik geçişi) yürütür.

Nasıl çöker?

Arıza modları arasında bellek geri çağırma kirliliği (anlamsal benzerliğin alakasız veya modası geçmiş gerçekleri döndürmesi), sıkıştırılmamış mesaj arabelleklerinden kaynaklanan bağlam penceresi (context window) tükenmesi ve vektör indekslerinde eksik kiracı (tenant) bölüm meta verilerinden kaynaklanan çapraz kiracı veri sızıntısı yer alır. Bellek geri çağırma işlemi, halüsinasyonlu veya çelişkili geçmiş eylemler döndürdüğünde, temsilci sonlanmayan akıl yürütme döngülerine girer.

İş sonuçları nelerdir?

Bir Temsilci Bellek Deposu (Agent Memory Store) başarısız olduğunda veya anlamsal kirlilik (semantic pollution) yaşadığında, kurumsal otonom yapay zeka temsilcileri sonlanmayan akıl yürütme döngülerine girer veya kritik gerçekler hakkında halüsinasyon görür. Bu durum, kiracı sınırları boyunca feci veri sızıntılarına veya uydurma geçmiş bağlamlara dayalı olarak yıkıcı eylemler gerçekleştiren otomatik sistemlere yol açarak, anında güven kaybına, mali sorumluluğa ve temsilcinin vektörel epizodik belleğini manuel olarak temizleme ve yeniden oluşturma zorunluluğuna neden olur.

How does hybrid search (dense vector + sparse lexical) improve memory retrieval accuracy for AI agents?

Dense vector search excels at conceptual similarity (matching 'car' with 'automobile') but frequently fails on exact identifier lookups (like UUIDs, order numbers, or specific API function names). Hybrid search combines dense vector embeddings with sparse BM25 lexical keyword scoring and reciprocal rank fusion (RRF), ensuring both semantic relevance and precise keyword matching in retrieved agent context.

What is memory compaction and how does it prevent token budget exhaustion?

Memory compaction is an automated maintenance process where raw, multi-turn agent dialogues and tool outputs are recursively summarized into structured bullet points or entity knowledge graphs using a lightweight LLM. This condenses thousands of tokens of verbose execution logs into dense, high-signal facts, preventing context window overflow.

AI özeti

Agent Memory Store is a AI_AND_AGENT_SYSTEMS system in TinyCTO.tv. During an agent reasoning cycle, user inputs, intermediate tool execution outputs, and scratchpad thoughts are streamed into an in-memory buffer (short-term memory). Periodically, an agent memory pipeline summarizes completed tasks, generates vector embeddings of key facts, and upserts them into a vector database alongside graph entities (long-term memory). When a new task arrives, the store executes hybrid retrieval (BM25 keyword search + vector cosine similarity + graph traversal) to inject top-k relevant historical context into the LLM system prompt.