| Gömme Modeli Sunucusu (Embedding Model Server) | Yapay Zeka ve Ajan Sistemleri | Bir alım boru hattından (ingestion pipeline) eşzamanlı metin parçaları gruplarını (batches) alır, 1536 boyutlu normalleştirilmiş kayan nokta (normalized floating-point) vektörleri oluşturmak için dinamik mikro-gruplama (dynamic micro-batching) ile GPU tensör çekirdeklerini (tensor cores) kullanır ve yerleştirmeleri (embeddings) 15 milisaniyenin altında döndürür. | İncele→ |
| Değerlendirme (Evaluation Framework) | Yapay Zeka ve Ajan Sistemleri | Aday model sürümüne (candidate model release) karşı 500 zorlu, çok turlu kurumsal sorgudan oluşan bir regresyon testi paketini (regression test suite) yürütür; üretim (production) sunumundan önce sıfır kalite gerilemesini doğrulamak için deterministik tam eşleşme (exact-match) metriklerini, BERTScore'u ve güvenlik korkuluğu (safety guardrail) geçişlerini hesaplar. | İncele→ |
| Hibrit Arama Motoru (Hybrid Search Engine) | Yapay Zeka ve Ajan Sistemleri | Tersine çevrilmiş metin dizinleri (inverted text indexes) ve vektör grafiği dizinleri (vector graph indexes) genelinde paralel sorgular yürütür, Karşılıklı Sıra Füzyonu (Reciprocal Rank Fusion - RRF) veya çapraz kodlayıcı yeniden sıralayıcılar (cross-encoder rerankers) kullanarak puan dağılımlarını normalleştirir ve birleşik sıralanmış arama sonuçlarını 50ms'nin altında döndürür. | İncele→ |
| Girdi Güvenlik Bariyeri (Input Guardrail) | Yapay Zeka ve Ajan Sistemleri | Doğal dil istem (prompt) belirteçlerini deterministik imza motorları (deterministic signature engines) ve düşük gecikmeli dönüştürücü sınıflandırıcılar (low-latency transformer classifiers) aracılığıyla inceler, PII'yi (Personally Identifiable Information) temizler ve tek haneli milisaniyeler içinde yapısal sözdizimini (structural syntax) doğrular. | İncele→ |
| KV Önbellek Yöneticisi (KV Cache Manager) | Yapay Zeka ve Ajan Sistemleri | İlk istem ön doldurma (prompt prefill) aşamasında, model tüm giriş belirteçleri (input tokens) için Anahtar (Key) ve Değer (Value) dikkat matrislerini hesaplar. KV Önbellek Yöneticisi (KV Cache Manager), bu tensörleri bitişik olmayan (non-contiguous) fiziksel GPU bellek sayfalarında saklar (PagedAttention). Sonraki öz-bağlanımlı kod çözme (autoregressive decoding) adımlarında, yeni belirteçler, geçmiş belirteçlere onları yeniden hesaplamak yerine bellekteki önbelleğe alınmış KV tensörlerini (cached KV tensors) doğrudan alarak dikkat (attend) eder ve üretim verimini (generation throughput) önemli ölçüde hızlandırır. | İncele→ |
| LLM Değerlendiricisi (LLM Evaluator) | Yapay Zeka ve Ajan Sistemleri | Test istemlerini (test prompts) ve model tamamlamalarını (model completions) alır, buluşsal metrikler (heuristic metrics) ve yüksek yetenekli yargıç modelleri (high-capability judge models) kullanarak standartlaştırılmış değerlendirme rubrikleri (evaluation rubrics) uygular, çok boyutlu kalite puanlarını (uygunluk, doğruluk, toksisite, ton - relevance, accuracy, toxicity, tone) hesaplar ve model tanıtımına (model promotion) rehberlik etmek için yapılandırılmış telemetriyi (structured telemetry) dışa aktarır (exports). | İncele→ |
| LLM Ağ Geçidi (LLM Gateway) | Yapay Zeka ve Ajan Sistemleri | Dahili uygulamalardan birleşik çıkarım (inference) isteklerini alır, kiracı (tenant) kimlik bilgilerini doğrular, anında yanıtlar için anlamsal önbelleği (semantic cache) kontrol eder, kiracı başına jeton (token) bütçelerini uygular, akış veya toplu (batch) istekleri en uygun model sağlayıcısına yönlendirir ve maliyet ile gecikme (latency) analizi için telemetriyi yakalar. | İncele→ |
| Model Bağlam Protokolü Sunucusu (Model Context Protocol Server - MCP Server) | Yapay Zeka ve Ajan Sistemleri | LLM (Büyük Dil Modeli) konak istemcileriyle (IDE'ler veya yapay zeka ajanları gibi) protokol el sıkışmalarını (protocol handshakes) başlatır, standartlaştırılmış JSON-RPC şemaları (schemas) aracılığıyla mevcut araçları ve bağlamsal kaynakları (contextual resources) tanıtır, istemci isteği üzerine yetkilendirilmiş araç (tool) eylemlerini yürütür ve yapılandırılmış (structured) sonuçları ajana (agent) geri akıtır. | İncele→ |
| Model Kayıt Defteri (Model Registry) | Yapay Zeka ve Ajan Sistemleri | Veri bilimciler ve eğitim ardışık düzenleri (training pipelines), eğitilmiş model denetim noktalarını (model checkpoints), değerlendirme metrikleri, hiperparametreler ve tensör imza şemalarıyla (tensor signature schemas) birlikte kaydeder. Kayıt defteri (registry), yapı taşlarını (artifacts) heşler, imzaları doğrular ve Geliştirme (Dev), Hazırlık (Staging) ve Üretim (Production) aşamaları arasındaki terfi iş akışlarını (promotion workflows) yönetir. | İncele→ |
| Model Sunum Platformu (Model Serving Platform) | Yapay Zeka ve Ajan Sistemleri | Bir çıkarım isteği (inference request) geldiğinde, model sunma platformu (model serving platform) ham yük baytlarını (raw payload bytes) alır, giriş şemasını (input schema) model imzasına karşı doğrular ve isteği dinamik bir toplu iş kuyruğuna (dynamic batching queue) yerleştirir. Bir çalışan iş parçacığı (worker thread), paralel GPU/TPU hesaplama kullanımını en üst düzeye çıkarmak için eşzamanlı istekleri bir araya toplar (batches), tensör (tensor) verilerini donanım hızlandırıcı (hardware accelerator) VRAM'ine kopyalar, serileştirilmiş (serialized) sinir ağı (neural network) ağırlıkları (örneğin TensorRT, ONNX, PyTorch) aracılığıyla ileri matematiksel geçişi (forward mathematical pass) çalıştırır, çıktı son işlemesini (output post-processing) gerçekleştirir ve eşzamanlılık (concurrency) metriklerine (metrics) göre çalışan örneklerini (worker instances) dinamik olarak otomatik ölçeklendirirken (autoscaling) tahmin tensörünü (prediction tensor) 100 ms'nin altında bir gecikmeyle (latency) döndürür. | İncele→ |
| Çoklu Ajan Çerçevesi (Multi-Agent Framework) | Yapay Zeka ve Ajan Sistemleri | Bir koordinatör ajan (coordinator agent), kapsayıcı bir kullanıcı hedefini yönlendirilmiş asiklik grafik (DAG - directed acyclic graph) alt görevlere (sub-tasks) ayırır. Bireysel alt görevleri uzman çalışan ajanlara (worker agents) (örn. araştırmacı, kodlayıcı, gözden geçirici) gönderir, her ajana hedeflenmiş bellek bağlamı (memory context) ve yürütülebilir araç arayüzleri sağlar, ajanlar arası diyaloğu ve oylama mutabakatını (voting consensus) yönetir, yürütme kısıtlamalarını doğrular ve ara çıktıları doğrulanmış bir nihai çözümde sentezler. | İncele→ |
| Çok Modlu Veri Alma Hattı (Multimodal Ingestion Pipeline) | Yapay Zeka ve Ajan Sistemleri | Ardışık düzen (pipeline), depolama akışlarından ham çok formatlı dosyaları tüketir, dosyaları medya türüne göre böler, sesi otomatik konuşma tanıma (automatic speech recognition - ASR) motorlarına yönlendirir, belgelerde optik karakter tanıma (optical character recognition - OCR) ve düzen analizi yürütür, video akışlarından ana kareleri (keyframes) çıkarır, zamansal ve görsel meta verileri hizalar, temel modelleri (foundation models - örn. CLIP, Whisper) kullanarak birleştirilmiş çapraz mod (cross-modal) gömmeleri (embeddings) oluşturur ve vektörleri ilişkisel meta verilerle (relational metadata) birlikte vektör veritabanlarına dizinler (indexes). | İncele→ |
