Skip to main content

> ML_KUTUPHANE // DSPY_v1.0

DSPy

Stanford NLP Group / Omar Khattab — Temel Modelleri istem yazarak değil, programlayarak yönetme çerçevesi.

nlp-llmv2.5.0MITqualified
Resmi DokümantasyonKaynak Kod Deposu

Model Eğitimi (Training)

Destekleniyor
Desteklenen Hızlandırıcılar:
CPUCUDA
Dağıtık Eğitim (Distributed):Hayır

Model Sunumu (Inference)

Destekleniyor
Inference Hızlandırıcıları:
CPUCUDA
Hedef Ortamlar (Targets):server

Neleri Sağlar (Ne Yapar)

  • +Kırılgan elle yazılmış istem metinlerini bildirimsel İmzalar (Signatures) ve Modüllerle değiştirme
  • +MIPROv2 ve BootstrapFewShot gibi optimize edicilerle sistem talimatlarını ve az örnekli (few-shot) örnekleri otomatik ayarlama
  • +Çok adımlı LLM programlarını nicel doğruluk metriklerine göre derleme

Neleri Sağlamaz (Ne Yapmaz)

  • -Sinir ağı ağırlıklarını doğrudan geri yayılımla (backprop) eğitme (LM çağrılarıyla optimize eder)
  • -Düşük seviyeli GPU çıkarım token'ları sunma
  • -Web tarayıcılarında çalışma

>Uygun İş Tipleri

  • Kırılgan 500 kelimelik istem metinlerini bakımı kolay, derlenmiş yazılım koduyla değiştirme
  • Sürekli metrik odaklı iyileştirme gerektiren RAG boru hatları
  • Çok adımlı soru-cevap ve otomatik değerlendirme sistemleri

>Uygun Olmayan İş Tipleri

  • Temel ağırlıkların sıfırdan ön eğitimi
  • scikit-learn'ün üstün olduğu klasik tablo algoritmaları
Veri Yerleşimi ve İkameti

Optimizasyon iterasyonlarını yapılandırılan LLM API uç noktalarına iletir.

Güvenlik Değerlendirmesi

Optimize edilen istemler üretime alınmadan önce kurumsal politika uyumu açısından denetlenmelidir.

Operasyonel Metrikler ve Bilinen Kısıtlar

Olgunluk:emerging
Öğrenme Eğrisi:high
Operasyon Yükü:moderate
Maliyet Seviyesi:medium
> Bilinen Kısıtlamalar:
  • Programları optimize edicilerle derlemek yüzlerce LLM çağrısı gerektirebilir ve optimizasyon anında API maliyeti yaratır.
  • Geleneksel metin istemlerinden farklı programatik bir zihinsel model gerektirir.

İlişkili Üretim Arıza Paternleri (Incidentpedia)

Bu kütüphaneyi üretimde kullanırken aşağıdaki arıza senaryolarına karşı fail-closed korumalar uygulayın:

training-serving-skew

> Birincil Kanıt ve Doğrulama Kaynakları

DSPy Documentationofficial-docs • >=2.4.0, <=2.5.x
2026-09-25HIGH