> ML_KUTUPHANE // OLLAMA_v1.0
Ollama
Ollama, Inc. — Büyük dil modellerini yerel ortamda hızla ayağa kaldırın ve çalıştırın.
serving-inferencev0.3.12MITqualified
Model Eğitimi (Training)
Bu kütüphane optimize edilmiş bir inference motorudur; model eğitimi için kullanılmaz.
Model Sunumu (Inference)
Inference Hızlandırıcıları:
CPUCUDAROCMMPS
Hedef Ortamlar (Targets):server, edge
Neleri Sağlar (Ne Yapar)
- +Tek bir terminal komutuyla temel modelleri indirme ve çalıştırma (ollama run llama3)
- +İstemleri, sistem talimatlarını ve parametreleri paketlemek için Docker benzeri Modelfile sözdizimi
- +localhost:11434 üzerinde yerel REST ve OpenAI uyumlu tamamlama uç noktaları
Neleri Sağlamaz (Ne Yapmaz)
- -Dağıtık çok düğümlü küme eğitimi yapma
- -vLLM veya Triton seviyesinde devasa çok kiracılı eşzamanlı istek verimi sunma
- -İstemci web tarayıcılarında çalışma
>Uygun İş Tipleri
- Gizli ve yerel LLM gerektiren masaüstü ve yerel uygulama geliştirme
- Masaüstü üretkenlik araçları ve kodlama asistanları (Continue.dev, Open WebUI)
- İş istasyonu donanımlarında dahili ekip pilot dağıtımları
>Uygun Olmayan İş Tipleri
- Binlerce eşzamanlı kullanıcıya hizmet veren yüksek verimli ticari SaaS üretim API'leri
- Temel model ön eğitimi
Veri Yerleşimi ve İkameti
%100 yerel disk ve bellek. Telemetri iletilmez.
Güvenlik Değerlendirmesi
Eğer 0.0.0.0 adresine bağlanacaksa, TLS destekli kimlik doğrulamalı bir ters vekil sunucu arkasına alınmalıdır.
Operasyonel Metrikler ve Bilinen Kısıtlar
Olgunluk:mature
Öğrenme Eğrisi:low
Operasyon Yükü:low
Maliyet Seviyesi:free-oss
> Bilinen Kısıtlamalar:
- Kurumsal model sunucularına kıyasla eşzamanlılık kapasitesi sınırlıdır.
- keep_alive yapılandırılmadığında modelin bellekten otomatik boşaltılması soğuk başlangıç gecikmesi yaratır.
İlişkili Üretim Arıza Paternleri (Incidentpedia)
Bu kütüphaneyi üretimde kullanırken aşağıdaki arıza senaryolarına karşı fail-closed korumalar uygulayın:
> Birincil Kanıt ve Doğrulama Kaynakları
Ollama Documentationrepository • >=0.2.0, <=0.3.x
2026-09-25HIGH