Skip to main content

> ML_KUTUPHANE // CANDLE_v1.0

Candle (Rust)

Hugging Face — WebGPU ve CUDA ile Rust için Hugging Face'in minimalist, yüksek performanslı derin öğrenme çatısı.

non-python-ecosystemsv0.6.0Apache-2.0 OR MITqualified
Resmi DokümantasyonKaynak Kod Deposu

Model Eğitimi (Training)

Destekleniyor
Desteklenen Hızlandırıcılar:
CPUCUDAMPS
Dağıtık Eğitim (Distributed):Hayır

Model Sunumu (Inference)

Destekleniyor
Inference Hızlandırıcıları:
CPUCUDAMPSWEBGPUWASM
Hedef Ortamlar (Targets):server, edge, browser
Kuantizasyon Formatları:GGUF (Q4_0, Q4_K, Q8_0)

Neleri Sağlar (Ne Yapar)

  • +Ağır PyTorch C++ bağımlılıkları olmayan minimalist Rust tensör çalışma zamanı (libtorch gerekmez)
  • +NVIDIA CUDA (cuBLAS), Apple Silicon Metal ve WebGPU genelinde donanım hızlandırması
  • +Modern Hugging Face modelleri için birinci sınıf destek: Llama 3, Mistral, Whisper, Stable Diffusion ve BERT
  • +Sıfır arka uçlu istemci tarafı yürütme için doğrudan WebAssembly'ye derleme

Neleri Sağlamaz (Ne Yapmaz)

  • -Keras gibi üst seviye sürükle-bırak eğitim soyutlamaları sağlama
  • -Kutu içeriğinde çok düğümlü dağıtık kümeler arasında ölçeklenme (PyTorch üzerinde DeepSpeed kullanın)
  • -Geleneksel ilişkisel veritabanlarının yerini alma

>Uygun İş Tipleri

  • Python ortamları olmadan bağımsız tek ikili dosyalı LLM ve ses çıkarım CLI araçları dağıtma
  • Anında 100ms altı soğuk başlatma ile Whisper çalıştıran sunucusuz AWS Lambda fonksiyonları
  • Saf Rust içinde tarayıcı içi WebAssembly ve WebGPU sinir ağı yürütmesi

>Uygun Olmayan İş Tipleri

  • Hızlı Python etkileşimli denemeleri gerektiren araştırma iş akışları
  • Megatron-LM gerektiren çok milyar parametreli küme eğitimi
Veri Yerleşimi ve İkameti

Yalnızca bellekte veya GPU VRAM'inde yerel olarak çalışır. Sıfır telemetri.

Güvenlik Değerlendirmesi

Çift MIT/Apache-2.0 lisansı. Bellek güvenli Rust uygulaması. Pickle açıklarını ortadan kaldırmak için SafeTensors formatını zorunlu kılar.

Operasyonel Metrikler ve Bilinen Kısıtlar

Olgunluk:mature
Öğrenme Eğrisi:moderate
Operasyon Yükü:low
Maliyet Seviyesi:free-oss
> Bilinen Kısıtlamalar:
  • Model kapsamı ana mimarilere odaklıdır; yeni veya deneysel araştırma modelleri Rust içinde manuel katman uygulamasını gerektirir.

İlişkili Üretim Arıza Paternleri (Incidentpedia)

Bu kütüphaneyi üretimde kullanırken aşağıdaki arıza senaryolarına karşı fail-closed korumalar uygulayın:

runtime-oom-crash

> Birincil Kanıt ve Doğrulama Kaynakları

Hugging Face Candle Documentationofficial-docs • >=0.5.0, <=0.6.x
2026-09-25HIGH