Skip to main content

> ML_KUTUPHANE // TRANSFORMERS_v1.0

Transformers

Hugging Face — PyTorch, TensorFlow ve JAX için modern makine öğrenimi kütüphanesi.

nlp-llmv4.44.2Apache-2.0qualified

Model Eğitimi (Training)

Destekleniyor
Desteklenen Hızlandırıcılar:
CPUCUDAROCMMPSXPUTPU
Dağıtık Eğitim (Distributed):Evet

Model Sunumu (Inference)

Destekleniyor
Inference Hızlandırıcıları:
CPUCUDAROCMMPS
Hedef Ortamlar (Targets):server, edge
Kuantizasyon Formatları:bitsandbytes 4-bit/8-bit, AWQ, GPTQ, FP8

Neleri Sağlar (Ne Yapar)

  • +Metin, görüntü ve ses alanlarında 100 binden fazla önceden eğitilmiş model mimarisine erişim
  • +Birleşik AutoModel, AutoTokenizer ve AutoProcessor API'leri
  • +SafeTensors, PEFT ve bitsandbytes kuantalama ile doğrudan entegrasyon

Neleri Sağlamaz (Ne Yapmaz)

  • -PagedAttention ile yüksek verimli sürekli token sunumu sağlama (bunun için vLLM veya TGI kullanın)
  • -Transformers.js olmadan tarayıcıda doğrudan çalışma
  • -Klasik tablo karar ağacı modelleri eğitme

>Uygun İş Tipleri

  • Temel model ince ayarı ve değerlendirmesi
  • Belge sınıflandırma, veri çıkarma ve embedding üretimi
  • Multimodal görsel-dil araştırmaları

>Uygun Olmayan İş Tipleri

  • Yüksek eşzamanlı canlı LLM sunumu (vLLM, TensorRT-LLM veya TGI kullanın)
  • Yapılandırılmış veritabanı kayıtlarında basit tablo analitiği
Veri Yerleşimi ve İkameti

Yerel dosya sistemi ve GPU belleği. Kapalı ağlarda yerel önbellek aynalama gerektirir.

Güvenlik Değerlendirmesi

Pickle kod çalıştırma zafiyetlerini önlemek için SafeTensors dosyalarını zorunlu kılın.

Operasyonel Metrikler ve Bilinen Kısıtlar

Olgunluk:mature
Öğrenme Eğrisi:moderate
Operasyon Yükü:moderate
Maliyet Seviyesi:high-compute
> Bilinen Kısıtlamalar:
  • Büyük dil modellerinde yüksek GPU VRAM gereksinimi.
  • Python içinde ardışık token üretimi, derlenmiş C++ motorlarına (vLLM, llama.cpp) göre belirgin şekilde daha yavaştır.

İlişkili Üretim Arıza Paternleri (Incidentpedia)

Bu kütüphaneyi üretimde kullanırken aşağıdaki arıza senaryolarına karşı fail-closed korumalar uygulayın:

> Birincil Kanıt ve Doğrulama Kaynakları

Hugging Face Transformers Documentationofficial-docs • >=4.40.0, <=4.44.x
2026-09-25HIGH