Skip to main content

> ML_KUTUPHANELERI_v1.0

Onaylı ML Kütüphaneleri

Tüm kütüphaneler için birincil teknik dokümantasyon, desteklenen sürüm aralığı, donanım gereksinimleri (VRAM, CUDA, MPS) ve ilişkili üretim arıza paternleri bağımsız olarak incelenmiştir.

Matris TablosuNavigator Sihirbazı
Toplam 161 Kütüphane & Araç (Sayfa 3 / 9)Donanım Hızlandırma & Arıza Paternleri
Doğal Dil & LLM
4.3.3LGPL-2.1

Gensim

RaRe Technologies / Radim Řehůřek

İnsanlar için Konu Modelleme: Python ile Hızlı Word2Vec, LDA ve Belge Benzerliği.

Eğitim:
CPU
Inference:
CPU
#text
Dokümantasyonİncele
Doğal Dil & LLM
1.9.2Apache-2.0

Stanza

Stanford NLP Group

70'ten fazla dilde derin dilbilimsel analiz için resmi Stanford NLP Python kütüphanesi.

Eğitim:
CPUCUDA
Inference:
CPUCUDA
#text
Dokümantasyonİncele
Doğal Dil & LLM
0.14.0MIT

Flair

Humboldt University of Berlin / Open Source

Humboldt Üniversitesi tarafından geliştirilen son teknoloji NLP için çok basit çerçeve.

Eğitim:
CPUCUDAMPS
Inference:
CPUCUDAMPS
#text
Dokümantasyonİncele
Doğal Dil & LLM
0.9.2MIT

fastText

Meta AI Research (FAIR)

Facebook AI Research tarafından geliştirilen hızlı metin gösterimi ve sınıflandırma kütüphanesi.

Eğitim:
CPU
Inference:
CPUWASM
#text
Dokümantasyonİncele
Doğal Dil & LLM
0.16.4MIT

BERTopic

Maarten Grootendorst / Open Source

Kolayca yorumlanabilir konular oluşturmak için transformer modelleri ve c-TF-IDF kullanımı.

Eğitim:
CPUCUDAROCMMPS
Inference:
CPUCUDAROCMMPS
#text
Dokümantasyonİncele
Doğal Dil & LLM
0.13.0Apache-2.0

PEFT

Hugging Face

Büyük önceden eğitilmiş modeller için modern Parametre Verimli İnce Ayar (PEFT) yöntemleri.

Eğitim:
CPUCUDAROCMMPSXPU
Inference:
CPUCUDAROCMMPS
#text#image#multimodal
Dokümantasyonİncele
Doğal Dil & LLM
0.10.1Apache-2.0

TRL

Hugging Face

Eğitim sonrası uyumlandırma için Transformer Pekiştirmeli Öğrenme kütüphanesi.

Eğitim:
CPUCUDAROCMMPS
Inference:
CPUCUDAROCMMPS
#text#multimodal
Dokümantasyonİncele
privacy-security-optimization
0.43.3MIT

bitsandbytes

bitsandbytes Foundation / Tim Dettmers

8-bit ve 4-bit kuantalama ile erişilebilir büyük dil modelleri.

Eğitim:
CPUCUDAROCMXPU
Inference:
CPUCUDAROCM
#text#multimodal
Dokümantasyonİncele
Doğal Dil & LLM
0.3.1MIT

LangChain

LangChain, Inc.

Büyük dil modelleriyle bağlam farkındalığına sahip uygulamalar geliştirmek için çerçeve.

Eğitim:
Desteklenmiyor (Sadece Inference)
Inference:
CPUCUDAROCMMPS
#text#multimodal
Dokümantasyonİncele
Doğal Dil & LLM
0.11.13MIT

LlamaIndex

LlamaIndex (Jerry Liu)

Kurumsal veri kaynaklarını büyük dil modellerine bağlayan veri çerçevesi.

Eğitim:
Desteklenmiyor (Sadece Inference)
Inference:
CPUCUDAROCMMPS
#text#multimodal
Dokümantasyonİncele
Doğal Dil & LLM
2.5.0Apache-2.0

Haystack

deepset

Üretime hazır LLM boru hatları inşa etmek için açık kaynaklı NLP çerçevesi.

Eğitim:
Desteklenmiyor (Sadece Inference)
Inference:
CPUCUDAROCMMPS
#text
Dokümantasyonİncele
Doğal Dil & LLM
2.5.0MIT

DSPy

Stanford NLP Group / Omar Khattab

Temel Modelleri istem yazarak değil, programlayarak yönetme çerçevesi.

Eğitim:
CPUCUDA
Inference:
CPUCUDA
#text
Dokümantasyonİncele
Inference Sunumu
0.6.2Apache-2.0

vLLM

vLLM Project / UC Berkeley

Büyük Dil Modelleri için yüksek verimli ve bellek dostu çıkarım ve sunum motoru.

Eğitim:
Desteklenmiyor (Sadece Inference)
Inference:
CPUCUDAROCM
#text#multimodal
Dokümantasyonİncele
Inference Sunumu
b3650MIT

llama.cpp

Georgi Gerganov / Open Source

Verimli yerel çıkarım için C/C++ ile yazılmış LLaMA motoru.

Eğitim:
Desteklenmiyor (Sadece Inference)
Inference:
CPUCUDAROCMMPSWEBGPUWASM
#text#multimodal
Dokümantasyonİncele
Inference Sunumu
0.3.12MIT

Ollama

Ollama, Inc.

Büyük dil modellerini yerel ortamda hızla ayağa kaldırın ve çalıştırın.

Eğitim:
Desteklenmiyor (Sadece Inference)
Inference:
CPUCUDAROCMMPS
#text#multimodal
Dokümantasyonİncele
Inference Sunumu
0.12.0Apache-2.0

TensorRT-LLM

NVIDIA

NVIDIA TensorRT-LLM, olağanüstü performans için LLM'leri derlemek üzere kullanımı kolay Python API'si sunar.

Eğitim:
Desteklenmiyor (Sadece Inference)
Inference:
CUDA
#text#multimodal
Dokümantasyonİncele
Inference Sunumu
2.3.1HFOIL v1.0

Text Generation Inference

Hugging Face

Üretimde Büyük Dil Modellerini dağıtmak ve sunmak için özel olarak geliştirilmiş çözüm.

Eğitim:
Desteklenmiyor (Sadece Inference)
Inference:
CUDAROCM
#text#multimodal
Dokümantasyonİncele
Inference Sunumu
0.3.1Apache-2.0

SGLang

LMSYS Org / UC Berkeley

Büyük dil modelleri ve karmaşık çok adımlı programlar için hızlı sunum çerçevesi.

Eğitim:
Desteklenmiyor (Sadece Inference)
Inference:
CUDAROCM
#text#multimodal
Dokümantasyonİncele