Skip to main content

> ML_ALGORITHM // CONTINUOUS-BAG-OF-WORDS-SKIPGRAM-WORD2VEC_v1.0

Word2Vec (CBOW ve Skip-Gram)

Kelime dağarcığı belirteçlerini doğrusal anlamsal ve sözdizimsel düzenlilikleri yakalayan yoğun vektör uzaylarına eşleyen öncü sinirsel kelime gömme tekniği.

Static Word Embeddingsself-supervisedhigh-intrinsiclarge (>100k)
Tüm Algoritmalara Dön
Hesaplama Karmaşıklığı
Eğitim (Training):O(epochs * corpus_size * window * negative_samples)
Çıkarım (Inference):O(1) dictionary vector lookup
Donanım Karakteristiği
CPU Uygunluğu:Evet
GPU Zorunluluğu:Hayır
Bellek Ayak İzi:low
Açıklanabilirlik ve Veri
Açıklanabilirlik Düzeyi:high-intrinsic
Eğitim Verisi İhtiyacı:large (>100k)

Açıklanabilirlik Değerlendirmesi

Gömme vektörü geometrisi doğrusal anlamsal analojileri doğrudan sağlar (örneğin: Kral - Erkek + Kadın = Kraliçe).

Uygun Görevler ve Desteklenen Modaliteler

Uygun Görevler:
feature extractiontoken embedding
Desteklenen Modaliteler:
text

Uygulayıcı Kütüphaneler

GensimRaRe Technologies / Radim Řehůřek · v4.3.3
İncele
fastTextMeta AI Research (FAIR) · v0.9.2
İncele

Temel Literatür & Yayınlar

Sık Karşılaşılan Hatalar ve Dikkat Edilmesi Gerekenler
  • Çok anlamlı kelimelerin farklı anlamlarını tek bir statik vektöre indirgemek (ör. finansal banka ile nehir kıyısı)
  • Kelime dağarcığı dışı (OOV) belirteçlerde sıfır vektör veya hata oluşması