Skip to main content

> ML_KUTUPHANE // RAY_v1.0

Ray

Anyscale / UC Berkeley RISELab — Yapay zeka ve Python iş yüklerini eğitimden sunuma kadar ölçekleyen birleşik çerçeve.

distributed-computationv2.37.0Apache-2.0qualified

Model Eğitimi (Training)

Destekleniyor
Desteklenen Hızlandırıcılar:
CPUCUDAROCMTPU
Dağıtık Eğitim (Distributed):Evet

Model Sunumu (Inference)

Destekleniyor
Inference Hızlandırıcıları:
CPUCUDAROCM
Hedef Ortamlar (Targets):server

Neleri Sağlar (Ne Yapar)

  • +Hafif aktörler ve görevlerle dağıtık hesaplama
  • +Uçtan uca dağıtık yapay zeka orkestrasyonu (Ray Train, Ray Data, Ray Tune, Ray Serve)
  • +İşçiler arasında bellek paylaşımı için sıfır kopyalı nesne deposu (Plasma)

Neleri Sağlamaz (Ne Yapmaz)

  • -Düşük seviyeli yapay sinir ağı işlemlerini doğrudan yürütme
  • -Hafif tek dosyalık bir betik kütüphanesi olarak çalışma
  • -Varsayılan olarak kimlik doğrulamalı güvenli ağ yapılandırması sunma

>Uygun İş Tipleri

  • Dağıtık LLM ön eğitimi ve ince ayarı (fine-tuning)
  • Ray Tune ile büyük ölçekli dağıtık hiperparametre optimizasyonu
  • Ray Serve ile ölçeklenebilir çok modelli çıkarım sunumu

>Uygun Olmayan İş Tipleri

  • Basit tek iş parçacıklı yerel veri betikleri
  • İnternetsiz uç mikrodenetleyiciler
Veri Yerleşimi ve İkameti

Küme içi veri hareketi; izole VPC gerektirir.

Güvenlik Değerlendirmesi

KRİTİK: Ray Dashboard ve portlarını izole edin. Kimlik doğrulaması eksikliği kripto madenciliği ve veri sızıntılarına (ShadowRay) yol açmıştır.

Operasyonel Metrikler ve Bilinen Kısıtlar

Olgunluk:mature
Öğrenme Eğrisi:high
Operasyon Yükü:high
Maliyet Seviyesi:high-compute
> Bilinen Kısıtlamalar:
  • Küme topolojisini ve Ray işlerini yönetmek ciddi operasyonel uzmanlık gerektirir.
  • Nesne deposu bellek baskısı aktörlerin sırayla çökmesine yol açabilir.

İlişkili Üretim Arıza Paternleri (Incidentpedia)

Bu kütüphaneyi üretimde kullanırken aşağıdaki arıza senaryolarına karşı fail-closed korumalar uygulayın:

> Birincil Kanıt ve Doğrulama Kaynakları

Ray 2.37 Documentationofficial-docs • >=2.20.0, <=2.37.x
2026-09-25HIGH