Skip to main content

> ML_KUTUPHANE // CAPTUM_v1.0

Captum

PyTorch Foundation / Meta — Gradyan tabanlı ilişkilendirme algoritmalarını uygulayan resmi PyTorch model yorumlanabilirlik kütüphanesi.

privacy-security-optimizationv0.7.0BSD-3-Clausequalified
Resmi DokümantasyonKaynak Kod Deposu

Model Eğitimi (Training)

Desteklenmiyor

Bu kütüphane optimize edilmiş bir inference motorudur; model eğitimi için kullanılmaz.

Model Sunumu (Inference)

Destekleniyor
Inference Hızlandırıcıları:
CPUCUDAROCMMPS
Hedef Ortamlar (Targets):server

Neleri Sağlar (Ne Yapar)

  • +Birincil ilişkilendirme yöntemleri: Integrated Gradients, DeepLIFT, Saliency, InputXGradient
  • +Katman ilişkilendirme yöntemleri: Layer Conductance, Internal Influence, Grad-CAM
  • +Nöron ilişkilendirme yöntemleri: Neuron Conductance, Neuron Integrated Gradients
  • +Captum Insights: model hata ayıklama için etkileşimli web görselleştirme arayüzü

Neleri Sağlamaz (Ne Yapmaz)

  • -PyTorch dışı modelleri (scikit-learn, XGBoost, TensorFlow) doğal olarak açıklama
  • -Sıfırdan nöral ağ mimarileri eğitme
  • -Saf WebAssembly tarayıcı motorlarında istemci tarafı çalıştırma

>Uygun İş Tipleri

  • Grad-CAM ısı haritaları kullanarak Vision Transformer ve CNN tahminlerini açıklama
  • Integrated Gradients ile BERT ve LLM modellerinde token etkisini ilişkilendirme
  • Hangi gizli katmanların belirli kavramları öğrendiğini anlamak için derin iç katman denetimi

>Uygun Olmayan İş Tipleri

  • Klasik tabüler ağaç toplulukları (SHAP TreeSHAP kullanın)
  • PyTorch model ağırlıklarına ve gradyanlarına doğrudan erişimi olmayan kara kutu REST API uç noktaları
Veri Yerleşimi ve İkameti

Yalnızca özel PyTorch sunucularındaki yerel GPU VRAM'inde çalışır. Sıfır harici veri çağrısı.

Güvenlik Değerlendirmesi

İzin verici BSD-3-Clause lisansı. Resmi PyTorch ekosistem bileşeni.

Operasyonel Metrikler ve Bilinen Kısıtlar

Olgunluk:mature
Öğrenme Eğrisi:moderate
Operasyon Yükü:low
Maliyet Seviyesi:free-oss
> Bilinen Kısıtlamalar:
  • Geriye doğru gradyan hesaplamasına erişim gerektirir; modeller ilişkilendirmeleri hesaplarken yalnızca çıkarım modunda (torch.no_grad()) çalıştırılamaz.

İlişkili Üretim Arıza Paternleri (Incidentpedia)

Bu kütüphaneyi üretimde kullanırken aşağıdaki arıza senaryolarına karşı fail-closed korumalar uygulayın:

runtime-oom-crash

> Birincil Kanıt ve Doğrulama Kaynakları

Captum Documentationofficial-docs • >=0.6.0, <=0.7.x
2026-09-25HIGH