> ML_LITERATURE // CARLINI-2021-EXTRACTING-TRAINING-DATA-FROM-LARGE-LANGUAGE-MODELS_v1.0
Extracting Training Data from Large Language Models
Nicholas Carlini, Florian Tramèr, Eric Wallace, Matthew Jagielski, Ariel Herbert-Voss, Katherine Lee, Adam Roberts, Tom Brown, Dawn Song, Úlfar Erlingsson, Alina Oprea, Colin Raffel · USENIX Security Symposium (2021)
safety-fairness2021industry-standardartifactsAvailable
Temel Katkı (Principal Contribution)
Büyük dil modellerinin kara kutu örneklemesi yoluyla çıkarılabilen kelimesi kelimesine eğitim dizilerini (KVK verileri, kodlar, gizli anahtarlar) ezberlediğini gösterdi.
Operasyonel ve Mühendislik Uygunluğu
task-privacy-preserving-ml için dağıtım seçimlerini ve mimari belirlemeyi doğrudan yönlendirir.
Temel Varsayımlar (Assumptions)
- Değerlendirme alanları genelinde standart ampirik düzenlilik ve istatistiksel kararlılık geçerlidir
Kısıtlar ve Sınırlamalar (Limitations)
- Performans özellikleri alan dağılımına ve hesaplama tahsisi parametrelerine bağlıdır
Bağlantılı Algoritmalar, Mimariler ve Kütüphaneler
İlgili Algoritmalar:
İlgili Mimariler:
Uygulayıcı Kütüphaneler: