> ML_DATASET // ULTRAFEEDBACK-BINARIZED_v1.0
UltraFeedback: High-Quality Multi-Domain Preference Dataset
OpenBMB / Tsinghua University (Cui et al.) · RLHF & Preference Alignment · 64,000 prompts with 256,000 model completions evaluated by GPT-4
RLHF & Preference AlignmentMIT64,000 prompts with 256,000 model completions evaluated by GPT-4open
Veri Profili ve Özellikler
Etiket Tipi:Preference pairs (chosen vs rejected) with fine-grained multi-aspect numerical scores
Diller:en
Lisans Seviyesi:permissive-open-source
Modaliteler:text
Amaçlanan Kullanım (Intended Use)
- Direct Preference Optimization (DPO) ve ödül modellerini eğitme (Zephyr-7B referansı)
Yasaklanan / Kaçınılması Gereken Kullanım
- Ek güvenlik testleri olmadan model güvenliğini değerlendirme
Önyargı, Veri Sızıntısı ve Gizlilik Risk Analizi
Kişisel Veri Riskleri (Privacy Risks):
Sentetik talimat istemleri; sıfır kişisel veri.
Bilinen Önyargılar (Known Bias):
GPT-4 hakem yanlılığı (daha uzun, biçimlendirilmiş, kibar yanıtlara yönelik tercih).
Veri Sızıntısı Riski (Known Leakage):
Standart değerlendirme kıyaslamalarına karşı istem tekilleştirmesi.