> ML_LITERATURE // SHAO-2024-DEEPSEEKMATH-GRPO-REASONING_v1.0
DeepSeekMath: Pushing the Limits of Mathematical Reasoning in Open Language Models
Zhihong Shao, Peiyi Wang, Qihao Zhu, Runxin Xu, Junxiao Song, Mingchuan Zhang, Y. K. Li, Y. Wu, Daya Guo · arXiv preprint (2024)
algorithm2024industry-standardthirdPartyReproduced
Temel Katkı (Principal Contribution)
Örneklenen yanıtlar üzerinde grup referans ortalamalarını hesaplayarak PPO'daki eleştirmen/değer ağını ortadan kaldıran Grup Göreceli Politika Optimizasyonunu (GRPO) icat etti.
Operasyonel ve Mühendislik Uygunluğu
task-text-generation, task-code-generation için mimari kararları, hizalama stratejisini ve sunum altyapısını doğrudan yönlendirir.
Temel Varsayımlar (Assumptions)
- Ampirik dağılım düzenliliği geçerlidir ve hedef alan ön eğitim dilsel/görsel desteğine uygundur
Kısıtlar ve Sınırlamalar (Limitations)
- Kaynak ölçekleme, çıkarım bellek gereksinimleri ve hizalama sağlamlığı model boyutuna ve donanım topolojisine göre değişir
Bağlantılı Algoritmalar, Mimariler ve Kütüphaneler
İlgili Algoritmalar:
İlgili Mimariler:
Uygulayıcı Kütüphaneler: