Skip to main content

> ML_LITERATURE // BENDER-2021-ON-THE-DANGERS-OF-STOCHASTIC-PARROTS_v1.0

On the Dangers of Stochastic Parrots: Can Language Models Be Too Big? 🦜

Emily M. Bender, Timnit Gebru, Angelina McMillan-Major, Shmargaret Shmitchell · ACM Conference on Fairness, Accountability, and Transparency (FAccT) (2021)

safety-fairness2021industry-standardnotAssessed
DOI: 10.1145/3442188.3445922Literatüre Dön

Temel Katkı (Principal Contribution)

Büyük dil modellerini ölçeklemenin çevresel karbon maliyetleri, internet önyargıları, anlam yanılsaması ve güç yoğunlaşması gibi kritik sistemik risklerini ortaya koydu.

Operasyonel ve Mühendislik Uygunluğu

Üretim sistemlerinde task-text-generation uygulaması için yetkili referans olarak hizmet eder.

Temel Varsayımlar (Assumptions)

  • Temel hesaplama topolojisi ve matematiksel sınırlar belirlenmiş dışbükeylik/pürüzsüzlük garantilerine uygundur

Kısıtlar ve Sınırlamalar (Limitations)

  • Donanım hızlandırmaları, gizlilik bütçeleri ve yakınsama hiperparametrelere ve ağ iletişim limitlerine bağlıdır

Bağlantılı Algoritmalar, Mimariler ve Kütüphaneler

İlgili Algoritmalar:
İlgili Mimariler:
Uygulayıcı Kütüphaneler: