Прескочи на главни садржај
🔒 Режим прегледа. Првих петнаест Foundations лекција је бесплатно; ова је Pro. Покрените 7-дневни trial да откључате едитор, AI савете и остатак курса. Картица је обавезна, можете отказати у било ком тренутку у Dashboard.
Покрени 7-дневни trial →
⚡
← Kursevi
›
Data Science Applied
›
Модул 6 · Дубоко учење + МЛОпс
›
Оптимизатори: СГД вс Адам вс АдамВ
quiz
87 / 104
🇷🇸
SR
▼
↗
Подели
⋯
Више
+100 XP
📋
Zadatak
📖
Teorija
🤖
AI Pomoć
Zadatak
📝 **Питање:** Подразумевани оптимизатор за фино подешавање трансформатора? 📋 Изаберите тачан одговор. 💡 **Савет:** Поново прочитајте горњу теорију ако нисте сигурни.
🎯 Kviz
Pitanje
📝 **Питање:** Подразумевани оптимизатор за фино подешавање трансформатора? 📋 Изаберите тачан одговор. 💡 **Савет:** Поново прочитајте горњу теорију ако нисте сигурни.
A
SGD with Nesterov momentum — its lookahead step converges faster on large transformer batch sizes.
B
AdamW — decoupled weight decay outperforms standard Adam on transformers; modern default.
C
Adagrad — per-parameter learning-rate decay handles attention's sparse gradient pattern out of the box.
D
RMSProp — the original adaptive optimizer behind GPT-2 pre-training; still the BERT fine-tuning default.
Odgovori
💬 Diskusija
Budi prvi — postavi pitanje ili podeli savet.
Prijavi se
da bi se pridružio diskusiji. Čitanje je besplatno.
Učitavanje diskusije…