Перейти к основному содержимому
🔒 Режим превью. Первые 15 уроков Foundations — бесплатные; этот — Pro. Запусти 7-дневный trial чтобы открыть редактор, AI-подсказки и остальной курс. Нужна карта, отмена в Dashboard в любой момент.
Начать 7-дневный trial →
⚡
← Курсы
›
Data Science Applied
›
Модуль 6 · Глубокое обучение + MLOps
›
Трансформер: внимание в одном абзаце
quiz
90 / 104
🇷🇺
RU
▼
↗
Поделиться
⋯
Ещё
+100 XP
📋
Задание
📖
Теория
🤖
Помощь AI
Задание
📝 **Вопрос:** Ключевое преимущество перед RNN? 📋Выберите правильный ответ. 💡 **Подсказка:** Если вы не уверены, перечитайте приведенную выше теорию.
🎯 Тест
Вопрос
📝 **Вопрос:** Ключевое преимущество перед RNN? 📋Выберите правильный ответ. 💡 **Подсказка:** Если вы не уверены, перечитайте приведенную выше теорию.
A
Smaller parameter counts — attention layers share weights across positions, so a transformer needs fewer params than an RNN.
B
Parallelism + O(1) connection between any two tokens. RNN was sequential and forgot long-range info.
C
Better gradient flow — softmax outputs bounded values, so attention layers avoid the vanishing-gradient issue of LSTMs entirely.
D
Cheaper inference per token — attention's KV-cache lets you skip recomputing earlier states the way an RNN had to.
Ответить
💬 Обсуждение
Будьте первым — задайте вопрос или поделитесь подсказкой.
Войдите
чтобы участвовать в обсуждении. Чтение бесплатно.
Загрузка обсуждения…