Alterna · учебный материал
13 Checkpoint: Embeddings и пространства
Проверьте понятия, ручные расчёты и причинные связи. Для прохождения самопроверки нужно не менее7из8.
Что в этом материале
- Восемь проверок механизма
- Исследовать и объяснить
Содержание и основные понятия
Прогресс доступен при включённом JavaScript. Просмотр не равен освоению.
Восемь проверок механизма
Порог: 7 из 8. Без таймера. Баллы начисляются за ответы, не за посещение. Это локальная самопроверка; решения будут показаны после отправки.
1. One-hot умножение на E…
Выбирает строку E
Сортирует vocabulary
Автоматически обучает параметры
2. В tiny Skip-gram используется…
Full softmax по6кандидатам
Negative sampling скрытой библиотеки
Готовый pretrained Word2Vec
3. Ranking соседей при смене проекции…
Пересчитывается по экранным координатам
Остаётся основанным на полном3Dcosine
Обязательно меняется
4. Совпавшие точки на2Dпроекции…
Обязательно имеют одинаковый исходный embedding
Могут различаться по скрытой координате
Доказывают одинаковый смысл
5. Параметров в E[6,3]?
Ваш численный ответ
6. Число координат one-hot для vocabulary6?
Ваш численный ответ
7. Dot [1,0,0] и[0,0,1]?
Ваш численный ответ
8. Первая координата смеси .5[1,0,0]+.5[0,0,1]?
Ваш численный ответ
Результат появится после отправки всех ответов.
Исследовать и объяснить
Сравните исходный3Dcosine и XY/PCA-картинку. Потом выполните реальный Skip-gram update и объясните, какие таблицы меняются. В context comparison выберите одинаковые prefixes и проверьте совпадение contextual outputs.
Сначала сформулируйте гипотезу, затем измените один параметр. Сопоставьте числа с формулой; назовите крайний случай и границу применимости. Свободный вывод не оценивается фиктивным автоматическим баллом.