Alterna · учебный материал
10 Checkpoint: Как компьютер считает нейросеть
Проверьте понятия, ручные расчёты и причинные связи. Для прохождения самопроверки нужно не менее7из8.
Что в этом материале
- Восемь проверок механизма
- Исследовать и объяснить
Содержание и основные понятия
Прогресс доступен при включённом JavaScript. Просмотр не равен освоению.
Восемь проверок механизма
Порог: 7 из 8. Без таймера. Баллы начисляются за ответы, не за посещение. Это локальная самопроверка; решения будут показаны после отправки.
1. Скрытая единица significand присутствует…
У нормальных двоичных чисел
У всех subnormals
У любой NaN
2. BF16 и FP16 имеют одинаковые…
Диапазон и точность
16бит хранения, но разные exponent/fraction поля
Правила всех устройств для subnormals
3. Условные ticks модели scheduler…
Измеряют latency вашего GPU
Иллюстрируют организацию работы
Являются наносекундами
4. Одна FMA обычно считается как…
Один FLOP
Два FLOPs
Четыре байта
5. Exponent bias FP32?
Ваш численный ответ
6. FP16 fraction bits (без скрытой1)?
Ваш численный ответ
7. FLOPs по2mkn дляm=k=n=2?
Ваш численный ответ
8. KV bytes: L32,B1,S2048,KVheads8,headDim128,2байта?
Ваш численный ответ
Результат появится после отправки всех ответов.
Исследовать и объяснить
Сравните FP16/BF16 около1 и для большого значения, разделяя rounding и overflow. Затем измените batch dimension GEMM и tile: объясните различие ideal и modeled traffic. Перечислите компоненты VRAM, которых нет в weights-only оценке.
Сначала сформулируйте гипотезу, затем измените один параметр. Сопоставьте числа с формулой; назовите крайний случай и границу применимости. Свободный вывод не оценивается фиктивным автоматическим баллом.