04 Checkpoint: Вероятность и теория информации

Содержание и основные понятия

Прогресс доступен при включённом JavaScript. Просмотр не равен освоению.
Восемь проверок механизма
Порог: 7 из 8. Без таймера. Баллы начисляются за ответы, не за посещение. Это локальная самопроверка; решения будут показаны после отправки.
1. Все три неотрицательные массы равны0. Что делать?
Объявить равномерное распределение молча
Показать, что нормировка не определена
Считать сумму вероятностей0
2. P(A|B) иP(B|A)…
В общем случае различны
Всегда равны
Обе не зависят от prior
3. Likelihood сравнивает…
Параметры при фиксированных данных
Только будущие токены
Posterior без prior
4. Минимальная энтропия конечного распределения достигается…
При равномерных вероятностях
При отрицательных вероятностях
При всей массе в одном исходе
5. Ожидание исходов0,1,2 приp=[.5,.25,.25]?
Ваш численный ответ
6. Likelihood [1,1,1,0] приθ=.75?
Ваш численный ответ
7. Энтропия [.5,.25,.25] вбитах?
Ваш численный ответ
8. PP равномерной модели по4кандидатам?
Ваш численный ответ
Результат появится после отправки всех ответов.
Исследовать и объяснить
Зафиксируйтеpи уменьшайтеq для возможного target до0. Объясните, почему возникает бесконечный штраф, а не ошибка арифметики. Сравните условные вероятности детектора при разных prior.
Сначала сформулируйте гипотезу, затем измените один параметр. Сопоставьте числа с формулой; назовите крайний случай и границу применимости. Свободный вывод не оценивается фиктивным автоматическим баллом.