Alterna · учебный материал
Искусственный интеллект
Интерактивный учебник Alterna AI: математика, код, устройство нейросетей и внешних ИИ-систем. Начните с прозрачного следующего токена.
Что в этом материале
- Как одна глава продолжает другую
- Карта современного ИИ
- Векторы и пространства
- Матрицы и преобразования
- Производные и градиенты
- Вероятность и информация
- Оптимизация
- Классическое ML
- Искусственный нейрон
- Нейронные сети
- Backpropagation и autograd
- Как компьютер считает сеть
- Сигналы, свёртка и CNN
- Текст и токенизация
- Embeddings и пространства
- Attention
- Transformer и GPT
- Как обучается LLM
- Inference и quantization
- RAG, tools и agents
- Большие и мультимодальные системы
- Собственная ИИ-система
Содержание и основные понятия
Математика
→
Нейрон
→
Сеть
→
Текст
→
Transformer
→
Обучение
→
LLM
→
AI-система
Как одна глава продолжает другую
00
Карта современного ИИ
Что именно обучается в нейросети?
Дальше пригодится: различать вход, параметры и способ обучения..
01
Векторы и пространства
Как направление и величина помещаются в числовой записи?
Дальше пригодится: упорядоченные признаки, длину, сравнение направлений и проекцию..
02
Матрицы и преобразования
Как получить из этих координат новый набор признаков?
Дальше пригодится: преобразование и его настраиваемые коэффициенты..
03
Производные и градиенты
Как измерить влияние малого изменения?
Дальше пригодится: производные программы и направление изменения функции..
04
Вероятность и информация
Как измерить неопределённость и неверную уверенность?
Дальше пригодится: распределение, измерение ошибки и сравнение распределений..
05
Оптимизация
Как выбрать длину движения против этого роста?
Дальше пригодится: правило обновления параметров и проверку устойчивости..
06
Классическое ML
Доказывает ли успех на известных примерах качество на новых?
Дальше пригодится: различие подгонки, проверки и обобщения..
07
Искусственный нейрон
Что добавляет один нейрон?
Дальше пригодится: вычислительный элемент с входами, весами и функцией выхода..
08
Нейронные сети
Как соединить их в гибкую программу?
Дальше пригодится: сеть как последовательность операций и сохранение прямого пути..
09
Backpropagation и autograd
Как применить их к целой сети без ручного вывода каждой формулы?
Дальше пригодится: градиент всей вычислительной программы..
10
Как компьютер считает сеть
Что ограничивает скорость и возможность её запуска?
Дальше пригодится: расчёт памяти, точности и параллельной работы..
11
Сигналы, свёртка и CNN
Как выделить локальные признаки больших входов?
Дальше пригодится: локальные признаки изображения и сигнала..
12
Текст и токенизация
Что считать единицей входа языковой модели?
Дальше пригодится: совместимую последовательность token ids..
13
Embeddings и пространства
Как номер становится вектором?
Дальше пригодится: представления токенов и сравнение их направлений..
14
Attention
Как устроить обмен информацией между позициями?
Дальше пригодится: вычисляемый обмен между токенами..
15
Transformer и GPT
Как собрать сохраняющий форму блок и учесть порядок?
Дальше пригодится: полный прямой вычислительный путь..
16
Как обучается LLM
Как корпус текста становится изменениями весов?
Дальше пригодится: обученный и совместимый набор параметров..
17
Inference и quantization
Как выбрать и добавить продолжение с разумным объёмом работы?
Дальше пригодится: цикл генерации, кеш и ограничения выбора..
18
RAG, tools и agents
Как отделить сведения и действия приложения от модели?
Дальше пригодится: управляемую внешнюю систему с происхождением данных..
19
Большие и мультимодальные системы
Как разделить работу и обработать изображение или звук?
Дальше пригодится: расчёт масштаба, обменов и контекстного бюджета..
20
Собственная ИИ-система
Как собрать их без нового чёрного ящика?
Дальше пригодится: собственную проверяемую ai-систему..