Нейросети с нуля: по открытому коду Андрея Карпати на русском — курс по открытому коду Андрея Карпати
Неофициальный курс AI University по открытому коду (MIT) Андрея Карпати: автоград micrograd, символьные модели makemore, GPT в nanoGPT и токенизатор BPE из minbpe. Разбор кода с русскими комментариями и задания.
Собственный курс AI University на русском по открытому коду (лицензия MIT). Неофициальный курс: автор кода не связан с ним и не одобрял его. 16 уроков, первые 3 бесплатно, дальше разовая оплата без подписки.
Уровень: Продвинутый. Длительность: около 480 минут. Формат: текст с примерами.
Коротко о курсе
- Стоимость: первые 3 урока бесплатно, весь курс в доступе к курсам Карпати (открытый код) за 1490 руб или во всех курсах платформы за 4900 руб, разово, без подписки
- Объём: 16 уроков, около 480 минут
- Формат: онлайн в своём темпе, текстовые уроки с примерами
- Старт: сразу, без расписания и без VPN
- Документ: именной сертификат AI University с номером и QR-кодом
Уроки курса
Первые 3 урока доступны бесплатно. Для продолжения потребуется доступ к платформе.
- 01.Введение: что мы соберём и как запускать кодБесплатно~5 мин
- 02.micrograd: значение и граф вычисленийБесплатно~5 мин
- 03.micrograd: обратное распространение и правило цепочкиБесплатно~5 мин
- 04.micrograd: нейрон, слой, сеть и обучение~5 мин
- 05.makemore: данные и биграммная модель~5 мин
- 06.makemore: MLP по символам и эмбеддинги~5 мин
- 07.Активации, инициализация и нормализация батчем~5 мин
- 08.Иерархия вместо плоского контекста: WaveNet-подобная модель и рекуррентные сети~5 мин
- 09.nanoGPT: токены и данные на примере shakespeare_char~5 мин
- 10.Self-attention с нуля~5 мин
- 11.Блок трансформера и модель GPT целиком~5 мин
- 12.Обучение и генерация текста в nanoGPT~5 мин
- 13.Масштабирование: от игрушечной модели к GPT-2~5 мин
- 14.minbpe: токенизатор BPE с нуля~5 мин
- 15.minbpe: регулярное разбиение и специальные токены~5 мин
- 16.Что дальше, лицензии и источники~5 мин
Вопросы о курсе
Курс бесплатный?
Первые 3 урока открыты бесплатно и без входа. Остальные уроки открывает доступ к курсам Карпати (открытый код) (1490 руб) или полный доступ ко всем курсам платформы (4900 руб), разовый платёж без подписки.
Нужен ли VPN?
Нет. Оригинал курса опубликован Карпати (открытый код) на английском и часто недоступен из России, а здесь все уроки, видео и субтитры уже переведены и открываются без VPN.
На каком языке курс?
На русском: переведены тексты уроков и субтитры к видео, термины и примеры кода сохранены в оригинале.
Выдаётся ли сертификат?
Да. После прохождения всех уроков курса при платном доступе выдаётся именной сертификат AI University с номером и QR-кодом, PDF приходит на почту, подлинность проверяется по номеру на сайте. Сертификат о прохождении курса не является документом об образовании.