HuggingFace: курс по Transformers на русском — курс Hugging Face Learn

Курс из программы Hugging Face Learn (Хаггинг Фейс) на русском языке. Первые 3 урока бесплатно, без VPN.

Официальный курс HuggingFace в переводе на русский язык. Открывается без VPN: все уроки, видео и субтитры уже переведены и лежат на нашей платформе. 104 урока, первые 3 бесплатно, дальше разовая оплата без подписки.

Уровень: Средний. Длительность: около 520 минут. Формат: текст с примерами.

Коротко о курсе

• Стоимость: первые 3 урока бесплатно, весь курс в доступе к курсам HuggingFace за 1490 руб или во всех курсах платформы за 4900 руб, разово, без подписки
• Объём: 104 урока, около 520 минут
• Формат: онлайн в своём темпе, текстовые уроки с примерами
• Старт: сразу, без расписания и без VPN
• Документ: именной сертификат AI University с номером и QR-кодом

Начать бесплатно: урок 1

Уроки курса

Первые 3 урока доступны бесплатно. Для продолжения потребуется доступ к платформе. Субтитры на русском и английском языках.

1. 01.Знакомство с курсомБесплатно~5 мин
2. 02.О курсе: чего ожидатьБесплатно~5 мин
3. 03.NLP и большие языковые моделиБесплатно~5 мин
4. 04.Что умеют трансформеры~5 мин
5. 05.Как работают трансформеры~5 мин
6. 06.Как трансформеры решают задачи~5 мин
7. 07.Архитектуры трансформеров: энкодеры и декодеры~5 мин
8. 08.Проверьте себя: тест без оценки~5 мин
9. 09.Глубокое погружение в инференс LLM~5 мин
10. 10.Предвзятость и ограничения моделей~5 мин
11. 11.Итоги главы~5 мин
12. 12.Экзамен по основам трансформеров~5 мин
13. 13.Как пользоваться библиотекой Transformers~5 мин
14. 14.Что происходит внутри пайплайна~5 мин
15. 15.Модели: создание и загрузка~5 мин
16. 16.Токенизаторы: как текст превращается в числа~5 мин
17. 17.Несколько последовательностей сразу: батчи и паддинг~5 мин
18. 18.Собираем всё вместе: от токенизатора к модели~5 мин
19. 19.Базовое использование освоено~5 мин
20. 20.Быстрый инференс LLM в продакшене~5 мин
21. 21.Тест по главе: токенизаторы и модели~5 мин
22. 22.Дообучение предобученной модели~5 мин
23. 23.Готовим данные для обучения~5 мин
24. 24.Дообучение модели через Trainer API~5 мин
25. 25.Свой цикл обучения с нуля~5 мин
26. 26.Как читать кривые обучения модели~5 мин
27. 27.Дообучение: подведём итоги~5 мин
28. 28.Сертификат по главе~5 мин
29. 29.Hugging Face Hub: что там есть~5 мин
30. 30.Как пользоваться готовыми моделями~5 мин
31. 31.Публикуем свою модель на Hub~5 мин
32. 32.Как составить карточку модели~5 мин
33. 33.Первая часть курса пройдена~5 мин
34. 34.Тест по главе: Hub~5 мин
35. 35.Библиотека Datasets~5 мин
36. 36.Если датасета нет на Hub~5 мин
37. 37.Режем и чистим данные в Datasets~5 мин
38. 38.Большие данные: Datasets и отображение в память~5 мин
39. 39.Собираем собственный датасет~5 мин
40. 40.Семантический поиск с FAISS~5 мин
41. 41.Итоги главы про Datasets~5 мин
42. 42.Тест по главе: Datasets~5 мин
43. 43.Библиотека Tokenizers~5 мин
44. 44.Обучаем новый токенизатор на основе старого~5 мин
45. 45.Что умеют быстрые токенизаторы~5 мин
46. 46.Быстрые токенизаторы в вопросно-ответной системе~5 мин
47. 47.Нормализация и предварительная токенизация~5 мин
48. 48.Токенизация BPE~5 мин
49. 49.Токенизация WordPiece~5 мин
50. 50.Токенизация Unigram~5 мин
51. 51.Собираем токенизатор по кусочкам~5 мин
52. 52.Итоги главы про токенизаторы~5 мин
53. 53.Тест по главе: токенизаторы~5 мин
54. 54.Классические задачи NLP~5 мин
55. 55.Классификация токенов: поиск именованных сущностей~5 мин
56. 56.Дообучаем модель с маскированием слов~5 мин
57. 57.Машинный перевод~5 мин
58. 58.Суммаризация текстов~5 мин
59. 59.Обучаем языковую модель с нуля~5 мин
60. 60.Ответы на вопросы по тексту~5 мин
61. 61.Итоги главы про задачи NLP~5 мин
62. 62.Тест по главе: задачи NLP~5 мин
63. 63.Как искать и исправлять ошибки~5 мин
64. 64.Что делать, если вылетела ошибка~5 мин
65. 65.Как правильно просить помощи на форуме~5 мин
66. 66.Отладка обучения: проверяем данные~5 мин
67. 67.Отладка обучения: проверяем собственные данные~5 мин
68. 68.Как написать хороший issue~5 мин
69. 69.Вторая часть курса пройдена~5 мин
70. 70.Тест по главе: отладка~5 мин
71. 71.Знакомство с Gradio~5 мин
72. 72.Первое демо на Gradio~5 мин
73. 73.Класс Interface изнутри~5 мин
74. 74.Как поделиться демо с другими~5 мин
75. 75.Gradio и Hugging Face Hub~5 мин
76. 76.Продвинутые возможности Interface~5 мин
77. 77.Gradio Blocks: гибкие интерфейсы~5 мин
78. 78.Итоги главы про Gradio~5 мин
79. 79.Тест по главе: Gradio~5 мин
80. 80.Что такое Argilla~5 мин
81. 81.Разворачиваем Argilla~5 мин
82. 82.Загружаем свой датасет~5 мин
83. 83.Размечаем данные~5 мин
84. 84.Используем размеченный датасет~5 мин
85. 85.Итоги главы про Argilla~5 мин
86. 86.Тест по главе: Argilla~5 мин
87. 87.Дообучение с учителем: обзор главы~5 мин
88. 88.Шаблоны чата~5 мин
89. 89.Дообучение с учителем (SFT) на практике~5 мин
90. 90.LoRA: дообучение без переобучения всей модели~5 мин
91. 91.Как оценивать дообученную модель~5 мин
92. 92.Итоги главы про дообучение~5 мин
93. 93.Экзамен по дообучению~5 мин
94. 94.Open R1: курс для студентов~5 мин
95. 95.Обучение с подкреплением и зачем оно LLM~5 мин
96. 96.Разбираем статью про DeepSeek R1~5 мин
97. 97.GRPO в DeepSeekMath: как устроен алгоритм~5 мин
98. 98.GRPO в библиотеке TRL~5 мин
99. 99.Практика: дообучаем модель через GRPO~5 мин
100. 100.Практика: GRPO с Unsloth~5 мин
101. 101.Что будет в курсе дальше~5 мин
102. 102.Живые занятия и воркшопы~5 мин
103. 103.Запуск второй части курса~5 мин
104. 104.Gradio Blocks Party: конкурс демо~5 мин

О курсе

«HuggingFace: курс по Transformers» представляет собой официальный курс Hugging Face на русском языке, посвящённый одноимённой библиотеке и экосистеме вокруг неё. Он подойдёт разработчикам и специалистам по данным среднего уровня, которые хотят не просто вызывать готовые модели, а понимать, как они устроены, дообучать их и публиковать результат. В курсе 104 текстовых урока общим объёмом около 520 минут, с тестами по главам. Материалы открываются без VPN, первые 3 урока бесплатно.

Основная линия идёт от основ к практике. Сначала объясняется, что такое NLP и большие языковые модели, как работают трансформеры, чем отличаются энкодеры, декодеры и модели seq2seq и какие у моделей бывают предвзятости и ограничения. Затем библиотека Transformers разбирается изнутри: что происходит в пайплайне, как создаются и загружаются модели, как токенизатор превращает текст в числа, зачем нужны батчи и паддинг. После этого идёт дообучение предобученной модели через Trainer API и собственный цикл обучения.

Следующие главы расширяют инструментарий. Вы познакомитесь с Hugging Face Hub, научитесь публиковать модели и составлять для них карточки, освоите библиотеку Datasets, включая работу с большими данными и семантический поиск на FAISS. Глава о Tokenizers подробно разбирает BPE, WordPiece и Unigram. Прикладной блок охватывает классические задачи NLP: поиск именованных сущностей, машинный перевод, суммаризацию, ответы на вопросы и обучение языковой модели с нуля. Есть глава об отладке обучения и о том, как правильно просить помощи на форуме, и глава о демо на Gradio. Более новые разделы посвящены разметке данных в Argilla, supervised fine-tuning с шаблонами чата и LoRA, оценке дообученных моделей и обучению с подкреплением через GRPO на примере DeepSeek R1.

Объём большой, поэтому курсом удобно пользоваться по частям. Если нужна база, идите по главам с начала. Если задача конкретная, например дообучить модель через LoRA или разметить датасет, открывайте соответствующую главу и возвращайтесь к основам по мере необходимости. В результате вы сможете загружать модели, токенизировать текст и запускать инференс, дообучать модели на своих данных, размечать датасеты в Argilla, оценивать качество и делиться моделями через Hugging Face Hub.

Вопросы о курсе

Полезные гиды

• Как работает нейросеть: простое объяснение
• Бесплатные курсы по ИИ и нейросетям: обучение с нуля на русском