Дообучение предобученной модели

Урок 44 из 104 курса «HuggingFace: курс по Transformers»: официальный курс Hugging Face Learn (Хаггинг Фейс) на русском языке. Урок входит в платный доступ; первые уроки курса бесплатно.

О чём урок

В главе 2 мы увидели, как можно использовать токенизаторы и предобученные модели для построения предсказаний. Но что если мы хотим дообучить предобученную модель на собственном датасете? Это и есть тема данной главы! Мы изучим: {#if fw === 'pt'} Как подготовить большой датасет из Model Hub Как использовать высокоуровненое API для дообучения модели Как использовать собственный цикл обучения (training loop) Как использовать библиотеку 🤗 Accelerate для запуска собственного цикла обучения на распределенной вычислительной структуре {:else} Как подготовить большой датасет из Model Hub Как использовать Keras для дообучения модели Как использовать Keras для получения предсказаний Как использовать собственную метрику {/if} Чтобы загрузить свои чекпоинты на Hugging Face Hub, необходимо иметь учетную запись: создать аккаунт

Урок входит в полный доступ. Полный текст и видео открываются после оплаты. Первые уроки каждого курса бесплатны.

Полезные гиды