Урок из полного доступа, первые уроки курса бесплатно Официальный курс Llama Cookbook на русском
Урок 09 · Текст · ~5 мин

PEFT: быстрый старт с дообучением

Урок 9 из 17 курса «Llama: начало работы»: официальный курс Llama Cookbook (Мета Лама) на русском языке. Урок входит в платный доступ; первые уроки курса бесплатно.

О чём урок

Этот notebook демонстрирует, как обучить модель Meta Llama 3 на одном GPU (например, A10 с 24 ГБ) с использованием int8 quantization и LoRA finetuning.

Примечание: Чтобы запустить этот notebook на машине с объемом VRAM менее 24 ГБ (например, T4 с 16 ГБ), необходимо адаптировать длину контекста обучающего набора данных. Мы делаем это на основе доступного VRAM во время выполнения. Если вы столкнетесь с проблемами OOM, попробуйте дополнительно уменьшить значение train_config.context_length.

Для этого notebook нам необходимо установить llama-cookbook и его зависимости. Кроме того, нам нужно войти в систему с помощью huggingface_cli и убедиться, что учетная запись имеет доступ к весам Meta Llama.

Настройте конфигурацию обучения и загрузите модель и tokenizer.

Запустите базовую модель на примере входных данных:

Мы видим, что базовая модель лишь повторяет диалог.

Мы загружаем и предварительно обрабатываем набор данных samsum, который состоит из отобранных пар диалогов и их резюме:

Подготовим модель для Parameter Efficient Fine Tuning (PEFT):

Здесь мы выполняем fine-tuning модели в течение одной эпохи.

Сохранение checkpoint модели

Попробуйте fine-tuned модель на том же примере еще раз, чтобы увидеть прогресс обучения:

План урока

  1. Краткое руководство по PEFT Finetuning в Notebook
  2. Шаг 0: Установка предварительных требований и конвертация checkpoint
  3. Шаг 1: Загрузка модели
  4. Шаг 2: Проверка базовой модели
  5. Шаг 3: Загрузка предварительно обработанного набора данных
  6. Шаг 4: Подготовка модели для PEFT
  7. Шаг 5: Fine-tuning модели
  8. Шаг 6

Урок входит в полный доступ. Полный текст и видео открываются после оплаты. Первые уроки каждого курса бесплатны.

Откройте полный доступ

Вы прошли бесплатные уроки. Выберите тариф, чтобы продолжить обучение.

Курсы Meta Llama 1 490 ₽ Разовый платёж, навсегда
  • Все курсы от Meta Llama (2 шт.)
  • Именной сертификат по каждому пройденному курсу
Оплатить
Полный доступ 4 900 ₽ Разовый платёж, навсегда
  • Все 77 курсов от 11 AI-провайдеров
  • Библиотека промптов и новые курсы
Оплатить

Безопасная оплата через Robokassa: СБП, карты, электронные кошельки. Доступ откроется в этом браузере и придёт письмом. Уже оплатили? Восстановить доступ

Полезные гиды