Урок из полного доступа, первые уроки курса бесплатно Официальный курс OpenAI Academy на русском
Урок 35 · Текст · ~5 мин

Как дообучить чат-модель

Урок 35 из 303 курса «OpenAI Cookbook»: официальный курс OpenAI Academy (ОпенАИ) на русском языке. Урок входит в платный доступ; первые уроки курса бесплатно.

О чём урок

Fine-tuning улучшает модель, обучая её на значительно большем количестве примеров, чем может поместиться в prompt, что позволяет достигать лучших результатов в широком спектре задач. Этот notebook содержит пошаговое руководство по нашему новому fine-tuning для GPT-4o mini. Мы выполним извлечение сущностей, используя набор данных RecipeNLG, который содержит различные рецепты и список извлечённых общих ингредиентов для каждого. Это распространённый набор данных для задач распознавания именованных сущностей (NER).

Примечание: fine-tuning GPT-4o mini доступен разработчикам в наших уровнях использования Tier 4 и 5. Вы можете начать fine-tuning GPT-4o mini, посетив свою панель управления fine-tuning, нажав «create» и выбрав “gpt-4o-mini-2024-07-18” из выпадающего списка базовых моделей.

Мы рассмотрим следующие шаги:

  1. Настройка: Загрузка нашего набора данных и фильтрация до одного домена для fine-tuning.
  2. Подготовка данных: Подготовка данных для fine-tuning путём создания обучающих и валидационных примеров и их загрузка на endpoint Files.
  3. Fine-tuning: Создание вашей fine-tuned модели.
  4. Inference: Использование вашей fine-tuned модели для inference на новых входных данных.

К концу этого руководства вы сможете обучать, оценивать и развёртывать fine-tuned модель gpt-4o-mini-2024-07-18.

Для получения дополнительной информации о fine-tuning вы можете обратиться к нашему руководству по документации или справочнику API.

Fine-tuning работает лучше всего, когда сосредоточен на определённой предметной области. Важно убедиться, что ваш набор данных достаточно сфокусирован для обучения модели, но при этом достаточно обобщён, чтобы не пропустить ранее не встречавшиеся примеры. Учитывая это, мы извлекли подмножество из набора данных RecipesNLG, чтобы оно содержало только документы с cookbooks.com.

Начнём с подготовки наших данных. При fine-tuning с использованием формата ChatCompletion каждый обучающий пример представляет собой простой список messages. Например, запись может выглядеть так:

В процессе обучения этот диалог будет разделён: последняя запись будет completion, которую сгенерирует модель, а остальные messages будут служить в качестве prompt. Учитывайте это при создании обучающих примеров — если ваша модель будет работать с многоходовыми диалогами, то предоставьте репрезентативные примеры, чтобы она не работала плохо при…

План урока

  1. Настройка
  2. Подготовка данных
  3. Загрузка файлов
  4. Fine-tuning
  5. Проверка статуса задачи
  6. Inference
  7. Заключение

Урок входит в полный доступ. Полный текст и видео открываются после оплаты. Первые уроки каждого курса бесплатны.

Откройте полный доступ

Вы прошли бесплатные уроки. Выберите тариф, чтобы продолжить обучение.

Курсы OpenAI 1 490 ₽ Разовый платёж, навсегда
  • Все курсы от OpenAI (1 шт.)
  • Именной сертификат по каждому пройденному курсу
Оплатить
Полный доступ 4 900 ₽ Разовый платёж, навсегда
  • Все 77 курсов от 11 AI-провайдеров
  • Библиотека промптов и новые курсы
Оплатить

Безопасная оплата через Robokassa: СБП, карты, электронные кошельки. Доступ откроется в этом браузере и придёт письмом. Уже оплатили? Восстановить доступ

Урок входит в темы

Полезные гиды