Урок из полного доступа, первые уроки курса бесплатно Официальный курс Microsoft AI for Beginners на русском
Урок 19 · Текст · ~5 мин

Дообучение (fine-tuning) вашей LLM

Урок 19 из 22 курса «Генеративный ИИ для начинающих»: официальный курс Microsoft AI for Beginners (Майкрософт) на русском языке. Урок входит в платный доступ; первые уроки курса бесплатно.

Цели урока

  • Что такое дообучение для языковых моделей?
  • Когда и почему дообучение полезно?
  • Как можно дообучить предварительно обученную модель?
  • Каковы ограничения дообучения?

О чём урок

Примечание AI University. Примеры кода в оригинале курса рассчитаны на Azure OpenAI или GitHub Models. Те же запросы можно отправлять через OpenAI API или другой OpenAI-совместимый сервис: замените клиент, адрес сервиса, название модели и ключ на свои и сверьтесь с документацией выбранного провайдера.

Использование больших языковых моделей для создания приложений генеративного ИИ сопряжено с новыми вызовами. Ключевая проблема: обеспечение качества ответов (точности и релевантности) в контенте, генерируемом моделью для заданного запроса пользователя. В предыдущих уроках мы обсуждали такие методы, как промпт-инжиниринг и генерация с дополненной выборкой (RAG), которые пытаются решить эту проблему путём модификации входного промпта для существующей модели.

В этом уроке мы обсудим третий метод, дообучение (fine-tuning), который пытается решить эту задачу путём переобучения самой модели на дополнительных данных. Давайте углубимся в детали.

В этом уроке вы познакомитесь с концепцией дообучения для предварительно обученных языковых моделей, изучите преимущества и проблемы этого подхода, а также получите рекомендации о том, когда и как использовать дообучение для повышения производительности ваших моделей генеративного ИИ.

Готовы? Давайте начнём.

Хотите получить общее представление о том, что мы рассмотрим, прежде чем углубиться? Ознакомьтесь с этим иллюстрированным руководством, которое описывает путь обучения для этого урока: от изучения основных концепций и мотивации для дообучения до понимания процесса и лучших практик выполнения задачи дообучения. Это увлекательная тема для изучения, поэтому не забудьте заглянуть на страницу Ресурсы для получения дополнительных ссылок, которые помогут вам в самостоятельном обучении!

По определению, большие языковые модели предварительно обучаются на больших объёмах текста, полученных из различных источников, включая интернет. Как мы узнали в предыдущих уроках, нам нужны такие методы, как промпт-инжиниринг и генерация с дополненной выборкой (RAG), чтобы улучшить качество ответов модели на вопросы пользователя («промпты»).

Популярный метод промпт-инжиниринга предполагает предоставление модели дополнительных указаний относительно того, что ожидается в ответе, либо путём предоставления инструкций (явные указания), либо путём предоставления нескольких примеров (неявные указания).

  • Ограничения на…

План урока

  1. Иллюстрированное руководство
  2. Что такое дообучение для языковых моделей?
  3. Когда и почему следует дообучать модели?
  4. Как можно дообучить предварительно обученную модель?
  5. Дообучение (fine-tuning) в Microsoft Foundry
  6. Шаг 1: Выберите технику обучения
  7. Шаг 2: Выберите уровень обучения
  8. Шаг 3: Выберите базовую модель

Урок входит в полный доступ. Полный текст и видео открываются после оплаты. Первые уроки каждого курса бесплатны.

Откройте полный доступ

Вы прошли бесплатные уроки. Выберите тариф, чтобы продолжить обучение.

Курсы Microsoft 1 490 ₽ Разовый платёж, навсегда
  • Все курсы от Microsoft (3 шт.)
  • Именной сертификат по каждому пройденному курсу
Оплатить
Полный доступ 4 900 ₽ Разовый платёж, навсегда
  • Все 77 курсов от 11 AI-провайдеров
  • Библиотека промптов и новые курсы
Оплатить

Безопасная оплата через Robokassa: СБП, карты, электронные кошельки. Доступ откроется в этом браузере и придёт письмом. Уже оплатили? Восстановить доступ

Полезные гиды