Урок из полного доступа, первые уроки курса бесплатно Официальный курс OpenAI Academy на русском
Урок 188 · Текст · ~5 мин

Дообучение для RAG с Qdrant и few-shot

Урок 188 из 303 курса «OpenAI Cookbook»: официальный курс OpenAI Academy (ОпенАИ) на русском языке. Урок входит в платный доступ; первые уроки курса бесплатно.

О чём урок

Цель этого notebook — рассмотреть подробный пример того, как дообучать модели OpenAI для генерации с дополненной выборкой (RAG).

Мы также интегрируем Qdrant и Few-Shot Learning для повышения производительности модели и уменьшения галлюцинаций. Это может послужить практическим руководством для ML-специалистов, data scientists и AI-инженеров, заинтересованных в использовании возможностей моделей OpenAI для конкретных use-cases. 🤩

Примечание: В этом notebook используется модель gpt-3.5-turbo. Дообучение на датасете SQuAD с такой настройкой даёт лишь минимальные улучшения для более продвинутых моделей, таких как gpt-4o или gpt-4.1. Таким образом, этот notebook в первую очередь предназначен как руководство по рабочим процессам fine-tuning и практикам генерации с дополненной выборкой (RAG)

Вы хотите научиться

  • Дообучать модели OpenAI для конкретных use-cases
  • Использовать Qdrant для улучшения производительности вашей RAG-модели
  • Использовать fine-tuning для повышения корректности вашей RAG-модели и уменьшения галлюцинаций

Для начала мы выбрали dataset, в котором гарантируется идеальная выборка (retrieval). Мы выбрали подмножество dataset'а SQuAD, который представляет собой набор вопросов и ответов по статьям Википедии. Мы также включили sample'ы, где ответ отсутствует в контексте, чтобы продемонстрировать, как RAG обрабатывает этот случай.

  1. Настройка окружения
  1. Подготовка данных: Dataset SQuADv2
  2. Ответы с использованием базовой модели gpt-3.5-turbo-0613
  3. Fine-tuning и ответы с использованием дообученной модели
  4. Оценка: Насколько хорошо работает модель?
  1. Использование Qdrant для улучшения RAG Prompt
  2. Дообучение модели OpenAI с Qdrant
  3. Оценка
  4. Заключение Сводные результаты
  5. Наблюдения

Retrieval Augmented Generation (RAG)? Фраза Retrieval Augmented Generation (RAG) взята из недавней статьи Льюиса и соавторов из Facebook AI. Идея заключается в использовании предварительно обученной языковой модели (LM) для генерации текста, но с применением отдельной системы retrieval для поиска релевантных документов, на которых будет обусловлена LM.

Что такое Qdrant? Qdrant — это open-source векторный поисковый движок, который позволяет искать похожие векторы в большом dataset. Он написан на Rust, и здесь мы будем использовать Python-клиент для взаимодействия с ним. Это часть Retrieval в RAG.

Что такое Few-Shot Learning? Few-shot learning — это тип…

План урока

  1. Почему стоит прочитать этот блог?
  2. Раздел A: Zero-Shot Learning
  3. Раздел B: Few-Shot Learning
  4. Термины, определения и ссылки
  5. 1. Настройка окружения
  6. Установка и импорт зависимостей
  7. Настройте свои ключи
  8. Раздел A

Урок входит в полный доступ. Полный текст и видео открываются после оплаты. Первые уроки каждого курса бесплатны.

Откройте полный доступ

Вы прошли бесплатные уроки. Выберите тариф, чтобы продолжить обучение.

Курсы OpenAI 1 490 ₽ Разовый платёж, навсегда
  • Все курсы от OpenAI (1 шт.)
  • Именной сертификат по каждому пройденному курсу
Оплатить
Полный доступ 4 900 ₽ Разовый платёж, навсегда
  • Все 77 курсов от 11 AI-провайдеров
  • Библиотека промптов и новые курсы
Оплатить

Безопасная оплата через Robokassa: СБП, карты, электронные кошельки. Доступ откроется в этом браузере и придёт письмом. Уже оплатили? Восстановить доступ

Урок входит в темы

Полезные гиды