Дообучение для RAG с Qdrant и few-shot

О чём урок

Цель этого notebook — рассмотреть подробный пример того, как дообучать модели OpenAI для генерации с дополненной выборкой (RAG). Мы также интегрируем Qdrant и Few-Shot Learning для повышения производительности модели и уменьшения галлюцинаций. Это может послужить практическим руководством для ML-специалистов, data scientists и AI-инженеров, заинтересованных в использовании возможностей моделей OpenAI для конкретных use-cases. 🤩 Примечание: В этом notebook используется модель gpt-3.5-turbo. Дообучение на датасете SQuAD с такой настройкой даёт лишь минимальные улучшения для более продвинутых моделей, таких как gpt-4o или gpt-4.1. Таким образом, этот notebook в первую очередь предназначен как руководство по рабочим процессам fine-tuning и практикам генерации с дополненной выборкой (RAG) Вы хотите научиться Дообучать модели OpenAI для конкретных use-cases Использовать Qdrant для улучшения производительности вашей RAG-модели Использовать fine-tuning для повышения корректности вашей RAG-модели и уменьшения галлюцинаций Для начала мы выбрали dataset, в котором гарантируется идеальная выборка (retrieval). Мы выбрали подмножество dataset'а SQuAD, который представляет собой набор вопросов и ответов по статьям Википедии. Мы также включили sample'ы, где ответ отсутствует в контексте, чтобы продемонстрировать, как RAG обрабатывает этот случай. Настройка окружения Подготовка данных: Dataset SQuADv2 Ответы с использованием базовой модели gpt-3.5-turbo-0613 Fine-tuning и ответы с использованием дообученной модели Оценка: Насколько хорошо работает модель? Использование Qdrant для улучшения RAG Prompt Дообучение модели OpenAI с Qdrant Оценка Заключение Сводные результаты Наблюдения Retrieval Augmented Generation (RAG)? Фраза Retrieval Augmented Generation (RAG) взята из недавней статьи Льюиса и соавторов из Facebook AI. Идея заключается в использовании предварительно обученной языковой модели (LM) для генерации текста, но с применением отдельной системы retrieval для поиска релевантных документов, на которых будет обусловлена LM. Что такое Qdrant? Qdrant — это open-source векторный поисковый движок, который позволяет искать похожие векторы в большом dataset. Он написан на Rust, и здесь мы будем использовать Python-клиент для взаимодействия с ним. Это часть Retrieval в RAG. Что такое Few-Shot Learning?

План урока

1. Почему стоит прочитать этот блог?
2. Раздел A: Zero-Shot Learning
3. Раздел B: Few-Shot Learning
4. Термины, определения и ссылки
5. 1. Настройка окружения
6. Установка и импорт зависимостей
7. Настройте свои ключи
8. Раздел A