Глава 6. RAG, новая версия

Цели урока

• Базовый RAG
• Генерация поисковых запросов
• Поиск с помощью Embed
• Переранжирование с помощью Rerank
• Генерация ответов и цитат

О чём урок

Конечная точка Chat обеспечивает всестороннюю поддержку различных вариантов использования генерации текста, включая генерацию с дополненным поиском (RAG). Хотя LLM хорошо справляются с поддержанием контекста разговора и генерацией ответов, они могут быть склонны к галлюцинациям и включать фактически неверную или неполную информацию в свои ответы. RAG позволяет модели получать доступ и использовать дополнительную информацию из внешних документов, тем самым повышая точность ее ответов. При использовании RAG с конечной точкой Chat эти ответы подкрепляются подробными ссылками на исходные документы. Это делает ответы легко проверяемыми. В этом руководстве вы узнаете о: Вы изучите это, создав помощника по адаптации для новых сотрудников. Для начала нам необходимо установить библиотеку cohere и создать клиент Cohere. Чтобы понять, как работает RAG, давайте определим документы, к которым имеет доступ приложение. Мы будем использовать короткий список документов, состоящий из внутренних часто задаваемых вопросов о вымышленной компании Co1t (в реальных условиях эти документы огромны). В этом примере каждый документ представляет собой объект data с одним полем text. Но мы можем определить любое количество полей, в зависимости от характера документов. Например, электронные письма могут содержать поля title и text. Чтобы вызвать Chat API с RAG, передайте как минимум следующие параметры. Это указывает модели работать в режиме RAG и использовать эти документы в своем ответе. model для ID модели messages для запроса пользователя. documents для определения документов. Давайте создадим запрос о поддержке компанией личного благополучия, информация о котором не будет доступна модели на основе данных, на которых она обучалась. Ей потребуется использовать внешние документы. RAG вводит дополнительные объекты в ответ Chat. Одним из них является citations, который содержит подробную информацию о: конкретных текстовых фрагментах из извлеченных документов, на которых основан ответ. документах, на которые ссылаются цитаты. Предыдущий пример показал, как начать работу с RAG, и, в частности, с частью RAG, связанной с дополненной генерацией.

План урока

1. Настройка
2. Базовый RAG
3. Генерация поисковых запросов
4. Поиск с помощью Embed