Цели урока
- Базовый RAG
- Генерация поисковых запросов
- Поиск с помощью Embed
- Переранжирование с помощью Rerank
- Генерация ответов и цитат
О чём урок
Конечная точка Chat обеспечивает всестороннюю поддержку различных вариантов использования генерации текста, включая генерацию с дополненным поиском (RAG).
Хотя LLM хорошо справляются с поддержанием контекста разговора и генерацией ответов, они могут быть склонны к галлюцинациям и включать фактически неверную или неполную информацию в свои ответы.
RAG позволяет модели получать доступ и использовать дополнительную информацию из внешних документов, тем самым повышая точность ее ответов.
При использовании RAG с конечной точкой Chat эти ответы подкрепляются подробными ссылками на исходные документы. Это делает ответы легко проверяемыми.
В этом руководстве вы узнаете о:
Вы изучите это, создав помощника по адаптации для новых сотрудников.
Для начала нам необходимо установить библиотеку cohere и создать клиент Cohere.
Чтобы понять, как работает RAG, давайте определим документы, к которым имеет доступ приложение. Мы будем использовать короткий список документов, состоящий из внутренних часто задаваемых вопросов о вымышленной компании Co1t (в реальных условиях эти документы огромны).
В этом примере каждый документ представляет собой объект data с одним полем text. Но мы можем определить любое количество полей, в зависимости от характера документов. Например, электронные письма могут содержать поля title и text.
Чтобы вызвать Chat API с RAG, передайте как минимум следующие параметры. Это указывает модели работать в режиме RAG и использовать эти документы в своем ответе.
- model для ID модели
- messages для запроса пользователя.
- documents для определения документов.
Давайте создадим запрос о поддержке компанией личного благополучия, информация о котором не будет доступна модели на основе данных, на которых она обучалась. Ей потребуется использовать внешние документы.
RAG вводит дополнительные объекты в ответ Chat. Одним из них является citations, который содержит подробную информацию о:
- конкретных текстовых фрагментах из извлеченных документов, на которых основан ответ.
- документах, на которые ссылаются цитаты.
Предыдущий пример показал, как начать работу с RAG, и, в частности, с частью RAG, связанной с дополненной генерацией.
В базовом приложении RAG задействованы следующие шаги:
- Преобразование…
План урока
- Настройка
- Базовый RAG
- Генерация поисковых запросов
- Поиск с помощью Embed
Урок входит в полный доступ. Полный текст и видео открываются после оплаты. Первые уроки каждого курса бесплатны.