Урок из полного доступа, первые уроки курса бесплатно Официальный курс Cohere LLM University на русском
Урок 80 · Текст · ~5 мин

Глава 6. RAG, новая версия

Урок 80 из 114 курса «Cohere: LLM University»: официальный курс Cohere LLM University (Кохир) на русском языке. Урок входит в платный доступ; первые уроки курса бесплатно.

Цели урока

  • Базовый RAG
  • Генерация поисковых запросов
  • Поиск с помощью Embed
  • Переранжирование с помощью Rerank
  • Генерация ответов и цитат

О чём урок

Конечная точка Chat обеспечивает всестороннюю поддержку различных вариантов использования генерации текста, включая генерацию с дополненным поиском (RAG).

Хотя LLM хорошо справляются с поддержанием контекста разговора и генерацией ответов, они могут быть склонны к галлюцинациям и включать фактически неверную или неполную информацию в свои ответы.

RAG позволяет модели получать доступ и использовать дополнительную информацию из внешних документов, тем самым повышая точность ее ответов.

При использовании RAG с конечной точкой Chat эти ответы подкрепляются подробными ссылками на исходные документы. Это делает ответы легко проверяемыми.

В этом руководстве вы узнаете о:

Вы изучите это, создав помощника по адаптации для новых сотрудников.

Для начала нам необходимо установить библиотеку cohere и создать клиент Cohere.

Чтобы понять, как работает RAG, давайте определим документы, к которым имеет доступ приложение. Мы будем использовать короткий список документов, состоящий из внутренних часто задаваемых вопросов о вымышленной компании Co1t (в реальных условиях эти документы огромны).

В этом примере каждый документ представляет собой объект data с одним полем text. Но мы можем определить любое количество полей, в зависимости от характера документов. Например, электронные письма могут содержать поля title и text.

Чтобы вызвать Chat API с RAG, передайте как минимум следующие параметры. Это указывает модели работать в режиме RAG и использовать эти документы в своем ответе.

  • model для ID модели
  • messages для запроса пользователя.
  • documents для определения документов.

Давайте создадим запрос о поддержке компанией личного благополучия, информация о котором не будет доступна модели на основе данных, на которых она обучалась. Ей потребуется использовать внешние документы.

RAG вводит дополнительные объекты в ответ Chat. Одним из них является citations, который содержит подробную информацию о:

  • конкретных текстовых фрагментах из извлеченных документов, на которых основан ответ.
  • документах, на которые ссылаются цитаты.

Предыдущий пример показал, как начать работу с RAG, и, в частности, с частью RAG, связанной с дополненной генерацией.

В базовом приложении RAG задействованы следующие шаги:

  • Преобразование…

План урока

  1. Настройка
  2. Базовый RAG
  3. Генерация поисковых запросов
  4. Поиск с помощью Embed

Урок входит в полный доступ. Полный текст и видео открываются после оплаты. Первые уроки каждого курса бесплатны.

Откройте полный доступ

Вы прошли бесплатные уроки. Выберите тариф, чтобы продолжить обучение.

Курсы Cohere 1 490 ₽ Разовый платёж, навсегда
  • Все курсы от Cohere (1 шт.)
  • Именной сертификат по каждому пройденному курсу
Оплатить
Полный доступ 4 900 ₽ Разовый платёж, навсегда
  • Все 77 курсов от 11 AI-провайдеров
  • Библиотека промптов и новые курсы
Оплатить

Безопасная оплата через Robokassa: СБП, карты, электронные кошельки. Доступ откроется в этом браузере и придёт письмом. Уже оплатили? Восстановить доступ

Полезные гиды