Урок из полного доступа, первые уроки курса бесплатно Официальный курс Mistral AI Cookbook на русском
Урок 74 · Текст · ~5 мин

RAG по нескольким базам через вызов функций

Урок 74 из 154 курса «Mistral AI Cookbook»: официальный курс Mistral AI Cookbook (Мистраль) на русском языке. Урок входит в платный доступ; первые уроки курса бесплатно.

О чём урок

В этом руководстве мы кодируем RAG-агента, который использует механизм вызова функций для определения того, в какой базе данных выполнять RAG-запрос.

Мы не кодируем саму логику RAG здесь, а только ее маршрутизирующую часть!

Использование такой архитектуры имеет различные преимущества:

  • Она позволяет плавно масштабироваться до нескольких баз данных RAG
  • Она элегантно обрабатывает переключение между фазами RAG и классическим чатом LLM, активируя режим "auto" вызова функций
  • Такой маршрутизатор очень легко оценивать и донастраивать

Сначала установим наш SDK и настроим клиент.

Создайте ключ API здесь.

Компания Lemonade хочет создать свой внутренний RAG. В этом примере мы будем имитировать RAG-поиск по трем различным типам баз данных:

  • HR -> База данных, содержащая информацию по любым вопросам, связанным с человеческими ресурсами, например, отпуска, льготы, зарплата, офис, сотрудники и т.д.
  • Product -> База данных, содержащая информацию о специфике продукта Lemonade, например, доступные вкусы, цена, цвет упаковки и т.д.
  • Finance -> База данных, содержащая финансовую информацию, например, доходы, производственные затраты, обязательства и т.д.
  • Other -> Любой другой вопрос, не связанный с вышеуказанными темами.

Для демонстрации этого варианта использования мы сгенерируем набор пар вопросов и ответов, которые будут использоваться для тестирования нашего маршрутизатора. Мы будем создавать их с помощью Mistral Medium и структурированных выводов.

У нас готово 40 вопросов! Теперь мы можем построить наш маршрутизатор и протестировать его.

Мы будем использовать вызов функций с Mistral Small для нашего маршрутизатора. Для этой демонстрации мы не будем настраивать полный рабочий процесс. Чтобы узнать, как более подробно настроить вызов функций, см. здесь. У нас также есть несколько руководств по вызову функций и агентам!

Давайте протестируем нашего агента на сгенерированных парах!

Мы рекомендуем тестировать несколько моделей и решений с вашим тестовым набором или вариантом использования. Для справки, давайте протестируем наше самое маленькое семейство, 'Ministral', и посмотрим, как они работают.

Урок входит в полный доступ. Полный текст и видео открываются после оплаты. Первые уроки каждого курса бесплатны.

Откройте полный доступ

Вы прошли бесплатные уроки. Выберите тариф, чтобы продолжить обучение.

Курсы Mistral AI 1 490 ₽ Разовый платёж, навсегда
  • Все курсы от Mistral AI (1 шт.)
  • Именной сертификат по каждому пройденному курсу
Оплатить
Полный доступ 4 900 ₽ Разовый платёж, навсегда
  • Все 77 курсов от 11 AI-провайдеров
  • Библиотека промптов и новые курсы
Оплатить

Безопасная оплата через Robokassa: СБП, карты, электронные кошельки. Доступ откроется в этом браузере и придёт письмом. Уже оплатили? Восстановить доступ

Урок входит в темы

Полезные гиды