Урок из полного доступа, первые уроки курса бесплатно Официальный курс Mistral AI Cookbook на русском
Урок 103 · Текст · ~5 мин

Mistral AI в LlamaIndex: первые шаги

Урок 103 из 154 курса «Mistral AI Cookbook»: официальный курс Mistral AI Cookbook (Мистраль) на русском языке. Урок входит в платный доступ; первые уроки курса бесплатно.

О чём урок

В этом notebook мы покажем, как можно использовать LlamaIndex с Mistral API для выполнения сложных запросов по нескольким документам, включая ответы на вопросы, требующие одновременного обращения к нескольким документам. Мы сделаем это с помощью ReAct agent — автономного LLM-powered agent, способного использовать tools.

Сначала установим необходимые зависимости. Нам понадобятся LlamaIndex, Mistral и PDF-парсер для дальнейшей работы.

Теперь настроим подключение к Mistral. Нам понадобятся две вещи:

  1. LLM для ответов на вопросы
  2. embedding model для преобразования наших данных в векторы для извлечения нашим index. К счастью, Mistral предоставляет и то, и другое!

После того как мы их получим, мы поместим их в ServiceContext — объект, который LlamaIndex использует для передачи конфигурации.

Теперь загрузим наш dataset — 3 очень больших PDF-файла, содержащих годовые отчеты Lyft за 2020–2022 годы.

Теперь, когда у нас есть данные, мы выполним три действия:

  1. Загрузим PDF-данные в память. При этом они будут преобразованы в текст. За это отвечает строка load_data().
  2. Проиндексируем данные. Это создаст векторное представление каждого документа. За это отвечает строка from_documents(). Она хранит векторы в памяти.
  3. Настроим query engine для извлечения информации из vector store и передачи ее в LLM. За это отвечает строка as_query_engine().

Мы сделаем это один раз для каждого из трех документов. Если бы документов было больше трех, мы бы сделали это программно с помощью цикла, но так код остается очень простым, хотя и немного повторяющимся. В конце мы включили запрос к одному из index в качестве теста.

Успех! index за 2022 год знает факты о 2022 годе. Мы почти готовы создать наш agent. Прежде чем это сделать, давайте настроим массив tools для использования нашим agent. Это превращает каждый из настроенных нами выше query engine в tool и указывает, в чем каждый engine лучше всего отвечает на вопросы. LLM будет читать эти описания при принятии решения, какой tool использовать.

Теперь мы создаем…

Урок входит в полный доступ. Полный текст и видео открываются после оплаты. Первые уроки каждого курса бесплатны.

Откройте полный доступ

Вы прошли бесплатные уроки. Выберите тариф, чтобы продолжить обучение.

Курсы Mistral AI 1 490 ₽ Разовый платёж, навсегда
  • Все курсы от Mistral AI (1 шт.)
  • Именной сертификат по каждому пройденному курсу
Оплатить
Полный доступ 4 900 ₽ Разовый платёж, навсегда
  • Все 77 курсов от 11 AI-провайдеров
  • Библиотека промптов и новые курсы
Оплатить

Безопасная оплата через Robokassa: СБП, карты, электронные кошельки. Доступ откроется в этом браузере и придёт письмом. Уже оплатили? Восстановить доступ

Полезные гиды