Урок из полного доступа, первые уроки курса бесплатно Официальный курс Mistral AI Cookbook на русском
Урок 86 · Текст · ~5 мин

RAG с Mistral AI и Azure AI Search

Урок 86 из 154 курса «Mistral AI Cookbook»: официальный курс Mistral AI Cookbook (Мистраль) на русском языке. Урок входит в платный доступ; первые уроки курса бесплатно.

О чём урок

Этот notebook демонстрирует, как интегрировать Mistral Embeddings с Azure AI Search в качестве векторного хранилища и использовать полученные результаты для обоснования ответов в Mistral Chat Completion Model.

  • Ключ API Mistral AI ИЛИ развернутая модель Mistral Chat Completion Model в Azure AI Studio и ключ API Azure AI Studio
  • Сервис Azure AI Search
  • Среда Python 3.x с установленными необходимыми библиотеками
  1. Установить необходимые пакеты
  2. Загрузить данные и сгенерировать Mistral embeddings
  3. Индексировать embeddings в Azure AI Search
  4. Выполнить поиск с использованием Azure AI Search
  5. Обосновать результаты поиска в Mistral Chat Completion Model

У нас есть 10K chunks, где каждый chunk примерно равен по длине 1-2 абзацам. Вот пример одной записи:

Отформатируем данные в нужный нам формат, который будет содержать id, title, content (который мы будем использовать для embedding), и arxiv_id.

Нам необходимо определить embedding модель для создания наших embedding векторов для извлечения; для этого мы будем использовать mistral-embed от Mistral AI. С этой моделью связаны определенные затраты, поэтому имейте это в виду (затраты на запуск этого notebook составляют менее $1).

Мы можем просмотреть размерность наших полученных embeddings, которая скоро понадобится нам при инициализации нашего векторного индекса:

Теперь мы создаем нашу vector DB для хранения векторов. Для этого нам необходимо настроить сервис Azure AI Search.

Существует два способа аутентификации в Azure AI Search:

  1. Ключ сервиса: Ключ сервиса можно найти в разделе "Settings -> Keys" в левой навигационной панели панели управления портала Azure. Убедитесь, что выбран ключ ADMIN.
  2. Managed Identity: Использование Microsoft Entra ID (ранее Azure Active Directory) является более безопасным и рекомендуемым способом аутентификации. Вы можете следовать инструкциям в официальной документации Microsoft для настройки Managed Identity.

Для получения более подробных инструкций по созданию сервиса Azure AI Search, пожалуйста, обратитесь к официальной документации Microsoft.

Согласно информации из Mistral Tokenizer от Lunary.ai, один token примерно эквивалентен пяти символам текста.

Согласно ценам Mistral, стоимость использования…

План урока

  1. Обзор
  2. Предварительные требования
  3. Шаги
  4. Установка необходимых пакетов
  5. Загрузка данных и генерация Mistral embeddings
  6. Индексирование embeddings в Azure AI Search
  7. Аутентификация в Azure AI Search
  8. Создание векторного индекса

Урок входит в полный доступ. Полный текст и видео открываются после оплаты. Первые уроки каждого курса бесплатны.

Откройте полный доступ

Вы прошли бесплатные уроки. Выберите тариф, чтобы продолжить обучение.

Курсы Mistral AI 1 490 ₽ Разовый платёж, навсегда
  • Все курсы от Mistral AI (1 шт.)
  • Именной сертификат по каждому пройденному курсу
Оплатить
Полный доступ 4 900 ₽ Разовый платёж, навсегда
  • Все 77 курсов от 11 AI-провайдеров
  • Библиотека промптов и новые курсы
Оплатить

Безопасная оплата через Robokassa: СБП, карты, электронные кошельки. Доступ откроется в этом браузере и придёт письмом. Уже оплатили? Восстановить доступ

Полезные гиды