Урок из полного доступа, первые уроки курса бесплатно Официальный курс Mistral AI Cookbook на русском
Урок 124 · Текст · ~5 мин

RAG на Pinecone и Mistral AI

Урок 124 из 154 курса «Mistral AI Cookbook»: официальный курс Mistral AI Cookbook (Мистраль) на русском языке. Урок входит в платный доступ; первые уроки курса бесплатно.

О чём урок

Для начала настроим необходимые библиотеки.

Начнем с загрузки набора данных, который мы будем кодировать и хранить. Набор данных jamescalam/ai-arxiv2-semantic-chunks содержит извлеченные данные из множества популярных статей ArXiv, посвященных LLM и GenAI.

У нас есть 200 тысяч chunks, каждый из которых примерно равен 1-2 абзацам. Вот пример одной записи:

Форматируем данные в нужный нам вид, который будет содержать id, text (который мы будем embed) и metadata.

Нам необходимо определить модель embedding для создания наших embedding векторов для retrieval. Для этого мы будем использовать mistral-embed от Mistral AI. С этой моделью связаны определенные затраты, поэтому имейте это в виду (затраты на запуск этого notebook составят менее 1 доллара).

Теперь мы можем создавать embeddings следующим образом:

Мы можем просмотреть размерность наших возвращенных embeddings, которая вскоре понадобится нам при инициализации нашего векторного индекса:

Теперь мы создаем нашу векторную базу данных (DB) для хранения наших векторов. Для этого нам нужен бесплатный API key Pinecone — API key можно найти в кнопке "API Keys" в левой навигационной панели дашборда Pinecone.

Теперь мы настраиваем спецификацию нашего индекса, что позволяет нам определить облачного провайдера и регион, где мы хотим развернуть наш индекс. Список всех доступных провайдеров и регионов можно найти здесь.

При создании индекса мы устанавливаем dimension равным размерности mistral-embed (1024) и используем metric, также совместимый с mistral-embed (это может быть либо cosine, либо dotproduct). Мы также передаем наш spec при инициализации индекса.

Мы определим функцию embedding, которая позволит нам избежать передачи слишком большого количества токенов в один embedding batch (по состоянию на 21 мая 2024 года лимит составляет 16384 токена).

Мы видим, что индекс в настоящее время пуст, с total_vector_count равным 0. Мы можем начать заполнять его embeddings, созданными с помощью mistral-embed, следующим образом:

⚠️ ВНИМАНИЕ: Стоимость embedding для полного набора данных по состоянию на 3 января 2024 года составляет ~$5.70

Теперь давайте протестируем retrieval!

Урок входит в полный доступ. Полный текст и видео открываются после оплаты. Первые уроки каждого курса бесплатны.

Откройте полный доступ

Вы прошли бесплатные уроки. Выберите тариф, чтобы продолжить обучение.

Курсы Mistral AI 1 490 ₽ Разовый платёж, навсегда
  • Все курсы от Mistral AI (1 шт.)
  • Именной сертификат по каждому пройденному курсу
Оплатить
Полный доступ 4 900 ₽ Разовый платёж, навсегда
  • Все 77 курсов от 11 AI-провайдеров
  • Библиотека промптов и новые курсы
Оплатить

Безопасная оплата через Robokassa: СБП, карты, электронные кошельки. Доступ откроется в этом браузере и придёт письмом. Уже оплатили? Восстановить доступ

Полезные гиды