Урок из полного доступа, первые уроки курса бесплатно Официальный курс Mistral AI Cookbook на русском
Урок 73 · Текст · ~5 мин

Mistral Search Toolkit: наглядный обзор

Урок 73 из 154 курса «Mistral AI Cookbook»: официальный курс Mistral AI Cookbook (Мистраль) на русском языке. Урок входит в платный доступ; первые уроки курса бесплатно.

О чём урок

Этот блокнот является отправной точкой для всех остальных руководств. Здесь вы ничего не будете развертывать, вместо этого вы построите ментальную модель, которую предполагает каждое последующее руководство. Не стесняйтесь пропустить этот раздел, если вы уже знакомы с RAG в других фреймворках.

К концу этого блокнота вы должны быть в состоянии ответить своими словами на следующие вопросы:

  1. Какую проблему решает RAG, и какое место в этой картине занимает извлечение?
  2. Что такое документы, фрагменты, встраивания и векторное хранилище?
  3. Что такое гибридный поиск, и что объединяет RRF?
  4. Почему инструментарий представляет прием данных как компонуемый Pipeline из взаимозаменяемых частей?
  5. Как QueryEngine организует извлечение во время запроса?

Две ячейки кода в этом блокноте (демонстрация встраиваний + демонстрация RRF) требуют только установки этого рабочего пространства руководства:

Для демонстрации встраиваний также требуется MISTRAL_API_KEY в вашей среде (файл .env в корне руководства загружается автоматически).

Большие языковые модели отлично справляются с рассуждениями над текстом, но у них есть две постоянные слабости:

  • Они не знают о ваших документах (внутренние документы, контракты, научные PDF-файлы, заявки клиентов…).
  • Их обучающие данные имеют дату отсечения, и для поддержания актуальных данных вам нужно постоянно их обновлять.

Retrieval-Augmented Generation (RAG) состоит из двух компонентов ИИ:

  • Извлекатель находит несколько отрывков из вашего корпуса, которые наиболее релевантны вопросу пользователя.
  • LLM получает эти отрывки в качестве контекста и просит ответить, используя их.

LLM не галлюцинирует из ниоткуда, потому что теперь у него есть обоснованные доказательства, и вы можете получать актуальные знания, просто повторно загружая документы или получая их из живых источников.

Чтобы искать документы, вам сначала нужно проиндексировать их в векторном хранилище. Существует два конвейера, и они встречаются посередине в векторном хранилище.

Прием данных — это медленная, дорогая, интенсивно записывающая половина (OCR, встраивание, индексирование). Поиск — это быстрая, интенсивно читающая половина (встраивание запроса, гибридный поиск, возврат k лучших). Они ничего не разделяют во время выполнения, кроме векторного хранилища.

Инструментарий отражает это…

План урока

  1. Что вы узнаете
  2. Настройка
  3. 1. Почему RAG? Проблема, которую решает извлечение
  4. 2. Два конвейера, одно общее хранилище
  5. 3. Прием данных с первого взгляда — Pipeline
  6. 4. Встраивания — превращение текста в геометрию
  7. 5. Векторное хранилище и гибридный поиск
  8. Зачем заморачиваться с обоими?

Урок входит в полный доступ. Полный текст и видео открываются после оплаты. Первые уроки каждого курса бесплатны.

Откройте полный доступ

Вы прошли бесплатные уроки. Выберите тариф, чтобы продолжить обучение.

Курсы Mistral AI 1 490 ₽ Разовый платёж, навсегда
  • Все курсы от Mistral AI (1 шт.)
  • Именной сертификат по каждому пройденному курсу
Оплатить
Полный доступ 4 900 ₽ Разовый платёж, навсегда
  • Все 77 курсов от 11 AI-провайдеров
  • Библиотека промптов и новые курсы
Оплатить

Безопасная оплата через Robokassa: СБП, карты, электронные кошельки. Доступ откроется в этом браузере и придёт письмом. Уже оплатили? Восстановить доступ

Полезные гиды