Mistral Search Toolkit: наглядный обзор

О чём урок

Этот notebook — отправная точка для всех остальных руководств. Здесь вы ничего не будете развёртывать, вместо этого вы построите ментальную модель, которую предполагает каждое последующее руководство. Не стесняйтесь пропустить этот раздел, если вы уже знакомы с RAG в других фреймворках. К концу этого notebook вы сможете ответить своими словами на следующие вопросы: Какую проблему решает RAG, и какое место в этом занимает retrieval? Что такое документы, чанки, embeddings и vector store? Что такое hybrid search, и что объединяет RRF? Почему инструментарий представляет загрузку данных (ingestion) как компонуемый Pipeline из взаимозаменяемых частей? Как QueryEngine оркестрирует retrieval во время запроса? Две code cell в этом notebook (демо embeddings + демо RRF) требуют только установки рабочего пространства этого руководства: Для демо embeddings также требуется MISTRAL_API_KEY в вашем окружении (файл .env в корне руководства загружается автоматически). Большие языковые модели отлично справляются с рассуждениями над текстом, но у них есть две постоянные слабости: Они не знают о ваших документах (внутренние документы, контракты, научные PDF-файлы, обращения клиентов…). Их обучающие данные имеют дату отсечения, и чтобы поддерживать актуальность информации, необходимо постоянно пополнять их данными в реальном времени. Retrieval-Augmented Generation (RAG) состоит из двух компонентов ИИ: Retriever находит несколько фрагментов из вашего корпуса, наиболее релевантных запросу пользователя. LLM получает эти фрагменты в качестве контекста и использует их для ответа. LLM не галлюцинирует из ниоткуда, поскольку теперь у неё есть обоснованные доказательства, и вы можете получать актуальные знания, просто повторно индексируя документы или получая их из актуальных источников. Чтобы искать документы, сначала необходимо проиндексировать их в vector store. Существует два pipeline, и они встречаются посередине в vector store.

План урока

1. Что вы узнаете в итоге
2. Настройка
3. 1. Зачем RAG? Проблема, которую решает retrieval
4. 2. Два pipeline, одно общее хранилище
5. 3. Загрузка данных (Ingestion) в общих чертах — Pipeline
6. 4. Embeddings — превращение текста в геометрию
7. 5. Vector store и hybrid search
8. Зачем использовать оба?