О чём урок
Основная цель этого руководства — продемонстрировать, как эффективно использовать новейшую модель Mistral Large 2 для выполнения веб-поиска и включения соответствующих источников в ваши ответы. Распространенная проблема с чат-ботами и системами Retrieval-Augmented Generation (RAG) заключается в их склонности к галлюцинациям источников или неправильному форматированию URL-адресов. Расширенные возможности Mistral решают эти проблемы, обеспечивая точный и надежный поиск информации. Новая модель Mistral mistral-large-latest интегрирует возможности веб-поиска, позволяя ей точно ссылаться на источники в своих ответах. Эта функция позволяет извлекать содержимое источников и корректно представлять его в ваших ответах, повышая надежность и достоверность предоставляемой информации. Используя передовую обработку естественного языка Mistral и интеграцию с веб-поиском, вы можете создавать более надежные и заслуживающие доверия приложения. Ниже приведено пошаговое описание процесса, изображенного на рисунке выше: Инициирование запроса: Процесс начинается с пользовательского запроса. Вызов функции с Mistral Large: Запрос обрабатывается моделью Mistral Large, которая определяет, что ей необходимо выполнить вызов функции для сбора дополнительной информации. Этот шаг включает определение подходящего инструмента для использования с запросом. Идентификация инструмента: Модель Mistral идентифицирует соответствующий инструмент для запроса, которым в данном случае является web_search_wikipedia. Инструмент принимает пользовательский запрос в качестве аргумента. Поиск в Wikipedia: Инструмент вызывается и выполняет поиск в Wikipedia, используя запрос. Извлечение релевантных фрагментов: Результаты поиска в Wikipedia обрабатываются для извлечения релевантных фрагментов информации. Эти фрагменты затем подготавливаются для использования в качестве ссылок в окончательном ответе. Окончательный ответ с указанием источников: История чата отправляется модели Mistral Large, которая использует извлеченные фрагменты для генерации окончательного ответа. Ответ включает ссылки на статьи Wikipedia, что обеспечивает точность и подтвержденность предоставленной информации. На этом шаге мы инициализируем клиент Mistral с вашим API key. Вы можете получить или создать свой API key на панели управления Mistral API. Внимание: Активация API Key может занять до 1 минуты. [SystemMessage(content='You are a helpful assistant that can search the web for information.
План урока
- Введение
- Возможности веб-поиска Mistral
- Шаг 1: Инициализация клиента Mistral
- Шаг 2: Определение инструмента для вызова функции для поиска в Wikipedia.
- Шаг 3: Определение метода для поиска в Wikipedia, связанного с инструментом
- Шаг 4: Выполнение вызова инструмента и поиск в Wikipedia
- Шаг 5: Вызов Mistral с результатом вызова инструмента
- Шаг 6: Streaming completion с указанием источников
Урок входит в полный доступ. Полный текст и видео открываются после оплаты. Первые уроки каждого курса бесплатны.