Урок из полного доступа, первые уроки курса бесплатно Официальный курс Mistral AI Cookbook на русском
Урок 89 · Текст · ~5 мин

Приложение на Chainlit с Mistral AI

Урок 89 из 154 курса «Mistral AI Cookbook»: официальный курс Mistral AI Cookbook (Мистраль) на русском языке. Урок входит в платный доступ; первые уроки курса бесплатно.

О чём урок

Документация | Discord

Цель этого руководства — показать, как можно создать приложение Chainlit на базе API Mistral AI!

Мы подчеркнем способности LLM Mistral к рассуждению, позволив саморефлексирующему агенту оценить, достаточно ли информации он собрал для ответа на вложенные вопросы пользователя, такие как "Какая погода в родном городе Наполеона?"

Для ответа на такие вопросы наше приложение должно пройти через многоэтапное рассуждение: сначала получить родной город Наполеона, затем запросить погоду для этого местоположения.

Вы можете прочитать этот notebook или просто запустить chainlit run app.py, так как весь код находится в app.py. Здесь вы найдете разделение всего кода приложения с пояснениями:

  • Настройка
  • Определение доступных инструментов
  • Логика агента
  • Callback при получении сообщения
  • Стартовые вопросы

Вот визуализация того, что мы построим за несколько минут:

Мы установим mistralai, chainlit и python-dotenv.

Обязательно создайте файл .env со строкой MISTRAL_API_KEY=, за которой следует ваш API key Mistral AI.

Вы можете получить LITERAL_API_KEY от Literal AI для настройки трассировки и визуализации потока вашего приложения.

Внутри кода Chainlit предлагает декораторы @chainlit.step для трассировки ваших функций, наряду с автоматической инструментацией API Mistral через chainlit.instrument_mistralai().

Трассировка для этого примера notebook: https://cloud.getliteral.ai/thread/ea173d7d-a53f-4eaf-a451-82090b07e6ff.

В следующей ячейке мы определяем инструменты и их JSON-определения, которые мы предоставим агенту. У нас есть два инструмента:

  • get_current_weather -> принимает местоположение
  • get_home_town -> принимает имя человека

При желании вы можете декорировать определения ваших инструментов с помощью @cl.step(), указав тип и имя для организации трассировок, которые вы можете визуализировать из Literal AI.

Для логики агента мы просто повторяем следующий шаблон (макс. 5 раз):

  • задать вопрос пользователя Mistral, сделав оба инструмента доступными
  • выполнить инструменты, если Mistral запросит это, в противном случае вернуть сообщение

Вы заметите, что мы добавили необязательный @cl.step типа run и с необязательными тегами для соответствующей трассировки вызова в Literal AI.

Визуальная трассировка: https…

План урока

  1. Настройка
  2. Требования
  3. Необязательно — Трассировка
  4. Определение доступных инструментов
  5. Логика агента
  6. Callback при получении сообщения
  7. Стартовые вопросы

Урок входит в полный доступ. Полный текст и видео открываются после оплаты. Первые уроки каждого курса бесплатны.

Откройте полный доступ

Вы прошли бесплатные уроки. Выберите тариф, чтобы продолжить обучение.

Курсы Mistral AI 1 490 ₽ Разовый платёж, навсегда
  • Все курсы от Mistral AI (1 шт.)
  • Именной сертификат по каждому пройденному курсу
Оплатить
Полный доступ 4 900 ₽ Разовый платёж, навсегда
  • Все 77 курсов от 11 AI-провайдеров
  • Библиотека промптов и новые курсы
Оплатить

Безопасная оплата через Robokassa: СБП, карты, электронные кошельки. Доступ откроется в этом браузере и придёт письмом. Уже оплатили? Восстановить доступ

Полезные гиды