Приложение на Chainlit с Mistral AI

О чём урок

Документация | Discord Цель этого руководства — показать, как можно создать приложение Chainlit на базе API Mistral AI! Мы подчеркнем способности LLM Mistral к рассуждению, позволив саморефлексирующему агенту оценить, достаточно ли информации он собрал для ответа на вложенные вопросы пользователя, такие как "Какая погода в родном городе Наполеона?" Для ответа на такие вопросы наше приложение должно пройти через многоэтапное рассуждение: сначала получить родной город Наполеона, затем запросить погоду для этого местоположения. Вы можете прочитать этот notebook или просто запустить chainlit run app.py, так как весь код находится в app.py. Здесь вы найдете разделение всего кода приложения с пояснениями: Настройка Определение доступных инструментов Логика агента Callback при получении сообщения Стартовые вопросы Вот визуализация того, что мы построим за несколько минут: Мы установим mistralai, chainlit и python-dotenv. Обязательно создайте файл .env со строкой MISTRAL_API_KEY=, за которой следует ваш API key Mistral AI. Вы можете получить LITERAL_API_KEY от Literal AI для настройки трассировки и визуализации потока вашего приложения. Внутри кода Chainlit предлагает декораторы @chainlit.step для трассировки ваших функций, наряду с автоматической инструментацией API Mistral через chainlit.instrument_mistralai(). Трассировка для этого примера notebook: https://cloud.getliteral.ai/thread/ea173d7d-a53f-4eaf-a451-82090b07e6ff. В следующей ячейке мы определяем инструменты и их JSON-определения, которые мы предоставим агенту. У нас есть два инструмента: get_current_weather -> принимает местоположение get_home_town -> принимает имя человека При желании вы можете декорировать определения ваших инструментов с помощью @cl.step(), указав тип и имя для организации трассировок, которые вы можете визуализировать из Literal AI. Для логики агента мы просто повторяем следующий шаблон (макс. 5 раз): задать вопрос пользователя Mistral, сделав оба инструмента доступными выполнить инструменты, если Mistral запросит это, в противном случае вернуть сообщение Вы заметите, что мы добавили необязательный @cl.step типа run и с необязательными тегами для соответствующей трассировки вызова в Literal AI.

План урока

1. Настройка
2. Требования
3. Необязательно — Трассировка
4. Определение доступных инструментов
5. Логика агента
6. Callback при получении сообщения
7. Стартовые вопросы