О чём урок
Документация | Discord
Цель этого руководства — показать, как можно создать приложение Chainlit на базе API Mistral AI!
Мы подчеркнем способности LLM Mistral к рассуждению, позволив саморефлексирующему агенту оценить, достаточно ли информации он собрал для ответа на вложенные вопросы пользователя, такие как "Какая погода в родном городе Наполеона?"
Для ответа на такие вопросы наше приложение должно пройти через многоэтапное рассуждение: сначала получить родной город Наполеона, затем запросить погоду для этого местоположения.
Вы можете прочитать этот notebook или просто запустить chainlit run app.py, так как весь код находится в app.py. Здесь вы найдете разделение всего кода приложения с пояснениями:
- Настройка
- Определение доступных инструментов
- Логика агента
- Callback при получении сообщения
- Стартовые вопросы
Вот визуализация того, что мы построим за несколько минут:
Мы установим mistralai, chainlit и python-dotenv.
Обязательно создайте файл .env со строкой MISTRAL_API_KEY=, за которой следует ваш API key Mistral AI.
Вы можете получить LITERAL_API_KEY от Literal AI для настройки трассировки и визуализации потока вашего приложения.
Внутри кода Chainlit предлагает декораторы @chainlit.step для трассировки ваших функций, наряду с автоматической инструментацией API Mistral через chainlit.instrument_mistralai().
Трассировка для этого примера notebook: https://cloud.getliteral.ai/thread/ea173d7d-a53f-4eaf-a451-82090b07e6ff.
В следующей ячейке мы определяем инструменты и их JSON-определения, которые мы предоставим агенту. У нас есть два инструмента:
- get_current_weather -> принимает местоположение
- get_home_town -> принимает имя человека
При желании вы можете декорировать определения ваших инструментов с помощью @cl.step(), указав тип и имя для организации трассировок, которые вы можете визуализировать из Literal AI.
Для логики агента мы просто повторяем следующий шаблон (макс. 5 раз):
- задать вопрос пользователя Mistral, сделав оба инструмента доступными
- выполнить инструменты, если Mistral запросит это, в противном случае вернуть сообщение
Вы заметите, что мы добавили необязательный @cl.step типа run и с необязательными тегами для соответствующей трассировки вызова в Literal AI.
Визуальная трассировка: https…
План урока
- Настройка
- Требования
- Необязательно — Трассировка
- Определение доступных инструментов
- Логика агента
- Callback при получении сообщения
- Стартовые вопросы
Урок входит в полный доступ. Полный текст и видео открываются после оплаты. Первые уроки каждого курса бесплатны.