Урок из полного доступа, первые уроки курса бесплатно Официальный курс Mistral AI Cookbook на русском
Урок 116 · Текст · ~5 мин

Наблюдаемость с Maxim

Урок 116 из 154 курса «Mistral AI Cookbook»: официальный курс Mistral AI Cookbook (Мистраль) на русском языке. Урок входит в платный доступ; первые уроки курса бесплатно.

О чём урок

Docs | GitHub | Discord

В этом руководстве мы покажем, как использовать Maxim для наблюдения за вызовами LLM Mistral и метриками.

Maxim AI обеспечивает всестороннюю наблюдаемость для ваших AI-приложений на базе Mistral. Благодаря однострочной интеграции Maxim вы можете легко отслеживать и анализировать вызовы LLM, метрики и многое другое.

Преимущества:

  • Аналитика производительности: Отслеживайте задержку, потребленные токены и затраты
  • Расширенная визуализация: Понимайте траектории агентов с помощью интуитивно понятных дашбордов

Вам необходимо установить пакеты mistralai и maxim-py из pypy

Вы можете зарегистрироваться на Maxim и создать новый API Key в разделе Settings. После этого перейдите в раздел Logs и создайте новый Log Repository, вы получите Log Repository Id. Также подготовьте ваш Mistral API Key.

Создайте экземпляр Maxim Logger

Выполните вызов к Mistral через Mistral API Client, предоставленный Maxim, определите модель, которую хотите использовать, и список сообщений.

Чтобы проверить логи, которыми Mistral SDK обменивается с Maxim:

  1. Перейдите в раздел Logs на платформе Maxim
  2. Перейдите в соответствующий Log Repository, который вы создали.
  3. Переключитесь на Logs в верхней вкладке и проанализируйте полученные traces

Если у вас есть какие-либо отзывы или запросы, пожалуйста, создайте GitHub Issue.

План урока

  1. Что такое Maxim?
  2. Установка и импорт необходимых модулей
  3. Установка переменных окружения
  4. Инициализация логгера
  5. Выполнение вызовов LLM с использованием MaximMistralClient
  6. Асинхронный вызов LLM

Урок входит в полный доступ. Полный текст и видео открываются после оплаты. Первые уроки каждого курса бесплатны.

Откройте полный доступ

Вы прошли бесплатные уроки. Выберите тариф, чтобы продолжить обучение.

Курсы Mistral AI 1 490 ₽ Разовый платёж, навсегда
  • Все курсы от Mistral AI (1 шт.)
  • Именной сертификат по каждому пройденному курсу
Оплатить
Полный доступ 4 900 ₽ Разовый платёж, навсегда
  • Все 77 курсов от 11 AI-провайдеров
  • Библиотека промптов и новые курсы
Оплатить

Безопасная оплата через Robokassa: СБП, карты, электронные кошельки. Доступ откроется в этом браузере и придёт письмом. Уже оплатили? Восстановить доступ

Полезные гиды