Урок из полного доступа, первые уроки курса бесплатно Официальный курс Mistral AI Cookbook на русском
Урок 97 · Текст · ~5 мин

Наблюдаемость RAG через Langtrace

Урок 97 из 154 курса «Mistral AI Cookbook»: официальный курс Mistral AI Cookbook (Мистраль) на русском языке. Урок входит в платный доступ; первые уроки курса бесплатно.

О чём урок

Этот Notebook содержит инструкции по настройке трассировки на основе OpenTelemetry для Mistral с Langtrace AI.

Цель этого Notebook — продемонстрировать простое RAG-приложение, где вы можете общаться с PDF-файлом Конституции Соединенных Штатов.

Создайте коллекцию Chroma, указав функцию embedding по умолчанию, которая будет использоваться в нашем RAG при вставке фрагментов PDF.

  1. получить запрос от пользователя, найти 3 ближайших результата из фрагментированного PDF
  2. сформировать структуру prompt
  3. Передать запрос и prompt в Mistral для получения фактического ответа

Вот и всё! Теперь вы сможете увидеть трассировки для всех ваших вызовов inference в Langtrace!

  • Вы можете увидеть, какой именно prompt извлекается из chromadb и отправляется в Mistral, а также ответ

План урока

  1. Импорты & Инициализация клиентов
  2. Использование Langchain для разделения PDF на фрагменты
  3. Настройка Chroma & Вставка фрагментов PDF
  4. Запрос к коллекции
  5. Запуск всего вместе и мониторинг с использованием Langtrace.
  6. Первые два скриншота демонстрируют структуру трассировки и span всего RAG-приложения.
  7. Вторые два скриншота — это детали выполнения Mistral.

Урок входит в полный доступ. Полный текст и видео открываются после оплаты. Первые уроки каждого курса бесплатны.

Откройте полный доступ

Вы прошли бесплатные уроки. Выберите тариф, чтобы продолжить обучение.

Курсы Mistral AI 1 490 ₽ Разовый платёж, навсегда
  • Все курсы от Mistral AI (1 шт.)
  • Именной сертификат по каждому пройденному курсу
Оплатить
Полный доступ 4 900 ₽ Разовый платёж, навсегда
  • Все 77 курсов от 11 AI-провайдеров
  • Библиотека промптов и новые курсы
Оплатить

Безопасная оплата через Robokassa: СБП, карты, электронные кошельки. Доступ откроется в этом браузере и придёт письмом. Уже оплатили? Восстановить доступ

Полезные гиды