Наблюдаемость RAG через Langtrace

О чём урок

Этот Notebook содержит инструкции по настройке трассировки на основе OpenTelemetry для Mistral с Langtrace AI. Цель этого Notebook — продемонстрировать простое RAG-приложение, где вы можете общаться с PDF-файлом Конституции Соединенных Штатов. Создайте коллекцию Chroma, указав функцию embedding по умолчанию, которая будет использоваться в нашем RAG при вставке фрагментов PDF. получить запрос от пользователя, найти 3 ближайших результата из фрагментированного PDF сформировать структуру prompt Передать запрос и prompt в Mistral для получения фактического ответа Вот и всё! Теперь вы сможете увидеть трассировки для всех ваших вызовов inference в Langtrace! Вы можете увидеть, какой именно prompt извлекается из chromadb и отправляется в Mistral, а также ответ

План урока

1. Импорты & Инициализация клиентов
2. Использование Langchain для разделения PDF на фрагменты
3. Настройка Chroma & Вставка фрагментов PDF
4. Запрос к коллекции
5. Запуск всего вместе и мониторинг с использованием Langtrace.
6. Первые два скриншота демонстрируют структуру трассировки и span всего RAG-приложения.
7. Вторые два скриншота — это детали выполнения Mistral.