Агентный RAG, часть 1: маршрутизация запросов

О чём урок

Представьте себе систему RAG, которая может выполнять поиск по разнообразным источникам, таким как веб-сайт, база данных и набор документов. В стандартной настройке RAG приложение будет агрегировать извлеченные документы из всех различных источников, к которым оно подключено. Это может привести к шуму от менее релевантных документов. Кроме того, не учитывается, что, учитывая природу источника данных, он может быть менее или более релевантным запросу, чем другие источники данных. Агентная система RAG может решить эту проблему, маршрутизируя запросы к наиболее релевантным инструментам на основе характера запроса. Это достигается за счет использования возможностей Chat endpoint по работе с инструментами. В этом руководстве мы рассмотрим: Настройка инструментов Запуск рабочего процесса агентной RAG Маршрутизация запросов к инструментам Мы создадим агента, который сможет отвечать на вопросы об использовании Cohere, оснащенного рядом различных инструментов. Для начала нам нужно установить библиотеку cohere и создать клиент Cohere. Нам также необходимо импортировать определения инструментов, которые мы будем использовать в этом руководстве. ВАЖНО: Исходный код для определений инструментов можно найти здесь. Убедитесь, что файл tool_def.py находится в том же каталоге, что и этот ноутбук, для корректной работы импорта. В агентной системе RAG каждый источник данных представлен как инструмент. Инструмент — это в широком смысле любая функция или служба, которая может получать и отправлять объекты в LLM. Но в случае RAG это становится более специфическим случаем инструмента, который принимает запрос в качестве входных данных и возвращает набор документов. Здесь мы определяем функцию Python для каждого инструмента, но в более широком смысле инструмент может быть любой функцией или службой, которая может получать и отправлять объекты. search_developer_docs: Ищет в документации разработчика Cohere. Здесь мы создаем небольшой список примеров документов для простоты и будем возвращать тот же список для каждого запроса. На практике вы захотите реализовать функцию поиска, например, использующую семантический поиск.

План урока

1. Настройка
2. Настройка инструментов
3. Запуск рабочего процесса агентной RAG
4. Маршрутизация запросов к инструментам
5. Резюме