Агентный RAG, часть 2: параллельные запросы

О чём урок

Сравните два пользовательских запроса к RAG чат-боту: "Какова была выручка Apple в 2023 году?" и "Какова была выручка Apple и Google в 2023 году?". Первый запрос прост, так как мы можем выполнить извлечение, используя практически тот же запрос, который мы получаем. Но второй запрос сложнее. Нам нужно разбить его на два отдельных запроса: один для Apple и один для Google. Это пример, требующий расширения запроса (query expansion). Здесь agentic RAG должен будет преобразовать запрос в более оптимизированный набор запросов, которые он должен использовать для выполнения извлечения. В этой части мы узнаем, как создать agentic RAG систему, которая может выполнять расширение запросов, а затем запускать эти запросы параллельно: Расширение запросов (Query expansion) Расширение запросов по нескольким источникам данных Расширение запросов в многоходовых диалогах (multi-turn conversations) Мы изучим это, создав агента, который отвечает на вопросы об использовании Cohere. Для начала нам нужно установить библиотеку cohere и создать клиент Cohere. Нам также необходимо импортировать определения инструментов, которые мы будем использовать в этом руководстве. ВАЖНО: Исходный код для определений инструментов можно найти здесь. Убедитесь, что файл tool_def.py находится в той же директории, что и этот ноутбук, для корректной работы импортов. Мы настраиваем тот же набор инструментов, что и в Части 1. Если вы хотите получить более подробную информацию о настройке инструментов, ознакомьтесь с Частью 1. Мы создаем функцию run_agent для запуска рабочего процесса agentic RAG, так же, как и в Части 1. Если вы хотите получить более подробную информацию о настройке инструментов, ознакомьтесь с Частью 1. Давайте зададим агенту несколько вопросов, начиная с этого, о Chat endpoint и функции RAG. Во-первых, агент правильно выбирает инструмент search_developer_docs для извлечения необходимой информации. Кроме того, поскольку вопрос касается двух разных вещей, извлечение информации с использованием того же запроса, что и у пользователя, может быть неоптимальным подходом.

План урока

1. Настройка
2. Настройка инструментов
3. Запуск рабочего процесса agentic RAG
4. Расширение запросов
5. Расширение запросов по нескольким источникам данных
6. Расширение запросов в многоходовых диалогах
7. Резюме