Агентный RAG, часть 4: многоаспектные запросы

Урок 65 из 114 курса «Cohere: LLM University»: официальный курс Cohere LLM University (Кохир) на русском языке. Урок входит в платный доступ; первые уроки курса бесплатно.

О чём урок

Рассмотрим систему RAG, которой необходимо выполнять поиск по большой базе данных примеров кода и руководств. Пользователь может запросить «Python examples using the chat endpoint» или «JavaScript tutorials for text summarization». В базовой настройке RAG эти запросы будут передаваться в функцию поиска как есть, потенциально упуская важный контекст или не используя структурированный характер данных. Например, база данных примеров кода может содержать метаданные, такие как язык программирования, время создания, используемый технологический стек и так далее. Было бы здорово, если бы мы могли разработать систему, которая могла бы использовать эти метаданные в качестве фильтра для получения только релевантных результатов. Мы можем достичь этого, используя подход с использованием инструментов (tool use approach). Здесь мы можем построить систему, которая генерирует многоаспектные запросы (multi-faceted queries), чтобы полностью уловить намерение пользователя. Это позволяет получать более точные и релевантные результаты за счет использования полуструктурированного характера данных. Вот несколько примеров того, как можно применить этот подход: Поиск товаров в E-commerce: фильтрация по ценовому диапазону, категории, бренду, рейтингам клиентов и наличию. Базы данных академических исследований: сужение результатов по году публикации, области исследования, количеству цитирований и статусу рецензирования. Платформы для поиска работы: уточнение объявлений о вакансиях по местоположению, уровню опыта, диапазону зарплат и требуемым навыкам. В этом руководстве мы рассмотрим: Определение функции для запроса данных Создание инструмента для генерации многоаспектных запросов Создание агента для выполнения многоаспектных запросов Запуск агента Мы создадим агента, который помогает разработчикам находить релевантные примеры кода и руководства по использованию Cohere. Для начала нам необходимо установить библиотеку cohere и создать клиент Cohere. Мы удалим другие инструменты из Части 1 и будем использовать только один – search_code_examples. Теперь, вместо одного параметра query, мы добавим еще два параметра: programming_language и endpoints: programming_language: Язык программирования примера кода или руководства. endpoints: Конечные точки Cohere, используемые в примере кода или руководстве.

План урока

  1. Настройка
  2. Определение функции для запроса данных
  3. Создание инструмента для генерации многоаспектных запросов
  4. Создание агента для выполнения многоаспектных запросов
  5. Запуск агента
  6. Резюме

Урок входит в полный доступ. Полный текст и видео открываются после оплаты. Первые уроки каждого курса бесплатны.

Полезные гиды