Агенты и детерминированные функции

О чём урок

Агенты могут играть решающую роль в различных корпоративных сценариях. Одним из таких примеров является создание запроса для получения результатов из существующего корпоративного API с конкретными требованиями. Например, при наличии пользовательского запроса: Retrieve id 7410e652-639d-402e-984e-8fd7025f0aac 8bb21b93-2ddf-4a63-af63-ddb6b1be49a1, ref GLPNT0005GUJOGGE GLSBR000BGASOBRE, nmg 0000234GLCHL0200ARTINDIUS' Ожидаемый запрос к API: [{"uuid":["7410e652-639d-402e-984e-8fd7025f0aac","8bb21b93-2ddf-4a63-af63-ddb6b1be49a1"],"page":0,"size":10}, {"objref":["GLPNT0005GUJOGGE","GLSBR000BGASOBRE"],"page":0,"size":10},{"nmgs":["0000234GLCHL0200ARTINDIUS"],"page":0,"size":10}] Такая задача представляет собой серьезную проблему, а именно: модель должна быть очень точной в идентификации кодов в запросе на основе их буквенно-цифровых шаблонов и сопоставлении этих кодов с правильным параметром — например, код GLSBR000BGASOBRE должен быть сопоставлен с objref. Задача становится еще более сложной, когда доступно несколько API, и модели приходится иметь дело с множеством параметров. В этом блокноте мы предлагаем простое, но эффективное решение вышеописанной проблемы: мы создаем Langchain ReAct Agent, который имеет доступ к детерминированному инструменту, извлекающему буквенно-цифровые шаблоны из запроса и возвращающему словарь, в котором ключами являются параметры, а значениями — извлеченные шаблоны. Вывод этого инструмента затем используется для генерации окончательного запроса. Использование такого инструмента — лишь одна из возможностей, которые есть у Agent для генерации запроса: как мы увидим ниже, когда требуется более семантическое понимание запроса, мы можем игнорировать инструмент и использовать лингвистические возможности LLM, лежащей в основе Agent, для генерации окончательного вывода. С помощью этого подхода мы объединяем лучшее из двух миров: с одной стороны, способность LLM использовать инструменты и генерировать выводы, с другой — надежность и эффективность детерминированных функций. Шаг 1: Настройка Шаг 2: Определение инструмента и Agent Шаг 3: Запуск Agent Выводы Здесь мы создаем инструмент, который реализует детерминированную функцию для извлечения буквенно-цифровых строк из запроса пользователя и сопоставления их с правильным параметром. Давайте теперь протестируем Agent, который мы только что определили! В приведенной выше цепочке рассуждений мы видим, что Agent использует предоставленный нами инструмент для извлечения строк из запроса.

План урока

1. Мотивация
2. Решение