Урок из полного доступа, первые уроки курса бесплатно Официальный курс Cohere LLM University на русском
Урок 20 · Текст · ~5 мин

Агенты и детерминированные функции

Урок 20 из 114 курса «Cohere: LLM University»: официальный курс Cohere LLM University (Кохир) на русском языке. Урок входит в платный доступ; первые уроки курса бесплатно.

О чём урок

Агенты могут играть решающую роль в различных корпоративных сценариях. Одним из таких примеров является создание запроса для получения результатов из существующего корпоративного API с конкретными требованиями. Например, при наличии пользовательского запроса:

Retrieve id 7410e652-639d-402e-984e-8fd7025f0aac 8bb21b93-2ddf-4a63-af63-ddb6b1be49a1, ref GLPNT0005GUJOGGE GLSBR000BGASOBRE, nmg 0000234GLCHL0200ARTINDIUS'

Ожидаемый запрос к API:

[{"uuid":["7410e652-639d-402e-984e-8fd7025f0aac","8bb21b93-2ddf-4a63-af63-ddb6b1be49a1"],"page":0,"size":10}, {"objref":["GLPNT0005GUJOGGE","GLSBR000BGASOBRE"],"page":0,"size":10},{"nmgs":["0000234GLCHL0200ARTINDIUS"],"page":0,"size":10}]

Такая задача представляет собой серьезную проблему, а именно: модель должна быть очень точной в идентификации кодов в запросе на основе их буквенно-цифровых шаблонов и сопоставлении этих кодов с правильным параметром — например, код GLSBR000BGASOBRE должен быть сопоставлен с objref. Задача становится еще более сложной, когда доступно несколько API, и модели приходится иметь дело с множеством параметров.

В этом блокноте мы предлагаем простое, но эффективное решение вышеописанной проблемы: мы создаем Langchain ReAct Agent, который имеет доступ к детерминированному инструменту, извлекающему буквенно-цифровые шаблоны из запроса и возвращающему словарь, в котором ключами являются параметры, а значениями — извлеченные шаблоны. Вывод этого инструмента затем используется для генерации окончательного запроса.

Использование такого инструмента — лишь одна из возможностей, которые есть у Agent для генерации запроса: как мы увидим ниже, когда требуется более семантическое понимание запроса, мы можем игнорировать инструмент и использовать лингвистические возможности LLM, лежащей в основе Agent, для генерации окончательного вывода.

С помощью этого подхода мы объединяем лучшее из двух миров: с одной стороны, способность LLM использовать инструменты и генерировать выводы, с другой — надежность и эффективность детерминированных функций.

  • Шаг 1: Настройка
  • Шаг 2: Определение инструмента и Agent
  • Шаг 3: Запуск Agent
  • Выводы

Здесь мы создаем инструмент, который реализует детерминированную функцию для извлечения буквенно-цифровых строк из запроса пользователя и сопоставления их с правильным параметром.

Давайте теперь протестируем Agent, который мы только что определили!

В приведенной выше цепочке рассуждений мы видим, что Agent использует предоставленный нами инструмент для извлечения строк из запроса.

Как упоминалось выше…

План урока

  1. Мотивация
  2. Решение

Урок входит в полный доступ. Полный текст и видео открываются после оплаты. Первые уроки каждого курса бесплатны.

Откройте полный доступ

Вы прошли бесплатные уроки. Выберите тариф, чтобы продолжить обучение.

Курсы Cohere 1 490 ₽ Разовый платёж, навсегда
  • Все курсы от Cohere (1 шт.)
  • Именной сертификат по каждому пройденному курсу
Оплатить
Полный доступ 4 900 ₽ Разовый платёж, навсегда
  • Все 77 курсов от 11 AI-провайдеров
  • Библиотека промптов и новые курсы
Оплатить

Безопасная оплата через Robokassa: СБП, карты, электронные кошельки. Доступ откроется в этом браузере и придёт письмом. Уже оплатили? Восстановить доступ

Полезные гиды