Урок из полного доступа, первые уроки курса бесплатно Официальный курс OpenAI Academy на русском
Урок 73 · Текст · ~5 мин

Обязательный вызов инструмента в поддержке клиентов

Урок 73 из 303 курса «OpenAI Cookbook»: официальный курс OpenAI Academy (ОпенАИ) на русском языке. Урок входит в платный доступ; первые уроки курса бесплатно.

О чём урок

Эндпоинт ChatCompletion теперь позволяет указать, обязательно ли должен вызываться инструмент при каждом обращении, добавив параметр tool_choice='required'.

Это добавляет элемент детерминизма в процесс создания вашего оберточного приложения, поскольку вы можете быть уверены, что инструмент будет предоставлен при каждом вызове. Здесь мы продемонстрируем, как это может быть полезно для замкнутого процесса, такого как обслуживание клиентов, где возможность определять конкретные точки выхода дает больше контроля.

notebook завершается многоэтапной оценкой, в ходе которой мы разворачиваем клиентскую GPT-модель, чтобы имитировать нашего клиента и протестировать настроенного нами LLM-агента по обслуживанию клиентов.

Мы определим tools и instructions, которые будет использовать наш LLM-агент по обслуживанию клиентов. Он будет находить подходящие инструкции для проблемы, с которой столкнулся клиент, и использовать их для ответа на запрос клиента.

Поскольку это демонстрационный пример, мы попросим модель придумывать значения там, где у нее нет доступа к внешним системам для получения информации.

Чтобы протестировать это, мы запустим пример для клиента, столкнувшегося с мошенничеством, и посмотрим, как модель справится с этим.

Возьмите на себя роль пользователя и предложите правдоподобные следующие шаги для продолжения беседы.

Теперь мы проведем простую оценку, в ходе которой GPT будет притворяться нашим клиентом. Они будут обмениваться репликами до тех пор, пока не будет найдено решение.

Мы повторно используем вышеуказанные функции, добавив функцию execute_conversation, где клиентская GPT будет продолжать отвечать.

Теперь вы можете явно контролировать поведение вашей LLM, сделав использование инструментов обязательным, а также разворачивать GPT-тестеры, чтобы бросать вызов вашей LLM и использовать их в качестве автоматизированных тестовых сценариев.

Надеемся, это помогло вам оценить отличный вариант использования инструментов и с нетерпением ждем ваших разработок!

План урока

  1. Определение конфигурации
  2. Пример
  3. Оценка
  4. Заключение

Урок входит в полный доступ. Полный текст и видео открываются после оплаты. Первые уроки каждого курса бесплатны.

Откройте полный доступ

Вы прошли бесплатные уроки. Выберите тариф, чтобы продолжить обучение.

Курсы OpenAI 1 490 ₽ Разовый платёж, навсегда
  • Все курсы от OpenAI (1 шт.)
  • Именной сертификат по каждому пройденному курсу
Оплатить
Полный доступ 4 900 ₽ Разовый платёж, навсегда
  • Все 77 курсов от 11 AI-провайдеров
  • Библиотека промптов и новые курсы
Оплатить

Безопасная оплата через Robokassa: СБП, карты, электронные кошельки. Доступ откроется в этом браузере и придёт письмом. Уже оплатили? Восстановить доступ

Полезные гиды