Обязательный вызов инструмента в поддержке клиентов

О чём урок

Эндпоинт ChatCompletion теперь позволяет указать, обязательно ли должен вызываться инструмент при каждом обращении, добавив параметр tool_choice='required'. Это добавляет элемент детерминизма в процесс создания вашего оберточного приложения, поскольку вы можете быть уверены, что инструмент будет предоставлен при каждом вызове. Здесь мы продемонстрируем, как это может быть полезно для замкнутого процесса, такого как обслуживание клиентов, где возможность определять конкретные точки выхода дает больше контроля. notebook завершается многоэтапной оценкой, в ходе которой мы разворачиваем клиентскую GPT-модель, чтобы имитировать нашего клиента и протестировать настроенного нами LLM-агента по обслуживанию клиентов. Мы определим tools и instructions, которые будет использовать наш LLM-агент по обслуживанию клиентов. Он будет находить подходящие инструкции для проблемы, с которой столкнулся клиент, и использовать их для ответа на запрос клиента. Поскольку это демонстрационный пример, мы попросим модель придумывать значения там, где у нее нет доступа к внешним системам для получения информации. Чтобы протестировать это, мы запустим пример для клиента, столкнувшегося с мошенничеством, и посмотрим, как модель справится с этим. Возьмите на себя роль пользователя и предложите правдоподобные следующие шаги для продолжения беседы. Теперь мы проведем простую оценку, в ходе которой GPT будет притворяться нашим клиентом. Они будут обмениваться репликами до тех пор, пока не будет найдено решение. Мы повторно используем вышеуказанные функции, добавив функцию execute_conversation, где клиентская GPT будет продолжать отвечать. Теперь вы можете явно контролировать поведение вашей LLM, сделав использование инструментов обязательным, а также разворачивать GPT-тестеры, чтобы бросать вызов вашей LLM и использовать их в качестве автоматизированных тестовых сценариев. Надеемся, это помогло вам оценить отличный вариант использования инструментов и с нетерпением ждем ваших разработок!

План урока

1. Определение конфигурации
2. Пример
3. Оценка
4. Заключение