Интеграция с вызовом функций

Цели урока

• Объяснять назначение использования вызова функций.
• Настраивать вызов функций с помощью службы Azure OpenAI.
• Проектировать эффективные вызовы функций для сценариев использования вашего приложения.

О чём урок

Примечание AI University. Примеры кода в оригинале курса рассчитаны на Azure OpenAI или GitHub Models. Те же запросы можно отправлять через OpenAI API или другой OpenAI-совместимый сервис: замените клиент, адрес сервиса, название модели и ключ на свои и сверьтесь с документацией выбранного провайдера. Вы уже многое узнали из предыдущих уроков. Однако мы можем улучшить процесс ещё больше. Некоторые задачи, которые мы можем решить, это как получить более согласованный формат ответа, чтобы облегчить работу с ответом на следующем этапе. Кроме того, мы можем захотеть добавить данные из других источников, чтобы дополнительно обогатить наше приложение. Описанные выше проблемы и рассматриваются в этой главе. В этом уроке: Объясняется, что такое вызов функций и каковы его сценарии использования. Создаётся вызов функции с использованием Azure OpenAI. Рассматривается, как интегрировать вызов функции в приложение. Для этого урока мы хотим создать функцию для нашего образовательного стартапа, которая позволит пользователям использовать чат-бот для поиска технических курсов. Мы будем рекомендовать курсы, соответствующие их уровню навыков, текущей роли и интересующей технологии. Для реализации этого сценария мы будем использовать комбинацию: Azure OpenAI для создания чат-интерфейса для пользователя. Microsoft Learn Catalog API для помощи пользователям в поиске курсов на основе запроса пользователя. Function Calling для обработки запроса пользователя и отправки его функции, которая делает запрос к API. Для начала давайте посмотрим, зачем нам вообще нужен вызов функций: До появления вызова функций ответы от большой языковой модели (LLM) были неструктурированными и непоследовательными. Разработчикам приходилось писать сложный код валидации, чтобы корректно обрабатывать каждое возможное изменение в ответе. Пользователи не могли получить ответы на вопросы вроде «Какая сейчас погода в Стокгольме?», поскольку модели были ограничены временными рамками данных, на которых их обучали. Вызов функций (Function Calling) представляет собой функцию службы Azure OpenAI, позволяющую преодолеть следующие ограничения: Согласованный формат ответа. Если мы можем лучше контролировать формат ответа, мы можем легче интегрировать ответ в другие системы.

План урока

1. Введение
2. Сценарий: Улучшение нашего чат-бота с помощью функций
3. Зачем нужен вызов функций
4. Иллюстрация проблемы на примере сценария
5. Сценарии использования вызова функций
6. Создание первого вызова функции
7. Шаг 1: создание сообщений
8. Шаг 2: создание функций