Вызов функций в Azure OpenAI: второй вариант

О чём урок

Этот notebook показывает, как использовать возможность вызова функций с сервисом Azure OpenAI. Функции позволяют вызывающей стороне chat completions определять возможности, которые модель может использовать для расширения своей функциональности внешними инструментами и источниками данных. Подробнее о chat functions можно прочитать в блоге OpenAI: https://openai.com/blog/function-calling-and-other-api-updates ПРИМЕЧАНИЕ: Chat functions требуют версий моделей, начинающихся с gpt-4 и gpt-35-turbo с метками -0613. Они не поддерживаются старыми версиями моделей. Сначала мы установим необходимые зависимости и импортируем библиотеки, которые будем использовать. Сервис Azure OpenAI поддерживает несколько механизмов аутентификации, которые включают API ключи и учетные данные (credentials) токенов Azure Active Directory. Чтобы настроить OpenAI SDK для использования ключа Azure API, нам нужно установить api_key в значение ключа, связанного с вашей конечной точкой (endpoint) (вы можете найти этот ключ в разделе "Ключи и конечные точки" в "Управление ресурсами" на портале Azure). Здесь же вы найдете конечную точку (endpoint) для вашего ресурса. Теперь давайте посмотрим, как мы можем аутентифицироваться через Azure Active Directory. Мы начнем с установки библиотеки azure-identity. Эта библиотека предоставит учетные данные (credentials) токена, необходимые для аутентификации, и поможет нам создать провайдер учетных данных токена (token credential provider) с помощью вспомогательной функции get_bearer_token_provider. Рекомендуется использовать get_bearer_token_provider вместо предоставления статического токена AzureOpenAI, поскольку этот API будет автоматически кэшировать и обновлять токены для вас. Для получения дополнительной информации о настройке аутентификации Azure Active Directory с Azure OpenAI см. документацию. Примечание: AzureOpenAI выводит следующие аргументы из соответствующих переменных окружения, если они не предоставлены: api_key из AZURE_OPENAI_API_KEY azure_ad_token из AZURE_OPENAI_AD_TOKEN api_version из OPENAI_API_VERSION azure_endpoint из AZURE_OPENAI_ENDPOINT В этом разделе мы создадим развертывание (deployment) модели GPT, которое мы сможем использовать для вызова функций. Давайте развернем модель для использования с chat completions.

План урока

1. Настройка
2. Аутентификация
3. Аутентификация с использованием API ключа
4. Аутентификация с использованием Azure Active Directory
5. Развертывания
6. Развертывания: Создание в Azure OpenAI Studio
7. Функции
8. 1. Определение функции(й)