О чём урок
Этот notebook показывает, как использовать возможность вызова функций с сервисом Azure OpenAI. Функции позволяют вызывающей стороне chat completions определять возможности, которые модель может использовать для расширения своей функциональности внешними инструментами и источниками данных.
Подробнее о chat functions можно прочитать в блоге OpenAI: https://openai.com/blog/function-calling-and-other-api-updates
ПРИМЕЧАНИЕ: Chat functions требуют версий моделей, начинающихся с gpt-4 и gpt-35-turbo с метками -0613. Они не поддерживаются старыми версиями моделей.
Сначала мы установим необходимые зависимости и импортируем библиотеки, которые будем использовать.
Сервис Azure OpenAI поддерживает несколько механизмов аутентификации, которые включают API ключи и учетные данные (credentials) токенов Azure Active Directory.
Чтобы настроить OpenAI SDK для использования ключа Azure API, нам нужно установить api_key в значение ключа, связанного с вашей конечной точкой (endpoint) (вы можете найти этот ключ в разделе "Ключи и конечные точки" в "Управление ресурсами" на портале Azure). Здесь же вы найдете конечную точку (endpoint) для вашего ресурса.
Теперь давайте посмотрим, как мы можем аутентифицироваться через Azure Active Directory. Мы начнем с установки библиотеки azure-identity. Эта библиотека предоставит учетные данные (credentials) токена, необходимые для аутентификации, и поможет нам создать провайдер учетных данных токена (token credential provider) с помощью вспомогательной функции get_bearer_token_provider. Рекомендуется использовать get_bearer_token_provider вместо предоставления статического токена AzureOpenAI, поскольку этот API будет автоматически кэшировать и обновлять токены для вас.
Для получения дополнительной информации о настройке аутентификации Azure Active Directory с Azure OpenAI см. документацию.
Примечание: AzureOpenAI выводит следующие аргументы из соответствующих переменных окружения, если они не предоставлены:
- api_key из AZURE_OPENAI_API_KEY
- azure_ad_token из AZURE_OPENAI_AD_TOKEN
- api_version из OPENAI_API_VERSION
- azure_endpoint из AZURE_OPENAI_ENDPOINT
В этом разделе мы создадим развертывание (deployment) модели GPT, которое мы сможем использовать для вызова функций.
Давайте развернем модель для использования с chat completions.
После завершения настройки и аутентификации вы…
План урока
- Настройка
- Аутентификация
- Аутентификация с использованием API ключа
- Аутентификация с использованием Azure Active Directory
- Развертывания
- Развертывания: Создание в Azure OpenAI Studio
- Функции
- 1. Определение функции(й)
Урок входит в полный доступ. Полный текст и видео открываются после оплаты. Первые уроки каждого курса бесплатны.