О чём урок
В этом примере рассматриваются чат-комплишены с использованием сервиса Azure OpenAI. Также приведена информация о фильтрации контента. Сначала установим необходимые зависимости и импортируем библиотеки, которые будем использовать. Сервис Azure OpenAI поддерживает несколько механизмов аутентификации, включая API ключи и учетные данные (credentials) Azure Active Directory token. Чтобы настроить OpenAI SDK для использования Azure API Key, необходимо присвоить переменной api_key ключ, связанный с вашей конечной точкой (endpoint) (этот ключ можно найти в "Keys and Endpoints" в разделе "Resource Management" на портале Azure). Здесь же вы найдете и endpoint для вашего ресурса. Теперь рассмотрим, как можно пройти аутентификацию через Azure Active Directory. Начнем с установки библиотеки azure-identity. Эта библиотека предоставит необходимые для аутентификации token credentials и поможет создать token credential provider с помощью вспомогательной функции get_bearer_token_provider. Рекомендуется использовать get_bearer_token_provider вместо передачи статического token в AzureOpenAI, поскольку этот API будет автоматически кэшировать и обновлять tokens за вас. Дополнительную информацию о настройке аутентификации Azure Active Directory с Azure OpenAI можно найти в документации. Примечание: AzureOpenAI выводит следующие аргументы из соответствующих переменных окружения, если они не указаны: api_key из AZURE_OPENAI_API_KEY azure_ad_token из AZURE_OPENAI_AD_TOKEN api_version из OPENAI_API_VERSION azure_endpoint из AZURE_OPENAI_ENDPOINT В этом разделе мы создадим развертывание (deployment) модели GPT, которую можно будет использовать для создания чат-комплишенов. Развернем модель для использования с чат-комплишенами. Перейдите на https://portal.azure.com, найдите свой ресурс Azure OpenAI, а затем перейдите в Azure OpenAI Studio. Нажмите на вкладку "Deployments" (Развертывания), а затем создайте развертывание для модели, которую вы хотите использовать для чат-комплишенов. Имя развертывания, которое вы присвоите модели, будет использоваться в приведенном ниже коде. Теперь создадим чат-комплишен, используя разработанный нами клиент. Мы также можем получать ответ в режиме streaming.
План урока
- Настройка
- Аутентификация
- Аутентификация с использованием API ключа
- Аутентификация с использованием Azure Active Directory
- Развертывания
- Развертывания: Создание в Azure OpenAI Studio
- Создание чат-комплишенов
- Создание streaming чат-комплишена
Урок входит в полный доступ. Полный текст и видео открываются после оплаты. Первые уроки каждого курса бесплатны.