О чём урок
В этом примере рассматриваются чат-комплишены с использованием сервиса Azure OpenAI. Также приведена информация о фильтрации контента.
Сначала установим необходимые зависимости и импортируем библиотеки, которые будем использовать.
Сервис Azure OpenAI поддерживает несколько механизмов аутентификации, включая API ключи и учетные данные (credentials) Azure Active Directory token.
Чтобы настроить OpenAI SDK для использования Azure API Key, необходимо присвоить переменной api_key ключ, связанный с вашей конечной точкой (endpoint) (этот ключ можно найти в "Keys and Endpoints" в разделе "Resource Management" на портале Azure). Здесь же вы найдете и endpoint для вашего ресурса.
Теперь рассмотрим, как можно пройти аутентификацию через Azure Active Directory. Начнем с установки библиотеки azure-identity. Эта библиотека предоставит необходимые для аутентификации token credentials и поможет создать token credential provider с помощью вспомогательной функции get_bearer_token_provider. Рекомендуется использовать get_bearer_token_provider вместо передачи статического token в AzureOpenAI, поскольку этот API будет автоматически кэшировать и обновлять tokens за вас.
Дополнительную информацию о настройке аутентификации Azure Active Directory с Azure OpenAI можно найти в документации.
Примечание: AzureOpenAI выводит следующие аргументы из соответствующих переменных окружения, если они не указаны:
- api_key из AZURE_OPENAI_API_KEY
- azure_ad_token из AZURE_OPENAI_AD_TOKEN
- api_version из OPENAI_API_VERSION
- azure_endpoint из AZURE_OPENAI_ENDPOINT
В этом разделе мы создадим развертывание (deployment) модели GPT, которую можно будет использовать для создания чат-комплишенов.
Развернем модель для использования с чат-комплишенами. Перейдите на https://portal.azure.com, найдите свой ресурс Azure OpenAI, а затем перейдите в Azure OpenAI Studio. Нажмите на вкладку "Deployments" (Развертывания), а затем создайте развертывание для модели, которую вы хотите использовать для чат-комплишенов. Имя развертывания, которое вы присвоите модели, будет использоваться в приведенном ниже коде.
Теперь создадим чат-комплишен, используя разработанный нами клиент.
Мы также можем получать ответ в режиме streaming.
Сервис Azure OpenAI включает фильтрацию контента для prompts и ответов (completion responses…
План урока
- Настройка
- Аутентификация
- Аутентификация с использованием API ключа
- Аутентификация с использованием Azure Active Directory
- Развертывания
- Развертывания: Создание в Azure OpenAI Studio
- Создание чат-комплишенов
- Создание streaming чат-комплишена
Урок входит в полный доступ. Полный текст и видео открываются после оплаты. Первые уроки каждого курса бесплатны.