Текстовые дополнения в Azure OpenAI

О чём урок

Примечание: Доступна более новая версия библиотеки openai. См. https://github.com/openai/openai-python/discussions/742 В этом примере рассматриваются завершения с использованием службы Azure OpenAI. Сначала установим необходимые зависимости. Чтобы следующие разделы работали корректно, нам сначала нужно настроить несколько параметров. Начнём с api_base и api_version. Чтобы найти свой api_base, перейдите на https://portal.azure.com, найдите свой ресурс, а затем в разделе "Управление ресурсами" -> "Ключи и конечные точки" найдите значение "Конечная точка". Далее нам нужно настроить api_type и api_key. Мы можем получить ключ с портала или через аутентификацию Microsoft Active Directory. В зависимости от этого api_type будет либо azure, либо azure_ad. Сначала рассмотрим получение ключа с портала. Перейдите на https://portal.azure.com, найдите свой ресурс, а затем в разделе "Управление ресурсами" -> "Ключи и конечные точки" найдите одно из значений "Ключи". Примечание: В этом примере мы настроили библиотеку для использования Azure API, задав переменные в коде. Для разработки рассмотрите возможность установки переменных среды вместо этого: Теперь давайте посмотрим, как мы можем получить ключ через аутентификацию Microsoft Active Directory. Раскомментируйте следующий код, если вы хотите использовать аутентификацию Active Directory вместо ключей с портала. Токен действителен в течение определённого периода времени, после чего он истечёт. Чтобы гарантировать отправку действительного токена с каждым запросом, вы можете обновить истекающий токен, подключившись к requests.auth: В этом разделе мы создадим развёртывание, используя модель gpt-3.5-turbo-instruct, которое затем сможем использовать для создания завершений. Создайте новое развёртывание, перейдя к своему ресурсу на портале в разделе "Управление ресурсами" -> "Развёртывания моделей". Выберите gpt-3.5-turbo-instruct в качестве модели. Теперь отправим пример завершения в развёртывание.

План урока

1. Настройка
2. Настройка: Портал
3. (Необязательно) Настройка: Аутентификация Microsoft Active Directory
4. Развёртывания
5. Развёртывания: Создание вручную
6. Завершения