Цели урока
- Настроить модель OpenAI, размещенную в Bedrock, с помощью переменных среды, специфичных для Bedrock.
- Проверить endpoint Responses и изучить схему ответа, метаданные использования и нормализованные ошибки.
- Отправлять текстовые запросы как с помощью необработанного HTTPS, так и с помощью OpenAI SDK.
- Генерировать JSON, ограниченный схемой, и более легкие передачи в режиме JSON.
- Вызывать управляемые приложением функциональные инструменты, параллельные инструменты и пользовательские текстовые инструменты.
О чём урок
Модели OpenAI в Amazon Bedrock предоставляют совместимый с OpenAI API Responses для производственных рабочих процессов, требующих генерации текста, структурированных выходных данных, инструментов приложений, прямых файловых входов, состояния ответа, кэширования prompt'ов и фоновой работы. В этом руководстве примеры конкретизированы за счет создания рабочего процесса помощника по поддержке для BrightCart, вымышленного розничного продавца, обрабатывающего запросы на замену задержанных и поврежденных заказов.
Вы будете использовать OpenAI Python SDK для обычных вызовов приложений и небольшой вспомогательный инструмент для необработанных HTTPS-запросов, когда полезно проверить точное тело запроса. Рабочий процесс начинается с настройки и минимальной предварительной проверки, затем последовательно добавляются управление жизненным циклом ответа, управление моделями, структурированный JSON, инструменты приложений, ввод файлов, управление состоянием, кэширование, фоновая обработка, сжатие контекста, операционные проверки и очистка.
- Отправлять прямой ввод PDF, продолжать диалоги с сохранением и без сохранения состояния, а также передавать зашифрованный контекст рассуждений.
- Использовать кэширование prompt'ов, фоновый режим, сжатие, операционные дымовые тесты и очистку сохраненных ответов.
Предварительные требования: bearer token для моделей OpenAI в Amazon Bedrock, Python 3.9 или новее, а также сетевой доступ к вашему совместимому с OpenAI endpoint'у Bedrock.
По умолчанию это руководство запускает openai.gpt-5.4 в регионе us-west-2. Чтобы использовать другую поддерживаемую пару, измените AWS_REGION, BEDROCK_MODEL и BEDROCK_BASE_URL вместе перед запуском ячеек настройки.
Этот раздел подготавливает среду выполнения notebook. Он устанавливает небольшой стек Python, считывает переменные среды, специфичные для Bedrock, создает как необработанную HTTPS-сессию, так и клиент OpenAI SDK, обнаруживает метаданные модели, если endpoint их предоставляет, и определяет общие вспомогательные функции, используемые в последующих примерах.
Установите эти переменные среды перед запуском notebook.
Bearer token считывается…
План урока
- 1. Настройка Amazon Bedrock
- 1.1 Установка зависимостей
- 1.2 Импорт библиотек и значений по умолчанию
- 1.3 Настройка учетных данных и клиентов Bedrock
- 1.4 Обнаружение доступных моделей
- 1.5 Настройка вспомогательных функций
- 1.6 Проверка endpoint'а
- 1.7 Нормализация ошибок API
Урок входит в полный доступ. Полный текст и видео открываются после оплаты. Первые уроки каждого курса бесплатны.