О чём урок
Пакетный API Gemini предназначен для асинхронной обработки больших объемов запросов, не критичных к задержкам. Он идеально подходит для рабочих нагрузок, требующих высокой пропускной способности, таких как предварительная обработка наборов данных, проведение крупномасштабных оценок или массовая генерация контента.
Ключевые преимущества: * Высокая пропускная способность: Обрабатывайте миллионы запросов в одном задании. * Экономия средств: Пакетные запросы стоят на 50% дешевле по сравнению со стандартным API. * Асинхронность: Отправьте задание и получите результаты позже, в течение 24-часового SLO.
В этом блокноте вы узнаете, как: 1. Настроить среду для пакетного режима. 2. Создать пакетное задание, загрузив файл JSONL (рекомендуется для больших заданий). 3. Создать пакетное задание с использованием встроенных запросов (удобно для небольших заданий). 4. Отслеживать статус вашего задания. 5. Получать и анализировать результаты для обоих типов заданий. 6. Управлять вашими заданиями (список и отмена). 7. Использовать пакетные встраивания. 8. Генерировать с мультимодальными входами. 9. Генерировать изображения.
Примечание: Пакетный API — это отдельная конечная точка, которая работает независимо как от generateContent, так и от Interactions API. Этот блокнот работает как есть.
Установите SDK из PyPI.
Для выполнения следующей ячейки ваш ключ API должен быть сохранен в секрете Colab с именем GEMINI_API_KEY. Если у вас еще нет ключа API или вы не знаете, как создать секрет Colab, см. Аутентификация для пошагового руководства.
Инициализируйте клиент с вашим ключом API:
Большинство моделей Gemini совместимы с пакетным режимом, но размер очереди для каждой из них не одинаков. Подробнее см. в документации.
Модели генерации медиа (Lyria или Veo) в настоящее время несовместимы с пакетным API. Но если вы хотите пакетно создавать изображения, вы можете использовать модель Nano-Banana (см. пример ниже).
Вы можете создавать пакетные задания двумя способами:
- На основе файлов (src): Загрузите файл JSONL, содержащий все ваши запросы. Это рекомендуемый метод для больших наборов данных.
- Встроенные (inlined_requests): Передайте список объектов запросов непосредственно в вашем коде.
Это наиболее распространенный рабочий процесс…
План урока
- Установка SDK
- Настройка ключа API
- Инициализация клиента SDK
- Выбор модели
- Создание задания из файла
- Шаг 1: Подготовка и загрузка входного файла
- Шаг 2: Создание пакетного задания
- Шаг 3: Мониторинг статуса задания
Урок входит в полный доступ. Полный текст и видео открываются после оплаты. Первые уроки каждого курса бесплатны.