Урок из полного доступа, первые уроки курса бесплатно Официальный курс Gemini API Cookbook на русском
Урок 05 · Текст · ~5 мин

Пакетная обработка запросов

Урок 5 из 71 курса «Gemini API: быстрый старт»: официальный курс Gemini API Cookbook (Гугл Джемини) на русском языке. Урок входит в платный доступ; первые уроки курса бесплатно.

О чём урок

Пакетный API Gemini предназначен для асинхронной обработки больших объемов запросов, не критичных к задержкам. Он идеально подходит для рабочих нагрузок, требующих высокой пропускной способности, таких как предварительная обработка наборов данных, проведение крупномасштабных оценок или массовая генерация контента.

Ключевые преимущества: * Высокая пропускная способность: Обрабатывайте миллионы запросов в одном задании. * Экономия средств: Пакетные запросы стоят на 50% дешевле по сравнению со стандартным API. * Асинхронность: Отправьте задание и получите результаты позже, в течение 24-часового SLO.

В этом блокноте вы узнаете, как: 1. Настроить среду для пакетного режима. 2. Создать пакетное задание, загрузив файл JSONL (рекомендуется для больших заданий). 3. Создать пакетное задание с использованием встроенных запросов (удобно для небольших заданий). 4. Отслеживать статус вашего задания. 5. Получать и анализировать результаты для обоих типов заданий. 6. Управлять вашими заданиями (список и отмена). 7. Использовать пакетные встраивания. 8. Генерировать с мультимодальными входами. 9. Генерировать изображения.

Примечание: Пакетный API — это отдельная конечная точка, которая работает независимо как от generateContent, так и от Interactions API. Этот блокнот работает как есть.

Установите SDK из PyPI.

Для выполнения следующей ячейки ваш ключ API должен быть сохранен в секрете Colab с именем GEMINI_API_KEY. Если у вас еще нет ключа API или вы не знаете, как создать секрет Colab, см. Аутентификация для пошагового руководства.

Инициализируйте клиент с вашим ключом API:

Большинство моделей Gemini совместимы с пакетным режимом, но размер очереди для каждой из них не одинаков. Подробнее см. в документации.

Модели генерации медиа (Lyria или Veo) в настоящее время несовместимы с пакетным API. Но если вы хотите пакетно создавать изображения, вы можете использовать модель Nano-Banana (см. пример ниже).

Вы можете создавать пакетные задания двумя способами:

  1. На основе файлов (src): Загрузите файл JSONL, содержащий все ваши запросы. Это рекомендуемый метод для больших наборов данных.
  2. Встроенные (inlined_requests): Передайте список объектов запросов непосредственно в вашем коде.

Это наиболее распространенный рабочий процесс…

План урока

  1. Установка SDK
  2. Настройка ключа API
  3. Инициализация клиента SDK
  4. Выбор модели
  5. Создание задания из файла
  6. Шаг 1: Подготовка и загрузка входного файла
  7. Шаг 2: Создание пакетного задания
  8. Шаг 3: Мониторинг статуса задания

Урок входит в полный доступ. Полный текст и видео открываются после оплаты. Первые уроки каждого курса бесплатны.

Откройте полный доступ

Вы прошли бесплатные уроки. Выберите тариф, чтобы продолжить обучение.

Курсы Google Gemini 1 490 ₽ Разовый платёж, навсегда
  • Все курсы от Google Gemini (2 шт.)
  • Именной сертификат по каждому пройденному курсу
Оплатить
Полный доступ 4 900 ₽ Разовый платёж, навсегда
  • Все 77 курсов от 11 AI-провайдеров
  • Библиотека промптов и новые курсы
Оплатить

Безопасная оплата через Robokassa: СБП, карты, электронные кошельки. Доступ откроется в этом браузере и придёт письмом. Уже оплатили? Восстановить доступ

Урок входит в темы

Полезные гиды