Урок из полного доступа, первые уроки курса бесплатно Официальный курс Gemini API Cookbook на русском
Урок 46 · Текст · ~5 мин

Потоковая выдача ответов

Урок 46 из 71 курса «Gemini API: быстрый старт»: официальный курс Gemini API Cookbook (Гугл Джемини) на русском языке. Урок входит в платный доступ; первые уроки курса бесплатно.

О чём урок

В этом блокноте демонстрируется потоковая передача в Python SDK. По умолчанию Python SDK возвращает ответ после того, как модель завершит весь процесс генерации. Вы также можете передавать ответ по мере его генерации, и модель будет возвращать фрагменты ответа сразу после их генерации.

Примечание: В этом блокноте используется Interactions API — новейший способ взаимодействия с моделями Gemini. Ищете версию generateContent? Проверьте архивную ветку.

Для запуска этого блокнота вам понадобится ключ API, хранящийся в переменной среды. См. краткое руководство по аутентификации для получения пошаговых инструкций.

Для потоковой передачи ответов используйте stream=True при вызове interactions.create. Ответ будет итератором, который выдает фрагменты по мере их генерации.

Для асинхронной потоковой передачи ответов используйте stream=True с асинхронным клиентом client.aio.

Объект client.aio предоставляет ту же структуру API, что и стандартный синхронный client (например, client.aio.interactions.create вместо client.interactions.create), но использует async/await для выполнения неблокирующих сетевых запросов. Это особенно полезно в веб-серверах или параллельных приложениях, где вы хотите обрабатывать фрагменты по мере их поступления, не блокируя основной поток выполнения.

  • Асинхронные запросы — узнайте, как выполнять несколько запросов одновременно с помощью client.aio.
  • Подсчет токенов — узнайте, как проверять использование токенов для ваших запросов и файлов.
  • Документация по Interactions API — изучите все возможности многоходовых взаимодействий.

План урока

  1. Обработка потоковых ответов
  2. Асинхронная обработка потоковых ответов
  3. Что дальше

Урок входит в полный доступ. Полный текст и видео открываются после оплаты. Первые уроки каждого курса бесплатны.

Откройте полный доступ

Вы прошли бесплатные уроки. Выберите тариф, чтобы продолжить обучение.

Курсы Google Gemini 1 490 ₽ Разовый платёж, навсегда
  • Все курсы от Google Gemini (2 шт.)
  • Именной сертификат по каждому пройденному курсу
Оплатить
Полный доступ 4 900 ₽ Разовый платёж, навсегда
  • Все 77 курсов от 11 AI-провайдеров
  • Библиотека промптов и новые курсы
Оплатить

Безопасная оплата через Robokassa: СБП, карты, электронные кошельки. Доступ откроется в этом браузере и придёт письмом. Уже оплатили? Восстановить доступ

Полезные гиды