Урок из полного доступа, первые уроки курса бесплатно Официальный курс Gemini API Cookbook на русском
Урок 06 · Текст · ~5 мин

Кэширование контекста: платим меньше за длинные запросы

Урок 6 из 71 курса «Gemini API: быстрый старт»: официальный курс Gemini API Cookbook (Гугл Джемини) на русском языке. Урок входит в платный доступ; первые уроки курса бесплатно.

О чём урок

Этот блокнот представляет кэширование контекста с помощью Gemini API и предоставляет примеры взаимодействия со стенограммой Аполлона-11 с использованием Python SDK. Для более полного обзора ознакомьтесь с руководством по кэшированию.

Для выполнения следующей ячейки ваш ключ API должен быть сохранен в Colab Secret с именем GEMINI_API_KEY. Если у вас еще нет ключа API или вы не знаете, как создать Colab Secret, см. Аутентификация для пошагового руководства.

Распространенный шаблон использования Gemini API — задавать несколько вопросов одному и тому же документу. Кэширование контекста разработано для помощи в этом случае и может быть более эффективным, поскольку позволяет избежать необходимости передавать одни и те же токены через модель для каждого нового запроса.

Этот пример будет основан на стенограмме миссии Аполлон-11.

Начните с загрузки этой стенограммы.

Теперь загрузите стенограмму с помощью File API.

Затем создайте объект CachedContent, указав запрос, который вы хотите использовать, включая файл и другие поля, которые вы хотите кэшировать. В этом примере была установлена system_instruction, а документ был предоставлен в запросе.

Обратите внимание, что кэши зависят от модели. Вы не можете использовать кэш, созданный с другой моделью, так как их токенизация может немного отличаться.

Примечание: Явное кэширование (client.caches.create) поддерживается в моделях Gemini 3 и Gemini 2.5. Gemini 4 Argon (gemini-4-argon) использует автоматическое неявное кэширование (предоставляя скидку 95% на повторяющиеся входные префиксы из 4096 токенов или более) и не поддерживает явное создание кэша.

После того как у вас есть объект CachedContent, вы можете обновить время истечения срока действия, чтобы он оставался активным, пока он вам нужен.

Чтобы использовать кэш для генерации, передайте имя кэша в GenerateContentConfig(cached_content=apollo_cache.name) при вызове client.models.generate_content().

Вы можете проверить использование токенов через usage_metadata. Обратите внимание, что токены кэшированного запроса включены в prompt_token_count, но исключены из total_token_count.

Вы можете задавать новые вопросы модели…

План урока

  1. Установка зависимостей
  2. Настройка ключа API
  3. Загрузка файла
  4. Кэширование запроса
  5. Управление сроком действия кэша
  6. Использование кэша для генерации
  7. Удаление кэша
  8. Следующие шаги

Урок входит в полный доступ. Полный текст и видео открываются после оплаты. Первые уроки каждого курса бесплатны.

Откройте полный доступ

Вы прошли бесплатные уроки. Выберите тариф, чтобы продолжить обучение.

Курсы Google Gemini 1 490 ₽ Разовый платёж, навсегда
  • Все курсы от Google Gemini (2 шт.)
  • Именной сертификат по каждому пройденному курсу
Оплатить
Полный доступ 4 900 ₽ Разовый платёж, навсегда
  • Все 77 курсов от 11 AI-провайдеров
  • Библиотека промптов и новые курсы
Оплатить

Безопасная оплата через Robokassa: СБП, карты, электронные кошельки. Доступ откроется в этом браузере и придёт письмом. Уже оплатили? Восстановить доступ

Урок входит в темы

Полезные гиды