О чём урок
Этот блокнот представляет кэширование контекста с помощью Gemini API и предоставляет примеры взаимодействия со стенограммой Аполлона-11 с использованием Python SDK. Для более полного обзора ознакомьтесь с руководством по кэшированию.
Для выполнения следующей ячейки ваш ключ API должен быть сохранен в Colab Secret с именем GEMINI_API_KEY. Если у вас еще нет ключа API или вы не знаете, как создать Colab Secret, см. Аутентификация для пошагового руководства.
Распространенный шаблон использования Gemini API — задавать несколько вопросов одному и тому же документу. Кэширование контекста разработано для помощи в этом случае и может быть более эффективным, поскольку позволяет избежать необходимости передавать одни и те же токены через модель для каждого нового запроса.
Этот пример будет основан на стенограмме миссии Аполлон-11.
Начните с загрузки этой стенограммы.
Теперь загрузите стенограмму с помощью File API.
Затем создайте объект CachedContent, указав запрос, который вы хотите использовать, включая файл и другие поля, которые вы хотите кэшировать. В этом примере была установлена system_instruction, а документ был предоставлен в запросе.
Обратите внимание, что кэши зависят от модели. Вы не можете использовать кэш, созданный с другой моделью, так как их токенизация может немного отличаться.
Примечание: Явное кэширование (client.caches.create) поддерживается в моделях Gemini 3 и Gemini 2.5. Gemini 4 Argon (gemini-4-argon) использует автоматическое неявное кэширование (предоставляя скидку 95% на повторяющиеся входные префиксы из 4096 токенов или более) и не поддерживает явное создание кэша.
После того как у вас есть объект CachedContent, вы можете обновить время истечения срока действия, чтобы он оставался активным, пока он вам нужен.
Чтобы использовать кэш для генерации, передайте имя кэша в GenerateContentConfig(cached_content=apollo_cache.name) при вызове client.models.generate_content().
Вы можете проверить использование токенов через usage_metadata. Обратите внимание, что токены кэшированного запроса включены в prompt_token_count, но исключены из total_token_count.
Вы можете задавать новые вопросы модели…
План урока
- Установка зависимостей
- Настройка ключа API
- Загрузка файла
- Кэширование запроса
- Управление сроком действия кэша
- Использование кэша для генерации
- Удаление кэша
- Следующие шаги
Урок входит в полный доступ. Полный текст и видео открываются после оплаты. Первые уроки каждого курса бесплатны.