Всё о токенах: как считать и экономить

О чём урок

Понимание токенов является центральным аспектом при использовании Gemini API. Это руководство предоставит интерактивное введение в то, что такое токены и как они используются в Gemini API. LLM-модели разбивают свой input и генерируют свой output с гранулярностью, которая меньше слова, но больше отдельного символа или кодовой точки. Эти токены могут быть отдельными символами, такими как z, или целыми словами, такими как the. Длинные слова могут быть разбиты на несколько токенов. Набор всех токенов, используемых моделью, называется vocabulary, а процесс разбиения текста на токены называется tokenization. Для моделей Gemini один токен эквивалентен примерно 4 символам. 100 токенов — это примерно 60-80 английских слов. Когда включена тарификация, стоимость платного запроса определяется количеством входных и выходных токенов, поэтому важно знать, как подсчитывать свои токены. Примечание: Этот notebook использует Interactions API — новейший способ взаимодействия с моделями Gemini. Ищете версию generateContent? Проверьте архивную ветку. Установите SDK из PyPI. Чтобы запустить следующую cell, ваш API key должен быть сохранен в Colab Secret с именем GEMINI_API_KEY. Если у вас еще нет API key или вы не знаете, как создать Colab Secret, см. Аутентификация для пошагового руководства. С новым SDK теперь вам нужно только инициализировать клиент с вашим API key (или OAuth, если используете Vertex AI). Модель теперь устанавливается при каждом вызове. Модели, доступные через Gemini API, имеют контекстные окна, измеряемые в токенах. Они определяют, сколько input вы можете предоставить и сколько output модель может сгенерировать, и в совокупности называются "контекстным окном". Эта информация доступна непосредственно через API и в документации по моделям. В этом примере вы можете видеть, что модель gemini-3.7-flash имеет контекстное окно в 1M токенов. Если вам нужно больше, Pro модели имеют еще большее контекстное окно в 2M токенов. API предоставляет endpoint для подсчёта количества токенов в запросе: client.models.count_tokens.

План урока

1. О токенах
2. Настройка
3. Установка SDK
4. Настройка вашего API key
5. Инициализация SDK клиента
6. Токены в Gemini API
7. Контекстные окна
8. Подсчёт токенов