Считаем расходы и следим за работой Gemini

Цели урока

• Извлекать метаданные об использовании токенов из ответов API
• Рассчитывать стоимость в долларах США в реальном времени на основе ценообразования модели
• Выполнять проверки работоспособности для подтверждения доступности API и квоты

О чём урок

Наблюдаемость за затратами является ключевым фактором для масштабирования приложений Gemini API. Без отслеживания использования токенов и затрат невозможно оптимизировать расходы или выявить дорогостоящие операции. Этот notebook демонстрирует, как создать уровень наблюдаемости для приложений Gemini API. Вы узнаете, как: К концу этого notebook у вас будет многократно используемый класс, который можно интегрировать в любое приложение Gemini API для мониторинга затрат и работоспособности. Сначала установите библиотеку Python для Gemini API. Прежде чем использовать Gemini API, вы должны сначала получить API key. Если у вас его еще нет, создайте ключ одним щелчком мыши в Google AI Studio. Получить API key В Colab добавьте ключ в менеджер секретов под значком «🔑» на левой панели. Присвойте ему имя GEMINI_API_KEY. Класс GeminiObservability предоставляет простой способ отслеживания затрат и мониторинга работоспособности использования Gemini API. Он автоматически обрабатывает различное ценообразование для разных моделей. Теперь вы можете увидеть класс наблюдаемости в действии. Сначала создайте экземпляр класса. Выполните простой вызов API и отследите стоимость. Вы можете отслеживать затраты по нескольким вызовам API, чтобы контролировать общие расходы. Теперь, когда у вас есть работающая система оценки стоимости и мониторинга работоспособности, вы можете: Интегрируйте в свои приложения: Добавьте класс GeminiObservability в свой производственный код для отслеживания затрат в реальном времени Настройте оповещения: Отслеживайте общие затраты и настраивайте оповещения, когда расходы превышают пороговые значения Оптимизируйте использование: Используйте количество токенов для выявления дорогостоящих операций и оптимизации ваших prompt Обновляйте цены: Поддерживайте словарь цен в актуальном состоянии с текущими тарифами из Google AI Pricing Для получения дополнительной информации о Gemini API ознакомьтесь с руководствами по быстрому старту и другими примерами.

План урока

1. Обзор
2. Настройка
3. Получите API Key
4. Класс для оценки стоимости
5. Пример использования
6. Пример оценки стоимости
7. Отслеживание нескольких запросов
8. Следующие шаги