О чём урок
Этот блокнот Colab демонстрирует стратегии обработки распространенных ошибок, с которыми вы можете столкнуться при работе с Gemini API:
- Временные ошибки: Временные сбои из-за проблем с сетью, перегрузки сервера и т. д.
- Ограничения скорости: Ограничения на количество запросов, которые вы можете сделать в течение определенного периода времени.
- Тайм-ауты: Когда вызов API занимает слишком много времени.
У вас есть два основных подхода для изучения:
- Автоматические повторные попытки: Простой способ повторить запросы, когда они завершаются сбоем из-за временных ошибок.
- Ручной откат и повторная попытка: Более настраиваемый подход, который обеспечивает более точный контроль над поведением повторных попыток.
Ограничения скорости Gemini
Ограничения скорости по умолчанию для различных моделей Gemini описаны в документации по моделям Gemini API. Если вашему приложению требуется более высокая квота, рассмотрите возможность запроса на увеличение ограничения скорости.
Чтобы запустить следующие ячейки, сохраните свой ключ API в секрете Colab с именем GEMINI_API_KEY. Если у вас нет ключа API или вам нужна помощь в создании секрета Colab, см. руководство по аутентификации.
При использовании google-genai вы можете настроить повторные попытки через HttpRetryOptions в google.genai.types. Это позволяет согласовать поведение повторных попыток с исключениями, которые фактически вызывает SDK.
Преимущества:
- Простота: Требует минимальных изменений кода для значительного повышения надежности.
- Надежность: Эффективно устраняет большинство временных ошибок без дополнительной логики.
Настройка поведения повторных попыток:
Используйте HttpRetryOptions для управления количеством попыток, задержками и кодами состояния HTTP, которые должны вызывать повторную попытку.
- attempts: Общее количество попыток до отказа.
- initial_delay: Начальная задержка в секундах перед первой повторной попыткой.
- max_delay: Максимальная задержка в секундах между повторными попытками.
- http_status_codes: Коды состояния HTTP, которые должны вызывать повторную попытку.
Если вы столкнулись с ошибками ReadTimeout или DeadlineExceeded, означающими, что вызов API превышает тайм-аут по умолчанию (600 секунд), вы можете вручную настроить его, определив timeout в аргументе http_options.
Внимание: Хотя увеличение тайм-аутов может быть полезным, будьте осторожны, не устанавливайте…
План урока
- Настройте свой ключ API
- Автоматические повторные попытки
- Вручную увеличьте тайм-аут, если ответы занимают много времени
- Вручную реализуйте откат и повторную попытку с обработкой ошибок
- Проверьте обработку ошибок с механизмом повторных попыток
- Следующие шаги
Урок входит в полный доступ. Полный текст и видео открываются после оплаты. Первые уроки каждого курса бесплатны.