Настройки безопасности через REST

О чём урок

Gemini API имеет настраиваемые параметры безопасности. Этот notebook покажет вам, как их использовать. Вы напишете prompt, который будет заблокирован, увидите причину блокировки, а затем настроите фильтры, чтобы разблокировать его. Безопасность — важная тема, и вы можете узнать больше по ссылкам в конце этого notebook. А пока сосредоточьтесь на коде. Если вы хотите быстро опробовать Gemini API, вы можете использовать команды curl для вызова методов в REST API. Этот notebook содержит команды curl, которые вы можете запустить в Google Colab или скопировать в свой терминал. Чтобы запустить этот notebook, ваш API key должен быть сохранен в Colab Secret с именем GEMINI_API_KEY. Если вы работаете в другой среде, вы можете сохранить свой ключ в переменной среды. См. Authentication, чтобы узнать больше. Результат, возвращаемый методом Model.generate_content, представляет собой genai.GenerateContentResponse. Выше вы можете видеть, что объект ответа предоставляет обратную связь по безопасности относительно prompt двумя способами: Атрибут prompt_feedback.safety_ratings содержит список оценок безопасности для входного prompt. Если ваш prompt заблокирован, поле prompt_feedback.block_reason объяснит причину. Если prompt заблокирован из-за оценок безопасности, вы не получите никаких кандидатов в ответе. Отрегулируйте настройки безопасности, и prompt больше не будет заблокирован: С новыми настройками blocked_reason больше не установлен. И возвращается ответ-кандидат. Вы можете проверить response.text для получения ответа. Для prompt, который не заблокирован, объект ответа содержит список объектов candidate (пока только 1). Каждый кандидат включает finish_reason: FinishReason.STOP означает, что модель завершила свой вывод в обычном режиме. FinishReason.SAFETY означает, что safety_ratings кандидата превысили порог safety_settings запроса. Узнайте больше из этих статей о руководстве по безопасности и настройках безопасности. Настройки безопасности могут быть заданы в конструкторе genai.GenerativeModel. Они также могут быть переданы в каждом запросе к GenerativeModel.generate_content или ChatSession.send_message.

План урока

1. Настройка вашего API ключа
2. Обратная связь по prompt
3. Настройки безопасности
4. Оценки кандидатов
5. Узнать больше
6. Полезные ссылки на API