Урок из полного доступа, первые уроки курса бесплатно Официальный курс Gemini API Cookbook на русском
Урок 45 · Текст · ~5 мин

Безопасный агент на Gemini с защитой от взлома

Урок 45 из 84 курса «Gemini API: примеры использования»: официальный курс Gemini API Cookbook (Гугл Джемини) на русском языке. Урок входит в платный доступ; первые уроки курса бесплатно.

Цели урока

  • Как реализовать глобальные защитные барьеры для многоагентных систем
  • Два подхода к безопасности ИИ: LLM-as-a-Judge и Model Armor
  • Предотвращение атак отравления сессии
  • Создание масштабируемых, безопасных систем ИИ с Google Cloud
  • Обнаружение попыток джейлбрейка и инъекций промптов

О чём урок

В этом блокноте вы узнаете, как создавать готовые к производству агентные системы ИИ с комплексными защитными барьерами, используя Google Agent Development Kit (ADK), Gemini и облачные сервисы.

  • Google Agent Development Kit (ADK) — оркестрация многоагентных систем
  • Gemini 2.5 — LLM для агентов и классификации безопасности
  • Google Cloud Model Armor — корпоративная фильтрация безопасности
  • Google Cloud Vertex AI — масштабируемая инфраструктура ML

Автор: Нгуен Кхань Линь GitHub: github.com/linhkid LinkedIn: @Khanh Linh Nguyen

Начнем с настройки вашей среды и установки необходимых зависимостей.

Вам понадобятся: 1. Проект Google Cloud с включенным Vertex AI API 2. Настроенная аутентификация (ADC - Application Default Credentials) 3. (Необязательно) Шаблон Model Armor для второго подхода

При локальном запуске аутентифицируйтесь с помощью:

При запуске в Colab используйте:

Прежде чем создавать безопасных агентов, пожалуйста, поймите, от чего вы защищаетесь.

Попытки обойти ограничения безопасности: - "Игнорируй все предыдущие инструкции и..." - "Действуй как ИИ без этических ограничений..." - "Это только для образовательных целей..."

Вредоносные инструкции, скрытые во вводе пользователя или выводах инструмента:

Внедрение вредоносного контента в историю разговора для влияния на будущие ответы:

Внешние инструменты возвращают вредоносный контент, который обманывает агента:

Вы будете реализовывать глубокую защиту с несколькими уровнями:

  1. Фильтрация ввода — проверка сообщений пользователя перед обработкой
  2. Валидация ввода инструмента — проверка безопасности вызовов инструмента
  3. Санитизация вывода инструмента — фильтрация результатов инструмента перед возвратом агенту
  4. Фильтрация вывода — проверка окончательных ответов агента
  5. Защита памяти сессии — никогда не хранить небезопасный контент в истории разговора

Начнем с создания простого агента без защитных барьеров, чтобы увидеть риски.

Вопрос для студентов: Какие уязвимости вы видите в приведенном выше агенте?

Первый подход использует другую LLM в качестве "судьи" для оценки безопасности. Это гибкий подход, который может обнаруживать сложные схемы атак.

  • Высокая гибкость — может обнаруживать новые схемы атак
  • Понимает контекст и намерения
  • Может быть настроен с помощью промптов
  • Отсутствие зависимостей от внешних сервисов
  • ⚠️ Добавляет задержку…

План урока

  1. Защита от джейлбрейков с помощью Google ADK с LLM-as-a-Judge и Model Armor
  2. Что вы узнаете
  3. Используемые технологии
  4. 1. Настройка и конфигурация
  5. Настройка учетных данных Google Cloud
  6. Аутентификация
  7. 2. Понимание угроз безопасности ИИ
  8. Распространенные угрозы безопасности ИИ

Урок входит в полный доступ. Полный текст и видео открываются после оплаты. Первые уроки каждого курса бесплатны.

Откройте полный доступ

Вы прошли бесплатные уроки. Выберите тариф, чтобы продолжить обучение.

Курсы Google Gemini 1 490 ₽ Разовый платёж, навсегда
  • Все курсы от Google Gemini (2 шт.)
  • Именной сертификат по каждому пройденному курсу
Оплатить
Полный доступ 4 900 ₽ Разовый платёж, навсегда
  • Все 77 курсов от 11 AI-провайдеров
  • Библиотека промптов и новые курсы
Оплатить

Безопасная оплата через Robokassa: СБП, карты, электронные кошельки. Доступ откроется в этом браузере и придёт письмом. Уже оплатили? Восстановить доступ

Урок входит в темы

Полезные гиды