Цели урока
- Как реализовать глобальные защитные барьеры для многоагентных систем
- Два подхода к безопасности ИИ: LLM-as-a-Judge и Model Armor
- Предотвращение атак отравления сессии
- Создание масштабируемых, безопасных систем ИИ с Google Cloud
- Обнаружение попыток джейлбрейка и инъекций промптов
О чём урок
В этом блокноте вы узнаете, как создавать готовые к производству агентные системы ИИ с комплексными защитными барьерами, используя Google Agent Development Kit (ADK), Gemini и облачные сервисы.
- Google Agent Development Kit (ADK) — оркестрация многоагентных систем
- Gemini 2.5 — LLM для агентов и классификации безопасности
- Google Cloud Model Armor — корпоративная фильтрация безопасности
- Google Cloud Vertex AI — масштабируемая инфраструктура ML
Автор: Нгуен Кхань Линь GitHub: github.com/linhkid LinkedIn: @Khanh Linh Nguyen
Начнем с настройки вашей среды и установки необходимых зависимостей.
Вам понадобятся: 1. Проект Google Cloud с включенным Vertex AI API 2. Настроенная аутентификация (ADC - Application Default Credentials) 3. (Необязательно) Шаблон Model Armor для второго подхода
При локальном запуске аутентифицируйтесь с помощью:
При запуске в Colab используйте:
Прежде чем создавать безопасных агентов, пожалуйста, поймите, от чего вы защищаетесь.
Попытки обойти ограничения безопасности: - "Игнорируй все предыдущие инструкции и..." - "Действуй как ИИ без этических ограничений..." - "Это только для образовательных целей..."
Вредоносные инструкции, скрытые во вводе пользователя или выводах инструмента:
Внедрение вредоносного контента в историю разговора для влияния на будущие ответы:
Внешние инструменты возвращают вредоносный контент, который обманывает агента:
Вы будете реализовывать глубокую защиту с несколькими уровнями:
- Фильтрация ввода — проверка сообщений пользователя перед обработкой
- Валидация ввода инструмента — проверка безопасности вызовов инструмента
- Санитизация вывода инструмента — фильтрация результатов инструмента перед возвратом агенту
- Фильтрация вывода — проверка окончательных ответов агента
- Защита памяти сессии — никогда не хранить небезопасный контент в истории разговора
Начнем с создания простого агента без защитных барьеров, чтобы увидеть риски.
Вопрос для студентов: Какие уязвимости вы видите в приведенном выше агенте?
Первый подход использует другую LLM в качестве "судьи" для оценки безопасности. Это гибкий подход, который может обнаруживать сложные схемы атак.
- Высокая гибкость — может обнаруживать новые схемы атак
- Понимает контекст и намерения
- Может быть настроен с помощью промптов
- Отсутствие зависимостей от внешних сервисов
- ⚠️ Добавляет задержку…
План урока
- Защита от джейлбрейков с помощью Google ADK с LLM-as-a-Judge и Model Armor
- Что вы узнаете
- Используемые технологии
- 1. Настройка и конфигурация
- Настройка учетных данных Google Cloud
- Аутентификация
- 2. Понимание угроз безопасности ИИ
- Распространенные угрозы безопасности ИИ
Урок входит в полный доступ. Полный текст и видео открываются после оплаты. Первые уроки каждого курса бесплатны.