О чём урок
В этом примере показано, как добавить детерминированные механизмы управления к возможностям вызова функций Gemini с помощью TealTiger (Apache 2.0).
Когда агенты Gemini совершают автономные вызовы инструментов, часто необходимо: - Блокировать утечку PII (персонально идентифицируемой информации) в аргументы инструментов (номера социального страхования, кредитные карты, электронные письма) - Ограничивать, какие инструменты может вызывать агент (белый список) - Применять бюджеты затрат на сеанс - Создавать журналы аудита для соответствия требованиям (SOC2, HIPAA, EU AI Act)
Все управление выполняется детерминированно (регулярные выражения + правила политики) — без дополнительного вызова LLM, с накладными расходами менее 2 мс на каждое решение.
Вы создадите простой агент с двумя инструментами: search_database и send_email. В производственной среде вы хотите, чтобы управление обеспечивало: - Отсутствие PII (например, номеров социального страхования) в поисковых запросах - Возможность вызова только авторизованных инструментов - Непревышение бюджета затрат
TealTiger оценивает управление детерминированно — без LLM в пути управления. Вы определяете политики декларативно:
Вы оборачиваете вызов функций Gemini управлением. Перед выполнением каждого вызова инструмента TealTiger оценивает все политики по имени инструмента и аргументам.
Обычный поисковый запрос без PII — проходит все проверки управления.
Поисковый запрос, содержащий номер социального страхования — управление блокирует его до выполнения.
delete_records отсутствует в белом списке — отклоняется независимо от аргументов.
Ключ API, случайно переданный в качестве аргумента инструмента — заблокирован до утечки.
Теперь вы подключаете управление к реальному разговору агента Gemini с вызовом функций. После того как вызов инструмента проходит управление и выполняется, вы отправляете его результат обратно в Gemini с previous_interaction_id, чтобы модель могла завершить ход и дать окончательный ответ.
Каждое решение по управлению записывается. Эти структурированные доказательства необходимы командам по соблюдению требований для аудитов SOC2/HIPAA.
TealTiger поддерживает три режима для безопасного развертывания:
Начните с MONITOR на стадии тестирования, затем переключитесь на ENFORCE в производственной среде.
В этом блокноте вы узнали, как: 1. Добавить обнаружение PII в аргументы вызова функций Gemini 2.
Все управление детерминировано — без дополнительного…
План урока
- Определение инструментов для агента
- Настройка политик управления
- Управляемый вызов функций
- Пример 1: Чистый вызов инструмента (разрешен)
- Пример 2: PII в аргументах (заблокировано)
- Пример 3: Неавторизованный инструмент (заблокировано)
- Пример 4: Секрет в аргументах (заблокировано)
- Полный цикл агента с Gemini
Урок входит в полный доступ. Полный текст и видео открываются после оплаты. Первые уроки каждого курса бесплатны.