Урок из полного доступа, первые уроки курса бесплатно Официальный курс Gemini API Cookbook на русском
Урок 26 · Текст · ~5 мин

Добавляем проверки доверия в цикл агента

Урок 26 из 84 курса «Gemini API: примеры использования»: официальный курс Gemini API Cookbook (Гугл Джемини) на русском языке. Урок входит в платный доступ; первые уроки курса бесплатно.

О чём урок

Этот блокнот демонстрирует шаблон «защитные ограждения как код» для агентов на базе Gemini, которые вызывают инструменты. Основная идея заключается в том, чтобы детерминированная политика, проверка схемы, одобрение человеком и трассировка аудита оставались вне модели. Gemini по-прежнему может рассуждать и предлагать действия, но уровень доверия решает, разрешены ли эти действия, заблокированы или ожидают одобрения, прежде чем будет выполнен какой-либо побочный эффект.

В примере используется Pramagent в качестве конкретной реализации промежуточного ПО с открытым исходным кодом. Этот шаблон полезен для циклов агентов Gemini, которые отправляют сообщения, считывают данные, ограниченные арендатором, записывают записи или запускают другие высокоэффективные инструменты.

Начните с обычного вызова Gemini. Это хорошо для генерации с низким риском, но производственным агентам часто требуется отдельная граница, когда модель может запустить инструмент или рабочий процесс.

Политика ниже разрешает один фиктивный инструмент send_email, проверяет его аргументы, ограничивает его одним арендатором и требует одобрения человека, поскольку исходящие сообщения являются побочным эффектом. Эта политика применяется кодом Python перед выполнением; это не инструкция-подсказка, которую модель должна запоминать.

Трассировка — это оперативные доказательства, полученные уровнем доверия. Она показывает, какие детерминированные элементы управления сработали, сколько времени занял каждый уровень, и указатель хэш-цепочки, который обнаруживает последующие подделки.

Используйте этот шаблон, когда агент Gemini может вызывать реальные побочные эффекты или касаться данных, ограниченных арендатором. Он наиболее полезен для исходящих сообщений, обновлений учетных записей, финансовых операций, регулируемых этапов рабочего процесса и внутренних инструментов с интенсивным аудитом. Обычно он не нужен для простого однократного суммирования или генерации идей, где детерминированная граница побочных эффектов добавит сложности без значительного снижения риска.

  • Документация по Gemini API
  • Вызов функций с Gemini
  • Pramagent на GitHub
  • Pramagent на PyPI

План урока

  1. Базовый вызов Gemini
  2. Определение детерминированной политики как кода
  3. Запуск Gemini через уровень доверия
  4. Изучение доказательств трассировки
  5. Когда использовать этот шаблон
  6. Ресурсы

Урок входит в полный доступ. Полный текст и видео открываются после оплаты. Первые уроки каждого курса бесплатны.

Откройте полный доступ

Вы прошли бесплатные уроки. Выберите тариф, чтобы продолжить обучение.

Курсы Google Gemini 1 490 ₽ Разовый платёж, навсегда
  • Все курсы от Google Gemini (2 шт.)
  • Именной сертификат по каждому пройденному курсу
Оплатить
Полный доступ 4 900 ₽ Разовый платёж, навсегда
  • Все 77 курсов от 11 AI-провайдеров
  • Библиотека промптов и новые курсы
Оплатить

Безопасная оплата через Robokassa: СБП, карты, электронные кошельки. Доступ откроется в этом браузере и придёт письмом. Уже оплатили? Восстановить доступ

Полезные гиды