О чём урок
Этот блокнот демонстрирует шаблон «защитные ограждения как код» для агентов на базе Gemini, которые вызывают инструменты. Основная идея заключается в том, чтобы детерминированная политика, проверка схемы, одобрение человеком и трассировка аудита оставались вне модели. Gemini по-прежнему может рассуждать и предлагать действия, но уровень доверия решает, разрешены ли эти действия, заблокированы или ожидают одобрения, прежде чем будет выполнен какой-либо побочный эффект.
В примере используется Pramagent в качестве конкретной реализации промежуточного ПО с открытым исходным кодом. Этот шаблон полезен для циклов агентов Gemini, которые отправляют сообщения, считывают данные, ограниченные арендатором, записывают записи или запускают другие высокоэффективные инструменты.
Начните с обычного вызова Gemini. Это хорошо для генерации с низким риском, но производственным агентам часто требуется отдельная граница, когда модель может запустить инструмент или рабочий процесс.
Политика ниже разрешает один фиктивный инструмент send_email, проверяет его аргументы, ограничивает его одним арендатором и требует одобрения человека, поскольку исходящие сообщения являются побочным эффектом. Эта политика применяется кодом Python перед выполнением; это не инструкция-подсказка, которую модель должна запоминать.
Трассировка — это оперативные доказательства, полученные уровнем доверия. Она показывает, какие детерминированные элементы управления сработали, сколько времени занял каждый уровень, и указатель хэш-цепочки, который обнаруживает последующие подделки.
Используйте этот шаблон, когда агент Gemini может вызывать реальные побочные эффекты или касаться данных, ограниченных арендатором. Он наиболее полезен для исходящих сообщений, обновлений учетных записей, финансовых операций, регулируемых этапов рабочего процесса и внутренних инструментов с интенсивным аудитом. Обычно он не нужен для простого однократного суммирования или генерации идей, где детерминированная граница побочных эффектов добавит сложности без значительного снижения риска.
- Документация по Gemini API
- Вызов функций с Gemini
- Pramagent на GitHub
- Pramagent на PyPI
План урока
- Базовый вызов Gemini
- Определение детерминированной политики как кода
- Запуск Gemini через уровень доверия
- Изучение доказательств трассировки
- Когда использовать этот шаблон
- Ресурсы
Урок входит в полный доступ. Полный текст и видео открываются после оплаты. Первые уроки каждого курса бесплатны.