Цели урока
- Выявлять и снижать риски при создании ИИ-агентов.
- Внедрять меры безопасности для надлежащего управления данными и доступом.
- Создавать ИИ-агентов, которые сохраняют конфиденциальность данных и обеспечивают качественный пользовательский опыт.
О чём урок
(Нажмите на изображение выше, чтобы посмотреть видео этого урока)
В этом уроке будут рассмотрены:
- Как создавать и развёртывать безопасных и эффективных ИИ-агентов.
- Важные аспекты безопасности при разработке ИИ-агентов.
- Как обеспечивать конфиденциальность данных и пользователей при разработке ИИ-агентов.
После прохождения этого урока вы узнаете, как:
Для начала рассмотрим создание безопасных агентных приложений. Безопасность означает, что ИИ-агент работает так, как задумано. Как разработчики агентных приложений, мы располагаем методами и инструментами для максимизации безопасности.
Если вы когда-либо создавали ИИ-приложение с использованием больших языковых моделей (LLM), вы знаете, насколько важно разработать надёжный системный промпт или системное сообщение. Эти промпты устанавливают метаправила, инструкции и рекомендации по взаимодействию LLM с пользователем и данными.
Для ИИ-агентов системный промпт ещё более важен, поскольку ИИ-агентам потребуются очень специфические инструкции для выполнения задач, которые мы для них разработали.
Для создания масштабируемых системных промптов мы можем использовать фреймворк системных сообщений для построения одного или нескольких агентов в нашем приложении:
Мета-промпт будет использоваться LLM для генерации системных промптов для создаваемых нами агентов. Мы проектируем его как шаблон, чтобы при необходимости эффективно создавать несколько агентов.
Вот пример мета-системного сообщения, которое мы бы дали LLM:
Следующий шаг: создать базовый промпт для описания ИИ-агента. Вы должны включить роль агента, задачи, которые агент будет выполнять, и любые другие обязанности агента.
Вот пример:
Теперь мы можем оптимизировать это системное сообщение, предоставив мета-системное сообщение в качестве системного сообщения и наше базовое системное сообщение.
Это позволит создать системное сообщение, лучше подходящее для управления нашими ИИ-агентами:
Ценность этого фреймворка системных сообщений заключается в возможности легко масштабировать создание системных сообщений для нескольких агентов, а также со временем улучшать ваши системные сообщения. Редко бывает так, что системное сообщение срабатывает идеально с первого раза для вашего полного варианта использования. Возможность вносить небольшие изменения и улучшения, изменяя базовое системное сообщение и пропуская его через систему, позволит вам сравнивать и оценивать результаты.
Для создания надёжных…
План урока
- Введение
- Безопасность
- Создание фреймворка системных сообщений
- Шаг 1: Создайте мета-системное сообщение
- Шаг 2: Создайте базовый промпт
- Шаг 3: Предоставьте базовое системное сообщение LLM
- Шаг 4: Итерации и улучшения
- Понимание угроз
Урок входит в полный доступ. Полный текст и видео открываются после оплаты. Первые уроки каждого курса бесплатны.