Создание надёжных ИИ-агентов

Цели урока

• Выявлять и снижать риски при создании ИИ-агентов.
• Внедрять меры безопасности для надлежащего управления данными и доступом.
• Создавать ИИ-агентов, которые сохраняют конфиденциальность данных и обеспечивают качественный пользовательский опыт.

О чём урок

(Нажмите на изображение выше, чтобы посмотреть видео этого урока) В этом уроке будут рассмотрены: Как создавать и развёртывать безопасных и эффективных ИИ-агентов. Важные аспекты безопасности при разработке ИИ-агентов. Как обеспечивать конфиденциальность данных и пользователей при разработке ИИ-агентов. После прохождения этого урока вы узнаете, как: Для начала рассмотрим создание безопасных агентных приложений. Безопасность означает, что ИИ-агент работает так, как задумано. Как разработчики агентных приложений, мы располагаем методами и инструментами для максимизации безопасности. Если вы когда-либо создавали ИИ-приложение с использованием больших языковых моделей (LLM), вы знаете, насколько важно разработать надёжный системный промпт или системное сообщение. Эти промпты устанавливают метаправила, инструкции и рекомендации по взаимодействию LLM с пользователем и данными. Для ИИ-агентов системный промпт ещё более важен, поскольку ИИ-агентам потребуются очень специфические инструкции для выполнения задач, которые мы для них разработали. Для создания масштабируемых системных промптов мы можем использовать фреймворк системных сообщений для построения одного или нескольких агентов в нашем приложении: Мета-промпт будет использоваться LLM для генерации системных промптов для создаваемых нами агентов. Мы проектируем его как шаблон, чтобы при необходимости эффективно создавать несколько агентов. Вот пример мета-системного сообщения, которое мы бы дали LLM: Следующий шаг: создать базовый промпт для описания ИИ-агента. Вы должны включить роль агента, задачи, которые агент будет выполнять, и любые другие обязанности агента. Вот пример: Теперь мы можем оптимизировать это системное сообщение, предоставив мета-системное сообщение в качестве системного сообщения и наше базовое системное сообщение. Это позволит создать системное сообщение, лучше подходящее для управления нашими ИИ-агентами: Ценность этого фреймворка системных сообщений заключается в возможности легко масштабировать создание системных сообщений для нескольких агентов, а также со временем улучшать ваши системные сообщения. Редко бывает так, что системное сообщение срабатывает идеально с первого раза для вашего полного варианта использования. Возможность вносить небольшие изменения и улучшения, изменяя базовое системное сообщение и пропуская его через систему, позволит вам сравнивать и оценивать результаты.

План урока

1. Введение
2. Безопасность
3. Создание фреймворка системных сообщений
4. Шаг 1: Создайте мета-системное сообщение
5. Шаг 2: Создайте базовый промпт
6. Шаг 3: Предоставьте базовое системное сообщение LLM
7. Шаг 4: Итерации и улучшения
8. Понимание угроз