Урок из полного доступа, первые уроки курса бесплатно Официальный курс Microsoft AI for Beginners на русском
Урок 07 · Текст · ~5 мин

Создание надёжных ИИ-агентов

Урок 7 из 19 курса «ИИ-агенты для начинающих»: официальный курс Microsoft AI for Beginners (Майкрософт) на русском языке. Урок входит в платный доступ; первые уроки курса бесплатно.

Цели урока

  • Выявлять и снижать риски при создании ИИ-агентов.
  • Внедрять меры безопасности для надлежащего управления данными и доступом.
  • Создавать ИИ-агентов, которые сохраняют конфиденциальность данных и обеспечивают качественный пользовательский опыт.

О чём урок

(Нажмите на изображение выше, чтобы посмотреть видео этого урока)

В этом уроке будут рассмотрены:

  • Как создавать и развёртывать безопасных и эффективных ИИ-агентов.
  • Важные аспекты безопасности при разработке ИИ-агентов.
  • Как обеспечивать конфиденциальность данных и пользователей при разработке ИИ-агентов.

После прохождения этого урока вы узнаете, как:

Для начала рассмотрим создание безопасных агентных приложений. Безопасность означает, что ИИ-агент работает так, как задумано. Как разработчики агентных приложений, мы располагаем методами и инструментами для максимизации безопасности.

Если вы когда-либо создавали ИИ-приложение с использованием больших языковых моделей (LLM), вы знаете, насколько важно разработать надёжный системный промпт или системное сообщение. Эти промпты устанавливают метаправила, инструкции и рекомендации по взаимодействию LLM с пользователем и данными.

Для ИИ-агентов системный промпт ещё более важен, поскольку ИИ-агентам потребуются очень специфические инструкции для выполнения задач, которые мы для них разработали.

Для создания масштабируемых системных промптов мы можем использовать фреймворк системных сообщений для построения одного или нескольких агентов в нашем приложении:

Мета-промпт будет использоваться LLM для генерации системных промптов для создаваемых нами агентов. Мы проектируем его как шаблон, чтобы при необходимости эффективно создавать несколько агентов.

Вот пример мета-системного сообщения, которое мы бы дали LLM:

Следующий шаг: создать базовый промпт для описания ИИ-агента. Вы должны включить роль агента, задачи, которые агент будет выполнять, и любые другие обязанности агента.

Вот пример:

Теперь мы можем оптимизировать это системное сообщение, предоставив мета-системное сообщение в качестве системного сообщения и наше базовое системное сообщение.

Это позволит создать системное сообщение, лучше подходящее для управления нашими ИИ-агентами:

Ценность этого фреймворка системных сообщений заключается в возможности легко масштабировать создание системных сообщений для нескольких агентов, а также со временем улучшать ваши системные сообщения. Редко бывает так, что системное сообщение срабатывает идеально с первого раза для вашего полного варианта использования. Возможность вносить небольшие изменения и улучшения, изменяя базовое системное сообщение и пропуская его через систему, позволит вам сравнивать и оценивать результаты.

Для создания надёжных…

План урока

  1. Введение
  2. Безопасность
  3. Создание фреймворка системных сообщений
  4. Шаг 1: Создайте мета-системное сообщение
  5. Шаг 2: Создайте базовый промпт
  6. Шаг 3: Предоставьте базовое системное сообщение LLM
  7. Шаг 4: Итерации и улучшения
  8. Понимание угроз

Урок входит в полный доступ. Полный текст и видео открываются после оплаты. Первые уроки каждого курса бесплатны.

Откройте полный доступ

Вы прошли бесплатные уроки. Выберите тариф, чтобы продолжить обучение.

Курсы Microsoft 1 490 ₽ Разовый платёж, навсегда
  • Все курсы от Microsoft (3 шт.)
  • Именной сертификат по каждому пройденному курсу
Оплатить
Полный доступ 4 900 ₽ Разовый платёж, навсегда
  • Все 77 курсов от 11 AI-провайдеров
  • Библиотека промптов и новые курсы
Оплатить

Безопасная оплата через Robokassa: СБП, карты, электронные кошельки. Доступ откроется в этом браузере и придёт письмом. Уже оплатили? Восстановить доступ

Полезные гиды