Урок из полного доступа, первые уроки курса бесплатно Официальный курс Microsoft AI for Beginners на русском
Урок 19 · Текст · ~5 мин

Защита ИИ-агентов с помощью криптографических квитанций

Урок 19 из 19 курса «ИИ-агенты для начинающих»: официальный курс Microsoft AI for Beginners (Майкрософт) на русском языке. Урок входит в платный доступ; первые уроки курса бесплатно.

Цели урока

  • Почему аудиторские следы для ИИ-агентов важны для соблюдения требований, отладки и доверия.
  • Что такое криптографическая квитанция и чем она отличается от неподписанной записи в логе.
  • Как создать подписанную квитанцию для вызова инструмента агента на чистом Python.
  • Как проверить квитанцию офлайн и обнаружить подделку.
  • Как связать квитанции в цепочку так, чтобы удаление или изменение порядка одной квитанции нарушало всю цепочку.

О чём урок

Посмотреть видеоурок: Защита ИИ-агентов с помощью криптографических квитанций

(Видеоурок и миниатюра будут добавлены командой Microsoft по контенту после слияния, в соответствии с шаблоном уроков 14 / 15.)

  • Что доказывают квитанции и чего они явно не доказывают.

После завершения этого урока вы будете уметь:

  • Определять типы сбоев, которые требуют криптографического подтверждения происхождения действий агента.
  • Создавать подписанную Ed25519 квитанцию с каноническим JSON-содержимым.
  • Проверять квитанцию независимо, используя только открытый ключ подписавшего.
  • Обнаруживать подделку, повторно выполняя проверку изменённой квитанции.
  • Строить цепочку квитанций с хэшированием и объяснять, почему эта цепочка важна.
  • Различать, что квитанции доказывают (атрибуцию, целостность, порядок) и чего они не доказывают (корректность действия, обоснованность политики).

Представьте, что вы развернули ИИ-агента для Contoso Travel. Агент читает запросы клиентов, вызывает API для поиска авиабилетов и бронирует места от имени клиента. В прошлом квартале агент обработал 50 000 бронирований.

Сегодня приходит аудитор. Он задаёт простой вопрос: «Покажите, что сделал ваш агент».

Вы передаёте свои лог-файлы. Аудитор смотрит на них и задаёт более сложный вопрос: «Как я могу быть уверен, что эти логи не были отредактированы?»

Это и есть проблема аудиторского следа. Большинство современных развёртываний агентов полагаются на:

  • Логи приложений: записываются самим агентом, могут быть отредактированы любым, у кого есть доступ к файловой системе.
  • Облачные сервисы логирования: защищены от подделки на уровне платформы, но только если аудитор доверяет оператору платформы.
  • Логи транзакций баз данных: хорошо подходят для изменений в базе данных, но не для произвольных вызовов инструментов.

Ни один из этих вариантов не может ответить на вопрос аудитора без необходимости доверять кому-либо (вам, вашему облачному провайдеру, поставщику базы данных). Для внутреннего использования такое доверие часто приемлемо.

Криптографические квитанции решают эту проблему…

План урока

  1. Введение
  2. Проблема: аудиторский след вашего агента
  3. Что такое криптографическая квитанция?
  4. Создание квитанции на Python
  5. Проверка квитанции и обнаружение подделки
  6. Цепочка квитанций для многошаговых агентов
  7. Что доказывают квитанции (и чего не доказывают)
  8. Как доказать, что человек утвердил конкретное действие

Урок входит в полный доступ. Полный текст и видео открываются после оплаты. Первые уроки каждого курса бесплатны.

Откройте полный доступ

Вы прошли бесплатные уроки. Выберите тариф, чтобы продолжить обучение.

Курсы Microsoft 1 490 ₽ Разовый платёж, навсегда
  • Все курсы от Microsoft (3 шт.)
  • Именной сертификат по каждому пройденному курсу
Оплатить
Полный доступ 4 900 ₽ Разовый платёж, навсегда
  • Все 77 курсов от 11 AI-провайдеров
  • Библиотека промптов и новые курсы
Оплатить

Безопасная оплата через Robokassa: СБП, карты, электронные кошельки. Доступ откроется в этом браузере и придёт письмом. Уже оплатили? Восстановить доступ

Полезные гиды