Защита ИИ-агентов с помощью криптографических квитанций

Цели урока

• Почему аудиторские следы для ИИ-агентов важны для соблюдения требований, отладки и доверия.
• Что такое криптографическая квитанция и чем она отличается от неподписанной записи в логе.
• Как создать подписанную квитанцию для вызова инструмента агента на чистом Python.
• Как проверить квитанцию офлайн и обнаружить подделку.
• Как связать квитанции в цепочку так, чтобы удаление или изменение порядка одной квитанции нарушало всю цепочку.

О чём урок

Посмотреть видеоурок: Защита ИИ-агентов с помощью криптографических квитанций (Видеоурок и миниатюра будут добавлены командой Microsoft по контенту после слияния, в соответствии с шаблоном уроков 14 / 15.) В этом уроке вы узнаете: Что доказывают квитанции и чего они явно не доказывают. После завершения этого урока вы будете уметь: Определять типы сбоев, которые требуют криптографического подтверждения происхождения действий агента. Создавать подписанную Ed25519 квитанцию с каноническим JSON-содержимым. Проверять квитанцию независимо, используя только открытый ключ подписавшего. Обнаруживать подделку, повторно выполняя проверку изменённой квитанции. Строить цепочку квитанций с хэшированием и объяснять, почему эта цепочка важна. Различать, что квитанции доказывают (атрибуцию, целостность, порядок) и чего они не доказывают (корректность действия, обоснованность политики). Представьте, что вы развернули ИИ-агента для Contoso Travel. Агент читает запросы клиентов, вызывает API для поиска авиабилетов и бронирует места от имени клиента. В прошлом квартале агент обработал 50 000 бронирований. Сегодня приходит аудитор. Он задаёт простой вопрос: «Покажите, что сделал ваш агент». Вы передаёте свои лог-файлы. Аудитор смотрит на них и задаёт более сложный вопрос: «Как я могу быть уверен, что эти логи не были отредактированы?» Это и есть проблема аудиторского следа. Большинство современных развёртываний агентов полагаются на: Логи приложений: записываются самим агентом, могут быть отредактированы любым, у кого есть доступ к файловой системе. Облачные сервисы логирования: защищены от подделки на уровне платформы, но только если аудитор доверяет оператору платформы. Логи транзакций баз данных: хорошо подходят для изменений в базе данных, но не для произвольных вызовов инструментов. Ни один из этих вариантов не может ответить на вопрос аудитора без необходимости доверять кому-либо (вам, вашему облачному провайдеру, поставщику базы данных).

План урока

1. Введение
2. Проблема: аудиторский след вашего агента
3. Что такое криптографическая квитанция?
4. Создание квитанции на Python
5. Проверка квитанции и обнаружение подделки
6. Цепочка квитанций для многошаговых агентов
7. Что доказывают квитанции (и чего не доказывают)
8. Как доказать, что человек утвердил конкретное действие