Цели урока
- Почему аудиторские следы для ИИ-агентов важны для соблюдения требований, отладки и доверия.
- Что такое криптографическая квитанция и чем она отличается от неподписанной записи в логе.
- Как создать подписанную квитанцию для вызова инструмента агента на чистом Python.
- Как проверить квитанцию офлайн и обнаружить подделку.
- Как связать квитанции в цепочку так, чтобы удаление или изменение порядка одной квитанции нарушало всю цепочку.
О чём урок
Посмотреть видеоурок: Защита ИИ-агентов с помощью криптографических квитанций
(Видеоурок и миниатюра будут добавлены командой Microsoft по контенту после слияния, в соответствии с шаблоном уроков 14 / 15.)
- Что доказывают квитанции и чего они явно не доказывают.
После завершения этого урока вы будете уметь:
- Определять типы сбоев, которые требуют криптографического подтверждения происхождения действий агента.
- Создавать подписанную Ed25519 квитанцию с каноническим JSON-содержимым.
- Проверять квитанцию независимо, используя только открытый ключ подписавшего.
- Обнаруживать подделку, повторно выполняя проверку изменённой квитанции.
- Строить цепочку квитанций с хэшированием и объяснять, почему эта цепочка важна.
- Различать, что квитанции доказывают (атрибуцию, целостность, порядок) и чего они не доказывают (корректность действия, обоснованность политики).
Представьте, что вы развернули ИИ-агента для Contoso Travel. Агент читает запросы клиентов, вызывает API для поиска авиабилетов и бронирует места от имени клиента. В прошлом квартале агент обработал 50 000 бронирований.
Сегодня приходит аудитор. Он задаёт простой вопрос: «Покажите, что сделал ваш агент».
Вы передаёте свои лог-файлы. Аудитор смотрит на них и задаёт более сложный вопрос: «Как я могу быть уверен, что эти логи не были отредактированы?»
Это и есть проблема аудиторского следа. Большинство современных развёртываний агентов полагаются на:
- Логи приложений: записываются самим агентом, могут быть отредактированы любым, у кого есть доступ к файловой системе.
- Облачные сервисы логирования: защищены от подделки на уровне платформы, но только если аудитор доверяет оператору платформы.
- Логи транзакций баз данных: хорошо подходят для изменений в базе данных, но не для произвольных вызовов инструментов.
Ни один из этих вариантов не может ответить на вопрос аудитора без необходимости доверять кому-либо (вам, вашему облачному провайдеру, поставщику базы данных). Для внутреннего использования такое доверие часто приемлемо.
Криптографические квитанции решают эту проблему…
План урока
- Введение
- Проблема: аудиторский след вашего агента
- Что такое криптографическая квитанция?
- Создание квитанции на Python
- Проверка квитанции и обнаружение подделки
- Цепочка квитанций для многошаговых агентов
- Что доказывают квитанции (и чего не доказывают)
- Как доказать, что человек утвердил конкретное действие
Урок входит в полный доступ. Полный текст и видео открываются после оплаты. Первые уроки каждого курса бесплатны.