Кратковременная память агента через сессии

Урок 102 из 299 курса «OpenAI Cookbook»: официальный курс OpenAI Academy (ОпенАИ) на русском языке. Урок входит в платный доступ; первые уроки курса бесплатно.

О чём урок

AI-агенты часто работают в длительных, многошаговых взаимодействиях, где крайне важно поддерживать правильный баланс контекста. Если передаётся слишком много, модель рискует отвлечься, стать неэффективной или полностью выйти из строя. Если сохраняется слишком мало, агент теряет связность. Здесь контекст относится к общему окну токенов (входных + выходных), которые модель может обрабатывать одновременно. Для GPT-5 эта ёмкость составляет до 272k входных токенов и 128k выходных токенов, но даже такое большое окно может быть перегружено неотфильтрованными историями, избыточными результатами инструментов или шумными извлечениями. Это делает управление контекстом не просто оптимизацией, а необходимостью. В этом руководстве мы рассмотрим, как эффективно управлять контекстом, используя объект Session из OpenAI Agents SDK, сосредоточившись на двух проверенных методах управления контекстом — обрезке (trimming) и сжатии (compression) — чтобы агенты оставались быстрыми, надёжными и экономичными. Поддержание связности в длительных диалогах – Позволяет агенту оставаться привязанным к последней цели пользователя, не таща за собой устаревшие детали. Обрезка и резюмирование на уровне сессии предотвращают переопределение сегодняшнего запроса «планом вчерашнего дня». Повышенная точность вызовов инструментов – Сфокусированный контекст улучшает выбор функций и заполнение аргументов, сокращая количество повторных попыток, тайм-аутов и каскадных сбоев при работе с несколькими инструментами. Меньшая задержка и стоимость – Меньшие, более точные prompt'ы сокращают количество токенов за ход и нагрузку на внимание. Сдерживание ошибок и галлюцинаций – Резюме действуют как «чистые комнаты», которые исправляют или опускают предыдущие ошибки; обрезка позволяет избежать усиления ложных фактов («отравление контекста») ход за ходом. Упрощённая отладка и наблюдаемость – Стабильные резюме и ограниченные истории делают логи сопоставимыми: вы можете сравнивать резюме, приписывать регрессии и надёжно воспроизводить сбои. Устойчивость к множественным проблемам и передаче – В чатах с несколькими проблемами мини-резюме по каждой проблеме позволяют агенту приостанавливать/возобновлять работу, передавать её людям или другому агенту, сохраняя при этом согласованность. OpenAI Responses API включает базовую поддержку памяти через встроенное состояние и цепочку сообщений с помощью previous_response_id.

План урока

  1. Почему управление контекстом важно
  2. Реальный сценарий
  3. Рассматриваемые методы
  4. Предварительные условия
  5. Шаг 0: Учётная запись OpenAI и OPENAI_API_KEY
  6. Шаг 1: Установите необходимые библиотеки
  7. Определение агентов
  8. Агент службы поддержки клиентов

Урок входит в полный доступ. Полный текст и видео открываются после оплаты. Первые уроки каждого курса бесплатны.

Урок входит в темы

Полезные гиды