Как управлять контекстом

О чём урок

Управление контекстом Каждый запрос, который вы отправляете Claude, имеет окно контекста. Миллион токенов кажется большим объемом, но он исчерпывается быстрее, чем вы думаете, когда вы запускаете реального агента. Именно здесь на помощь приходит управление контекстом: это способ оставаться в пределах окна, не теряя при этом важной информации. Контекст — это всё, что Claude видит за один ход: Системный prompt История сообщений Определения инструментов и результаты их работы Прикрепленные файлы и навыки Блоки размышлений Это входные данные для каждого вызова API. Вы платите за них при входе и платите при выходе. И как только окно заполнено, запрос завершается с ошибкой. Поэтому цель не в том, чтобы уместить всё. Цель в том, чтобы уместить нужные вещи. Anthropic предлагает четыре паттерна для управления контекстом в долгосрочных агентах. Три из них являются первоклассными функциями API, а один — паттерном проектирования. Не загружайте всё заранее. Загружайте то, что агенту нужно сейчас, и позволяйте ему получать больше информации через инструменты, когда он запрашивает. Представьте агента по проверке соответствия. Ему не загружают всю книгу строительных норм в системный prompt — он вызывает инструмент lookup_building_code, когда ему нужен конкретный раздел. Это паттерн проектирования из четырех: ничего особенного в API, просто осознанный выбор того, что и когда вы загружаете. Когда разговор становится длинным, server-side compaction от Anthropic суммирует старые ходы в единый блок. Вы активируете эту функцию, добавив ключ context_management в свой запрос, содержащий изменение с типом: python API автоматически суммирует данные, когда входные данные превышают пороговое значение. Вам не нужно самостоятельно отслеживать длину разговора. Prompt caching позволяет вам отмечать стабильные части запроса — системный prompt, определения инструментов, длинный документ — и повторно использовать их в разных вызовах за долю стоимости. Математика здесь важнее, чем кажется.

План урока

1. Что считается контекстом
2. Паттерн 1: Just-in-time context
3. Паттерн 2: Server-side compaction
4. Паттерн 3: Prompt caching
5. Паттерн 4: Инструмент памяти
6. Комбинирование паттернов
7. Итоги