О чём урок
В мире больших языковых моделей (LLM), таких как Claude, каждое взаимодействие, каждый запрос (или "промпт") требует значительных вычислительных ресурсов. Это может быть дорого и занимать время, особенно если вы отправляете похожие или идентичные запросы снова и снова. Именно здесь на помощь приходит кэширование промптов (prompt caching). Кэширование промптов в Claude — это механизм, который сохраняет результаты вычислительной работы, выполненной над вашими сообщениями. Представьте, что Claude "запоминает" часть своей работы. Когда вы отправляете последующие запросы, Claude может использовать эти "запоминания" вместо того, чтобы выполнять ту же работу с нуля. Это делает последующие запросы не только быстрее, но и дешевле в исполнении. Однако важно понимать ключевое условие: кэш будет использоваться только в том случае, если вы повторно отправляете идентичный контент. Если вы измените даже один символ, Claude будет вынужден пересчитать все заново. Срок жизни кэша составляет один час. Это означает, что функция кэширования наиболее полезна, если вы многократно отправляете один и тот же контент в течение этого временного интервала. Кэширование не включается автоматически. Чтобы использовать эту мощную функцию, вам необходимо вручную указать, какие части вашего запроса должны быть кэшированы. Для этого используются так называемые точки кэширования (cache breakpoints). Точка кэширования — это маркер, который вы добавляете в определенный блок вашего сообщения. Работа, выполненная над всем контентом до и включая эту точку, будет кэширована. Это означает, что если в последующих запросах контент до этой точки останется абсолютно идентичным, Claude сможет использовать сохраненные вычисления. Для добавления точки кэширования вам потребуется использовать расширенный (longhand) формат для написания текстовых блоков вместо сокращенного (shorthand). Сокращенный формат не предоставляет возможности для добавления поля управления кэшем, поэтому необходимо использовать полный формат с соответствующим полем для указания точки кэширования. Когда вы размещаете точку кэширования в сообщении, Claude кэширует всю вычислительную работу, выполненную до этой точки включительно. Контент, расположенный после точки кэширования, обрабатывается обычным образом, без кэширования.
План урока
- Что такое кэширование промптов в Claude?
- Управление кэшированием: Точки кэширования (Cache Breakpoints)
- Как работают точки кэширования?
- Кэширование между сообщениями (Cross-Message Caching)
- Особые случаи: Системные промпты и Инструменты (System Prompts and Tools)
- Минимальная длина контента для кэширования
- Стратегия эффективного кэширования
Урок входит в полный доступ. Полный текст и видео открываются после оплаты. Первые уроки каждого курса бесплатны.