Диалог, стриминг и кэш контекста

О чём урок

DeepSeek API не помнит предыдущие сообщения: каждый запрос обрабатывается независимо, и вся история диалога должна прийти в следующем запросе целиком. Это устройство напрямую влияет на то, сколько стоит переписка и как быстро приходит ответ. В этом уроке разберём, как правильно вести многоходовой диалог, как печатать ответ по мере генерации вместо ожидания полного текста, и как использовать дисковый кэш контекста, который при аккуратной работе с историей снижает стоимость входных токенов в десятки раз. В конце соберём из этих приёмов консольного чат-бота, который считает собственные расходы.

Неофициальный курс AI University. Тексты, примеры и задания написаны нашей командой по открытой документации DeepSeek на 03.10.2026; курс не связан с DeepSeek и не одобрен ею. Модели и цены меняются, сверяйтесь с документацией.

Параметр messages, который вы передаёте в chat.completions.create, это не «текущая реплика», а весь диалог целиком: системный промпт, все вопросы пользователя и все ответы модели по порядку. Сервер не хранит ничего между запросами, поэтому если не добавить предыдущий обмен репликами, модель не будет знать, о чём шла речь минуту назад.

Практическая схема такая: заводите список messages, после каждого ответа модели добавляете в конец списка её сообщение, а после вопроса пользователя добавляете пользовательское сообщение. Вот пример для двух раундов диалога:

Если нужен системный промпт (инструкция о роли, стиле ответов, ограничениях), его помещают первым элементом списка с ролью "system" один раз в начале диалога, а не повторяют в каждой реплике пользователя.

Со временем история растёт, и это две проблемы сразу: контекст модели не бесконечен (хотя у DeepSeek он большой, до 1M токенов), а входные токены без попадания в кэш стоят дороже, чем с попаданием. Поэтому длинные диалоги принято обрезать: например, хранить только последние N реплик плюс системный промпт, либо периодически просить модель сжать историю в краткое резюме и дальше вести диалог поверх этого резюме.

По умолчанию ответ приходит целиком после того, как…

План урока

1. API без памяти: история в messages
2. Стриминг: печать по мере генерации
3. Кэш контекста на диске: как экономить автоматически
4. Лимиты и поведение при нагрузке
5. Пример: консольный чат-бот со стримингом и подсчётом расходов
6. Попробуйте сами
7. Итоги
8. Документация DeepSeek