Возможности и ограничения AI

Что языковые модели умеют, чего нет, и как обходить типичные подводные камни.

14 уроков, первые 3 бесплатно. Полный доступ: 1490 руб.

Уроки курса

  1. Intro to AI Capabilities and Limitations
  2. What We Mean by AI
  3. How AI Gets Its Character
  4. Next Token Prediction
  5. Try it out
  6. Knowledge
  7. Try it out
  8. Working Memory
  9. Try it out
  10. Steerability
  11. Try it out
  12. When Properties Collide
  13. Next Steps
  14. Course Quiz

Эффект «Потерянного в середине»: Оптимизация контекстного окна Claude

Часто кажется, что чем больше информации мы предоставим искусственному интеллекту, тем лучше будет его ответ. Добавьте весь документ, включите каждое сообщение, предоставьте весь доступный контекст – ведь чем больше данных, тем точнее результат, верно? Не всегда.

На самом деле, существует феномен, интуитивно знакомый каждому, кто когда-либо готовился к экзамену: наша способность удерживать информацию в уме одновременно ограничена. И, как правило, то, что находится в середине, имеет тенденцию исчезать первым. Прежде чем мы углубимся в то, как это влияет на модели ИИ, давайте рассмотрим, как это проявляется в нашей собственной памяти.

Эффект последовательного положения: Уроки человеческой памяти

Представьте, что вам показывают длинный список слов, по одному за раз, с небольшой паузой между каждым. Вы пытаетесь запомнить как можно больше. После того как список закончится, вы, скорее всего, обнаружите, что лучше всего помните слова из начала и конца списка. Слова, расположенные в середине, часто забываются. Это явление известно как эффект последовательного положения (serial position effect) или эффект первичности-новизны (primacy–recency effect).

Психологи изучают его более века. Элементы в начале списка выигрывают от эффекта первичности (primacy effect) — они получают больше времени на повторение и обработку, закрепляясь в долговременной памяти. Элементы в конце списка выигрывают от эффекта новизны (recency effect) — они еще свежи в кратковременной памяти. Середина же не получает ни одного из этих преимуществ, оказываясь наиболее уязвимой для забывания.

Графически это часто изображается в виде U-образной кривой, где вероятность запоминания высока в начале и конце списка и значительно падает в середине. Этот феномен является фундаментальным аспектом нашей рабочей памяти (Working Memory) и ее ограничений.

LLM и феномен «Потерянного в середине»

Самое удивительное и важное: большие языковые модели (LLM) демонстрируют ту же закономерность. В 2023 году исследователи из Стэнфорда (Liu et al., 2023) провели эксперимент, помещая ключевой факт в разные позиции внутри длинного контекстного окна LLM. Точность ответов модели была самой высокой, когда факт появлялся в самом начале или в самом конце контекста, и падала более чем на 30%, когда он был «похоронен» в середине.

Это не случайность или «причуда». Это структурная особенность. Паттерны внимания архитектуры Transformer, на которой основаны современные LLM, естественным образом уделяют больше внимания краям контекстного окна. Таким образом, инструкции в начале и конце контекстного окна выполняются лучше, а середина «теряется». Именно поэтому «больше контекста» не всегда означает «лучшие результаты».

Что это означает для проектирования промптов?

Если вы вставите 20-страничный документ в промпт и зададите вопрос о чем-то на 11-й странице, модель с большей вероятностью пропустит эту информацию, чем если бы она была на 1-й или 20-й странице. Это имеет реальные последствия для того, как вы структурируете свой контекст при работе с Claude или другими LLM.

Практический совет прост:

Это отправная точка, а не предел. По мере того как вы будете осваивать работу с Claude, вы откроете для себя все более изощренные способы структурирования контекста, чтобы модель надежно понимала, что важно. Это включает в себя использование положения информации в окне, решение о том, что включать, а что исключать, и как не допустить, чтобы критические инструкции «соскользнули» в «мертвую зону». Цель всегда одна: сделать максимально очевидным для Claude, что именно вам нужно.

Более широкая перспектива: Искусство проектирования контекста

Деградация контекста — это причина, по которой «просто дайте больше контекста» не всегда является ответом. Каждый фрагмент контекста, который вы добавляете, отодвигает другие фрагменты дальше в середину — в «мертвую зону» внимания. В этом заключается основное напряжение проектирования контекста (context engineering): не только что включать, но и куда это помещать, и что вообще исключать.

Больше контекста ≠ лучшие результаты. Внимание модели конечно. Безжалостно курируйте информацию, стратегически размещайте ее и повторяйте то, что действительно важно. Концепция, которую мы рассмотрели на примере человеческой памяти, уже показала это: слова в середине исчезли. То же самое происходит внутри каждого длинного разговора, каждого вставленного документа, каждого контекстного окна, заполненного до краев. Решение не в том, чтобы добавить больше — оно в том, чтобы действовать умнее.