Что изучать дальше

Цели урока

• Синтезировать четыре ключевых свойства LLM в рабочую ментальную модель.
• Установить связь между фреймворком «Возможности и ограничения ИИ» и «4D Framework», рассматривая их как две стороны одной системы.
• Определить конкретные изменения, которые вы сможете внести в свою практику работы с ИИ уже на этой неделе.

О чём урок

Добро пожаловать в заключительный урок курса «Возможности и ограничения ИИ». На протяжении этого курса мы исследовали фундаментальные принципы работы больших языковых моделей (LLM), таких как Claude, и теперь пришло время собрать все части воедино. Цель этого урока — сформировать целостную ментальную модель, которая позволит вам не только понимать, почему ИИ делает то, что он делает, но и предвидеть его поведение, эффективно использовать его сильные стороны и компенсировать его ограничения.

Чтобы по-настоящему понять ИИ, необходимо осознать, что его поведение определяется четырьмя основными свойствами. Каждое из этих свойств существует в континууме: от области, где ИИ демонстрирует высокую компетентность, до области, где проявляются его ограничения. Чем дальше задача находится в сторону ограничений, тем больше вам потребуется проверки и компенсации.

Эти четыре свойства — это:

1. Next Token Prediction (Предсказание следующего токена)
2. Knowledge (Знание)
3. Working Memory (Рабочая память / Контекстное окно)
4. Steerability (Управляемость)

Давайте рассмотрим каждое из них подробнее.

В своей основе LLM, такие как Claude, являются сложными предикторами следующего токена. Они не «думают» в человеческом смысле, а скорее вычисляют наиболее вероятное продолжение последовательности текста на основе огромного объема данных, на которых они были обучены. Это как очень продвинутая функция автозаполнения.

• Возможности: В хорошо изученных областях, где существуют четкие и повторяющиеся паттерны в обучающих данных, ИИ превосходно справляется с задачами. Это включает в себя обобщение текстов, переформатирование информации, объяснение распространенных концепций или написание текста в определенном стиле. Ответы ИИ в таких случаях часто звучат очень убедительно и точно.
• Ограничения: Проблемы возникают, когда ИИ сталкивается с совершенно новой территорией, редкими или неочевидными закономерностями, или когда требуется истинная оригинальность.

Пример: Попросите Claude пересказать сюжет известной сказки…

План урока

1. Следующие шаги: Глубокое понимание возможностей и ограничений ИИ
2. Основы работы ИИ: Фреймворк возможностей и ограничений
3. 1. Next Token Prediction: Откуда берутся ответы ИИ?
4. 2. Knowledge: Что на самом деле «знает» ИИ?
5. 3. Working Memory: На что ИИ обращает внимание прямо сейчас?
6. 4. Steerability: Насколько я контролирую ИИ?
7. Когда свойства сталкиваются: Диагностика проблем
8. Две половины одной системы: Связь с 4D Framework