Урок из полного доступа, первые уроки курса бесплатно Официальный курс Cohere LLM University на русском
Урок 16 · Текст · ~5 мин

Как устроена память агента

Урок 16 из 114 курса «Cohere: LLM University»: официальный курс Cohere LLM University (Кохир) на русском языке. Урок входит в платный доступ; первые уроки курса бесплатно.

О чём урок

Пользователи часто ведут долгие беседы с LLM, ожидая, что LLM полностью запомнит все, что было сказано в предыдущих репликах. Мы делаем LLM осведомленными о предыдущей информации, просто предоставляя им полную историю разговора, то есть конкатенацию предыдущих входных запросов и генераций.

По мере того как Agents все чаще используются, мы сталкиваемся с проблемой обеспечения их полной осведомленности об информации из предыдущих реплик. Текущий подход заключается в передаче Agent'у генераций из предыдущих реплик (см. https://python.langchain.com/docs/modules/agents/how_to/custom_agent/), то есть делать то же самое, что мы делаем с LLM. Однако, как мы покажем ниже, хотя это хороший подход для LLM, он не подходит для Agents. Причина в том, что, получив тот же вход, LLM производят только окончательную генерацию; напротив, Agents сначала производят цепочку рассуждений (промежуточные шаги), затем производят окончательный результат. Следовательно, если мы сохраняем только окончательную генерацию, мы теряем некоторую важную информацию: цепочку рассуждений.

Простым решением этой проблемы было бы добавление в историю разговора как цепочки рассуждений, так и генераций. Это проблематично из-за того, что цепочки рассуждений могут быть очень длинными, особенно когда модель делает ошибки и исправляет их. Использование полных цепочек рассуждений (i) внесло бы много шума; (ii) быстро заполнило бы все входное окно модели.

В этом блокноте мы представляем простой подход к решению описанной выше проблемы. Мы предлагаем использовать объекты дополненной памяти, которые мы определяем как компактные и интерпретируемые фрагменты информации, основанные на цепочке рассуждений и генерации.

Ниже мы покажем, что с объектами дополненной памяти Agent лучше осведомлен об информации, появившейся в разговоре, и, в свою очередь, это делает поведение Agent'а более надежным и эффективным.

  • Шаг 1: Настройка Prompt'а и Agent'а
  • Шаг 2: Разговор без памяти
  • Шаг 3: Разговор с памятью с использованием AI Messages
  • Шаг 4: Разговор с памятью с использованием AI Messages и Human Messages
  • Шаг 5: Разговор с памятью с…

План урока

  1. Мотивация
  2. Цель

Урок входит в полный доступ. Полный текст и видео открываются после оплаты. Первые уроки каждого курса бесплатны.

Откройте полный доступ

Вы прошли бесплатные уроки. Выберите тариф, чтобы продолжить обучение.

Курсы Cohere 1 490 ₽ Разовый платёж, навсегда
  • Все курсы от Cohere (1 шт.)
  • Именной сертификат по каждому пройденному курсу
Оплатить
Полный доступ 4 900 ₽ Разовый платёж, навсегда
  • Все 77 курсов от 11 AI-провайдеров
  • Библиотека промптов и новые курсы
Оплатить

Безопасная оплата через Robokassa: СБП, карты, электронные кошельки. Доступ откроется в этом браузере и придёт письмом. Уже оплатили? Восстановить доступ

Полезные гиды