Агент с инструментами на LangChain

О чём урок

Этот notebook покажет вам, как использовать LangChain для расширения модели OpenAI доступом к внешним инструментам. В частности, вы сможете создавать LLM агентов, которые используют пользовательские инструменты для ответа на запросы пользователей. LangChain — это фреймворк для разработки приложений, работающих на базе языковых моделей. Их фреймворк позволяет создавать многоуровневые приложения на базе LLM, которые осведомлены о контексте и способны динамически взаимодействовать со своей средой в качестве агентов, что приводит к упрощению кода для вас и более динамичному пользовательскому опыту для ваших клиентов. Одна из наиболее распространённых проблем с LLM — преодоление недостатка актуальности и специфичности в их обучающих данных: ответы могут быть устаревшими, и они склонны к галлюцинациям, учитывая огромное разнообразие их базы знаний. Инструменты — отличный способ позволить LLM отвечать в контролируемом контексте, который опирается на ваши существующие базы знаний и внутренние API. Вместо того чтобы пытаться с помощью prompt engineering привести LLM к желаемому ответу, вы предоставляете ему доступ к инструментам, которые он динамически вызывает для получения информации, парсит её и предоставляет клиенту. Предоставление LLM доступа к инструментам позволяет им отвечать на вопросы с контекстом непосредственно из поисковых систем, API или ваших собственных баз данных. Вместо прямого ответа, LLM с доступом к инструментам может выполнять промежуточные шаги для сбора релевантной информации. Инструменты также могут использоваться в комбинации. Например, языковую модель можно заставить использовать поисковый инструмент для поиска количественной информации и калькулятор для выполнения вычислений. Настройка: Импорт пакетов и подключение к векторной базе данных Pinecone. LLM Agent: Создание агента, который использует модифицированную версию фреймворка ReAct для рассуждений по цепочке мыслей (chain-of-thought). LLM Agent с историей: Предоставление LLM доступа к предыдущим шагам в разговоре. База знаний: Создание базы знаний из эпизодов подкаста "Stuff You Should Know", доступ к которой будет осуществляться через инструмент.

План урока

1. Что такое LangChain?
2. Почему LLM необходимо использовать инструменты?
3. Разделы notebook
4. LLM Agent
5. LLM Agent с историей
6. База знаний
7. LLM Agent с инструментами