Цели урока
- Создание инструментов
- Планирование и вызов инструментов
- Выполнение инструментов
- Генерация ответа и цитирования
- Многошаговое использование инструментов
О чём урок
Использование инструментов расширяет идеи RAG, где внешние системы используются для управления ответами LLM, но за счет использования гораздо большего набора инструментов, чем это возможно с RAG. Концепция использования инструментов задействует полезную функцию LLM — способность действовать как механизм рассуждений и принятия решений.
В то время как RAG позволяет приложениям *отвечать на вопросы*, использование инструментов позволяет тем, которые могут *автоматизировать задачи*.
Использование инструментов также позволяет разработчикам создавать агентные приложения, которые могут выполнять действия, то есть выполнять как операции чтения, так и записи во внешней системе.
В этом учебном пособии вы узнаете о:
Вы изучите это, создав помощника по адаптации для новых сотрудников.
Для начала нам необходимо установить библиотеку cohere и создать клиент Cohere.
Предварительным условием, прежде чем мы сможем запустить рабочий процесс использования инструментов, является их настройка. Давайте создадим три инструмента:
- search_faqs: Инструмент для поиска часто задаваемых вопросов (FAQ). Для простоты мы не будем реализовывать какую-либо логику извлечения, а просто передадим список предопределенных документов, которые являются документами FAQ, использованными нами в разделе Text Embeddings.
- search_emails: Инструмент для поиска электронных писем. Аналогично, мы просто передадим список предопределенных электронных писем из раздела Reranking.
- create_calendar_event: Инструмент для создания новых событий календаря. Опять же, для простоты мы не будем реализовывать фактическое бронирование событий, а вернем имитацию успешного события. На практике мы можем подключиться к API службы календаря и реализовать всю необходимую логику здесь.
Здесь мы определяем функцию Python для каждого инструмента, но в более широком смысле инструмент может быть любой функцией или службой, которая может принимать и отправлять объекты.
Второй и последний шаг настройки — это определение схем инструментов в формате, который может быть передан в конечную точку Chat. Схема должна содержать следующие поля: name, description и parameters в формате, показанном ниже.
Эта схема информирует LLM о том, что делает инструмент, и LLM решает, использовать ли конкретный инструмент на ее основе.
Дополнительная литература:
План урока
- Настройка
- Создание инструментов
- Планирование и вызов инструментов
- Генерация ответа и цитирования
Урок входит в полный доступ. Полный текст и видео открываются после оплаты. Первые уроки каждого курса бесплатны.