Глава 7. Агенты с инструментами, новая версия

Цели урока

• Создание инструментов
• Планирование и вызов инструментов
• Выполнение инструментов
• Генерация ответа и цитирования
• Многошаговое использование инструментов

О чём урок

Использование инструментов расширяет идеи RAG, где внешние системы используются для управления ответами LLM, но за счет использования гораздо большего набора инструментов, чем это возможно с RAG. Концепция использования инструментов задействует полезную функцию LLM — способность действовать как механизм рассуждений и принятия решений. В то время как RAG позволяет приложениям *отвечать на вопросы*, использование инструментов позволяет тем, которые могут *автоматизировать задачи*. Использование инструментов также позволяет разработчикам создавать агентные приложения, которые могут выполнять действия, то есть выполнять как операции чтения, так и записи во внешней системе. В этом учебном пособии вы узнаете о: Вы изучите это, создав помощника по адаптации для новых сотрудников. Для начала нам необходимо установить библиотеку cohere и создать клиент Cohere. Предварительным условием, прежде чем мы сможем запустить рабочий процесс использования инструментов, является их настройка. Давайте создадим три инструмента: search_faqs: Инструмент для поиска часто задаваемых вопросов (FAQ). Для простоты мы не будем реализовывать какую-либо логику извлечения, а просто передадим список предопределенных документов, которые являются документами FAQ, использованными нами в разделе Text Embeddings. search_emails: Инструмент для поиска электронных писем. Аналогично, мы просто передадим список предопределенных электронных писем из раздела Reranking. create_calendar_event: Инструмент для создания новых событий календаря. Опять же, для простоты мы не будем реализовывать фактическое бронирование событий, а вернем имитацию успешного события. На практике мы можем подключиться к API службы календаря и реализовать всю необходимую логику здесь. Здесь мы определяем функцию Python для каждого инструмента, но в более широком смысле инструмент может быть любой функцией или службой, которая может принимать и отправлять объекты. Второй и последний шаг настройки — это определение схем инструментов в формате, который может быть передан в конечную точку Chat. Схема должна содержать следующие поля: name, description и parameters в формате, показанном ниже. Эта схема информирует LLM о том, что делает инструмент, и LLM решает, использовать ли конкретный инструмент на ее основе.

План урока

1. Настройка
2. Создание инструментов
3. Планирование и вызов инструментов
4. Генерация ответа и цитирования