Глава 7. Агенты с инструментами

Цели урока

• Создании инструментов
• Планировании и вызове инструментов
• Выполнении инструментов
• Генерации ответа и ссылок
• Многошаговом использовании инструментов

О чём урок

Использование инструментов расширяет идеи RAG, где внешние системы используются для направления ответа LLM, но задействуя гораздо больший набор инструментов, чем это возможно с RAG. Концепция использования инструментов задействует полезную особенность LLM — способность действовать как механизм рассуждения и принятия решений. В то время как RAG позволяет создавать приложения, которые могут отвечать на вопросы, использование инструментов позволяет создавать те, которые могут автоматизировать задачи. Использование инструментов также позволяет разработчикам создавать агентные приложения, которые могут выполнять действия, то есть выполнять как операции чтения, так и записи во внешней системе. В этом руководстве вы узнаете о: Вы изучите это, создавая помощника по адаптации для новых сотрудников. Для начала нам необходимо установить библиотеку cohere и создать клиент Cohere. Предварительным условием, прежде чем мы сможем запустить рабочий процесс использования инструментов, является их настройка. Давайте создадим три инструмента: search_faqs: Инструмент для поиска по часто задаваемым вопросам (FAQ). Для простоты мы не будем реализовывать какую-либо логику извлечения, а просто передадим список предопределенных документов, которые являются документами FAQ, использованными нами в разделе Text Embeddings. search_emails: Инструмент для поиска по электронной почте. Аналогично, мы просто передадим список предопределенных электронных писем из раздела Reranking. create_calendar_event: Инструмент для создания новых событий в календаре. Опять же, для простоты мы не будем реализовывать фактическое бронирование событий, а вернем имитацию успешного события. На практике мы можем подключиться к API календарного сервиса и реализовать всю необходимую логику здесь. Здесь мы определяем функцию Python для каждого инструмента, но в более широком смысле инструмент может быть любой функцией или сервисом, который может получать и отправлять объекты. Второй и последний шаг настройки — определить схемы инструментов в формате, который может быть передан в Chat endpoint. Схема должна содержать следующие поля: name, description и parameter_definitions в формате, показанном ниже.

План урока

1. Настройка
2. Создание инструментов
3. Планирование и вызов инструментов
4. Генерация ответа и ссылок