О чём урок
Использование инструментов позволяет клиентам подключать свои большие языковые модели к внешним инструментам, таким как search engines, APIs, functions, databases и т.д. Это позволяет модели клиента разблокировать более широкий набор поведений, используя данные, хранящиеся в инструментах, выполняя действия через APIs, взаимодействуя с vector database, запрашивая search engine и т.д. Это особенно ценно для корпоративных клиентов, поскольку большая часть корпоративных данных хранится во внешних источниках. Использование инструментов состоит из 4 шагов: Шаг 1: пользователь настраивает запрос к модели Шаг 2: модель разумно решает, какой инструмент(ы) использовать и как Шаг 3: вызовы инструментов выполняются к mock database Шаг 4: модель генерирует окончательный ответ с точными citations на основе результатов инструментов Сначала мы определим mock данные, которые будут запрашивать наши инструменты. Эти данные представляют собой отчеты о продажах и каталог продукции. Теперь мы определим инструменты, которые имитируют запрос к этой database.Вы могли бы, например, использовать API корпоративной платформы продаж. Разработчик предоставляет модели несколько вещей: Преамбула, содержащая инструкции о задаче и желаемом стиле вывода. Запрос пользователя. Список инструментов для модели. (Необязательно) история чата для работы модели. Вы можете указать один или несколько инструментов для модели. Каждый инструмент должен быть описан с помощью JSON schema, указывающей имя инструмента, описание и параметры (фрагменты кода ниже). В нашем примере мы предоставляем модели два инструмента: daily_sales_report и product_catalog. Теперь давайте определим запрос пользователя. В нашем примере мы будем использовать: "Can you provide a sales summary for 29th September 2023, and also give me the details of all products in the 'Electronics' category that were sold that day, including their prices and stock levels?" Только языковая модель с Tool Use может ответить на этот запрос: это требует поиска информации в правильных внешних инструментах (шаг 2), а затем предоставления окончательного ответа на основе результатов инструментов (шаг 4).
План урока
- Шаг 0: Создание mock database
- Шаг 1 – пользователь настраивает запрос к модели
- Шаг 2 – модель разумно решает, какой инструмент(ы) использовать и как
- Шаг 3 – вызовы инструментов выполняются
- Шаг 4 – модель генерирует окончательный ответ на основе результатов инструментов
- Бонус: Citations предоставляются бесплатно с Cohere! 🎉
Урок входит в полный доступ. Полный текст и видео открываются после оплаты. Первые уроки каждого курса бесплатны.