О чём урок
Использование инструментов позволяет клиентам подключать свои большие языковые модели к внешним инструментам, таким как поисковые системы, API, функции, базы данных и т.д. Это позволяет модели клиента разблокировать более широкий набор поведений, используя данные, хранящиеся в инструментах, выполняя действия через API, взаимодействуя с векторной базой данных, запрашивая поисковую систему и т.д. Это особенно ценно для корпоративных клиентов, поскольку большая часть корпоративных данных хранится во внешних источниках. Использование инструментов состоит из 4 шагов: Шаг 1: пользователь настраивает запрос к модели Шаг 2: модель разумно решает, какой(ие) инструмент(ы) использовать и как Шаг 3: вызовы инструментов выполняются к имитированной базе данных Шаг 4: модель генерирует окончательный ответ с точными ссылками на основе результатов инструментов Сначала мы определим имитированные данные, которые будут запрашивать наши инструменты. Эти данные представляют собой отчеты о продажах и каталог продукции. Теперь мы определим инструменты, которые имитируют запрос к этой базе данных.Вы могли бы, например, использовать API корпоративной платформы продаж. Разработчик предоставляет модели несколько элементов: Преамбулу, содержащую инструкции о задаче и желаемом стиле вывода. Запрос пользователя. Список инструментов для модели. (Необязательно) историю чата, с которой модель будет работать. Вы можете указать один или несколько инструментов для модели. Каждый инструмент должен быть описан с помощью JSON schema, указывающей имя инструмента, описание и параметры (фрагменты кода ниже). В нашем примере мы предоставляем модели два инструмента: daily_sales_report и product_catalog. Теперь давайте определим запрос пользователя.
План урока
- Шаг 0: Создание имитированной базы данных
- Шаг 1 – пользователь настраивает запрос к модели
- Шаг 2 – модель разумно решает, какой(ие) инструмент(ы) использовать и как
- Шаг 3 – вызовы инструментов выполняются
- Шаг 4 – модель генерирует окончательный ответ на основе результатов инструментов
- Бонус: Ссылки предоставляются бесплатно с Cohere! 🎉
Урок входит в полный доступ. Полный текст и видео открываются после оплаты. Первые уроки каждого курса бесплатны.