О чём урок
Использование инструментов позволяет клиентам подключать свои большие языковые модели к внешним инструментам, таким как поисковые системы, API, функции, базы данных и т.д.
Это позволяет модели клиента разблокировать более широкий набор поведений, используя данные, хранящиеся в инструментах, выполняя действия через API, взаимодействуя с векторной базой данных, запрашивая поисковую систему и т.д.
Это особенно ценно для корпоративных клиентов, поскольку большая часть корпоративных данных хранится во внешних источниках.
Использование инструментов состоит из 4 шагов:
- Шаг 1: пользователь настраивает запрос к модели
- Шаг 2: модель разумно решает, какой(ие) инструмент(ы) использовать и как
- Шаг 3: вызовы инструментов выполняются к имитированной базе данных
- Шаг 4: модель генерирует окончательный ответ с точными ссылками на основе результатов инструментов
Сначала мы определим имитированные данные, которые будут запрашивать наши инструменты. Эти данные представляют собой отчеты о продажах и каталог продукции.
Теперь мы определим инструменты, которые имитируют запрос к этой базе данных.Вы могли бы, например, использовать API корпоративной платформы продаж.
Разработчик предоставляет модели несколько элементов:
- Преамбулу, содержащую инструкции о задаче и желаемом стиле вывода.
- Запрос пользователя.
- Список инструментов для модели.
- (Необязательно) историю чата, с которой модель будет работать.
Вы можете указать один или несколько инструментов для модели. Каждый инструмент должен быть описан с помощью JSON schema, указывающей имя инструмента, описание и параметры (фрагменты кода ниже).
В нашем примере мы предоставляем модели два инструмента: daily_sales_report и product_catalog.
Теперь давайте определим запрос пользователя.
В нашем примере мы будем использовать: "Можете ли вы предоставить сводку продаж за 29 сентября 2023 года, а также дать мне подробную информацию обо всех продуктах в категории 'Электроника', которые были проданы в этот день, включая их цены и уровни запасов?"
Только языковая модель с использованием инструментов может ответить на этот запрос: это требует поиска информации в правильных внешних инструментах (шаг 2), а затем предоставления окончательного ответа на основе результатов инструментов (шаг…
План урока
- Шаг 0: Создание имитированной базы данных
- Шаг 1 – пользователь настраивает запрос к модели
- Шаг 2 – модель разумно решает, какой(ие) инструмент(ы) использовать и как
- Шаг 3 – вызовы инструментов выполняются
- Шаг 4 – модель генерирует окончательный ответ на основе результатов инструментов
- Бонус: Ссылки предоставляются бесплатно с Cohere! 🎉
Урок входит в полный доступ. Полный текст и видео открываются после оплаты. Первые уроки каждого курса бесплатны.