Урок из полного доступа, первые уроки курса бесплатно Официальный курс Cohere LLM University на русском
Урок 14 · Текст · ~5 мин

Как модель вызывает инструменты: базовый пример

Урок 14 из 114 курса «Cohere: LLM University»: официальный курс Cohere LLM University (Кохир) на русском языке. Урок входит в платный доступ; первые уроки курса бесплатно.

О чём урок

Использование инструментов позволяет клиентам подключать свои большие языковые модели к внешним инструментам, таким как поисковые системы, API, функции, базы данных и т.д.

Это позволяет модели клиента разблокировать более широкий набор поведений, используя данные, хранящиеся в инструментах, выполняя действия через API, взаимодействуя с векторной базой данных, запрашивая поисковую систему и т.д.

Это особенно ценно для корпоративных клиентов, поскольку большая часть корпоративных данных хранится во внешних источниках.

Использование инструментов состоит из 4 шагов:

  • Шаг 1: пользователь настраивает запрос к модели
  • Шаг 2: модель разумно решает, какой(ие) инструмент(ы) использовать и как
  • Шаг 3: вызовы инструментов выполняются к имитированной базе данных
  • Шаг 4: модель генерирует окончательный ответ с точными ссылками на основе результатов инструментов

Сначала мы определим имитированные данные, которые будут запрашивать наши инструменты. Эти данные представляют собой отчеты о продажах и каталог продукции.

Теперь мы определим инструменты, которые имитируют запрос к этой базе данных.Вы могли бы, например, использовать API корпоративной платформы продаж.

Разработчик предоставляет модели несколько элементов:

  • Преамбулу, содержащую инструкции о задаче и желаемом стиле вывода.
  • Запрос пользователя.
  • Список инструментов для модели.
  • (Необязательно) историю чата, с которой модель будет работать.

Вы можете указать один или несколько инструментов для модели. Каждый инструмент должен быть описан с помощью JSON schema, указывающей имя инструмента, описание и параметры (фрагменты кода ниже).

В нашем примере мы предоставляем модели два инструмента: daily_sales_report и product_catalog.

Теперь давайте определим запрос пользователя.

В нашем примере мы будем использовать: "Можете ли вы предоставить сводку продаж за 29 сентября 2023 года, а также дать мне подробную информацию обо всех продуктах в категории 'Электроника', которые были проданы в этот день, включая их цены и уровни запасов?"

Только языковая модель с использованием инструментов может ответить на этот запрос: это требует поиска информации в правильных внешних инструментах (шаг 2), а затем предоставления окончательного ответа на основе результатов инструментов (шаг…

План урока

  1. Шаг 0: Создание имитированной базы данных
  2. Шаг 1 – пользователь настраивает запрос к модели
  3. Шаг 2 – модель разумно решает, какой(ие) инструмент(ы) использовать и как
  4. Шаг 3 – вызовы инструментов выполняются
  5. Шаг 4 – модель генерирует окончательный ответ на основе результатов инструментов
  6. Бонус: Ссылки предоставляются бесплатно с Cohere! 🎉

Урок входит в полный доступ. Полный текст и видео открываются после оплаты. Первые уроки каждого курса бесплатны.

Откройте полный доступ

Вы прошли бесплатные уроки. Выберите тариф, чтобы продолжить обучение.

Курсы Cohere 1 490 ₽ Разовый платёж, навсегда
  • Все курсы от Cohere (1 шт.)
  • Именной сертификат по каждому пройденному курсу
Оплатить
Полный доступ 4 900 ₽ Разовый платёж, навсегда
  • Все 77 курсов от 11 AI-провайдеров
  • Библиотека промптов и новые курсы
Оплатить

Безопасная оплата через Robokassa: СБП, карты, электронные кошельки. Доступ откроется в этом браузере и придёт письмом. Уже оплатили? Восстановить доступ

Урок входит в темы

Полезные гиды