Урок из полного доступа, первые уроки курса бесплатно Официальный курс Cohere LLM University на русском
Урок 15 · Текст · ~5 мин

Вызов инструментов на тестовой базе: вторая версия

Урок 15 из 114 курса «Cohere: LLM University»: официальный курс Cohere LLM University (Кохир) на русском языке. Урок входит в платный доступ; первые уроки курса бесплатно.

О чём урок

Использование инструментов позволяет клиентам подключать свои большие языковые модели к внешним инструментам, таким как search engines, APIs, functions, databases и т.д.

Это позволяет модели клиента разблокировать более широкий набор поведений, используя данные, хранящиеся в инструментах, выполняя действия через APIs, взаимодействуя с vector database, запрашивая search engine и т.д.

Это особенно ценно для корпоративных клиентов, поскольку большая часть корпоративных данных хранится во внешних источниках.

Использование инструментов состоит из 4 шагов:

  • Шаг 1: пользователь настраивает запрос к модели
  • Шаг 2: модель разумно решает, какой инструмент(ы) использовать и как
  • Шаг 3: вызовы инструментов выполняются к mock database
  • Шаг 4: модель генерирует окончательный ответ с точными citations на основе результатов инструментов

Сначала мы определим mock данные, которые будут запрашивать наши инструменты. Эти данные представляют собой отчеты о продажах и каталог продукции.

Теперь мы определим инструменты, которые имитируют запрос к этой database.Вы могли бы, например, использовать API корпоративной платформы продаж.

Разработчик предоставляет модели несколько вещей:

  • Преамбула, содержащая инструкции о задаче и желаемом стиле вывода.
  • Запрос пользователя.
  • Список инструментов для модели.
  • (Необязательно) история чата для работы модели.

Вы можете указать один или несколько инструментов для модели. Каждый инструмент должен быть описан с помощью JSON schema, указывающей имя инструмента, описание и параметры (фрагменты кода ниже).

В нашем примере мы предоставляем модели два инструмента: daily_sales_report и product_catalog.

Теперь давайте определим запрос пользователя.

В нашем примере мы будем использовать: "Can you provide a sales summary for 29th September 2023, and also give me the details of all products in the 'Electronics' category that were sold that day, including their prices and stock levels?"

Только языковая модель с Tool Use может ответить на этот запрос: это требует поиска информации в правильных внешних инструментах (шаг 2), а затем предоставления окончательного ответа на основе результатов инструментов (шаг 4).

Модель интеллектуально выбирает правильный инструмент(ы) для…

План урока

  1. Шаг 0: Создание mock database
  2. Шаг 1 – пользователь настраивает запрос к модели
  3. Шаг 2 – модель разумно решает, какой инструмент(ы) использовать и как
  4. Шаг 3 – вызовы инструментов выполняются
  5. Шаг 4 – модель генерирует окончательный ответ на основе результатов инструментов
  6. Бонус: Citations предоставляются бесплатно с Cohere! 🎉

Урок входит в полный доступ. Полный текст и видео открываются после оплаты. Первые уроки каждого курса бесплатны.

Откройте полный доступ

Вы прошли бесплатные уроки. Выберите тариф, чтобы продолжить обучение.

Курсы Cohere 1 490 ₽ Разовый платёж, навсегда
  • Все курсы от Cohere (1 шт.)
  • Именной сертификат по каждому пройденному курсу
Оплатить
Полный доступ 4 900 ₽ Разовый платёж, навсегда
  • Все 77 курсов от 11 AI-провайдеров
  • Библиотека промптов и новые курсы
Оплатить

Безопасная оплата через Robokassa: СБП, карты, электронные кошельки. Доступ откроется в этом браузере и придёт письмом. Уже оплатили? Восстановить доступ

Урок входит в темы

Полезные гиды