Урок из полного доступа, первые уроки курса бесплатно Официальный курс Mistral AI Cookbook на русском
Урок 121 · Текст · ~5 мин

Вызов функций для REST API: Mistral 7B в Ollama

Урок 121 из 154 курса «Mistral AI Cookbook»: официальный курс Mistral AI Cookbook (Мистраль) на русском языке. Урок входит в платный доступ; первые уроки курса бесплатно.

О чём урок

Вызов функций позволяет моделям Mistral подключаться к внешним инструментам. Интегрируя модели Mistral с внешними инструментами, такими как пользовательские функции или API, пользователи могут легко создавать приложения, ориентированные на конкретные сценарии использования и практические задачи. В этом руководстве, например, мы написали две функции для отслеживания информации о питомцах и пользователях зоомагазина. Мы можем использовать эти два инструмента для предоставления ответов на запросы, связанные с питомцами.

В общих чертах, процесс вызова функций состоит из четырех шагов:

  • Пользователь: указывает инструменты и запрос
  • Модель: Генерирует аргументы функции, если применимо
  • Пользователь: Выполняет функцию для получения результатов инструмента
  • Модель: Генерирует окончательный ответ

В этом руководстве мы рассмотрим простой пример, чтобы продемонстрировать, как вызов функций работает с моделями Mistral на этих четырех шагах.

Прежде чем начать, давайте предположим, что у нас есть конечные точки спецификации OpenAPI, содержащие информацию о зоомагазине. Когда пользователи задают вопросы об этом API, они могут использовать определенные инструменты для получения ответов на основе этих данных. Это всего лишь пример для эмуляции внешней базы данных через API, к которой LLM не имеет прямого доступа.

Настройка функций для вызова REST API. Мы используем пример зоомагазина из Swagger EditorМы загружаем спецификацию openapi.json.

Пример curl-запроса для получения информации о питомце по PetID

curl -X 'GET' \ 'https://petstore3.swagger.io/api/v3/pet/1' \ -H 'accept: application/json'

Пример curl-запроса для получения информации о пользователе по имени пользователя curl -X 'GET' \ 'https://petstore3.swagger.io/api/v3/user/user1' \ -H 'accept: application/json'

Пользователи могут определять все необходимые инструменты для своих сценариев использования.

  • Во многих случаях у нас может быть несколько инструментов. Например, давайте рассмотрим две функции в качестве наших инструментов: retrieve_pet_info и retreive_user_info для получения информации о питомце и пользователе по заданным petID и username.
  • Затем мы организуем эти две функции в словарь, где ключи представляют имя функции, а значения — саму функцию…

План урока

  1. Шаг 1. Пользователь: указывает инструменты и запрос
  2. Инструменты
  3. Пользовательский запрос
  4. Шаг 3. Пользователь: Выполняет функцию для получения результатов инструмента

Урок входит в полный доступ. Полный текст и видео открываются после оплаты. Первые уроки каждого курса бесплатны.

Откройте полный доступ

Вы прошли бесплатные уроки. Выберите тариф, чтобы продолжить обучение.

Курсы Mistral AI 1 490 ₽ Разовый платёж, навсегда
  • Все курсы от Mistral AI (1 шт.)
  • Именной сертификат по каждому пройденному курсу
Оплатить
Полный доступ 4 900 ₽ Разовый платёж, навсегда
  • Все 77 курсов от 11 AI-провайдеров
  • Библиотека промптов и новые курсы
Оплатить

Безопасная оплата через Robokassa: СБП, карты, электронные кошельки. Доступ откроется в этом браузере и придёт письмом. Уже оплатили? Восстановить доступ

Полезные гиды