Вызов функций для REST API: Mistral 7B в Ollama

О чём урок

Вызов функций позволяет моделям Mistral подключаться к внешним инструментам. Интегрируя модели Mistral с внешними инструментами, такими как пользовательские функции или API, пользователи могут легко создавать приложения, ориентированные на конкретные сценарии использования и практические задачи. В этом руководстве, например, мы написали две функции для отслеживания информации о питомцах и пользователях зоомагазина. Мы можем использовать эти два инструмента для предоставления ответов на запросы, связанные с питомцами. В общих чертах, процесс вызова функций состоит из четырех шагов: Пользователь: указывает инструменты и запрос Модель: Генерирует аргументы функции, если применимо Пользователь: Выполняет функцию для получения результатов инструмента Модель: Генерирует окончательный ответ В этом руководстве мы рассмотрим простой пример, чтобы продемонстрировать, как вызов функций работает с моделями Mistral на этих четырех шагах. Прежде чем начать, давайте предположим, что у нас есть конечные точки спецификации OpenAPI, содержащие информацию о зоомагазине. Когда пользователи задают вопросы об этом API, они могут использовать определенные инструменты для получения ответов на основе этих данных. Это всего лишь пример для эмуляции внешней базы данных через API, к которой LLM не имеет прямого доступа. Настройка функций для вызова REST API. Мы используем пример зоомагазина из Swagger EditorМы загружаем спецификацию openapi.json. Пример curl-запроса для получения информации о питомце по PetID curl -X 'GET' \ 'https://petstore3.swagger.io/api/v3/pet/1' \ -H 'accept: application/json' Пример curl-запроса для получения информации о пользователе по имени пользователя curl -X 'GET' \ 'https://petstore3.swagger.io/api/v3/user/user1' \ -H 'accept: application/json' Пользователи могут определять все необходимые инструменты для своих сценариев использования. Во многих случаях у нас может быть несколько инструментов. Например, давайте рассмотрим две функции в качестве наших инструментов: retrieve_pet_info и retreive_user_info для получения информации о питомце и пользователе по заданным petID и username.

План урока

1. Шаг 1. Пользователь: указывает инструменты и запрос
2. Инструменты
3. Пользовательский запрос
4. Шаг 3. Пользователь: Выполняет функцию для получения результатов инструмента