Основы вызова функций

О чём урок

Function calling позволяет моделям Mistral подключаться к внешним инструментам. Интегрируя модели Mistral с внешними инструментами, такими как пользовательские функции или API, пользователи могут легко создавать приложения, ориентированные на конкретные сценарии использования и практические задачи. В этом руководстве, например, мы написали две функции для отслеживания статуса платежа и даты платежа. Мы можем использовать эти два инструмента для предоставления ответов на запросы, связанные с платежами. В общих чертах, Function calling включает четыре шага: Пользователь: определяет инструменты и запрос Модель: генерирует аргументы функции, если применимо Пользователь: выполняет функцию для получения результатов инструмента Модель: генерирует окончательный ответ В этом руководстве мы рассмотрим простой пример, чтобы продемонстрировать, как Function calling работает с моделями Mistral на этих четырех шагах. Прежде чем начать, предположим, что у нас есть dataframe, содержащий платежные транзакции. Когда пользователи задают вопросы об этом dataframe, они могут использовать определенные инструменты для получения ответов на эти данные. Это всего лишь пример для имитации внешней базы данных, к которой LLM не может получить прямой доступ. Пользователи могут определять все необходимые инструменты для своих сценариев использования. Во многих случаях у нас может быть несколько инструментов в распоряжении. Например, рассмотрим две функции в качестве наших двух инструментов: retrieve_payment_status и retrieve_payment_date для получения статуса платежа и даты платежа по заданному ID транзакции. Чтобы модели Mistral понимали функции, нам необходимо описать их спецификации с помощью JSON schema. В частности, нам нужно описать тип, имя функции, описание функции, параметры функции и обязательный параметр для функции. Поскольку у нас здесь две функции, давайте перечислим две спецификации функций в списке. Затем мы организуем две функции в словарь, где ключи представляют имя функции, а значения — саму функцию с определенным df. Это позволяет нам вызывать каждую функцию по ее имени.

План урока

1. Шаг 1. Пользователь: определяет инструменты и запрос
2. Инструменты
3. Запрос пользователя
4. Шаг 2. Модель: генерирует аргументы функции
5. Шаг 3. Пользователь: выполняет функцию для получения результатов инструмента
6. Шаг 4. Модель: генерирует окончательный ответ