Как чат-модели вызывают функции

О чём урок

Этот notebook описывает, как использовать Chat Completions API в сочетании с внешними функциями для расширения возможностей моделей GPT. tools является необязательным параметром в Chat Completion API, который можно использовать для предоставления спецификаций функций. Его цель — позволить моделям генерировать аргументы функций, соответствующие предоставленным спецификациям. Обратите внимание, что API фактически не будет выполнять вызовы функций. Разработчики должны самостоятельно выполнять вызовы функций, используя выходные данные модели. Внутри параметра tools, если предоставлен параметр functions, то по умолчанию модель будет решать, когда уместно использовать одну из функций. API можно принудительно использовать конкретную функцию, установив параметр tool_choice в {"type": "function", "function": {"name": "my_function"}}. API также можно принудительно запретить использовать какую-либо функцию, установив параметр tool_choice в "none". Если функция используется, выходные данные будут содержать "finish_reason": "tool_calls" в ответе, а также объект tool_calls, который содержит имя функции и сгенерированные аргументы функции. Этот notebook содержит следующие 2 раздела: Как генерировать аргументы функций: Укажите набор функций и используйте API для генерации аргументов функций. Как вызывать функции с аргументами, сгенерированными моделью: Завершите цикл, фактически выполняя функции с аргументами, сгенерированными моделью. Сначала определим несколько вспомогательных функций для выполнения вызовов Chat Completions API, а также для поддержания и отслеживания состояния беседы. Давайте создадим спецификации функций для взаимодействия с гипотетическим погодным API. Мы передадим эти спецификации функций в Chat Completions API, чтобы сгенерировать аргументы функций, соответствующие спецификации. Если мы запросим у модели информацию о текущей погоде, она ответит уточняющими вопросами. Как только мы предоставим недостающую информацию, она сгенерирует для нас соответствующие аргументы функции. Изменив prompt, мы можем заставить его нацелиться на другую функцию, о которой мы ему сообщили. И снова модель запрашивает у нас уточнение, потому что у нее пока недостаточно информации. В данном случае она уже знает местоположение для прогноза, но ей нужно знать, сколько дней требуется для прогноза.

План урока

1. Обзор
2. Как генерировать аргументы функций
3. Вспомогательные функции
4. Основные понятия
5. Принудительное использование конкретных функций или отсутствие функций
6. Параллельный вызов функций
7. Как вызывать функции с аргументами, сгенерированными моделью
8. Определение функции для выполнения SQL-запросов