Вызов функций в рассуждающих моделях

О чём урок

OpenAI теперь предлагает вызов функций с использованием моделей рассуждений. Модели рассуждений обучены следовать логическим цепочкам мыслей, что делает их более подходящими для сложных или многоэтапных задач. Модели рассуждений, такие как o3 и o4-mini, являются LLM, обученными с использованием обучения с подкреплением для выполнения рассуждений. Модели рассуждений думают, прежде чем ответить, создавая длинную внутреннюю цепочку мыслей перед тем, как дать ответ пользователю. Модели рассуждений превосходно справляются со сложным решением проблем, кодированием, научными рассуждениями и многоэтапным планированием для агентных рабочих процессов. Они также являются лучшими моделями для Codex CLI, нашего легковесного агента для кодирования. По большей части использование этих моделей через API очень просто и сравнимо с использованием привычных 'chat' моделей. Однако есть некоторые нюансы, которые следует учитывать, особенно когда речь идет об использовании таких функций, как вызов функций. Все примеры в этом notebook используют новый Responses API, который предоставляет удобные абстракции для управления состоянием диалога. Однако изложенные здесь принципы актуальны и при использовании старого chat completions API. Давайте сделаем простой вызов к модели рассуждений, используя Responses API. Мы указываем низкий уровень усилий для рассуждений и получаем ответ с полезным атрибутом output_text. Мы можем задавать уточняющие вопросы и использовать previous_response_id, чтобы OpenAI автоматически управлял историей диалога Легко и просто! Мы задаем относительно сложные вопросы, которые могут потребовать от модели разработать план и выполнить его пошагово, но эти рассуждения скрыты от нас — мы просто ждем немного дольше, прежде чем нам будет показан ответ. Однако, если мы проанализируем output, мы увидим, что модель использовала скрытый набор 'reasoning' токенов, которые были включены в контекстное окно модели, но не были представлены нам как конечным пользователям. Мы можем увидеть эти токены и краткое изложение рассуждений (но не сами использованные токены) в ответе.

План урока

1. Выполнение вызовов API к моделям рассуждений
2. Вызов пользовательских функций
3. Последовательное выполнение нескольких функций
4. Ручная оркестровка диалога
5. Резюме