Рассуждающие модели работают лучше через Responses API

О чём урок

Используя Responses API с новейшими моделями рассуждений OpenAI, вы можете достичь более высокого уровня интеллекта, снизить затраты и более эффективно использовать токены в своих приложениях. API также предоставляет доступ к сводкам рассуждений, поддерживает такие функции, как использование размещенных инструментов (hosted-tool use), и разработан для поддержки будущих улучшений, обеспечивающих ещё большую гибкость и производительность. Недавно мы выпустили две новые передовые модели рассуждений, o3 и o4-mini, которые превосходно сочетают возможности рассуждений с использованием агентных инструментов (agentic tool use). Многие не знают, что вы можете улучшить их производительность, в полной мере используя наш (относительно) новый Responses API. В этом руководстве (cookbook) показано, как максимально эффективно использовать эти модели, и объясняется, как рассуждения и вызовы функций (function calling) работают "за кулисами". Предоставляя модели доступ к предыдущим элементам рассуждений (reasoning items), мы можем гарантировать, что она будет работать с максимальным интеллектом и минимальными затратами. Мы представили Responses API в отдельном руководстве (cookbook) и справочнике API. Основной вывод: Responses API похож на Completions API, но с улучшениями и дополнительными функциями. Мы также внедрили зашифрованный контент для Responses, что делает его ещё более полезным для тех, кто не может использовать API в режиме с сохранением состояния (stateful way)! Прежде чем мы углубимся в то, как Responses API может помочь, давайте кратко рассмотрим, как работают модели рассуждений. Модели, такие как o3 и o4-mini, разбивают проблемы шаг за шагом, создавая внутреннюю цепочку рассуждений (chain of thought), которая кодирует их логику. В целях безопасности эти токены рассуждений (reasoning tokens) предоставляются пользователям только в суммированном виде. В многошаговом диалоге токены рассуждений отбрасываются после каждого хода, в то время как входные и выходные токены с каждого шага передаются на следующий Диаграмма взята из нашей документации Давайте рассмотрим возвращаемый объект ответа: Из JSON-дампа объекта ответа вы можете видеть, что помимо output_text модель также генерирует элемент рассуждений (reasoning item).

План урока

1. Повышение производительности моделей рассуждений с использованием Responses API
2. Обзор
3. Как работают модели рассуждений
4. Кэширование
5. Зашифрованные элементы рассуждений
6. Сводки рассуждений
7. Заключение