Вызов функций в o3 и o4-mini

О чём урок

Модели o3/o4-mini — это новейшие представители нашей серии моделей "o", обученные дольше обдумывать ответ. Они являются самыми интеллектуальными моделями, выпущенными нами на сегодняшний день, и представляют собой значительный шаг вперед по сравнению с o1/o3-mini в возможностях вызова инструментов. Эти модели обучены использовать инструменты нативно в своей цепочке рассуждений (CoT), что открывает улучшенные возможности рассуждения о том, когда и как использовать инструменты. Мы выпустили руководство о том, как вызывать функции с помощью этих моделей через Responses API; это руководство дополняет его и рассказывает, как добиться наилучшей производительности вызова функций с этими моделями. Чтобы в полной мере использовать интеллект вызова функций, заложенный в моделях o3/o4-mini, мы рекомендуем несколько лучших практик как для developer prompt'ов, так и для описаний функций. Мы ввели developer messages, чтобы явно указать рассуждающим моделям, что инструкция исходит от разработчика. В моделях серии "o" любое system message, предоставленное разработчиком, автоматически преобразуется во внутреннее developer message. Для практических целей developer prompt можно рассматривать как аналог традиционного system prompt, но для ясности и корректности в этом руководстве все такие инструкции называются developer prompt'ами/сообщениями. Когда в этом документе мы говорим об описании функции, мы имеем в виду пояснительный текст в поле `description` каждого объекта функции внутри параметра `tool` в запросе к API. Это описание сообщает модели, когда и как использовать функцию. Вот пример из нашей документации по вызову функций: Здесь "Get current temperature for provided coordinates in celsius." служит описанием функции. Теперь, когда мы разобрались с определениями, можно перейти к лучшим практикам. Общий контекст: В соответствии с общими лучшими практиками prompt engineering, role prompting помогает задать базовое поведение, тон и очертить набор возможных действий. Например: Порядок вызова функций: Модели o3/o4-mini обучены достигать целей с помощью инструментов. Однако они могут ошибаться в порядке вызова инструментов. Чтобы предотвратить такие случаи, рекомендуется явно указывать порядок выполнения определенных задач.

План урока

1. Введение
2. Рекомендации по prompt'ам для повышения производительности вызова функций
3. Краткое замечание о developer prompt, system prompt и описаниях функций для рассуждающих моделей
4. Настройка контекста через developer message
5. Описание функции
6. Защита от галлюцинаций при вызове функций
7. Избегайте Chain of Thought Prompting
8. Элементы рассуждений для повышения производительности