Как правильно оформлять запросы к ChatGPT

О чём урок

ChatGPT работает на базе gpt-3.5-turbo и gpt-4 — самых передовых моделей OpenAI. Вы можете создавать собственные приложения с помощью gpt-3.5-turbo или gpt-4, используя OpenAI API. Чат-модели принимают серию сообщений в качестве входных данных и возвращают сгенерированное ИИ сообщение в качестве выходных данных. В этом руководстве формат чата проиллюстрирован несколькими примерами вызовов API. Параметры вызова API для завершения чата, Обязательные model: название модели, которую вы хотите использовать (например, gpt-3.5-turbo, gpt-4, gpt-3.5-turbo-16k-1106) messages: список объектов сообщений, где каждый объект имеет два обязательных поля: role: роль отправителя (либо system, user, assistant, либо tool) content: содержимое сообщения (например, Write me a beautiful poem) Сообщения также могут содержать необязательное поле name, которое присваивает отправителю имя. Например, example-user, Alice, BlackbeardBot. Имена не могут содержать пробелы. Необязательные frequency_penalty: Штрафует токены на основе их частоты, уменьшая повторения. logit_bias: Изменяет вероятность указанных токенов с помощью значений смещения. logprobs: Возвращает логарифмические вероятности выходных токенов, если установлено значение true. top_logprobs: Указывает количество наиболее вероятных токенов для возврата в каждой позиции. max_tokens: Устанавливает максимальное количество сгенерированных токенов в завершении чата. n: Генерирует указанное количество вариантов завершения чата для каждого ввода. presence_penalty: Штрафует новые токены на основе их присутствия в тексте. response_format: Указывает формат вывода, например, JSON mode. seed: Обеспечивает детерминированную выборку с заданным seed. stop: Указывает до 4 последовательностей, при достижении которых API должен прекратить генерацию токенов. stream: Отправляет частичные дельты сообщений по мере доступности токенов. temperature: Устанавливает температуру выборки в диапазоне от 0 до 2. top_p: Использует nucleus sampling; учитывает токены с массой вероятности top_p. tools: Перечисляет функции, которые может вызывать модель. tool_choice: Управляет вызовами функций модели (none/auto/function). user: Уникальный идентификатор для мониторинга конечных пользователей и выявления злоупотреблений.

План урока

1. 1. Импорт библиотеки openai
2. 2. Пример вызова API для завершения чата
3. 3. Советы по инструкциям для gpt-3.5-turbo-0301
4. Системные сообщения
5. Few-shot prompting
6. 4. Подсчет токенов