О чём урок
ChatGPT работает на базе gpt-3.5-turbo и gpt-4 — самых передовых моделей OpenAI.
Вы можете создавать собственные приложения с помощью gpt-3.5-turbo или gpt-4, используя OpenAI API.
Чат-модели принимают серию сообщений в качестве входных данных и возвращают сгенерированное ИИ сообщение в качестве выходных данных.
В этом руководстве формат чата проиллюстрирован несколькими примерами вызовов API.
Параметры вызова API для завершения чата, Обязательные
- model: название модели, которую вы хотите использовать (например, gpt-3.5-turbo, gpt-4, gpt-3.5-turbo-16k-1106)
- messages: список объектов сообщений, где каждый объект имеет два обязательных поля: role: роль отправителя (либо system, user, assistant, либо tool)
- content: содержимое сообщения (например, Write me a beautiful poem)
Сообщения также могут содержать необязательное поле name, которое присваивает отправителю имя. Например, example-user, Alice, BlackbeardBot. Имена не могут содержать пробелы.
Необязательные
- frequency_penalty: Штрафует токены на основе их частоты, уменьшая повторения.
- logit_bias: Изменяет вероятность указанных токенов с помощью значений смещения.
- logprobs: Возвращает логарифмические вероятности выходных токенов, если установлено значение true.
- top_logprobs: Указывает количество наиболее вероятных токенов для возврата в каждой позиции.
- max_tokens: Устанавливает максимальное количество сгенерированных токенов в завершении чата.
- n: Генерирует указанное количество вариантов завершения чата для каждого ввода.
- presence_penalty: Штрафует новые токены на основе их присутствия в тексте.
- response_format: Указывает формат вывода, например, JSON mode.
- seed: Обеспечивает детерминированную выборку с заданным seed.
- stop: Указывает до 4 последовательностей, при достижении которых API должен прекратить генерацию токенов.
- stream: Отправляет частичные дельты сообщений по мере доступности токенов.
- temperature: Устанавливает температуру выборки в диапазоне от 0 до 2.
- top_p: Использует nucleus sampling; учитывает токены с массой вероятности top_p.
- tools: Перечисляет функции, которые может вызывать модель.
- tool_choice: Управляет вызовами функций модели (none/auto/function).
- user: Уникальный идентификатор для мониторинга конечных пользователей и выявления злоупотреблений.
По состоянию на январь 2024 года вы также можете по желанию предоставить список functions, которые сообщают GPT, может ли…
План урока
- 1. Импорт библиотеки openai
- 2. Пример вызова API для завершения чата
- 3. Советы по инструкциям для gpt-3.5-turbo-0301
- Системные сообщения
- Few-shot prompting
- 4. Подсчет токенов
Урок входит в полный доступ. Полный текст и видео открываются после оплаты. Первые уроки каждого курса бесплатны.