О чём урок
В этом notebook мы поговорим об одной специфической функции нашего API — возможности добавлять префикс к ответу модели. Префикс — это, по сути, строка, которая добавляется в начало ответа модели, а не к запросу пользователя. Это означает, что модель не будет генерировать эту строку, но она будет включена как часть входных данных. Например, предположим, мы задаем модели вопрос: Входные данные: User: Hi there! Assistant: Выходные данные: Hello! It's nice to meet you. Is there something you'd like to talk about or learn more about? I'm here to help. Однако, если мы хотим, чтобы модель всегда начинала с "I'm kind" для конкретного варианта использования и продолжала с этого места как completion model, это будет выглядеть так: Входные данные: User: Hi there! Assistant: I'm kind Выходные данные: and new here, so please bear with me if I make any mistakes. How can I assist you today? Таким образом, мы можем заставить модель начинать предложение или ответ с желаемой строкой по нашему выбору! Для справки, вот еще несколько примеров использования префиксов для лучшей наглядности: Вопрос: - "How are you?"Префикс: - "Fine"Ассистент: - "Fine, thank you! How can I help you today?" Вопрос: - "Who is Albert Einstein?"Префикс: - "Well..."Ассистент: - "Well...you've asked about one of the most influential scientists in history! Albert Einstein (1879-1955) was a theoretical physicist, known best [...]" Теперь мы рассмотрим несколько интересных примеров и исследуем их скрытый потенциал! По сути, префиксы обеспечивают высокий уровень следования инструкциям и их соблюдения, а также более эффективно определяют ответ модели с меньшими усилиями. Для всех следующих примеров нам потребуется настроить наш клиент. Импортируем необходимый пакет, а затем создадим клиент с вашим API key! Темы, которые мы рассмотрим: Соблюдение языка: Как заставить модель всегда отвечать на определенном языке, независимо от входных данных. Экономия токенов: Использование потенциала префиксов для максимальной экономии входных токенов.
План урока
- Что это такое?
- Другие примеры
- Интересные примеры
- Обзор
- Соблюдение языка
- Экономия токенов
- Ролевая игра
- Защита от джейлбрейка
Урок входит в полный доступ. Полный текст и видео открываются после оплаты. Первые уроки каждого курса бесплатны.