Урок из полного доступа, первые уроки курса бесплатно Официальный курс Mistral AI Cookbook на русском
Урок 71 · Текст · ~5 мин

Префиксы ответа: язык, роли, защита от джейлбрейка

Урок 71 из 154 курса «Mistral AI Cookbook»: официальный курс Mistral AI Cookbook (Мистраль) на русском языке. Урок входит в платный доступ; первые уроки курса бесплатно.

О чём урок

В этом notebook мы поговорим об одной специфической функции нашего API — возможности добавлять префикс к ответу модели.

Префикс — это, по сути, строка, которая добавляется в начало ответа модели, а не к запросу пользователя. Это означает, что модель не будет генерировать эту строку, но она будет включена как часть входных данных.

Например, предположим, мы задаем модели вопрос:

  • Входные данные: User: Hi there! Assistant:
  • Выходные данные: Hello! It's nice to meet you. Is there something you'd like to talk about or learn more about? I'm here to help.

Однако, если мы хотим, чтобы модель всегда начинала с "I'm kind" для конкретного варианта использования и продолжала с этого места как completion model, это будет выглядеть так:

  • Входные данные: User: Hi there! Assistant: I'm kind
  • Выходные данные: and new here, so please bear with me if I make any mistakes. How can I assist you today?

Таким образом, мы можем заставить модель начинать предложение или ответ с желаемой строкой по нашему выбору!

Для справки, вот еще несколько примеров использования префиксов для лучшей наглядности:

Вопрос: - "How are you?"Префикс: - "Fine"Ассистент: - "Fine, thank you! How can I help you today?"

Вопрос: - "Who is Albert Einstein?"Префикс: - "Well..."Ассистент: - "Well...you've asked about one of the most influential scientists in history! Albert Einstein (1879-1955) was a theoretical physicist, known best [...]"

Теперь мы рассмотрим несколько интересных примеров и исследуем их скрытый потенциал!

По сути, префиксы обеспечивают высокий уровень следования инструкциям и их соблюдения, а также более эффективно определяют ответ модели с меньшими усилиями.

Для всех следующих примеров нам потребуется настроить наш клиент. Импортируем необходимый пакет, а затем создадим клиент с вашим API key!

Темы, которые мы рассмотрим:

  • Соблюдение языка: Как заставить модель всегда отвечать на определенном языке, независимо от входных данных.
  • Экономия токенов: Использование потенциала префиксов для максимальной экономии входных токенов.
  • Ролевая игра: Использование префиксов для различных…

План урока

  1. Что это такое?
  2. Другие примеры
  3. Интересные примеры
  4. Обзор
  5. Соблюдение языка
  6. Экономия токенов
  7. Ролевая игра
  8. Защита от джейлбрейка

Урок входит в полный доступ. Полный текст и видео открываются после оплаты. Первые уроки каждого курса бесплатны.

Откройте полный доступ

Вы прошли бесплатные уроки. Выберите тариф, чтобы продолжить обучение.

Курсы Mistral AI 1 490 ₽ Разовый платёж, навсегда
  • Все курсы от Mistral AI (1 шт.)
  • Именной сертификат по каждому пройденному курсу
Оплатить
Полный доступ 4 900 ₽ Разовый платёж, навсегда
  • Все 77 курсов от 11 AI-провайдеров
  • Библиотека промптов и новые курсы
Оплатить

Безопасная оплата через Robokassa: СБП, карты, электронные кошельки. Доступ откроется в этом браузере и придёт письмом. Уже оплатили? Восстановить доступ

Полезные гиды