Урок из полного доступа, первые уроки курса бесплатно Официальный курс Mistral AI Cookbook на русском
Урок 61 · Текст · ~5 мин

Защитные ограничения на уровне системы в Mistral API

Урок 61 из 154 курса «Mistral AI Cookbook»: официальный курс Mistral AI Cookbook (Мистраль) на русском языке. Урок входит в платный доступ; первые уроки курса бесплатно.

О чём урок

Mistral предоставляет сервис модерации, работающий на основе модели-классификатора Ministral 8B 24.10, отличающейся высоким качеством и скоростью для достижения убедительной производительности и модерации обоих типов контента: - Текстовый контент - Разговорный контент

Для получения подробной информации о защите и модерации, пожалуйста, обратитесь к нашей документации здесь.

Этот учебник проведет вас через настройку клиента Mistral, генерацию ответов, модерацию разговоров и визуализацию результатов.

Вы можете легко классифицировать текстовые или разговорные данные по девяти категориям. Для разговорных данных будет классифицировано последнее сообщение пользователя. Категории: - Сексуальный контент - Ненависть и дискриминация - Насилие и угрозы - Опасный и криминальный контент - Самоповреждение - Здоровье - Финансы - Закон - PII (Персонально идентифицируемая информация)

Мы будем использовать наборы данных из Hugging Face и GitHub для тестирования нашей реализации.

Прежде всего, давайте настроим нашего клиента.

Cookbook протестирован с v1.2.3.

Добавьте ваш API-ключ, вы можете создать его здесь.

Создайте функцию для генерации ответов от любой модели Mistral.

Эта функция принимает пользовательский запрос и количество генераций в качестве входных данных и возвращает список сгенерированных ответов от любой модели Mistral. Здесь мы выбрали mistral-large-latest.

Обычно каждый ответ будет немного отличаться, в зависимости от температуры и других настроек сэмплирования. Они могут быть более или менее отличными друг от друга.

Метод client.chat.complete используется для генерации ответов.

Создайте функцию для модерации разговора с использованием Mistral moderation API.

Эта функция принимает пользовательский запрос и ответ ассистента в качестве входных данных и возвращает результаты модерации.

Создайте функцию для оценки и сортировки ответов на основе результатов модерации.

Эта функция принимает пользовательский запрос и список сгенерированных ответов в качестве входных данных и возвращает окончательный ответ и список оценок. Она оценивает каждый ответ на основе результатов модерации и сортирует их в порядке возрастания максимальной оценки.

Если самая низкая оценка выше определенного порога, она возвращает безопасный ответ по умолчанию.

Создайте функцию для визуализации результатов модерации.

Эта функция принимает пользовательский запрос, список сгенерированных ответов, список…

План урока

  1. Обзор
  2. Шаг 1: Настройка
  3. Шаг 2: Генерация ответов
  4. Шаг 3: Модерация разговора
  5. Шаг 4: Оценка и сортировка ответов
  6. Шаг 5: Визуализация результатов
  7. Шаг 6: Функция для работы с набором данных
  8. Шаг 7: Загрузка наборов данных

Урок входит в полный доступ. Полный текст и видео открываются после оплаты. Первые уроки каждого курса бесплатны.

Откройте полный доступ

Вы прошли бесплатные уроки. Выберите тариф, чтобы продолжить обучение.

Курсы Mistral AI 1 490 ₽ Разовый платёж, навсегда
  • Все курсы от Mistral AI (1 шт.)
  • Именной сертификат по каждому пройденному курсу
Оплатить
Полный доступ 4 900 ₽ Разовый платёж, навсегда
  • Все 77 курсов от 11 AI-провайдеров
  • Библиотека промптов и новые курсы
Оплатить

Безопасная оплата через Robokassa: СБП, карты, электронные кошельки. Доступ откроется в этом браузере и придёт письмом. Уже оплатили? Восстановить доступ

Полезные гиды