О чём урок
Mistral предоставляет сервис модерации, работающий на основе модели-классификатора Ministral 8B 24.10, отличающейся высоким качеством и скоростью для достижения убедительной производительности и модерации обоих типов контента: - Текстовый контент - Разговорный контент
Для получения подробной информации о защите и модерации, пожалуйста, обратитесь к нашей документации здесь.
Этот учебник проведет вас через настройку клиента Mistral, генерацию ответов, модерацию разговоров и визуализацию результатов.
Вы можете легко классифицировать текстовые или разговорные данные по девяти категориям. Для разговорных данных будет классифицировано последнее сообщение пользователя. Категории: - Сексуальный контент - Ненависть и дискриминация - Насилие и угрозы - Опасный и криминальный контент - Самоповреждение - Здоровье - Финансы - Закон - PII (Персонально идентифицируемая информация)
Мы будем использовать наборы данных из Hugging Face и GitHub для тестирования нашей реализации.
Прежде всего, давайте настроим нашего клиента.
Cookbook протестирован с v1.2.3.
Добавьте ваш API-ключ, вы можете создать его здесь.
Создайте функцию для генерации ответов от любой модели Mistral.
Эта функция принимает пользовательский запрос и количество генераций в качестве входных данных и возвращает список сгенерированных ответов от любой модели Mistral. Здесь мы выбрали mistral-large-latest.
Обычно каждый ответ будет немного отличаться, в зависимости от температуры и других настроек сэмплирования. Они могут быть более или менее отличными друг от друга.
Метод client.chat.complete используется для генерации ответов.
Создайте функцию для модерации разговора с использованием Mistral moderation API.
Эта функция принимает пользовательский запрос и ответ ассистента в качестве входных данных и возвращает результаты модерации.
Создайте функцию для оценки и сортировки ответов на основе результатов модерации.
Эта функция принимает пользовательский запрос и список сгенерированных ответов в качестве входных данных и возвращает окончательный ответ и список оценок. Она оценивает каждый ответ на основе результатов модерации и сортирует их в порядке возрастания максимальной оценки.
Если самая низкая оценка выше определенного порога, она возвращает безопасный ответ по умолчанию.
Создайте функцию для визуализации результатов модерации.
Эта функция принимает пользовательский запрос, список сгенерированных ответов, список…
План урока
- Обзор
- Шаг 1: Настройка
- Шаг 2: Генерация ответов
- Шаг 3: Модерация разговора
- Шаг 4: Оценка и сортировка ответов
- Шаг 5: Визуализация результатов
- Шаг 6: Функция для работы с набором данных
- Шаг 7: Загрузка наборов данных
Урок входит в полный доступ. Полный текст и видео открываются после оплаты. Первые уроки каждого курса бесплатны.