О чём урок
Mistral предоставляет сервис модерации, работающий на основе модели-классификатора Ministral 8B 24.10, которая отличается высоким качеством и скоростью, обеспечивая убедительную производительность и модерацию как: - Текстового контента - Разговорного контента
Подробную информацию о защите и модерации вы можете найти в нашей документации здесь.
Мы углубимся в наш API модерации, чтобы реализовать безопасный сервис чат-бота, который позволит избежать любого контента, который может быть сексуальным, насильственным или вредоносным. Он будет разделен на 3 раздела: - Изучение эмбеддингов: Быстрый анализ представления безопасного и небезопасного контента с помощью нашей модели эмбеддингов. - Сторона пользователя: Как фильтровать и модерировать пользовательский ввод. - Сторона ассистента: Как фильтровать и модерировать вывод ассистента.
Прежде всего, давайте настроим нашего клиента.
Руководство протестировано с v1.2.3.
Добавьте свой ключ API, вы можете создать его здесь.
Прежде чем углубляться в модерацию пользовательского и ассистентского контента, давайте разберемся, как эмбеддинги представляют различные типы контента в векторном пространстве. Эмбеддинги — это числовые представления текста, которые улавливают семантическое значение. Визуализируя эти эмбеддинги, мы можем увидеть, насколько отчетливо они представлены.
Мы будем использовать набор примеров текстов, помеченных как "ultrachat" или "harmful", для генерации эмбеддингов и их визуализации.
Мы будем использовать t-SNE для уменьшения размерности эмбеддингов до 2D для визуализации.
Хотя мы не можем наблюдать полное представление этих образцов во всем векторном пространстве, мы можем уменьшить размерность, чтобы получить быстрое представление. Примечательно, что мы можем различить четкое различие между двумя наборами, которые расположены в совершенно противоположных углах.
Вы можете легко классифицировать текстовые или разговорные данные по девяти категориям. Для разговорных данных будет классифицировано последнее сообщение пользователя. Категории: - Сексуальный контент - Ненависть и дискриминация - Насилие и угрозы - Опасный и криминальный контент - Самоповреждение - Здоровье - Финансы - Закон - PII (Персонально идентифицируемая информация)
В данном случае нас особенно интересуют первые 5 категорий, за которыми мы будем внимательно следить.
Давайте попробуем с безопасными и небезопасными примерами.
Здесь мы определяем простую функцию построения графиков для визуализации наших результатов.
В…
План урока
- Обзор
- Установка/обновление mistralai
- Настройка клиента
- Изучение эмбеддингов
- Пример данных
- Визуализация эмбеддингов
- Сторона пользователя
- Безопасный
Урок входит в полный доступ. Полный текст и видео открываются после оплаты. Первые уроки каждого курса бесплатны.