О чём урок
Когда вы впервые начинаете использовать модели Mistral, ваше первое взаимодействие будет вращаться вокруг промптов. Искусство создания эффективных промптов имеет решающее значение для получения желаемых ответов от моделей Mistral или других LLM. Это руководство проведет вас через примеры промптов, демонстрирующие четыре различные возможности промптинга.
- Классификация
- Суммирование
- Персонализация
- Оценка
Модели Mistral могут легко классифицировать текст по различным классам. В этом примере промпта мы можем определить список предопределенных категорий и попросить модели Mistral классифицировать запрос пользователя.
- Few-shot learning: Few-shot learning, или обучение в контексте, — это когда мы даем несколько примеров в промптах, и LLM может генерировать соответствующий вывод на основе демонстраций примеров. Few-shot learning часто может улучшить производительность модели, особенно когда задача сложна или когда мы хотим, чтобы модель отвечала определенным образом.
- Разделитель: Разделители, такие как ### <<< >>>, указывают границу между различными разделами текста. В нашем примере мы использовали ### для обозначения примеров и <<<>>> для обозначения запроса клиента.
- Ролевая игра: Предоставление LLM роли (например, "Вы — бот службы поддержки банка.") добавляет личный контекст модели и часто приводит к лучшей производительности.
Суммирование — это распространенная задача для LLM благодаря их возможностям понимания и генерации естественного языка. Вот пример промпта, который мы можем использовать для генерации интересных вопросов об эссе и его суммирования.
- Предоставление фактов: Включение фактов в промпты может быть полезным для разработки ботов поддержки клиентов. Важно использовать ясный и лаконичный язык при представлении этих фактов. Это может помочь LLM предоставлять точные и быстрые ответы на запросы клиентов.
Существует множество способов оценки выходов LLM. Вот три подхода для вашей справки: включение показателя уверенности, введение шага оценки или использование другой LLM для оценки.
Мы можем включить показатель уверенности вместе с сгенерированным выводом в промпт.
- Вывод JSON: Для облегчения последующих задач часто предпочтителен вывод в формате JSON. Мы можем включить режим JSON, установив response_format на {"type": "json_object"} и указав в промпте, что "Вы будете отвечать только объектом JSON с…
План урока
- Классификация
- Использованные стратегии
- Суммирование
- Персонализация
- Оценка
- Включение показателя уверенности
- Введение шага оценки
- Использование другой LLM для оценки
Урок входит в полный доступ. Полный текст и видео открываются после оплаты. Первые уроки каждого курса бесплатны.