Что умеют промпты в Mistral AI

О чём урок

Когда вы впервые начинаете использовать модели Mistral, ваше первое взаимодействие будет сосредоточено вокруг prompt'ов. Искусство создания эффективных prompt'ов крайне важно для получения желаемых ответов от моделей Mistral или других LLM. Это руководство проведет вас через примеры prompt'ов, демонстрирующих четыре различные возможности работы с prompt'ами. Классификация Суммаризация Персонализация Оценка Модели Mistral могут легко категоризировать текст по различным классам. В этом примере prompt'а мы можем определить список предопределенных категорий и попросить модели Mistral классифицировать запрос пользователя. Few shot learning: Few-shot learning, или обучение в контексте (in-context learning), — это когда мы предоставляем несколько примеров в prompt'ах, и LLM может генерировать соответствующий output на основе этих демонстраций. Few-shot learning часто может улучшить производительность модели, особенно когда задача сложна или когда мы хотим, чтобы модель отвечала определенным образом. Разделитель: Разделители, такие как ### <<< >>>, указывают границы между различными разделами текста. В нашем примере мы использовали ### для обозначения примеров и <<<>>> для обозначения запроса клиента. Ролевая игра: Предоставление LLM роли (например, "Вы — бот службы поддержки клиентов банка.") добавляет персональный контекст модели и часто приводит к лучшей производительности. Суммаризация является распространенной задачей для LLM благодаря их возможностям понимания и генерации естественного языка. Вот пример prompt'а, который мы можем использовать для генерации интересных вопросов об эссе и его суммаризации. Пошаговые инструкции: Эта стратегия вдохновлена chain-of-thought prompting, которая позволяет LLM использовать серию промежуточных шагов рассуждения для решения сложных задач. Часто проще решать сложные проблемы, когда мы декомпозируем их на более простые и мелкие шаги, и нам легче отлаживать и проверять поведение модели. В нашем примере мы разбиваем задачу на три шага: суммаризация, генерация интересных вопросов и написание отчета. Это помогает языковой модели обдумывать каждый шаг и генерировать более полный итоговый отчет. Генерация примеров: Мы можем попросить LLM автоматически направлять процесс рассуждения и понимания, генерируя примеры с объяснениями и шагами.

План урока

1. Классификация
2. Использованные стратегии
3. Суммаризация
4. Персонализация
5. Оценка
6. Включение показателя уверенности (confidence score)
7. Введение шага оценки
8. Использование другого LLM для оценки