О чём урок
Добро пожаловать в нашу поваренную книгу по мета-промптингу! В этом руководстве мы рассмотрим, как взять базовый prompt и улучшить его для повышения качества output'ов языковой модели. Мы используем пример суммаризации новостных статей, чтобы проиллюстрировать этот процесс.
Мета-промптинг — это техника, при которой вы используете LLM для генерации или улучшения промптов. Обычно это делается с помощью более интеллектуальной модели, которая оптимизирует промпты для менее интеллектуальной модели. Это процесс использования промптов для направления, структурирования и оптимизации других промптов, что помогает обеспечить их большую эффективность в наведении LLM на высококачественные и релевантные output'ы. Мы будем использовать возможности o1-preview, более интеллектуальной модели с продвинутыми навыками рассуждения, для улучшения prompt'а для gpt-4o.
Мы стремимся сделать ваш путь разработки с LLM более гладким и доступным с помощью этой техники. Не забудьте ознакомиться с нашей функцией Generate Anything в playground — это отличная отправная точка для погружения в мета-промптинг.
В этом примере мы начнем с простого prompt'а для суммаризации новостных статей, а затем улучшим его, чтобы увидеть, как улучшаются output'ы. Мы будем использовать o1-preview для анализа и уточнения нашего prompt'а, добавляя больше деталей и ясности по ходу работы. Наконец, мы систематически оценим output'ы, чтобы понять влияние наших улучшений.
Начнем с импорта датасета bbc_news_alltime из HuggingFace. Этот датасет содержит все статьи BBC News, опубликованные ежемесячно с 2017 года по последний полный месяц. Для нашего эксперимента мы сосредоточимся исключительно на выборке за недавний месяц — август 2024 года — чтобы данные были актуальными и управляемыми.
Начнем с простого prompt'а, а затем используем o1-preview для его улучшения, чтобы получить лучшие результаты. Мы хотим суммаризировать новостные статьи, поэтому именно это мы и попросим сделать модель.
Чтобы улучшить prompt, нам нужно предоставить o1-preview контекст и цели, которых мы хотим достичь. Затем мы можем попросить его сгенерировать более подробный prompt, который будет создавать более насыщенные и полные новостные суммаризации.
План урока
- Импорт данных
- Итеративная доработка промптов
Урок входит в полный доступ. Полный текст и видео открываются после оплаты. Первые уроки каждого курса бесплатны.