Основы промпт-инжиниринга

О чём урок

Работа с LLM в своей основе опирается на создание prompt'ов. Prompt предоставляет контекст для текста, который мы хотим, чтобы модель сгенерировала. Создаваемые нами prompt'ы могут быть чем угодно — от простых инструкций до более сложных фрагментов текста, и они используются для побуждения модели к созданию определенного типа вывода. Создание хорошего prompt'а — это отчасти наука, отчасти искусство. С одной стороны, мы знаем общие закономерности, которые позволяют нам конструировать prompt, генерирующий желаемый результат. Но с другой стороны, здесь так много места для творчества и воображения. В этом ноутбуке вы узнаете, как создавать эффективные prompt'ы для получения желаемых результатов при выполнении различных задач. Прочитайте сопутствующую статью здесь. Ноутбук разбит на 5 разделов: Как написать базовый Prompt - Давайте модели команды с помощью повелительных глаголов. Как наслаивать дополнительные инструкции - Добавьте дополнительные инструкции, чтобы быть более точным относительно желаемого. Как добавить контекст в Prompt - Предоставьте дополнительную информацию в качестве контекста, чтобы помочь обосновать вывод модели. Как извлекать информацию - Извлекайте конкретную информацию из более крупного фрагмента текста. Как переписывать текст в другой формат - Перепишите текст (фрагмент текста) в другой формат (список вопросов и ответов). Мы начнем с установки необходимых инструментов, а затем импортируем их. Вставьте свой API ключ Cohere в следующую ячейку. Для этого сначала зарегистрируйтесь в Cohere (бесплатно!), если вы еще этого не сделали. Затем получите свой API ключ здесь. Давайте также определим функцию generate_text(), которая будет принимать сообщение пользователя, вызывать Chat endpoint и передавать ответ в потоковом режиме. Лучший способ создавать prompt'ы для модели, такой как Command R/R+, — это давать команду или инструкцию. Один из способов сделать это — использовать повелительные глаголы, например: сгенерируй, напиши, перечисли, предоставь и другие варианты. Например, предположим, что мы создаем текст описания продукта для беспроводных наушников. Чтобы быть более конкретными относительно того, как должен выглядеть вывод, нам нужно лишь добавить дополнительные инструкции в prompt.

План урока

1. Обзор
2. Настройка
3. Как написать базовый Prompt
4. Как наслаивать дополнительные инструкции
5. Как добавить контекст в Prompt
6. Как извлекать информацию
7. Как переписывать текст в другой формат