О чём урок
Работа с LLM в своей основе опирается на создание prompt'ов. Prompt предоставляет контекст для текста, который мы хотим, чтобы модель сгенерировала. Создаваемые нами prompt'ы могут быть чем угодно — от простых инструкций до более сложных фрагментов текста, и они используются для побуждения модели к созданию определенного типа вывода.
Создание хорошего prompt'а — это отчасти наука, отчасти искусство. С одной стороны, мы знаем общие закономерности, которые позволяют нам конструировать prompt, генерирующий желаемый результат. Но с другой стороны, здесь так много места для творчества и воображения.
В этом ноутбуке вы узнаете, как создавать эффективные prompt'ы для получения желаемых результатов при выполнении различных задач.
Прочитайте сопутствующую статью здесь.
Ноутбук разбит на 5 разделов:
- Как написать базовый Prompt - Давайте модели команды с помощью повелительных глаголов.
- Как наслаивать дополнительные инструкции - Добавьте дополнительные инструкции, чтобы быть более точным относительно желаемого.
- Как добавить контекст в Prompt - Предоставьте дополнительную информацию в качестве контекста, чтобы помочь обосновать вывод модели.
- Как извлекать информацию - Извлекайте конкретную информацию из более крупного фрагмента текста.
- Как переписывать текст в другой формат - Перепишите текст (фрагмент текста) в другой формат (список вопросов и ответов).
Мы начнем с установки необходимых инструментов, а затем импортируем их.
Вставьте свой API ключ Cohere в следующую ячейку. Для этого сначала зарегистрируйтесь в Cohere (бесплатно!), если вы еще этого не сделали. Затем получите свой API ключ здесь.
Давайте также определим функцию generate_text(), которая будет принимать сообщение пользователя, вызывать Chat endpoint и передавать ответ в потоковом режиме.
Лучший способ создавать prompt'ы для модели, такой как Command R/R+, — это давать команду или инструкцию. Один из способов сделать это — использовать повелительные глаголы, например: сгенерируй, напиши, перечисли, предоставь и другие варианты.
Например, предположим, что мы создаем текст описания продукта для беспроводных наушников.
Чтобы быть более конкретными относительно того, как должен выглядеть вывод, нам нужно лишь добавить дополнительные инструкции в prompt.
Prompt также может быть построен как…
План урока
- Обзор
- Настройка
- Как написать базовый Prompt
- Как наслаивать дополнительные инструкции
- Как добавить контекст в Prompt
- Как извлекать информацию
- Как переписывать текст в другой формат
Урок входит в полный доступ. Полный текст и видео открываются после оплаты. Первые уроки каждого курса бесплатны.