Знакомство с prompt-ops

О чём урок

Данный исходный код распространяется на условиях, описанных в файле LICENSE, расположенном в корневом каталоге этого исходного дерева.

Этот notebook проведет вас через процесс использования prompt-ops для оптимизации ваших prompt'ов для моделей Llama. Мы рассмотрим:

1. Введение в prompt-ops
2. Настройка среды
3. Создание примера проекта
4. Запуск оптимизации prompt'ов
5. Анализ результатов
6. Расширенное использование и кастомизация

prompt-ops — это Python package, который автоматически оптимизирует prompt'ы для моделей Llama. Он преобразует prompt'ы, хорошо работающие с другими LLM, в prompt'ы, оптимизированные для моделей Llama, улучшая performance и reliability.

prompt-ops принимает три ключевых input'а:

1. Ваш существующий системный prompt
2. Dataset пар запрос-ответ для оценки и оптимизации
3. Файл конфигурации, определяющий параметры model'и и детали оптимизации

Затем он применяет методы оптимизации для преобразования вашего prompt'а в тот, который лучше работает с моделями Llama, и предоставляет metrics для измерения улучшения.

Начнем с установки Prompt ops package и настройки нашей среды. Вы можете установить его как из PyPI, так и непосредственно из source code.

Prompt ops требует API key для доступа к LLM services. Вы можете использовать OpenRouter, который предоставляет доступ к различным моделям, включая модели Llama.

Создайте файл .env в каталоге вашего проекта с вашим API key:

Вам нужно будет заменить your_key_here на ваш фактический OpenRouter API key. Вы можете получить OpenRouter API key, создав аккаунт на OpenRouter.

Давайте загрузим переменные окружения из файла .env:

Prompt ops предоставляет удобный способ создания примера проекта со всеми необходимыми файлами. Давайте создадим пример проекта, чтобы начать работу.

Эта команда создает каталог my-notebook-project с примером конфигурации и dataset'а. Давайте изучим созданные файлы:

Пример проекта включает:

• .env: Файл для вашего API key
• README.md: Документация по проекту
• config.yaml: Файл конфигурации для оптимизации prompt'ов
• data/dataset.json: Пример dataset'а для оценки и оптимизации
• prompts/prompt.txt: Пример системного prompt'а для оптимизации

Давайте рассмотрим файл конфигурации:

Файл конфигурации определяет:

• Системный prompt для оптимизации
• Dataset для использования в…

План урока

1. 1. Введение в prompt-ops
2. Что такое prompt-ops?
3. Как это работает
4. 2. Настройка среды
5. Настройка вашего API key
6. 3. Создание примера проекта
7. 4. Запуск оптимизации Prompt'ов
8. 5. Анализ результатов