О чём урок
Copyright (c) Meta Platforms, Inc. и аффилированные лица. Все права защищены. Данный исходный код распространяется на условиях, описанных в файле LICENSE, расположенном в корневом каталоге этого исходного дерева. Этот notebook проведет вас через процесс использования prompt-ops для оптимизации ваших prompt'ов для моделей Llama. Мы рассмотрим: Введение в prompt-ops Настройка среды Создание примера проекта Запуск оптимизации prompt'ов Анализ результатов Расширенное использование и кастомизация prompt-ops — это Python package, который автоматически оптимизирует prompt'ы для моделей Llama. Он преобразует prompt'ы, хорошо работающие с другими LLM, в prompt'ы, оптимизированные для моделей Llama, улучшая performance и reliability. prompt-ops принимает три ключевых input'а: Ваш существующий системный prompt Dataset пар запрос-ответ для оценки и оптимизации Файл конфигурации, определяющий параметры model'и и детали оптимизации Затем он применяет методы оптимизации для преобразования вашего prompt'а в тот, который лучше работает с моделями Llama, и предоставляет metrics для измерения улучшения. Начнем с установки Prompt ops package и настройки нашей среды. Вы можете установить его как из PyPI, так и непосредственно из source code. Prompt ops требует API key для доступа к LLM services. Вы можете использовать OpenRouter, который предоставляет доступ к различным моделям, включая модели Llama. Создайте файл .env в каталоге вашего проекта с вашим API key: Вам нужно будет заменить your_key_here на ваш фактический OpenRouter API key. Вы можете получить OpenRouter API key, создав аккаунт на OpenRouter. Давайте загрузим переменные окружения из файла .env: Prompt ops предоставляет удобный способ создания примера проекта со всеми необходимыми файлами. Давайте создадим пример проекта, чтобы начать работу. Эта команда создает каталог my-notebook-project с примером конфигурации и dataset'а.
План урока
- 1. Введение в prompt-ops
- Что такое prompt-ops?
- Как это работает
- 2. Настройка среды
- Настройка вашего API key
- 3. Создание примера проекта
- 4. Запуск оптимизации Prompt'ов
- 5. Анализ результатов
Урок входит в полный доступ. Полный текст и видео открываются после оплаты. Первые уроки каждого курса бесплатны.