О чём урок
Этот пример блокнота показывает, как выполнить тонкую настройку и развернуть пользовательскую модель Command-R с использованием Amazon SageMaker.
Примечание: Это справочный блокнот, и он не будет работать, если вы не внесете изменения, предложенные в блокноте.
- Примечание: Этот блокнот содержит элементы, которые корректно отображаются в интерфейсе Jupyter. Откройте этот блокнот из экземпляра блокнота Amazon SageMaker или Amazon SageMaker Studio.
- Убедитесь, что используемая роль IAM имеет AmazonSageMakerFullAccess
- Для успешного развертывания этой модели ML убедитесь, что: Либо ваша роль IAM имеет эти три разрешения, и у вас есть полномочия для оформления подписок AWS Marketplace в используемой учетной записи AWS: aws-marketplace:ViewSubscriptions
- aws-marketplace:Unsubscribe
- aws-marketplace:Subscribe
- Подпишитесь на алгоритм тонкой настройки
- Загрузите данные и выполните тонкую настройку модели Command-R
- Создайте конечную точку для вывода с пользовательской моделью Создайте конечную точку
- Выполните вывод в реальном времени
- Удалите конечную точку
- Отмените подписку на листинг (необязательно)
Вы можете запускать этот блокнот по одной ячейке за раз (используя Shift+Enter для запуска ячейки).
Чтобы подписаться на алгоритм модели:
- Откройте страницу листинга алгоритма для Cohere Command R 082024 Finetuning или Cohere Command R Finetuning
- На листинге AWS Marketplace нажмите кнопку Continue to Subscribe.
- На странице Подписаться на это программное обеспечение просмотрите и нажмите "Принять предложение", если вы и ваша организация согласны с EULA, условиями ценообразования и поддержки. На странице "Настроить и запустить" убедитесь, что ARN, отображаемый в вашем регионе, соответствует ARN в следующей ячейке.
Алгоритм доступен в списке регионов AWS, указанных ниже.
Выберите путь в S3 для хранения обучающих и оценочных наборов данных и обновите s3_data_dir ниже:
Загрузите примеры обучающих данных в S3:
Вам понадобятся данные в файле .jsonl, который содержит данные в формате чата. Документация
JSONL:
Примечание: Если набор данных для оценки отсутствует, мы автоматически разделим обучающий набор данных на обучающий и оценочный наборы данных в соотношении 80:20.
Каждый набор данных должен содержать не менее 1…
План урока
- Тонкая настройка и развертывание пользовательской модели Command-R
- Предварительные условия
- Инструкции по использованию
- 1. Подпишитесь на алгоритм тонкой настройки
- 2. Загрузите данные и выполните тонкую настройку Command-R
- Примечание
- Пример
- Необязательно: Определите гиперпараметры
Урок входит в полный доступ. Полный текст и видео открываются после оплаты. Первые уроки каждого курса бесплатны.