Дообучение Command R в SageMaker

О чём урок

Этот пример блокнота показывает, как выполнить тонкую настройку и развернуть пользовательскую модель Command-R с использованием Amazon SageMaker. Примечание: Это справочный блокнот, и он не будет работать, если вы не внесете изменения, предложенные в блокноте. Примечание: Этот блокнот содержит элементы, которые корректно отображаются в интерфейсе Jupyter. Откройте этот блокнот из экземпляра блокнота Amazon SageMaker или Amazon SageMaker Studio. Убедитесь, что используемая роль IAM имеет AmazonSageMakerFullAccess Для успешного развертывания этой модели ML убедитесь, что: Либо ваша роль IAM имеет эти три разрешения, и у вас есть полномочия для оформления подписок AWS Marketplace в используемой учетной записи AWS: aws-marketplace:ViewSubscriptions aws-marketplace:Unsubscribe aws-marketplace:Subscribe или ваша учетная запись AWS имеет подписку на пакеты для Cohere Command R 082024 Finetuning или Cohere Command R Finetuning. Если это так, пропустите шаг: Подпишитесь на алгоритм тонкой настройки Подпишитесь на алгоритм тонкой настройки Загрузите данные и выполните тонкую настройку модели Command-R Создайте конечную точку для вывода с пользовательской моделью Создайте конечную точку Выполните вывод в реальном времени Очистка Удалите конечную точку Отмените подписку на листинг (необязательно) Вы можете запускать этот блокнот по одной ячейке за раз (используя Shift+Enter для запуска ячейки). Чтобы подписаться на алгоритм модели: Откройте страницу листинга алгоритма для Cohere Command R 082024 Finetuning или Cohere Command R Finetuning На листинге AWS Marketplace нажмите кнопку Continue to Subscribe. На странице Подписаться на это программное обеспечение просмотрите и нажмите "Принять предложение", если вы и ваша организация согласны с EULA, условиями ценообразования и поддержки. На странице "Настроить и запустить" убедитесь, что ARN, отображаемый в вашем регионе, соответствует ARN в следующей ячейке. Алгоритм доступен в списке регионов AWS, указанных ниже. Выберите путь в S3 для хранения обучающих и оценочных наборов данных и обновите s3_data_dir ниже: Загрузите примеры обучающих данных в S3: Вам понадобятся данные в файле .jsonl, который содержит данные в формате чата.

План урока

1. Тонкая настройка и развертывание пользовательской модели Command-R
2. Предварительные условия
3. Инструкции по использованию
4. 1. Подпишитесь на алгоритм тонкой настройки
5. 2. Загрузите данные и выполните тонкую настройку Command-R
6. Примечание
7. Пример
8. Необязательно: Определите гиперпараметры