Урок из полного доступа, первые уроки курса бесплатно Официальный курс Cohere LLM University на русском
Урок 27 · Текст · ~5 мин

Дообучение Command R в SageMaker

Урок 27 из 114 курса «Cohere: LLM University»: официальный курс Cohere LLM University (Кохир) на русском языке. Урок входит в платный доступ; первые уроки курса бесплатно.

О чём урок

Этот пример блокнота показывает, как выполнить тонкую настройку и развернуть пользовательскую модель Command-R с использованием Amazon SageMaker.

Примечание: Это справочный блокнот, и он не будет работать, если вы не внесете изменения, предложенные в блокноте.

  1. Примечание: Этот блокнот содержит элементы, которые корректно отображаются в интерфейсе Jupyter. Откройте этот блокнот из экземпляра блокнота Amazon SageMaker или Amazon SageMaker Studio.
  2. Убедитесь, что используемая роль IAM имеет AmazonSageMakerFullAccess
  3. Для успешного развертывания этой модели ML убедитесь, что: Либо ваша роль IAM имеет эти три разрешения, и у вас есть полномочия для оформления подписок AWS Marketplace в используемой учетной записи AWS: aws-marketplace:ViewSubscriptions
  4. aws-marketplace:Unsubscribe
  5. aws-marketplace:Subscribe
  1. Подпишитесь на алгоритм тонкой настройки
  2. Загрузите данные и выполните тонкую настройку модели Command-R
  3. Создайте конечную точку для вывода с пользовательской моделью Создайте конечную точку
  4. Выполните вывод в реальном времени
  1. Удалите конечную точку
  2. Отмените подписку на листинг (необязательно)

Вы можете запускать этот блокнот по одной ячейке за раз (используя Shift+Enter для запуска ячейки).

Чтобы подписаться на алгоритм модели:

  1. Откройте страницу листинга алгоритма для Cohere Command R 082024 Finetuning или Cohere Command R Finetuning
  2. На листинге AWS Marketplace нажмите кнопку Continue to Subscribe.
  3. На странице Подписаться на это программное обеспечение просмотрите и нажмите "Принять предложение", если вы и ваша организация согласны с EULA, условиями ценообразования и поддержки. На странице "Настроить и запустить" убедитесь, что ARN, отображаемый в вашем регионе, соответствует ARN в следующей ячейке.

Алгоритм доступен в списке регионов AWS, указанных ниже.

Выберите путь в S3 для хранения обучающих и оценочных наборов данных и обновите s3_data_dir ниже:

Загрузите примеры обучающих данных в S3:

Вам понадобятся данные в файле .jsonl, который содержит данные в формате чата. Документация

JSONL:

Примечание: Если набор данных для оценки отсутствует, мы автоматически разделим обучающий набор данных на обучающий и оценочный наборы данных в соотношении 80:20.

Каждый набор данных должен содержать не менее 1…

План урока

  1. Тонкая настройка и развертывание пользовательской модели Command-R
  2. Предварительные условия
  3. Инструкции по использованию
  4. 1. Подпишитесь на алгоритм тонкой настройки
  5. 2. Загрузите данные и выполните тонкую настройку Command-R
  6. Примечание
  7. Пример
  8. Необязательно: Определите гиперпараметры

Урок входит в полный доступ. Полный текст и видео открываются после оплаты. Первые уроки каждого курса бесплатны.

Откройте полный доступ

Вы прошли бесплатные уроки. Выберите тариф, чтобы продолжить обучение.

Курсы Cohere 1 490 ₽ Разовый платёж, навсегда
  • Все курсы от Cohere (1 шт.)
  • Именной сертификат по каждому пройденному курсу
Оплатить
Полный доступ 4 900 ₽ Разовый платёж, навсегда
  • Все 77 курсов от 11 AI-провайдеров
  • Библиотека промптов и новые курсы
Оплатить

Безопасная оплата через Robokassa: СБП, карты, электронные кошельки. Доступ откроется в этом браузере и придёт письмом. Уже оплатили? Восстановить доступ

Полезные гиды