Урок из полного доступа, первые уроки курса бесплатно Официальный курс Cohere LLM University на русском
Урок 53 · Текст · ~5 мин

Ответы на вопросы с Cohere в SageMaker JumpStart

Урок 53 из 114 курса «Cohere: LLM University»: официальный курс Cohere LLM University (Кохир) на русском языке. Урок входит в платный доступ; первые уроки курса бесплатно.

О чём урок

Этот ноутбук был предоставлен Джеймсом Йи – старшим архитектором решений для партнеров - AI/ML, Amazon Web Services

Результат CI-теста этого ноутбука для us-west-2 следующий. Результаты CI-тестов в других регионах можно найти в конце ноутбука.

В этом ноутбуке мы продемонстрируем, как использовать модель Cohere Generate для ответов на вопросы, используя библиотеку документов в качестве ссылки, применяя модель встраивания Cohere для встраивания и извлечения документов.

Платформа Cohere позволяет предприятиям и разработчикам использовать большие языковые модели (LLM) конфиденциально и безопасно с развертыванием AWS JumpStart. Мы объявили о доступности LLM Cohere через Amazon SageMaker в январе 2023 года. Клиенты могут легко подписаться на LLM Cohere через AWS Marketplace и использовать их в Amazon SageMaker.

Command — это модель генерации текста от Cohere. Она обучена следовать командам пользователя и быть мгновенно полезной в практических бизнес-приложениях. Command занимает лидирующие позиции в бенчмарке Holistic Evaluation of Language Models (HELM), таблице лидеров оценки, сравнивающей большие языковые модели по широкому кругу задач. Cohere Multilingual Embedding Model позволяет классифицировать, встраивать и токенизировать текст на нескольких языках.

В этом ноутбуке мы будем использовать Cohere Generate Model - Command-Light для генерации текста и Cohere Multilingual Embedding Model для встраивания текста. Вы можете следовать jupyter-ноутбукам по развертыванию моделей Cohere в этом github для развертывания каждой модели.

  1. Убедитесь, что используемая роль IAM имеет AmazonSageMakerFullAccess
  2. Для успешного развертывания этой ML-модели убедитесь, что: Либо ваша роль IAM имеет эти три разрешения, и у вас есть полномочия для оформления подписок AWS Marketplace в используемой учетной записи AWS: aws-marketplace:ViewSubscriptions
  3. aws-marketplace:Unsubscribe
  4. aws-marketplace:Subscribe

Чтобы подписаться на пакеты моделей:

  1. Откройте страницы листинга пакетов моделей Cohere Generate Model - Command-Light и Cohere Multilingual Embedding Model.
  2. На листинге AWS Marketplace нажмите кнопку Continue to subscribe.
  3. На странице Subscribe to this software просмотрите и нажмите "Accept Offer", если вы и ваша организация согласны с условиями EULA, ценообразования и поддержки.
  4. После того как вы нажмете…

План урока

  1. Предварительные условия
  2. Шаг 1. Подпишитесь на пакеты моделей и разверните модель генерации Cohere и модель встраивания в SageMaker JumpStart
  3. Развертывание модели генерации Cohere
  4. Развертывание модели встраивания Cohere
  5. Шаг 2. Задайте вопрос LLM, не предоставляя контекст
  6. Шаг 3. Улучшите ответ на тот же вопрос с помощью prompt engineering с содержательным контекстом
  7. Шаг 5. Настройте QA-приложение выше с другим prompt.
  8. Результаты CI-тестов ноутбука

Урок входит в полный доступ. Полный текст и видео открываются после оплаты. Первые уроки каждого курса бесплатны.

Откройте полный доступ

Вы прошли бесплатные уроки. Выберите тариф, чтобы продолжить обучение.

Курсы Cohere 1 490 ₽ Разовый платёж, навсегда
  • Все курсы от Cohere (1 шт.)
  • Именной сертификат по каждому пройденному курсу
Оплатить
Полный доступ 4 900 ₽ Разовый платёж, навсегда
  • Все 77 курсов от 11 AI-провайдеров
  • Библиотека промптов и новые курсы
Оплатить

Безопасная оплата через Robokassa: СБП, карты, электронные кошельки. Доступ откроется в этом браузере и придёт письмом. Уже оплатили? Восстановить доступ

Полезные гиды