Урок из полного доступа, первые уроки курса бесплатно Официальный курс Cohere LLM University на русском
Урок 105 · Текст · ~5 мин

Cohere на AWS: генерация текста в Bedrock

Урок 105 из 114 курса «Cohere: LLM University»: официальный курс Cohere LLM University (Кохир) на русском языке. Урок входит в платный доступ; первые уроки курса бесплатно.

О чём урок

Семейство моделей Cohere Command, доступное на Amazon Bedrock, представляет собой мощные LLM, предлагающие эти возможности. Сюда входят передовые модели, такие как Command R и Command R+

В этом ноутбуке мы рассмотрим, как использовать модель Cohere Command R+ на Amazon Bedrock. Мы будем использовать сценарий агента поддержки клиентов в качестве примера и охватим ряд задач, включая генерацию текста, суммаризацию, переписывание и извлечение.

Сначала установим и импортируем необходимые библиотеки, а также настроим наш клиент Cohere с помощью Cohere SDK. Для использования Bedrock мы создаем BedrockClient, передавая необходимые учетные данные AWS.

Прежде чем начать, давайте создадим некоторый контекст для использования в наших задачах генерации текста. В этом примере мы будем использовать FAQ по технической поддержке в качестве нашего контекста:

Теперь давайте определим функцию для генерации текста с использованием модели Command R+ на Bedrock.

Давайте используем наш FAQ по технической поддержке в качестве контекста и сгенерируем ответ на запрос клиента.

Теперь давайте суммируем запрос клиента в одно короткое предложение.

Далее давайте перепишем сгенерированный ответ в формат электронного письма.

Теперь давайте извлечем некоторую информацию из запроса клиента и ответа.

Все наши примеры до сих пор работали в режиме однократного взаимодействия. Но с помощью Chat endpoint мы можем создать чат-бота, который сохраняет память обо всех предыдущих взаимодействиях. Это позволяет разработчикам создавать приложения в стиле чат-ботов, которые поддерживают состояние разговора.

Ниже приведена реализация простого чат-бота в условиях поддержки клиентов, где чат-бот выступает в роли полезного агента поддержки клиентов.

Для этого мы вводим несколько дополнительных параметров для Chat endpoint:

  • preamble: Preamble содержит инструкции, помогающие направить ответ чат-бота к определенным характеристикам, таким как персона, стиль или формат. Здесь мы используем простое preamble: «Вы — полезный агент поддержки клиентов, который помогает клиентам службы мобильной сети».
  • chat_history: Мы храним историю разговора между пользователем и чат-ботом в виде списка, добавляем каждый новый ход разговора и передаем эту информацию при следующем вызове endpoint.

Урок входит в полный доступ. Полный текст и видео открываются после оплаты. Первые уроки каждого курса бесплатны.

Откройте полный доступ

Вы прошли бесплатные уроки. Выберите тариф, чтобы продолжить обучение.

Курсы Cohere 1 490 ₽ Разовый платёж, навсегда
  • Все курсы от Cohere (1 шт.)
  • Именной сертификат по каждому пройденному курсу
Оплатить
Полный доступ 4 900 ₽ Разовый платёж, навсегда
  • Все 77 курсов от 11 AI-провайдеров
  • Библиотека промптов и новые курсы
Оплатить

Безопасная оплата через Robokassa: СБП, карты, электронные кошельки. Доступ откроется в этом браузере и придёт письмом. Уже оплатили? Восстановить доступ

Полезные гиды