Собираем чат-бота

О чём урок

В этом блокноте вы создадите чат-бота, используя конечную точку Chat от Cohere. К концу этого блокнота вы сможете создать простого чат-бота, который может отвечать на сообщения пользователей и поддерживать контекст разговора. Прочитайте сопутствующую статью в блоге здесь. Мы выполним следующие шаги: Шаг 1: Быстрый старт - Изучите самый быстрый и простой способ вызова конечной точки Chat. Шаг 2: Добавление преамбулы - Направляйте ответ чат-бота к определенным стилям, персонам или другим характеристикам. Шаг 3: Потоковая передача ответа - Отображайте ответ чат-бота постепенно по мере его генерации, вместо того чтобы ждать полного завершения ответа. Шаг 4: Создание истории чата - Изучите два различных варианта для поддержания контекста разговора чат-ботом. Мы начнем с установки необходимых инструментов, а затем импортируем их. Чтобы начать работу с Chat, мы добавляем сообщение пользователя в параметр messages и определяем тип модели в параметре model. Затем мы вызываем конечную точку Chat через клиент, который мы создали ранее. Ответ содержит несколько объектов. Для простоты, то, что нам нужно сейчас, это объект text. Вот пример того, как ассистент отвечает на запрос нового сотрудника, просящего помощи в написании сообщения для знакомства. При желании вы можете добавить системное сообщение, чтобы направить ответ чат-бота к определенным характеристикам. Например, если мы хотим, чтобы чат-бот принял формальный стиль, преамбула может быть использована для поощрения генерации более деловых и профессиональных ответов. Рекомендуемый подход — использовать два заголовка Markdown H2: "Задача и контекст" и "Руководство по стилю" в точном порядке. В приведенном ниже примере преамбула предоставляет контекст для задачи ассистента (задача и контекст) и поощряет генерацию рифм насколько это возможно (руководство по стилю). Конечная точка Chat также поддерживает потоковую передачу. В потоковом ответе конечная точка будет возвращать объект ответа для каждого токена по мере его генерации. Это означает, что вы можете отображать текст постепенно, не дожидаясь полного завершения. Чтобы активировать ее, используйте co.chat_stream() вместо co.chat().

План урока

1. Обзор
2. Настройка
3. Шаг 1: Быстрый старт
4. Шаг 2: Создание пользовательского системного сообщения
5. Шаг 3: Потоковая передача ответа
6. Шаг 4: Создание памяти разговора