Глава 3. Чат-боты, новая версия

Цели урока

• Создание пользовательской преамбулы
• Создание одноходового диалога
• Создание памяти разговора
• Запуск многоходового диалога
• Просмотр истории чата

О чём урок

Как следует из названия, конечная точка Chat позволяет разработчикам создавать чат-боты, способные вести беседы. В основе беседы лежит многоходовый диалог между пользователем и чат-ботом. Это требует от чат-бота наличия состояния (или «памяти») всех предыдущих ходов для поддержания состояния разговора. В этом руководстве вы узнаете о: Вы изучите это, создав помощника по адаптации для новых сотрудников. Для начала нам необходимо установить библиотеку cohere и создать клиент Cohere. Разговор начинается с системного сообщения, или преамбулы, чтобы помочь направить ответ чат-бота к определенным характеристикам. Например, если мы хотим, чтобы чат-бот принял формальный стиль, преамбула может быть использована для поощрения генерации более деловых и профессиональных ответов. Рекомендуемый подход — использовать два заголовка Markdown H2: «Задача и контекст» и «Руководство по стилю» в точном порядке. В приведенном ниже примере преамбула предоставляет контекст для задачи помощника (задача и контекст) и максимально поощряет генерацию рифм (руководство по стилю). Дополнительная литература: Документация по преамбулам Начнем с первого хода разговора. Здесь мы также добавляем пользовательскую преамбулу или системное сообщение для генерации краткого ответа, просто чтобы сохранить выводы краткими для этого руководства. Теперь мы хотим, чтобы модель уточнила предыдущий ответ. Это требует, чтобы следующее поколение имело доступ к состоянию, или памяти, разговора. Для этого мы добавляем в messages предыдущий ответ модели, используя роль assistant. Далее мы также добавляем новое сообщение пользователя (для второго хода) в список messages. Глядя на ответ, мы видим, что модель способна получить контекст из истории чата. Модель способна уловить, что «оно» в сообщении пользователя относится к сообщению-представлению, которое она сгенерировала ранее. Дополнительная литература: Документация по использованию конечной точки Chat Вы можете продолжать делать это для любого количества ходов, постоянно добавляя ответ чат-бота и новое сообщение пользователя в список messages. Чтобы просмотреть текущую историю чата, вы можете распечатать список messages, который содержит список ходов user и assistant в той же последовательности, в которой они были созданы.

План урока

1. Настройка
2. Создание пользовательской преамбулы
3. Начало первого хода разговора
4. Создание памяти разговора
5. Запуск многоходового диалога
6. Просмотр истории чата
7. Заключение