Глава 3. Чат-боты

Цели урока

• Создание пользовательской преамбулы
• Создание одноходового диалога
• Создание памяти диалога
• Ведение многоходового диалога
• Просмотр истории чата

О чём урок

Как следует из названия, endpoint Chat позволяет разработчикам создавать чат-ботов, способных вести диалоги. В основе диалога лежит многоходовое взаимодействие между пользователем и чат-ботом. Это требует от чат-бота сохранения состояния (или «памяти») всех предыдущих ходов для поддержания состояния разговора. В этом руководстве вы узнаете о: Вы изучите это, создавая помощника по адаптации для новых сотрудников. Для начала нам необходимо установить библиотеку cohere и создать клиент Cohere. Диалог начинается с системного сообщения, или preamble, чтобы помочь направить ответ чат-бота к определенным характеристикам. Например, если мы хотим, чтобы чат-бот придерживался формального стиля, preamble можно использовать для поощрения генерации более деловых и профессиональных ответов. Рекомендуемый подход — использовать два заголовка H2 Markdown: «Task and Context» и «Style Guide» именно в таком порядке. В приведенном ниже примере preamble предоставляет контекст для задачи помощника (task and context) и поощряет генерацию рифм по возможности (style guide). Дополнительная литература: Документация по preambles Начнем с одноходового диалога, который не требует от чат-бота поддержания какого-либо состояния диалога. Здесь мы также добавляем пользовательскую preamble для генерации краткого ответа, просто чтобы сделать выводы короткими для этого руководства. Теперь мы хотим, чтобы модель уточнила предыдущий ответ. Это требует, чтобы следующее поколение имело доступ к состоянию, или памяти, диалога. Для этого мы добавляем аргумент chat_history, который принимает текущую историю чата в качестве значения. Вы можете получить текущую историю чата, взяв объект response.chat_history из предыдущего ответа. Глядя на ответ, мы видим, что модель способна получить контекст из истории чата. Модель способна понять, что «оно» в сообщении пользователя относится к вводному сообщению, которое она сгенерировала ранее. Дополнительная литература: Документация по использованию endpoint Chat Вы можете продолжать это делать для любого количества ходов, передавая самое последнее значение response.chat_history, которое содержит историю диалога с самого начала.

План урока

1. Настройка
2. Создание пользовательской преамбулы
3. Создание одноходового диалога
4. Создание памяти диалога
5. Ведение многоходового диалога
6. Просмотр истории чата
7. Заключение