RAG на готовых коннекторах

Урок 100 из 114 курса «Cohere: LLM University»: официальный курс Cohere LLM University (Кохир) на русском языке. Урок входит в платный доступ; первые уроки курса бесплатно.

О чём урок

Примечание: Чтобы запустить этот ноутбук, вы должны сначала развернуть свой собственный коннектор Google Drive в виде веб-API REST (шаги описаны здесь). Код реализации коннектора доступен здесь. Этот ноутбук показывает, как создать чат-бота на базе RAG с использованием конечной точки Chat от Cohere, применяя один из более чем 80 готовых быстрых коннекторов. Мы будем использовать его для подключения чат-бота к Google Drive, что позволит чат-боту использовать Google Drive API для поиска ответов на вопросы пользователя путем поиска документов в Google Drive. Прочитайте сопутствующую статью здесь. С быстрыми коннекторами разработчики могут немедленно использовать готовые реализации более 80 коннекторов, не создавая их самостоятельно. Они могут либо использовать эти быстрые коннекторы напрямую, либо адаптировать их под нужды своей организации. Быстрые коннекторы Cohere являются открытым исходным кодом и доступны в нашем репозитории коннекторов. Приведенная ниже диаграмма дает обзор того, что мы будем строить. Мы можем проверить, работает ли коннектор, отправив curl-запрос к его конечной точке поиска. Примечание: Шаги по созданию и развертыванию коннектора описаны в этой статье. Код реализации доступен здесь. Класс Chatbot ниже обрабатывает взаимодействие между пользователем и чат-ботом. Мы определяем коннектор, который будет использовать чат-бот, с помощью атрибута self.connectors. Метод run() содержит логику для получения сообщения пользователя, отображения ответа чат-бота с цитатами, а также способ для пользователя завершить разговор. Теперь мы можем запустить чат-бота. Для этого мы создаем экземпляр Chatbot, используя управляемый Cohere коннектор веб-поиска. Затем мы запускаем чат-бота, вызывая метод run(). Формат каждой цитаты: start: Начальная точка диапазона, где ссылается один или несколько документов end: Конечная точка диапазона, где ссылается один или несколько документов text: Текст, представляющий этот диапазон document_ids: Идентификаторы документов, на которые ссылаются (doc_0 — это ID первого документа, переданного в параметр documents при вызове конечной точки, и так далее)

Урок входит в полный доступ. Полный текст и видео открываются после оплаты. Первые уроки каждого курса бесплатны.

Полезные гиды