RAG-пайплайны на MongoDB, Llama 3 и моделях Hugging Face

О чём урок

Этот notebook предназначен для демонстрации того, как интегрировать и использовать открытые модели Hugging Face, в частности Llama3, с MongoDB для реализации RAG-пайплайнов (Retrieval-Augmented Generation) для расширения возможностей ответов на вопросы. Процесс включает подготовку набора данных статей arXiv, преобразование их данных для эффективного извлечения, настройку базы данных MongoDB с возможностями векторного поиска и использование модели Llama3 для генерации ответов на основе извлеченных документов. Основные моменты: Использование открытых моделей Hugging Face и MongoDB для создания RAG-пайплайнов. Шаги включают подготовку набора данных, настройку базы данных, загрузку данных и обработку запросов. Подробное руководство по настройке коллекций MongoDB и индексов векторного поиска. Интеграция с моделью Llama3 от Hugging Face для ответов на сложные запросы. Следуйте приведенным ниже инструкциям для настройки базы данных MongoDB и включения векторного поиска: Зарегистрируйте бесплатный аккаунт Atlas или войдите в существующий аккаунт Atlas. Следуйте инструкциям (выберите Atlas UI в качестве процедуры) для развертывания вашего первого кластера, который распределяет ваши данные по нескольким серверам для повышения производительности и отказоустойчивости. Для бесплатного кластера обязательно выберите опцию "Shared" при создании нового кластера. Подробности см. на изображении ниже Создайте базу данных: knowledge_base, и коллекцию research_papers Импортируйте библиотеки в среду разработки Загрузите набор данных из Hugging Face. Для демонстрационных целей используются только первые 100 точек данных. id submitter authors title comments journal-ref doi report-no categories license abstract versions update_date authors_parsed embedding 0 704.0001 Pavel Nadolsky C. Bal\'azs, E. L. Berger, P. M. Nadolsky, C.-... Calculation of prompt diphoton production cross... 37 pages, 15 figures; published version Phys.Rev.D76:013009,2007 10.1103/PhysRevD.76.013009 ANL-HEP-PR-07-12 hep-ph None A fully differential calculation in perturba... [{'version': 'v1', 'created': 'Mon, 2 Apr 2007... 2008-11-26 [[Balázs, C., ], [Berger, E. L., ], [Nadolsky,... [-0.0073745595291256905, -0.03725249320268631,...

План урока

1. Импорт библиотек
2. Загрузка и подготовка набора данных
3. Генерация embedding'ов
4. Настройка базы данных и коллекций
5. Загрузка данных
6. Векторный поиск
7. Обработка пользовательских запросов
8. Загрузка и использование Llama3