Агент для поиска научных статей на arXiv

О чём урок

Этот notebook был создан Андреем Черновым (Github, Linkedin) В этом руководстве мы создадим LLM-агента на основе языковой модели MistralAI. Основной целью агента будет поиск и обобщение научных статей с Arxiv, релевантных запросу пользователя. Для создания агента мы будем использовать фреймворк LlamaIndex.

Агент будет использовать следующие три инструмента:

1. RAG Query Engine Этот инструмент будет хранить и извлекать недавние статьи с Arxiv, служа в качестве базы знаний для эффективного и быстрого доступа к релевантной информации.
2. Paper Fetch Tool Если пользователь укажет тему, которая не охвачена в RAG Query Engine, этот инструмент будет извлекать недавние статьи по указанной теме непосредственно с Arxiv.
3. PDF Download Tool Этот инструмент позволяет агенту загружать PDF-файл научной статьи локально, используя ссылку, предоставленную Arxiv.

Вы можете получить API key здесь.

Для этого руководства мы будем использовать embedding модель MistralAI.

Чтобы это руководство было доступно с бесплатной версией Mistral API, мы загрузим только последние 10 статей. Загрузка большего количества превысит лимит позже при создании RAG query engine. Однако, если у вас есть подписка на Mistral, вы можете загрузить дополнительные статьи.

Этот процесс создает векторное представление для каждого фрагмента документа с использованием embedding модели.

Индексирование большого количества текстов может быть трудоемким и дорогостоящим, так как требует выполнения API-вызовов к embedding модели. В реальных приложениях лучше хранить индекс в векторной базе данных, чтобы избежать повторного индексирования. Однако, для простоты, в этом руководстве мы будем хранить индекс локально в директории, не используя векторную базу данных.

Хорошей практикой является предоставление осмысленного имени и четкого описания для каждого инструмента. Это помогает агенту выбрать наиболее подходящий инструмент при необходимости.

Обратите внимание, что существует два prompt'а. По умолчанию LlamaIndex использует refine prompt перед возвратом ответа. Вы можете найти больше информации о режимах ответа здесь.

Мы создали ReAct-агента, который работает в два основных этапа:

1. Reasoning: Получив запрос, агент оценивает, достаточно ли у него информации для прямого…

План урока

1. Инструменты, используемые агентом
2. Сначала установим необходимые библиотеки
3. Кроме того, вам необходимо предоставить свой API Key для доступа к моделям Mistral
4. Для создания RAG Query Engine нам понадобится embedding модель
5. Теперь мы загрузим недавние статьи о больших языковых моделях с ArXiv
6. Для создания RAG-агента нам сначала необходимо проиндексировать все документы
7. Теперь мы сохраним индекс
8. Мы готовы создать RAG Query Engine для нашего агента