О чём урок
Примечание: Для корректной работы этого блокнота требуются лимиты скорости платного уровня. (см. цены для получения более подробной информации).
Gemini — это семейство генеративных моделей ИИ, которые позволяют разработчикам генерировать контент и решать проблемы. Эти модели разработаны и обучены для обработки как текста, так и изображений в качестве входных данных.
LlamaIndex — это простая, гибкая структура данных, которая может использоваться приложениями Large Language Model (LLM) для подключения пользовательских источников данных к LLM.
Chroma — это база данных встраиваний с открытым исходным кодом, ориентированная на простоту и продуктивность разработчиков. Chroma позволяет пользователям хранить встраивания и их метаданные, встраивать документы и запросы, а также быстро искать встраивания.
В этом блокноте вы узнаете, как создать приложение, которое отвечает на вопросы, используя данные с веб-сайта с помощью Gemini, LlamaIndex и Chroma.
Сначала необходимо установить пакеты и задать необходимые переменные среды.
Установите библиотеку Python для LlamaIndex, llama-index. Установите пакет интеграции LlamaIndex для Gemini, llama-index-llms-gemini, и пакет интеграции для модели встраивания Gemini, llama-index-embeddings-gemini. Затем установите средство чтения веб-страниц LlamaIndex, llama-index-readers-web. Наконец, установите клиентский SDK Python для ChromaDB, chromadb и
Чтобы запустить следующую ячейку, ваш ключ API должен быть сохранен в Colab Secret с именем GEMINI_API_KEY. Если у вас еще нет ключа API или вы не знаете, как создать Colab Secret, см. Аутентификация для примера.
LLM обучаются в автономном режиме на большом корпусе общедоступных данных. Следовательно, они не могут точно отвечать на вопросы, основанные на пользовательских или частных данных, без дополнительного контекста.
Если вы хотите использовать LLM для ответов на вопросы, основанные на частных данных, вы должны предоставить соответствующие документы в качестве контекста вместе с вашим запросом. Этот подход называется Retrieval Augmented Generation (RAG).
Вы будете использовать этот подход для создания помощника по ответам на вопросы с использованием текстовой модели Gemini, интегрированной через LlamaIndex. Ожидается, что помощник будет отвечать на вопросы о модели Google Gemini.
В этом руководстве вы…
План урока
- Обзор
- Настройка
- Установка
- Настройте свой ключ API
- Основные шаги
- Импортируйте необходимые библиотеки
- 1. Извлекатель (Retriever)
- Прочитайте и проанализируйте данные веб-сайта
Урок входит в полный доступ. Полный текст и видео открываются после оплаты. Первые уроки каждого курса бесплатны.