Ответы на вопросы с LangChain и Chroma

О чём урок

Примечание: Для корректной работы этого notebook требуются лимиты скорости платного уровня (paid tier rate limits). (см. цены для получения более подробной информации). Gemini — это семейство генеративных AI моделей, которые позволяют разработчикам создавать контент и решать задачи. Эти модели разработаны и обучены для обработки как текста, так и изображений в качестве input. LangChain — это data framework, разработанный для упрощения интеграции Large Language Models (LLM), таких как Gemini, в приложения. Chroma — это open-source embedding database, ориентированная на простоту и продуктивность разработчиков. Chroma позволяет пользователям хранить embeddings и их metadata, создавать embeddings для документов и запросов, а также быстро искать embeddings. В этом notebook вы узнаете, как создать приложение, которое отвечает на вопросы, используя данные с веб-сайта, с помощью Gemini, LangChain и Chroma. Сначала необходимо установить пакеты и задать необходимые переменные среды. Установите Python library LangChain, langchain, и integration package LangChain для Gemini, langchain-google-genai. Затем установите Python client SDK Chroma, chromadb. Чтобы запустить следующую cell, ваш API key должен быть сохранен в Colab Secret с именем GEMINI_API_KEY. Если у вас еще нет API key или вы не знаете, как создать Colab Secret, см. Authentication для примера. LLM обучаются офлайн на большом корпусе общедоступных данных. Следовательно, они не могут точно отвечать на вопросы, основанные на пользовательских или частных данных, без дополнительного context. Если вы хотите использовать LLM для ответов на вопросы, основанные на частных данных, вам необходимо предоставить соответствующие документы в качестве context вместе с вашим prompt. Этот подход называется Retrieval Augmented Generation (RAG). Вы будете использовать этот подход для создания ассистента по ответам на вопросы с использованием текстовой модели Gemini, интегрированной через LangChain. Ожидается, что ассистент будет отвечать на вопросы о модели Gemini. Чтобы сделать это возможным, вы добавите больше context ассистенту, используя данные с веб-сайта.

План урока

1. Обзор
2. Настройка
3. Установка
4. Настройте ваш API key
5. Основные шаги
6. Retriever
7. Чтение и анализ данных веб-сайта
8. Инициализация embedding model Gemini