Гибридный поиск для юристов с Qdrant

Цели урока

• Настроить гибридный поиск (dense + keyword) в Qdrant;
• Использовать Matryoshka Representations Gemini embeddings для баланса между качеством и стоимостью.

О чём урок

Есть интересный пример Gemini? Не стесняйтесь поделиться им! Примечание: Для корректной работы этого notebook требуются лимиты запросов платного уровня. (см. цены для получения более подробной информации). В юридической сфере точность и фактическая достоверность чрезвычайно важны. Стартап в области юридического AI, который сотрудничал с Qdrant, описал подход к обеспечению и того, и другого в приложениях юридического AI (например, на основе Retrieval Augmented Generation (RAG) или агентных): “Превратите всё в проблему retrieval, где вы извлекаете истинные данные. Если вы сформулируете это таким образом, вам не придется беспокоиться о галлюцинациях, поскольку всё, что предоставляется пользователю, основано на какой-либо части действительного документа.” Действительно, многие компании в сфере юридического AI требуют высококачественного retrieval в своих приложениях. Для этого вам понадобятся: Знание правильных инструментов и методов, повышающих релевантность поиска; Подходящая модель embedding; Готовность экспериментировать!:) В этом notebook вы узнаете, как объединить gemini-embedding-001 с инструментами, предоставляемыми движком векторного поиска Qdrant, для создания pipeline retrieval юридических вопросов и ответов. Вы узнаете, как: google-genai для gemini-embedding-001 embeddings; qdrant-client[fastembed] — Python-клиент Qdrant; HuggingFace datasets — для загрузки открытых юридических наборов данных вопросов и ответов GEMINI_API_KEY, необходимый для использования gemini-embedding-001 embeddings(узнайте, как его сгенерировать здесь) QDRANT_API_KEY и QDRANT_URL из бесплатного навсегда кластера Qdrant Cloud(вы получите инструкции по их получению в пользовательском интерфейсе Qdrant Cloud) Чтобы запустить следующую cell, ваши API ключи должны быть сохранены во вкладке Colab Secret. Вы будете использовать один из наборов данных Hugging Face от Isaacus, исследовательской компании в области юридического искусственного интеллекта. Распространенный сценарий использования в юридическом AI — это чат-бот на основе Retrieval-Augmented Generation (RAG). Для оценки производительности retrieval в таких приложениях вам нужен набор данных вопросов и ответов (QA). Open Australian Legal QA выглядит интересно. Однако все его сгенерированные LLM вопросы упоминают точное название юридического дела, которое также появляется в ответе.

План урока

1. Этот notebook был предоставлен Дженни.
2. Обзор
3. Этот notebook
4. Настройка
5. Установка SDK
6. Настройте свои API ключи
7. Шаг 1: Загрузка набора данных
8. Выбор набора данных