О чём урок
В этом руководстве мы рассмотрим, как создать конвейер суммаризации PDF с использованием Indexify и больших языковых моделей Mistral. К концу этого документа у вас будет конвейер, способный обрабатывать тысячи PDF-документов и использующий Mistral для суммаризации.
Конвейер суммаризации будет состоять из двух шагов:
- Извлечение текста из PDF. Для этого мы будем использовать готовый экстрактор — tensorlake/pdfextractor.
- Мы используем Mistral для суммаризации.
Прежде чем начать, убедитесь, что у вас есть следующее:
- Создайте виртуальное окружение с Python 3.9 или новее
- pip (менеджер пакетов Python)
- Ключ API Mistral
- Базовое знакомство с Python и интерфейсами командной строки
Сначала установим Indexify, используя официальный установочный скрипт в терминале:
Запустите сервер Indexify:
Это запускает постоянно работающий сервер, который предоставляет API для приёма и извлечения данных приложениям.
Далее мы установим необходимые экстракторы в новом терминале:
После загрузки экстракторов вы можете запустить их:
Граф извлечения определяет поток данных через наш конвейер суммаризации. Мы создадим граф, который сначала извлекает текст из PDF-файлов, затем отправляет этот текст в Mistral для суммаризации.
Замените 'YOUR_MISTRAL_API_KEY' на ваш фактический ключ API Mistral.
Теперь, когда наш граф извлечения настроен, мы можем загружать файлы и заставлять конвейер генерировать суммаризации:
Вы можете настроить процесс суммаризации, изменив system_prompt в графе извлечения. Например:
- Для создания суммаризаций в виде маркированного списка:
- Чтобы сосредоточиться на конкретных аспектах документа:
Вы также можете экспериментировать с различными моделями Mistral, изменяя параметр model_name, чтобы найти оптимальный баланс между скоростью и точностью для вашего конкретного сценария использования.
Хотя пример может показаться простым, использование Indexify для этой цели имеет ряд уникальных преимуществ:
- Масштабируемость и высокая доступность: Сервер Indexify может быть развернут в облаке и способен обрабатывать тысячи загруженных в него PDF-файлов. Если какой-либо шаг в конвейере завершается сбоем, он автоматически повторяется на другой машине.
- Гибкость: Вы можете использовать любую другую модель извлечения PDF, если та, что мы использовали здесь, не подходит для…
План урока
- Введение
- Предварительные требования
- Настройка
- Установка Indexify
- Установка необходимых экстракторов
- Создание графа извлечения
- Реализация конвейера суммаризации
- Настройка и расширенное использование
Урок входит в полный доступ. Полный текст и видео открываются после оплаты. Первые уроки каждого курса бесплатны.