Урок из полного доступа, первые уроки курса бесплатно Официальный курс Llama Cookbook на русском
Урок 19 · Текст · ~5 мин

Анализ научных статей с Llama 4

Урок 19 из 32 курса «Llama: сценарии использования»: официальный курс Llama Cookbook (Мета Лама) на русском языке. Урок входит в платный доступ; первые уроки курса бесплатно.

О чём урок

!pip install sentence-transformers qdrant-client requests IPython

Чтобы использовать этот пример, выполните следующие шаги для настройки вашей среды:

  1. Настройте аккаунт Llama: Вы можете использовать LLAMA API key с моделью, такой как Llama-4-Maverick-17B-128E-Instruct-FP8. Однако вы не ограничены этим; вы можете выбрать любую другую конечную точку провайдера inference и соответствующие модели LLAMA, которые соответствуют вашим потребностям.
  2. Выберите модель Llama или альтернативу: Выберите подходящую модель Llama для inference, например Llama-4-Maverick-17B-128E-Instruct-FP8, или изучите другие доступные модели LLAMA от выбранного вами провайдера inference.
  3. Создайте аккаунт Qdrant: Зарегистрируйтесь в Qdrant и сгенерируйте access token.
  4. Настройте Qdrant collection: Используйте предоставленный скрипт (setup_qdrant_collection.py) для создания и заполнения Qdrant collection.

Для получения дополнительной информации о настройке Qdrant collection обратитесь к скрипту setup_qdrant_collection.py. Этот скрипт демонстрирует, как обрабатывать файлы, разбивать их на chunks и сохранять в Qdrant collection.

После выполнения этих шагов вы можете определить свои переменные конфигурации следующим образом:

На этом шаге мы определим несколько вспомогательных функций, которые используются на протяжении всего процесса генерации блога. Эти функции включают:

  1. get_qdrant_client: Возвращает экземпляр Qdrant client, настроенный с вашим URL Qdrant и API key.
  2. query_qdrant: Выполняет запрос к Qdrant с гибридным поиском и reranking в указанной collection.

Эти вспомогательные функции упрощают код и облегчают управление взаимодействием с Qdrant.

Функция generate_blog является ядром нашего процесса генерации блога. Она принимает тему в качестве входных данных и использует следующие шаги для создания всеобъемлющей статьи в блоге:

  1. Извлечение релевантного контента: Использует функцию query_qdrant для извлечения релевантных chunks из Qdrant collection на основе входной темы.
  2. Формирование prompt: Создает prompt для модели Llama, объединяя извлеченный контент с системным prompt и пользовательским вводом.
  3. Генерация статьи в блоге: Отправляет сформированный prompt модели Llama через API выбранного провайдера inference и извлекает сгенерированную статью в блоге.

Эта функция организует весь процесс генерации блога, упрощая создание высококачественного контента на основе вашей технической документации.

План урока

  1. Шаг 2: Определение конфигурации и глобальных переменных
  2. Шаг 3: Определение вспомогательных функций
  3. Шаг 4: Определение основной функции генерации блога
  4. Шаг 5: Выполнение процесса генерации блога

Урок входит в полный доступ. Полный текст и видео открываются после оплаты. Первые уроки каждого курса бесплатны.

Откройте полный доступ

Вы прошли бесплатные уроки. Выберите тариф, чтобы продолжить обучение.

Курсы Meta Llama 1 490 ₽ Разовый платёж, навсегда
  • Все курсы от Meta Llama (2 шт.)
  • Именной сертификат по каждому пройденному курсу
Оплатить
Полный доступ 4 900 ₽ Разовый платёж, навсегда
  • Все 77 курсов от 11 AI-провайдеров
  • Библиотека промптов и новые курсы
Оплатить

Безопасная оплата через Robokassa: СБП, карты, электронные кошельки. Доступ откроется в этом браузере и придёт письмом. Уже оплатили? Восстановить доступ

Полезные гиды