Урок из полного доступа, первые уроки курса бесплатно Официальный курс Mistral AI Cookbook на русском
Урок 24 · Текст · ~5 мин

Агент, который решает подзадачи параллельно

Урок 24 из 154 курса «Mistral AI Cookbook»: официальный курс Mistral AI Cookbook (Мистраль) на русском языке. Урок входит в платный доступ; первые уроки курса бесплатно.

О чём урок

Этот notebook демонстрирует, как создать универсальный рабочий процесс агента, который автоматически разбивает сложные задачи на несколько подзадач.

Эти подзадачи выполняются с использованием параллельных вызовов MistralAI LLM, дополненных информацией в реальном времени из Tavily API.

Затем результаты синтезируются в исчерпывающий ответ.

  1. LLM-оркестратор анализирует основную задачу и разбивает её на отдельные, параллельные подзадачи
  2. Каждая подзадача назначается worker LLM со специализированными инструкциями
  3. Workers выполняются параллельно, используя Tavily API для получения актуальной информации по мере необходимости
  4. Результаты синтезируются в унифицированный ответ

ПРИМЕЧАНИЕ: Мы будем использовать LLM MistralAI для обработки подзадач и синтеза ответов, а также Tavily API для получения актуальной информации.

Здесь мы настраиваем API ключи для MistralAI и Tavily. Вы можете получить ключи по следующим ссылкам:

  1. MistralAI: https://console.mistral.ai/api-keys
  2. Tavily: https://app.tavily.com/home

Pydantic модели обеспечивают валидацию и сериализацию данных, гарантируя, что данные, получаемые нами от LLM, соответствуют ожидаемой структуре. Это помогает поддерживать согласованность между компонентами оркестратора и worker.

SubTask: Определение индивидуальной подзадачи — определяет дискретную единицу работы с её типом, описанием и необязательным поисковым запросом.

TaskList: Выходная структура от оркестратора — содержит анализ и список определённых подзадач, которые будут выполняться параллельно.

Вспомогательные функции API обрабатывают взаимодействие с внешними API и обрабатывают ответы, предоставляя чистые интерфейсы для остальной части рабочего процесса.

fetch_information: Извлекает релевантную информацию из Tavily API на основе запроса и возвращает структурированные результаты.

run_mistral_llm: Выполняет стандартный вызов Mistral AI с заданными prompt, возвращая сгенерированный контент.

parse_structured_output: Использует возможности структурированного вывода Mistral для генерации и парсинга ответов в соответствии с Pydantic моделями.

Эти функции обеспечивают параллельное выполнение подзадач, позволяя рабочему процессу обрабатывать несколько компонентов одновременно для повышения эффективности.

run_task_async: Выполняет одну подзадачу асинхронно, дополняя её релевантной информацией от Tavily по мере необходимости.

execute_tasks_in_parallel: Управляет параллельным выполнением всех подзадач, обеспечивая их одновременный запуск и надлежащий сбор результатов.

Основная функция оркестрации…

План урока

  1. Введение
  2. Обзор рабочего процесса
  3. Архитектура решения
  4. Установка
  5. Импорты
  6. Настройте ваши API ключи
  7. Инициализация клиента Mistral
  8. Конфигурация Tavily API

Урок входит в полный доступ. Полный текст и видео открываются после оплаты. Первые уроки каждого курса бесплатны.

Откройте полный доступ

Вы прошли бесплатные уроки. Выберите тариф, чтобы продолжить обучение.

Курсы Mistral AI 1 490 ₽ Разовый платёж, навсегда
  • Все курсы от Mistral AI (1 шт.)
  • Именной сертификат по каждому пройденному курсу
Оплатить
Полный доступ 4 900 ₽ Разовый платёж, навсегда
  • Все 77 курсов от 11 AI-провайдеров
  • Библиотека промптов и новые курсы
Оплатить

Безопасная оплата через Robokassa: СБП, карты, электронные кошельки. Доступ откроется в этом браузере и придёт письмом. Уже оплатили? Восстановить доступ

Полезные гиды