О чём урок
В этом руководстве мы покажем, как создать агента поддержки банка, используя Mistral AI и PydanticAI, который предлагает следующие возможности:
- Структурированные ответы: Pydantic гарантирует, что output'ы соответствуют предопределенной схеме, обеспечивая согласованные и проверенные ответы.
- Внешние зависимости: Улучшайте взаимодействие с AI, интегрируя внешние зависимости, такие как базы данных, через систему внедрения зависимостей с проверкой типов.
- Динамический контекст: Функции system prompt позволяют внедрять информацию, доступную во время выполнения, например имя клиента, в контекст агента, обеспечивая персонализированное взаимодействие.
- Интеграция инструментов: Агент может вызывать инструменты для получения информации в реальном времени, расширяя свои возможности за пределы статических ответов.
Пример в этом руководстве адаптирован с https://ai.pydantic.dev/.
Если вы запускаете pydantic-ai в jupyter notebook или Colab, вам понадобится nest-asyncio для управления конфликтами между циклами событий, которые возникают между циклами событий jupyter и pydantic-ai:
Начнем с простого примера использования Pydantic AI для базового Q&A с Mistral.
Мы определим агента, работающего на Mistral, с system prompt, разработанным для обеспечения кратких ответов. Когда мы спросим о происхождении «hello world», модель предоставит краткий ответ из одного предложения.
В этом более сложном примере мы создаем агента поддержки банка.
В более сложных AI-workflow'ах ваша модель может требовать внешних данных, таких как информация из базы данных. Здесь мы определяем фиктивный класс базы данных, который извлекает имя и баланс клиента. В реальном сценарии этот класс мог бы подключаться к действующей базе данных. Агент может использовать эти методы для эффективного ответа на запросы клиентов.
На этом шаге мы определяем, как работает агент поддержки, настраивая его входные зависимости и ожидаемый формат output'а.
Разбор кода:
Почему этот дизайн важен:
- Определяя входные зависимости и форматы output'а, мы гарантируем, что агент всегда получает корректные данные и выдает предсказуемые результаты. Это упрощает интеграцию в более крупные системы и способствует четким, действенным ответам.
Этот код прикрепляет функцию динамического system prompt. Прежде чем модель увидит запрос пользователя, она получает…
План урока
- Пример 1: Базовый Q&A с Mistral
- Шаг 1: Определение базы данных
- Шаг 2: Определение агента поддержки банка
- Шаг 3: Добавление динамического system prompt
- Шаг 4: Определение инструментов, которые может использовать агент
- Шаг 5: Запуск агента
Урок входит в полный доступ. Полный текст и видео открываются после оплаты. Первые уроки каждого курса бесплатны.