Демо Agent Framework с моделями Mistral

О чём урок

Этот ноутбук представляет Microsoft Agent Framework, использующий Mistral Large 3, размещенный в Azure AI Foundry. Он демонстрирует шесть постепенно усложняющихся паттернов:

Предварительные условия: Файл .env в этом каталоге с установленными AZURE_AI_PROJECT_ENDPOINT и AZURE_AI_DEPLOYMENT_NAME.

Все примитивы Agent Framework находятся в пространстве имен agent_framework. OpenAIChatCompletionClient (из agent_framework.openai) подключается к любой совместимой с OpenAI конечной точке, включая Azure AI Foundry.

Ячейка применяет одноразовый monkey-patch для удаления поля name из сообщений помощника перед их отправкой — конечные точки Mistral отклоняют это поле. Флаг-защитник предотвращает двойное патчирование, если ячейка запускается повторно.

Загрузите учетные данные из .env. AZURE_AI_PROJECT_ENDPOINT — это URL вашего проекта Foundry; AZURE_AI_DEPLOYMENT_NAME — это имя развернутой модели Mistral (например, mistral-large-2411).

OpenAIChatCompletionClient оборачивает конечную точку Foundry. Передача его в Agent добавляет обработку инструкций, маршрутизацию инструментов, управление сессиями и поддержку провайдеров контекста.

agent.run() отправляет запрос и блокируется до получения полного ответа. Возвращаемый объект предоставляет .text и необработанную историю сообщений.

Передайте stream=True, чтобы получить асинхронный генератор фрагментов AgentResponseUpdate. Выводите .text каждого фрагмента по мере его поступления для постепенного отображения токенов.

Инструменты позволяют агенту вызывать функции Python во время рассуждений. LLM решает, когда их вызывать и какие аргументы передавать, основываясь на docstring функции и аннотациях параметров.

Декорируйте функцию с помощью @tool, чтобы зарегистрировать ее. approval_mode="never_require" означает, что фреймворк вызывает ее автоматически, не требуя подтверждения пользователя.

Прикрепите инструмент к новому Agent через список tools. Фреймворк преобразует декорированную функцию в схему JSON, которую модель проверяет, чтобы решить, когда и как ее вызывать.

Запустите погодного агента с вопросом о местоположении. Модель автономно вызывает get_weather, затем включает возвращенную строку в свой ответ на естественном языке.

MCP — это открытый стандарт, который позволяет агентам вызывать инструменты, размещенные на удаленном сервере по HTTP, вместо выполнения локальных функций Python.

См. полное руководство: Инструменты Azure Foundry MCP

Прикрепите…

План урока

1. Настройка — Импорт
2. Конфигурация
3. 1. Базовый агент
4. Вызов без потоковой передачи
5. Вызов с потоковой передачей
6. 2. Инструменты
7. 3. Инструменты MCP (Model Context Protocol)
8. 4. Многоходовые беседы