Создание локальных ИИ-агентов с помощью Microsoft Foundry Local и Qwen

Цели урока

• Малые языковые модели (SLM): что они собой представляют, где они эффективны, а где нет.
• Microsoft Foundry Local: среда выполнения, которая загружает и обслуживает модели на устройстве через OpenAI-совместимый API.
• Модели Qwen с вызовом функций: SLM, которые надёжно генерируют вызовы инструментов, что делает возможными локальных агентов (а не просто локальный чат).
• Локальные инструменты, локальный RAG и локальный MCP: как предоставить агенту возможности без облака.
• Гибридные паттерны: когда оставлять задачи локальными, а когда обращаться к облаку.

О чём урок

В предыдущем уроке мы масштабировали агентов в облако. В этом уроке мы перенесём их на одну машину. К концу урока у вас будет рабочий инженерный помощник, который рассуждает, вызывает инструменты, читает ваши файлы и ищет в вашей документации, при этом без единого обращения к облачному выводу. Зачем это нужно? Есть три причины, которые постоянно возникают в реальной инженерной работе: Конфиденциальность. Код и документы никогда не покидают вашу машину. Ни один промпт, ни один фрагмент, ни одни клиентские данные не пересекают сетевую границу. Стоимость. Локальный вывод не тарифицируется за токен. Вы можете итерировать весь день по цене электроэнергии. Офлайн. В самолёте, в защищённом помещении или во время сбоя агент всё равно работает. Однако вы меняете передовую облачную модель на малую языковую модель (SLM), работающую на вашем CPU, GPU или NPU. Этот урок посвящён созданию агентов, которые эффективны в рамках этого ограничения, а не притворяются, что его нет. В этом уроке вы узнаете: После завершения этого урока вы будете знать, как: Объяснять компромиссы SLM и выбирать подходящие сценарии использования локальных агентов. Запускать модель Qwen локально с помощью Foundry Local и подключаться к ней через OpenAI-совместимый эндпоинт. Создавать агента с вызовом инструментов, который полностью работает на вашей рабочей станции. Добавлять локальный RAG для ваших документов с использованием локальной векторной базы данных (Chroma). Подключать агента к локальному MCP-серверу и рассуждать о гибридных локально-облачных решениях. Этот урок предполагает, что вы прошли предыдущие уроки и уверенно работаете с: Использованием инструментов (Урок 4) и агентным RAG (Урок 5). Агентными протоколами / MCP (Урок 11). Microsoft Agent Framework (Урок 14). Вам также понадобится: Рабочая станция разработчика.

План урока

1. Введение
2. Предварительные требования
3. Малые языковые модели: подходящий инструмент для локальной работы
4. Microsoft Foundry Local
5. Установка
6. Вызов функций Qwen: почему это важно
7. Локальный RAG
8. Локальные MCP-серверы