Работа с моделями семейства Meta

Цели урока

• О двух основных моделях семейства Meta: Llama 3.1 и Llama 3.2.
• О сценариях и вариантах использования каждой модели.
• Пример кода, демонстрирующий уникальные возможности каждой модели.

О чём урок

Примечание AI University. Примеры кода в оригинале курса рассчитаны на Azure OpenAI или GitHub Models. Те же запросы можно отправлять через OpenAI API или другой OpenAI-совместимый сервис: замените клиент, адрес сервиса, название модели и ключ на свои и сверьтесь с документацией выбранного провайдера. В этом уроке вы узнаете: В этом уроке мы рассмотрим две модели из семейства Meta, или «стада Llama»: Llama 3.1 и Llama 3.2. Эти модели доступны в различных вариантах в каталоге моделей Microsoft Foundry Models. Примечание: GitHub Models прекращает работу в конце июля 2026 года. Подробнее об использовании Microsoft Foundry Models для прототипирования моделей ИИ. Варианты моделей: Llama 3.1 - 70B Instruct Llama 3.1 - 405B Instruct Llama 3.2 - 11B Vision Instruct Llama 3.2 - 90B Vision Instruct Примечание: Llama 3 также доступна в Microsoft Foundry Models, но в этом уроке она не рассматривается. Модель Llama 3.1 с 405 миллиардами параметров относится к категории больших языковых моделей (LLM) с открытым исходным кодом. Эта модель представляет собой обновление предыдущей версии Llama 3 и предлагает: Увеличенное контекстное окно: 128 тысяч токенов вместо 8 тысяч токенов. Увеличенное максимальное количество выходных токенов: 4096 вместо 2048. Улучшенную многоязычную поддержку: благодаря увеличению количества токенов для обучения. Эти возможности позволяют Llama 3.1 обрабатывать более сложные сценарии при создании приложений генеративного ИИ, включая: Нативный вызов функций: возможность вызывать внешние инструменты и функции за пределами рабочего процесса LLM. Улучшенную производительность RAG: благодаря большему контекстному окну. Генерацию синтетических данных: возможность создавать эффективные данные для таких задач, как дообучение (fine-tuning). Llama 3.1 была дообучена (fine-tuned) для более эффективного вызова функций или инструментов. Она также имеет два встроенных инструмента, которые модель может определить как необходимые для использования на основе промпта пользователя. Эти инструменты: Brave Search: может использоваться для получения актуальной информации, например, о погоде, путём выполнения веб-поиска.

План урока

1. Введение
2. Семейство моделей Meta
3. Llama 3.1
4. Нативный вызов функций
5. Llama 3.2
6. Мультимодальная поддержка с Llama 3.2
7. Обучение не заканчивается здесь, продолжайте развитие