Цели урока
- О двух основных моделях семейства Meta: Llama 3.1 и Llama 3.2.
- О сценариях и вариантах использования каждой модели.
- Пример кода, демонстрирующий уникальные возможности каждой модели.
О чём урок
Примечание AI University. Примеры кода в оригинале курса рассчитаны на Azure OpenAI или GitHub Models. Те же запросы можно отправлять через OpenAI API или другой OpenAI-совместимый сервис: замените клиент, адрес сервиса, название модели и ключ на свои и сверьтесь с документацией выбранного провайдера.
В этом уроке мы рассмотрим две модели из семейства Meta, или «стада Llama»: Llama 3.1 и Llama 3.2.
Эти модели доступны в различных вариантах в каталоге моделей Microsoft Foundry Models.
Примечание: GitHub Models прекращает работу в конце июля 2026 года. Подробнее об использовании Microsoft Foundry Models для прототипирования моделей ИИ.
Варианты моделей:
- Llama 3.1 - 70B Instruct
- Llama 3.1 - 405B Instruct
- Llama 3.2 - 11B Vision Instruct
- Llama 3.2 - 90B Vision Instruct
Примечание: Llama 3 также доступна в Microsoft Foundry Models, но в этом уроке она не рассматривается.
Модель Llama 3.1 с 405 миллиардами параметров относится к категории больших языковых моделей (LLM) с открытым исходным кодом.
Эта модель представляет собой обновление предыдущей версии Llama 3 и предлагает:
- Увеличенное контекстное окно: 128 тысяч токенов вместо 8 тысяч токенов.
- Увеличенное максимальное количество выходных токенов: 4096 вместо 2048.
- Улучшенную многоязычную поддержку: благодаря увеличению количества токенов для обучения.
Эти возможности позволяют Llama 3.1 обрабатывать более сложные сценарии при создании приложений генеративного ИИ, включая:
- Нативный вызов функций: возможность вызывать внешние инструменты и функции за пределами рабочего процесса LLM.
- Улучшенную производительность RAG: благодаря большему контекстному окну.
- Генерацию синтетических данных: возможность создавать эффективные данные для таких задач, как дообучение (fine-tuning).
Llama 3.1 была дообучена (fine-tuned) для более эффективного вызова функций или инструментов. Она также имеет два встроенных инструмента, которые модель может определить как необходимые для использования на основе промпта пользователя. Эти инструменты:
- Brave Search: может использоваться для получения актуальной информации, например, о погоде, путём выполнения веб-поиска.
- Wolfram Alpha: может использоваться для более сложных математических вычислений, поэтому вам…
План урока
- Введение
- Семейство моделей Meta
- Llama 3.1
- Нативный вызов функций
- Llama 3.2
- Мультимодальная поддержка с Llama 3.2
- Обучение не заканчивается здесь, продолжайте развитие
Урок входит в полный доступ. Полный текст и видео открываются после оплаты. Первые уроки каждого курса бесплатны.