Урок из полного доступа, первые уроки курса бесплатно Официальный курс Microsoft AI for Beginners на русском
Урок 22 · Текст · ~5 мин

Работа с моделями семейства Meta

Урок 22 из 22 курса «Генеративный ИИ для начинающих»: официальный курс Microsoft AI for Beginners (Майкрософт) на русском языке. Урок входит в платный доступ; первые уроки курса бесплатно.

Цели урока

  • О двух основных моделях семейства Meta: Llama 3.1 и Llama 3.2.
  • О сценариях и вариантах использования каждой модели.
  • Пример кода, демонстрирующий уникальные возможности каждой модели.

О чём урок

Примечание AI University. Примеры кода в оригинале курса рассчитаны на Azure OpenAI или GitHub Models. Те же запросы можно отправлять через OpenAI API или другой OpenAI-совместимый сервис: замените клиент, адрес сервиса, название модели и ключ на свои и сверьтесь с документацией выбранного провайдера.

В этом уроке мы рассмотрим две модели из семейства Meta, или «стада Llama»: Llama 3.1 и Llama 3.2.

Эти модели доступны в различных вариантах в каталоге моделей Microsoft Foundry Models.

Примечание: GitHub Models прекращает работу в конце июля 2026 года. Подробнее об использовании Microsoft Foundry Models для прототипирования моделей ИИ.

Варианты моделей:

  • Llama 3.1 - 70B Instruct
  • Llama 3.1 - 405B Instruct
  • Llama 3.2 - 11B Vision Instruct
  • Llama 3.2 - 90B Vision Instruct

Примечание: Llama 3 также доступна в Microsoft Foundry Models, но в этом уроке она не рассматривается.

Модель Llama 3.1 с 405 миллиардами параметров относится к категории больших языковых моделей (LLM) с открытым исходным кодом.

Эта модель представляет собой обновление предыдущей версии Llama 3 и предлагает:

  • Увеличенное контекстное окно: 128 тысяч токенов вместо 8 тысяч токенов.
  • Увеличенное максимальное количество выходных токенов: 4096 вместо 2048.
  • Улучшенную многоязычную поддержку: благодаря увеличению количества токенов для обучения.

Эти возможности позволяют Llama 3.1 обрабатывать более сложные сценарии при создании приложений генеративного ИИ, включая:

  • Нативный вызов функций: возможность вызывать внешние инструменты и функции за пределами рабочего процесса LLM.
  • Улучшенную производительность RAG: благодаря большему контекстному окну.
  • Генерацию синтетических данных: возможность создавать эффективные данные для таких задач, как дообучение (fine-tuning).

Llama 3.1 была дообучена (fine-tuned) для более эффективного вызова функций или инструментов. Она также имеет два встроенных инструмента, которые модель может определить как необходимые для использования на основе промпта пользователя. Эти инструменты:

  • Brave Search: может использоваться для получения актуальной информации, например, о погоде, путём выполнения веб-поиска.
  • Wolfram Alpha: может использоваться для более сложных математических вычислений, поэтому вам…

План урока

  1. Введение
  2. Семейство моделей Meta
  3. Llama 3.1
  4. Нативный вызов функций
  5. Llama 3.2
  6. Мультимодальная поддержка с Llama 3.2
  7. Обучение не заканчивается здесь, продолжайте развитие

Урок входит в полный доступ. Полный текст и видео открываются после оплаты. Первые уроки каждого курса бесплатны.

Откройте полный доступ

Вы прошли бесплатные уроки. Выберите тариф, чтобы продолжить обучение.

Курсы Microsoft 1 490 ₽ Разовый платёж, навсегда
  • Все курсы от Microsoft (3 шт.)
  • Именной сертификат по каждому пройденному курсу
Оплатить
Полный доступ 4 900 ₽ Разовый платёж, навсегда
  • Все 77 курсов от 11 AI-провайдеров
  • Библиотека промптов и новые курсы
Оплатить

Безопасная оплата через Robokassa: СБП, карты, электронные кошельки. Доступ откроется в этом браузере и придёт письмом. Уже оплатили? Восстановить доступ

Полезные гиды