Урок из полного доступа, первые уроки курса бесплатно Официальный курс Microsoft AI for Beginners на русском
Урок 15 · Текст · ~5 мин

Жизненный цикл приложения генеративного ИИ

Урок 15 из 22 курса «Генеративный ИИ для начинающих»: официальный курс Microsoft AI for Beginners (Майкрософт) на русском языке. Урок входит в платный доступ; первые уроки курса бесплатно.

О чём урок

Важный вопрос для всех ИИ-приложений: насколько актуальны их ИИ-функции? Поскольку ИИ быстро развивается, для поддержания актуальности, надёжности и устойчивости вашего приложения необходимо постоянно его мониторить, оценивать и улучшать. Именно здесь вступает в игру жизненный цикл генеративного ИИ.

Жизненный цикл генеративного ИИ представляет собой фреймворк, который направляет вас по этапам разработки, развёртывания и поддержки приложения генеративного ИИ. Он помогает определить цели, измерить производительность, выявить проблемы и реализовать решения. Также он помогает привести ваше приложение в соответствие с этическими и правовыми стандартами вашей области и заинтересованных сторон. Следуя жизненному циклу генеративного ИИ, вы можете быть уверены, что ваше приложение всегда приносит пользу и удовлетворяет пользователей.

В этом уроке вы:

  • Узнаете о смене парадигмы от MLOps к LLMOps
  • Изучите жизненный цикл LLM
  • Ознакомитесь с инструментами жизненного цикла
  • Рассмотрите метрики и оценку жизненного цикла

Большие языковые модели (LLM) представляют собой новый инструмент в арсенале искусственного интеллекта. Они невероятно мощны в задачах анализа и генерации для приложений, однако эта мощь влечёт за собой определённые последствия для оптимизации задач ИИ и классического машинного обучения.

В связи с этим нам нужна новая парадигма для динамичной адаптации этого инструмента с правильными стимулами. Мы можем классифицировать старые ИИ-приложения как «ML-приложения», а новые ИИ-приложения как «GenAI-приложения» или просто «ИИ-приложения», что отражает основные технологии и методы, используемые в данный момент. Это меняет наш подход по нескольким направлениям. Взгляните на следующее сравнение.

Обратите внимание, что в LLMOps мы больше ориентированы на разработчиков приложений, используя интеграции как ключевой момент, применяя «модели как услугу» и учитывая следующие пункты для метрик:

  • Качество: качество ответа
  • Вред: ответственный ИИ
  • Честность: обоснованность ответа (имеет ли смысл? корректен ли он?)
  • Стоимость: бюджет решения
  • Задержка: среднее время ответа токена

Для начала, чтобы понять жизненный цикл и его изменения, обратите внимание на следующую инфографику.

Как вы можете заметить, это отличается от обычных жизненных циклов MLOps.

Например, взгляните, как мы генерируем идеи…

План урока

  1. Введение
  2. Смена парадигмы: от MLOps к LLMOps
  3. Жизненный цикл LLM
  4. Инструменты жизненного цикла
  5. Отлично! Продолжайте обучение!

Урок входит в полный доступ. Полный текст и видео открываются после оплаты. Первые уроки каждого курса бесплатны.

Откройте полный доступ

Вы прошли бесплатные уроки. Выберите тариф, чтобы продолжить обучение.

Курсы Microsoft 1 490 ₽ Разовый платёж, навсегда
  • Все курсы от Microsoft (3 шт.)
  • Именной сертификат по каждому пройденному курсу
Оплатить
Полный доступ 4 900 ₽ Разовый платёж, навсегда
  • Все 77 курсов от 11 AI-провайдеров
  • Библиотека промптов и новые курсы
Оплатить

Безопасная оплата через Robokassa: СБП, карты, электронные кошельки. Доступ откроется в этом браузере и придёт письмом. Уже оплатили? Восстановить доступ

Полезные гиды