Жизненный цикл приложения генеративного ИИ

О чём урок

Важный вопрос для всех ИИ-приложений: насколько актуальны их ИИ-функции? Поскольку ИИ быстро развивается, для поддержания актуальности, надёжности и устойчивости вашего приложения необходимо постоянно его мониторить, оценивать и улучшать. Именно здесь вступает в игру жизненный цикл генеративного ИИ. Жизненный цикл генеративного ИИ представляет собой фреймворк, который направляет вас по этапам разработки, развёртывания и поддержки приложения генеративного ИИ. Он помогает определить цели, измерить производительность, выявить проблемы и реализовать решения. Также он помогает привести ваше приложение в соответствие с этическими и правовыми стандартами вашей области и заинтересованных сторон. Следуя жизненному циклу генеративного ИИ, вы можете быть уверены, что ваше приложение всегда приносит пользу и удовлетворяет пользователей. В этом уроке вы: Узнаете о смене парадигмы от MLOps к LLMOps Изучите жизненный цикл LLM Ознакомитесь с инструментами жизненного цикла Рассмотрите метрики и оценку жизненного цикла Большие языковые модели (LLM) представляют собой новый инструмент в арсенале искусственного интеллекта. Они невероятно мощны в задачах анализа и генерации для приложений, однако эта мощь влечёт за собой определённые последствия для оптимизации задач ИИ и классического машинного обучения. В связи с этим нам нужна новая парадигма для динамичной адаптации этого инструмента с правильными стимулами. Мы можем классифицировать старые ИИ-приложения как «ML-приложения», а новые ИИ-приложения как «GenAI-приложения» или просто «ИИ-приложения», что отражает основные технологии и методы, используемые в данный момент. Это меняет наш подход по нескольким направлениям. Взгляните на следующее сравнение. Обратите внимание, что в LLMOps мы больше ориентированы на разработчиков приложений, используя интеграции как ключевой момент, применяя «модели как услугу» и учитывая следующие пункты для метрик: Качество: качество ответа Вред: ответственный ИИ Честность: обоснованность ответа (имеет ли смысл? корректен ли он?) Стоимость: бюджет решения Задержка: среднее время ответа токена Для начала, чтобы понять жизненный цикл и его изменения, обратите внимание на следующую инфографику. Как вы можете заметить, это отличается от обычных жизненных циклов MLOps.

План урока

1. Введение
2. Смена парадигмы: от MLOps к LLMOps
3. Жизненный цикл LLM
4. Инструменты жизненного цикла
5. Отлично! Продолжайте обучение!