О чём урок
Важный вопрос для всех ИИ-приложений: насколько актуальны их ИИ-функции? Поскольку ИИ быстро развивается, для поддержания актуальности, надёжности и устойчивости вашего приложения необходимо постоянно его мониторить, оценивать и улучшать. Именно здесь вступает в игру жизненный цикл генеративного ИИ.
Жизненный цикл генеративного ИИ представляет собой фреймворк, который направляет вас по этапам разработки, развёртывания и поддержки приложения генеративного ИИ. Он помогает определить цели, измерить производительность, выявить проблемы и реализовать решения. Также он помогает привести ваше приложение в соответствие с этическими и правовыми стандартами вашей области и заинтересованных сторон. Следуя жизненному циклу генеративного ИИ, вы можете быть уверены, что ваше приложение всегда приносит пользу и удовлетворяет пользователей.
В этом уроке вы:
- Узнаете о смене парадигмы от MLOps к LLMOps
- Изучите жизненный цикл LLM
- Ознакомитесь с инструментами жизненного цикла
- Рассмотрите метрики и оценку жизненного цикла
Большие языковые модели (LLM) представляют собой новый инструмент в арсенале искусственного интеллекта. Они невероятно мощны в задачах анализа и генерации для приложений, однако эта мощь влечёт за собой определённые последствия для оптимизации задач ИИ и классического машинного обучения.
В связи с этим нам нужна новая парадигма для динамичной адаптации этого инструмента с правильными стимулами. Мы можем классифицировать старые ИИ-приложения как «ML-приложения», а новые ИИ-приложения как «GenAI-приложения» или просто «ИИ-приложения», что отражает основные технологии и методы, используемые в данный момент. Это меняет наш подход по нескольким направлениям. Взгляните на следующее сравнение.
Обратите внимание, что в LLMOps мы больше ориентированы на разработчиков приложений, используя интеграции как ключевой момент, применяя «модели как услугу» и учитывая следующие пункты для метрик:
- Качество: качество ответа
- Вред: ответственный ИИ
- Честность: обоснованность ответа (имеет ли смысл? корректен ли он?)
- Стоимость: бюджет решения
- Задержка: среднее время ответа токена
Для начала, чтобы понять жизненный цикл и его изменения, обратите внимание на следующую инфографику.
Как вы можете заметить, это отличается от обычных жизненных циклов MLOps.
Например, взгляните, как мы генерируем идеи…
План урока
- Введение
- Смена парадигмы: от MLOps к LLMOps
- Жизненный цикл LLM
- Инструменты жизненного цикла
- Отлично! Продолжайте обучение!
Урок входит в полный доступ. Полный текст и видео открываются после оплаты. Первые уроки каждого курса бесплатны.