Создание чат-приложений на базе генеративного ИИ

Урок 8 из 22 курса «Генеративный ИИ для начинающих»: официальный курс Microsoft AI for Beginners (Майкрософт) на русском языке. Урок входит в платный доступ; первые уроки курса бесплатно.

Цели урока

  • Описывать соображения по созданию и интеграции чат-приложений в существующие системы.
  • Кастомизировать чат-приложения для конкретных сценариев использования.
  • Определять ключевые метрики и соображения для эффективного мониторинга и поддержания качества ИИ-чат-приложений.
  • Обеспечивать ответственное использование ИИ в чат-приложениях.

О чём урок

Примечание AI University. Примеры кода в оригинале курса рассчитаны на Azure OpenAI или GitHub Models. Те же запросы можно отправлять через OpenAI API или другой OpenAI-совместимый сервис: замените клиент, адрес сервиса, название модели и ключ на свои и сверьтесь с документацией выбранного провайдера. (Нажмите на изображение выше, чтобы посмотреть видео этого урока) Теперь, когда вы увидели, как можно создавать приложения для генерации текста, давайте рассмотрим чат-приложения. Чат-приложения стали неотъемлемой частью нашей повседневной жизни, предлагая больше, чем просто средство для непринуждённого общения. Они являются важными компонентами клиентской поддержки, технической поддержки и даже сложных консультационных систем. Вероятно, вы недавно получали помощь от чат-приложения. По мере того как мы интегрируем более продвинутые технологии, такие как генеративный ИИ, в эти платформы, возрастает их сложность, а также возникающие вызовы. Некоторые вопросы, на которые нам нужно ответить: Создание приложения. Как эффективно создавать и беспрепятственно интегрировать эти ИИ-приложения для конкретных сценариев использования? Мониторинг. После развёртывания, как мы можем контролировать и обеспечивать работу приложений на высочайшем уровне качества, как с точки зрения функциональности, так и в соответствии с шестью принципами ответственного ИИ? По мере того как мы всё глубже погружаемся в эпоху, определяемую автоматизацией и бесшовным взаимодействием человека и машины, понимание того, как генеративный ИИ трансформирует масштаб, глубину и адаптивность чат-приложений, становится крайне важным. В этом уроке будут исследованы архитектурные аспекты, которые поддерживают эти сложные системы, рассмотрены методологии их дообучения для предметно-ориентированных задач, а также оценены метрики и соображения, относящиеся к обеспечению ответственного развёртывания ИИ. В этом уроке рассматриваются: Методы эффективного создания и интеграции чат-приложений. Применение кастомизации и дообучения (fine-tuning) приложений. Стратегии и соображения для эффективного мониторинга чат-приложений.

План урока

  1. Введение
  2. Интеграция генеративного ИИ в чат-приложения
  3. Чатбот или чат-приложение?
  4. Использование готовых функций с помощью SDK и API
  5. Пользовательский опыт (UX)
  6. Фреймворк системных сообщений Microsoft для больших языковых моделей
  7. Доступность
  8. Кастомизация и дообучение для предметно-ориентированных языковых моделей

Урок входит в полный доступ. Полный текст и видео открываются после оплаты. Первые уроки каждого курса бесплатны.

Полезные гиды