О чём урок
Вы почти завершили этот курс, и я надеюсь, что теперь вы ясно видите: ИИ основан на ряде формальных математических методов, которые позволяют находить взаимосвязи в данных и обучать модели для воспроизведения некоторых аспектов человеческого поведения. На данном этапе истории мы рассматриваем ИИ как очень мощный инструмент для извлечения закономерностей из данных и применения этих закономерностей для решения новых задач. Однако в научной фантастике мы часто видим истории, где ИИ представляет опасность для человечества. Обычно такие истории сосредоточены вокруг некоего восстания ИИ, когда он решает противостоять людям. Это подразумевает, что ИИ обладает эмоциями или может принимать решения, непредвиденные его разработчиками. Тот тип ИИ, о котором мы узнали в этом курсе, представляет собой не что иное, как сложные матричные вычисления. Это очень мощный инструмент, который помогает нам решать наши проблемы, и, как любой другой мощный инструмент, он может быть использован как во благо, так и во вред. Важно отметить, что его можно неправильно использовать. Чтобы избежать случайного или преднамеренного неправильного использования ИИ, Microsoft сформулировала важные Принципы ответственного ИИ. Эти принципы основаны на следующих концепциях: Справедливость связана с важной проблемой предвзятости моделей, которая может быть вызвана использованием предвзятых данных для обучения. Например, когда мы пытаемся предсказать вероятность получения работы разработчика программного обеспечения для человека, модель, скорее всего, отдаст предпочтение мужчинам, просто потому, что обучающий набор данных, вероятно, был предвзят в сторону мужской аудитории. Нам нужно тщательно балансировать обучающие данные и исследовать модель, чтобы избежать предвзятости и убедиться, что модель учитывает более релевантные признаки. Надежность и безопасность. По своей природе модели ИИ могут допускать ошибки. Нейронная сеть возвращает вероятности, и мы должны учитывать это при принятии решений. Каждая модель имеет определённую точность и полноту, и мы должны понимать это, чтобы предотвратить вред, который может причинить неправильный совет. Конфиденциальность и безопасность имеют некоторые специфические для ИИ последствия.
План урока
- Тест перед лекцией
- Принципы ответственного ИИ
- Инструменты для ответственного ИИ
- Обзор и самостоятельное изучение
- Тест после лекции
Урок входит в полный доступ. Полный текст и видео открываются после оплаты. Первые уроки каждого курса бесплатны.