О чём урок
В Google мы выделили ряд основных этических целей. Их можно рассматривать как объяснение идеи, которая лежит в основе каждого из принципов ИИ. Эти этические цели помогают нам последовательно оценивать соответствие принципам. Они подсказывают, какие этические проблемы могут существовать, но не являются контрольным списком. Давайте рассмотрим некоторые из основных этических целей, известных как «Задачи для ИИ-приложений» (Objectives for AI applications), для каждого из принципов ИИ.
Первый принцип, быть полезным для общества, направлен на поддержку здоровых социальных систем и институтов. Например, это может означать, что автоматизированные системы не должны несправедливо лишать людей услуг, существенных для их благополучия: работы, жилья, страхования или образования. Принцип также призван снижать риск социального вреда с точки зрения его количества, тяжести, вероятности и масштаба. Он стремится уменьшить риски для уязвимых групп, а также снизить риск непреднамеренного вреда.
Второй принцип, избегать создания или усиления несправедливой предвзятости, нацелен на развитие ИИ, который относится к людям и группам честно, справедливо и равноправно. Он должен ограничивать влияние исторической предвзятости в отношении маргинализированных групп, заложенной в обучающих данных. Речь идет как о данных, которые в них включены, так и о данных, которых нет или которые остаются невидимыми из-за исторической исключенности. Благодаря этому принципу мы внимательно следим за тем, как технологическая дискриминация может влиять на полезность продукта для всех пользователей.
Возьмем, например, человека, который ищет изображения по запросу «свадьба». ИИ-классификатор изображений, обученный на предвзятых данных, может присваивать метку «свадьба» только фотографиям пар в традиционных западных свадебных нарядах. А если на снимке пара одета в традиционный свадебный наряд другой культуры, он может получить метку «люди» вместо «свадьба». Это показывает, что такой классификатор может не распознавать свадебные фотографии из разных частей света и разных культур. Подобные метки и различия нам не нужны, а этот случай служит примером набора данных, который не отражает нашу глобальную аудиторию. Недостаточная представленность, как в этом примере, наносит вред.
Понимая это, Google…
План урока
- Текст видео
- Быть полезным для общества
- Избегать создания или усиления несправедливой предвзятости
- Создаваться и тестироваться с учетом безопасности
- Быть подотчетным людям
- Учитывать принципы конфиденциальности при проектировании
- Придерживаться высоких стандартов научного совершенства
- Быть доступным для применений, соответствующих этим принципам
Урок входит в полный доступ. Полный текст и видео открываются после оплаты. Первые уроки каждого курса бесплатны.