О чём урок
В этом кейсе показано, как наши принципы ИИ и процессы проверки определили подход Google Cloud к технологии распознавания лиц. Начнём с результата проверки. В 2019 году Google Cloud запустил Celebrity Recognition: API с жёстко ограниченной областью применения для клиентов из сферы медиа и развлечений, которым нужно отмечать знаменитостей в своём профессиональном медиаконтенте, используемом по лицензии. Поиск по видеоконтенту всегда был сложной и трудоёмкой задачей, если не использовать дорогостоящие процессы тегирования. Из-за этого авторам трудно упорядочивать свой контент и предлагать персонализированный опыт.
Celebrity Recognition API представляет собой предобученную модель ИИ, то есть настроить её под себя нельзя. Она способна распознавать тысячи популярных актёров и спортсменов со всего мира на основе лицензированных изображений. Это первый корпоративный продукт Google Cloud с распознаванием лиц. Как же мы к этому пришли?
Распознавание лиц было признано одной из главных областей риска с точки зрения возможной несправедливой предвзятости. В начале 2016 года руководство Cloud решило, что распознавание лиц не войдёт в состав Cloud Vision API, хотя клиенты просили об этом чаще всего. Чтобы изучить вопрос подробнее, мы провели распознавание лиц через раннюю версию нашего процесса проверки на соответствие принципам ИИ. Эти проверки дали нам открытую площадку для обсуждения и время, чтобы критически осмыслить исследования, общественный контекст и проблемы этой технологии.
Мы видели, насколько полезным может быть весь спектр технологий, связанных с лицами, для людей и для общества в целом. Они способны сделать продукты безопаснее и надёжнее, например когда аутентификация по лицу управляет доступом к конфиденциальной информации. Есть и применения, приносящие огромную общественную пользу: например, некоммерческие организации используют распознавание лиц в борьбе с торговлей несовершеннолетними. Но важно, чтобы такие технологии разрабатывались вдумчиво и ответственно.
Google разделяет многие широко обсуждаемые опасения по поводу неправомерного использования технологии распознавания лиц, а именно: она должна быть справедливой, то есть не закреплять и не усиливать существующие предвзятости, особенно там, где это может затронуть…
План урока
- Текст видео
- Почему распознавание лиц потребовало тщательной проверки
- Внешние эксперты и оценка воздействия на права человека
- Анализ справедливости
- Поиск и устранение первопричины
Урок входит в полный доступ. Полный текст и видео открываются после оплаты. Первые уроки каждого курса бесплатны.