О чём урок
Когда мы в Google применяем принципы ИИ на практике, ключевую роль в процессе управления ИИ и его проверки играет выявление проблем (issue spotting). Это процесс, в ходе которого определяются возможные этические проблемы конкретного сценария использования ИИ.
В Google поняли, что людям нужен ориентир, который помогает замечать этические проблемы. Но это не может быть простой чек-лист, ведь он мешает критическому анализу. Поэтому наш подход к выявлению проблем строится на вопросах, которые заставляют задуматься о технологии, созданной самими разработчиками. Эти вопросы опираются на хорошо известные этические модели принятия решений, где подчёркивается важность поиска дополнительной информации и рассмотрения лучших и худших сценариев. Так удаётся обнаружить потенциальные этические проблемы, которые иначе могли бы остаться незамеченными.
Вопросы охватывают самые разные темы: общее определение продукта, решаемую проблему, предполагаемых пользователей, используемые данные, а также то, как модель обучается и тестируется. Есть и вопросы о контексте: о цели и значимости сценария использования, о его общественно полезных применениях и о возможности злоупотреблений. Эти вопросы призваны показать, как проектные решения могут повлиять на справедливое и ответственное использование модели ИИ.
Мы оцениваем все сценарии использования ИИ, исходя из предположения, что всегда есть проблемы, которые можно решить, даже если сценарий кажется очевидно полезным для общества. Если в ходе такого критического анализа выявляются проблемы, которые могут противоречить этическим целям принципов ИИ, проводится более глубокая проверка. За время проверок на соответствие принципам ИИ мы выделили некоторые сложные области разработки ИИ, которые требуют более пристального этического анализа.
Очень важно определить области риска и вреда для сценариев, значимых в контексте вашего бизнеса, и проявлять особую осторожность при создании ИИ-приложений в этих областях. Например, это могут быть сценарии, связанные с наблюдением (Surveillance) или синтетическими медиа (Synthetic Media), и многие другие. Какие области окажутся сложными для вашего бизнеса, во многом зависит от отрасли ваших клиентов.
Давайте рассмотрим гипотетический сценарий и с помощью вопросов для выявления проблем оценим, нарушаются…
План урока
- Текст видео
- Гипотетический сценарий: ASD Carebot
- Вопросы для выявления проблем по каждому принципу ИИ
Урок входит в полный доступ. Полный текст и видео открываются после оплаты. Первые уроки каждого курса бесплатны.