О чём урок
До сих пор мы говорили об этике в общем виде. Однако есть этические проблемы, которые особенно актуальны для передовых технологий, ставших возможными благодаря ИИ. Этот модуль не претендует на полноту, но мы рассмотрим темы, которым уделяют больше всего внимания, когда обсуждают этические опасения, связанные с ИИ.
Каждый сценарий применения ИИ создаёт свои уникальные сложности, и Google работает над их решением. Но всей отрасли необходимо лучше осознавать эти проблемы, чтобы вместе вырабатывать подходы к ним. Так какие же основные опасения связаны с ИИ?
Первое из них: прозрачность. По мере усложнения систем ИИ становится всё труднее обеспечить достаточную прозрачность, чтобы люди могли понять, как эти системы принимают решения. Во многих ситуациях понимание того, как работает система ИИ, критически важно для автономии конечного пользователя и для его способности делать осознанный выбор.
Недостаток прозрачности также затрудняет разработчику прогноз того, когда и как такие системы могут дать сбой или нанести непреднамеренный вред. Модели, которые позволяют человеку понять, какие факторы повлияли на решение, помогают заинтересованным сторонам лучше взаимодействовать с ИИ. Это может означать, что вы знаете, когда вмешаться, если ИИ работает плохо, можете усовершенствовать стратегию использования результатов системы ИИ и понимаете, как её улучшить.
Второе опасение: несправедливая предвзятость. ИИ не создаёт её сам по себе, он выявляет предвзятость, уже существующую в социальных системах, и усиливает её. Серьёзная ловушка ИИ в том, что его способность к масштабированию может закреплять и распространять несправедливую предвзятость, что приводит к дальнейшему непреднамеренному вреду.
Несправедливая предвзятость, которая формирует общество, влияет и на каждый этап создания ИИ: от наборов данных и постановки задачи до создания и проверки модели. ИИ напрямую отражает общественный контекст, в котором его разрабатывают и применяют. Чтобы снизить вред, необходимо учитывать общественный контекст и вероятные искажения и работать с ними.
Например, системы компьютерного зрения всё чаще применяют в таких критически важных сферах, как общественная безопасность и физическая охрана, чтобы следить…
План урока
- Текст видео
- Прозрачность
- Несправедливая предвзятость
- Безопасность
- Конфиденциальность
- Псевдонаука в ИИ
- Ответственность перед людьми
- Безработица и утрата навыков из-за ИИ
Урок входит в полный доступ. Полный текст и видео открываются после оплаты. Первые уроки каждого курса бесплатны.