О чём урок
Важная часть управления ИИ (AI governance) - это отлаженная практика выявления проблем (issue spotting). Под выявлением проблем понимают процесс распознавания возможных этических рисков в ИИ-проекте. Ориентиром здесь могут служить принципы ИИ, которые разрабатывает ваша организация. Чтобы решать этические проблемы, их сначала нужно обнаружить.
Может возникнуть соблазн сделать этот процесс эффективнее с помощью чек-листов, где для каждого принципа расписано, что допустимо, а что нет. Мы знаем, что соблазн велик, потому что сами пробовали. Мы пытались создать деревья решений и чек-листы, которые гарантировали бы этичность нашей технологии. Не получилось. На деле этические проблемы приходится решать не только в привычных продуктах и сценариях использования, но и распознавая новые, прежде неизвестные риски, которые появляются вместе с новыми технологиями.
Каждый сценарий использования, каждый клиент и каждый социальный контекст уникальны. Инструмент или решение, соответствующее нашим принципам ИИ в одном контексте, в другом может им не соответствовать. Технологии, которые мы раньше даже не могли представить, развиваются стремительно и в огромных масштабах. Для них нужен гибкий процесс, а не жёсткие предписывающие ответы «да» или «нет». Нереалистично ожидать, что для каждого сценария использования удастся составить простой чек-лист, обеспечивающий соблюдение ваших принципов ИИ. Мы убедились: тщательный разбор фактов каждого конкретного случая ничем не заменить.
Полезно представить этические проблемы в виде птиц. Они повсюду вокруг нас, часто остаются незамеченными, в одних местах встречаются чаще, чем в других, и бывают разными: от крупных до мелких, от экзотических до самых обычных. Замечать их проще с практикой. По дороге на работу вы, скорее всего, проходили мимо множества птиц, но вряд ли обращали на них внимание. Теперь представьте, что вы опытный орнитолог-наблюдатель. Вы бы лучше различали виды, которые встречаются на вашем маршруте, и гораздо чаще замечали бы тонкие различия у птиц, которых видите каждый день.
Так же и при выявлении проблем: цель в том, чтобы стать более чувствительным к ним и уметь быстро и точно определять…
План урока
- Текст видео
- Аналогия с наблюдением за птицами
- Этические линзы
Урок входит в полный доступ. Полный текст и видео открываются после оплаты. Первые уроки каждого курса бесплатны.