О чём урок
Когда принципы ИИ определены, следующий шаг в построении системы управления ИИ: наладить процесс проверки, который поможет применять эти принципы на практике. Принципы ИИ в роли ориентира не дадут сразу ответов на все вопросы об этических рисках ИИ и не избавят вас от трудных разговоров. Они задают отправную точку: помогают сформулировать ценности, которых вы придерживаетесь, и понять, что нужно оценивать при разработке технологий. Дальше применение этих принципов требует согласованных и постоянных усилий.
Технические инструменты ответственного ИИ помогают оценить, как работает конкретная модель машинного обучения, но первый важный шаг к определению ваших целей: выстроить надёжные процессы управления ИИ. Технические инструменты полезны только тогда, когда у вас есть чёткие цели в области ответственности. Специально выстроенный процесс формирует культуру ответственного ИИ, которой часто не хватает в традиционных жизненных циклах разработки продуктов.
Давайте коротко разберём несколько распространённых заблуждений об управлении ответственным ИИ. Первое заблуждение: если нанимать этичных людей, продукты на основе ИИ тоже будут этичными. На деле два человека с высокими этическими стандартами могут оценить одну и ту же ситуацию или одно и то же ИИ-решение и прийти к совершенно разным выводам, исходя из своего опыта и бэкграунда. Исследование в отчёте Всемирного экономического форума «Ethics By Design» показывает, что даже у самых этичных людей бывают этические слепые зоны. Поэтому важно выстраивать практики этичного принятия решений и оставлять место для этического обсуждения. Оба фактора сильно влияют на достижение этичных результатов.
Другое распространённое заблуждение: будто для ответственного ИИ можно составить чек-лист. Чек-листы и деревья решений успокаивают, но, по нашему опыту, для управления такими новыми технологиями они неэффективны. У каждого продукта уникальны и технические детали, и контекст использования, поэтому каждый требует отдельной оценки. Следование чек-листу может ограничить критическое мышление и привести к этическим слепым зонам.
Для управления ИИ необходимы программы и практики, которые поддерживают проверку ваших технологий. Такие процедуры позволяют командам проявить моральное воображение: представить весь спектр возможностей…
План урока
- Текст видео
- Распространённые заблуждения об управлении ответственным ИИ
- Структура комитетов по проверке
Урок входит в полный доступ. Полный текст и видео открываются после оплаты. Первые уроки каждого курса бесплатны.