Текст видео
Здравствуйте и добро пожаловать на курс «Ответственный ИИ: применение принципов ИИ в Google Cloud», посвящённый практике ответственного ИИ. Меня зовут Маркус. А я Кейтлин. Мы будем вашими рассказчиками на протяжении всего курса.
Многие из нас уже ежедневно взаимодействуют с искусственным интеллектом (ИИ): от прогнозов пробок и погоды до рекомендаций сериалов, которые вам могут понравиться. По мере того как ИИ, особенно генеративный, становится всё более распространённым, многие технологии без ИИ могут начать казаться недостаточно хорошими. А такая мощная и далеко идущая технология порождает не менее серьёзные вопросы о её разработке и использовании.
Стремительное развитие ИИ
Раньше ИИ был недоступен обычным людям. Подавляющее большинство тех, кто был обучен и способен разрабатывать ИИ, составляли узкоспециализированные инженеры, которых было мало и услуги которых стоили дорого. Но барьеры для входа снижаются, и всё больше людей могут создавать ИИ, даже без специальной экспертизы в этой области.
Сегодня системы ИИ позволяют компьютерам видеть мир, понимать его и взаимодействовать с ним так, как ещё десять лет назад нельзя было и представить. И эти системы развиваются с необычайной скоростью. Согласно отчёту Стэнфордского университета AI Index за 2019 год, до 2012 года результаты в области ИИ близко следовали закону Мура: вычислительные мощности удваивались каждые два года. В отчёте сказано, что с 2012 года вычислительные мощности удваиваются примерно каждые три с половиной месяца.
Чтобы вы лучше это себе представляли: за это время технологии компьютерного зрения только стали точнее и мощнее. Например, заметно снизился уровень ошибок на ImageNet, наборе данных для классификации изображений. В 2011 году он составлял 26%.
Уровень ошибок в ежегодном конкурсе ImageNet по крупномасштабному визуальному распознаванию заметно снизился. К 2020 году он достиг 2%. Для сравнения: у людей, выполняющих ту же задачу, он составляет 5%.
И всё же, несмотря на эти выдающиеся достижения, ИИ не безошибочен. Чтобы разрабатывать ответственный ИИ, нужно понимать возможные проблемы, ограничения и непредвиденные последствия. Технология отражает то, что существует в обществе, поэтому без хороших практик ИИ может воспроизводить существующие проблемы и предвзятость и усиливать их.
Ответственный ИИ и принципы ИИ
Однако универсального определения «ответственного ИИ» не существует, как нет и простого чек-листа или формулы, которые определяли бы, как внедрять практики ответственного ИИ. Вместо этого организации разрабатывают собственные принципы ИИ, отражающие их миссию и ценности. Хотя эти принципы уникальны для каждой организации, если искать общие темы, обнаруживается устойчивый набор идей: прозрачность, справедливость, подотчётность и конфиденциальность.
В Google наш подход к ответственному ИИ основан на стремлении создавать ИИ, который строится для всех, подотчётен и безопасен, уважает конфиденциальность и опирается на научное превосходство. Мы разработали собственные принципы ИИ, практики, процессы управления и инструменты, которые вместе воплощают наши ценности и определяют наш подход к ответственному ИИ. Мы заложили ответственность в основу наших продуктов (responsibility by design) и, что ещё важнее, нашей организации. Как и многие компании, мы используем принципы ИИ как основу для принятия ответственных решений. Подробнее о том, как мы это делаем, мы расскажем позже в этом курсе.
Здесь важно подчеркнуть, что мы не претендуем на то, что у нас есть все ответы. Мы знаем, что эта работа никогда не заканчивается, и хотим делиться тем, чему учимся, чтобы сотрудничать и помогать другим на их собственном пути. У каждого из нас есть своя роль в том, как применяется ответственный ИИ.
На каком бы этапе работы с ИИ вы ни участвовали, от проектирования до внедрения или применения, ваши решения влияют на результат. Важно, чтобы и у вас был определённый и воспроизводимый процесс ответственного использования ИИ.
Google стремится не только создавать передовые технологии, приносящие пользу обществу, но и продвигать ответственные практики, делясь с широким сообществом своими наблюдениями и извлечёнными уроками. Этот курс представляет собой одну из частей этих усилий. Цель курса: дать возможность заглянуть в то, как Google, и более конкретно Google Cloud, идёт по пути ответственной разработки и использования ИИ. Мы надеемся, что вы сможете взять информацию и ресурсы, которыми мы делимся, и использовать их, чтобы сформировать собственную стратегию ответственного ИИ в вашей организации.
Что мы понимаем под ИИ
Но прежде чем двигаться дальше, давайте уточним, что мы имеем в виду, когда говорим об ИИ. Люди часто хотят знать, чем различаются искусственный интеллект, машинное обучение и глубокое обучение. Однако общепринятого определения ИИ не существует. Что принципиально важно, отсутствие консенсуса о том, как определять ИИ, не остановило технический прогресс. Это подчёркивает необходимость постоянного диалога о том, как ответственно создавать и использовать такие системы.
В Google мы говорим, что наши принципы ИИ применяются к разработке передовых технологий как зонтик, охватывающий технологии всех видов. Если увязнуть в семантике, можно отвлечься от главной цели: разрабатывать технологии ответственно. Поэтому мы не будем подробно разбирать определения этих технологий, а вместо этого сосредоточимся на важности человеческих решений при разработке технологий.
Человеческие решения при разработке ИИ
Существует распространённое заблуждение, будто в искусственном интеллекте центральную роль в принятии решений играют машины. На самом деле эти машины проектируют и создают люди, и именно они решают, как их использовать. Люди участвуют в каждом аспекте разработки ИИ.
Они собирают или создают данные, на которых обучается модель. Они управляют внедрением ИИ и тем, как он применяется в конкретном контексте. По сути, человеческие решения пронизывают все наши технологические продукты.
И каждый раз, когда человек принимает решение, он на самом деле делает выбор, основанный на его ценностях. Будь то решение использовать генеративный ИИ для решения задачи вместо других методов или любое решение на протяжении жизненного цикла машинного обучения, человек привносит собственный набор ценностей. Это означает, что каждая точка принятия решения требует осмысления и оценки, чтобы выбор был сделан ответственно на всём пути от замысла до внедрения и сопровождения.
Перевод официального курса Google «Ответственный ИИ: применение принципов ИИ в Google Cloud». Оригинал на английском.