Текст видео
Об искусственном интеллекте сейчас говорят очень много, но что на самом деле означает использовать ИИ ответственно? Если вы не уверены в ответе, ничего страшного, именно для этого мы здесь. Меня зовут Мэнни, я инженер по безопасности в Google. В этом курсе вы узнаете, почему Google внедрил принципы ИИ, поймете необходимость применения практик ответственного ИИ внутри организации, увидите, что ответственный ИИ влияет на все решения на всех этапах проекта, а также узнаете, как организации могут настраивать инструменты ИИ под собственные бизнес-потребности и ценности. Звучит многообещающе, давайте начнем.
ИИ в повседневной жизни
Возможно, вы этого не замечаете, но многие из нас уже ежедневно взаимодействуют с искусственным интеллектом: от прогнозов пробок и погоды до рекомендаций сериалов на вечер. По мере распространения ИИ многие технологии без его поддержки начинают казаться устаревшими, словно телефон без доступа к интернету. Сегодня системы ИИ позволяют компьютерам видеть, понимать и взаимодействовать с окружающим миром так, как еще десять лет назад невозможно было даже представить. И эти системы развиваются с поразительной скоростью.
Однако важно помнить, что, несмотря на столь впечатляющие успехи, ИИ не застрахован от ошибок. Создание ответственного ИИ требует четкого понимания возможных проблем, ограничений и непредвиденных последствий. Технологии отражают то, что существует в обществе. Поэтому без выверенных практик ИИ может воспроизводить существующие проблемы или предвзятость и даже усиливать их.
Определение ответственного ИИ
Здесь возникает сложность, поскольку универсального определения ответственного ИИ не существует, как нет и простого чек-листа или формулы внедрения таких практик. Вместо этого организации формулируют собственные принципы ИИ, отражающие их миссию и ценности. К счастью, хотя эти принципы уникальны для каждой компании, при поиске общих тем обнаруживается устойчивый набор идей в области прозрачности, справедливости, подотчетности и конфиденциальности.
Давайте посмотрим, как к этому подходят в Google. Наш подход к ответственному ИИ опирается на стремление создавать технологии, доступные каждому, подотчетные и безопасные, уважающие конфиденциальность и основанные на научной строгости. Мы разработали собственные принципы ИИ, практические методики, процессы управления и инструменты, которые воплощают наши ценности и направляют работу в сфере ответственного ИИ. Мы заложили ответственность в саму архитектуру наших продуктов и, что еще важнее, в структуру организации. Как и многие компании, мы используем принципы ИИ в качестве ориентира для принятия взвешенных решений.
Роль человека в разработке ИИ
Каждый из нас играет свою роль в том, как применяется искусственный интеллект. На каком бы этапе процесса вы ни находились, от проектирования до развертывания или прикладного использования, принимаемые вами решения имеют значение. Именно поэтому так важно выстроить четкий и повторяемый процесс ответственного использования ИИ.
Существует распространенное заблуждение, будто ключевые решения в сфере искусственного интеллекта принимают машины. В действительности именно люди проектируют и создают эти системы, а затем определяют сценарии их использования. Поясню подробнее. Люди задействованы на каждом этапе разработки ИИ: они собирают или создают данные для обучения модели, контролируют развертывание ИИ и определяют правила его применения в конкретном контексте.
По сути, человеческие решения пронизывают технологические продукты насквозь, и каждый раз, когда специалист делает выбор, он опирается на собственные ценности. Будь то решение использовать генеративный ИИ вместо альтернативных методов для решения задачи или любой другой выбор на протяжении жизненного цикла машинного обучения, человек привносит свои ценностные ориентиры. Это означает, что каждая точка принятия решений требует анализа и оценки, чтобы гарантировать ответственность выбора на всех этапах: от концепции до развертывания и сопровождения.
Поскольку технологии способны повлиять на многие сферы жизни общества и повседневную жизнь людей, крайне важно разрабатывать их с учетом этических норм. Ответственный ИИ заключается не только во внимании к заведомо спорным сценариям. Без практик ответственного ИИ даже на первый взгляд безобидные варианты применения или проекты с благими намерениями могут повлечь за собой этические проблемы, непредвиденные последствия либо оказаться не столь полезными, как предполагалось. Этика и ответственность важны не просто как правильный моральный выбор, но и потому, что они помогают проектировать ИИ так, чтобы он приносил максимальную пользу людям.
Ответственный ИИ в Google
Как все это соотносится с работой Google? Опыт показал, что внедрение принципов ответственности в любое развертывание ИИ повышает качество моделей и укрепляет доверие наших клиентов, а также клиентов наших клиентов. Если в какой-то момент это доверие будет подорвано, мы рискуем столкнуться с задержками или срывом внедрения систем, а в худшем случае причинить вред тем, на кого влияют эти продукты. Все это подтверждает убеждение Google в том, что ответственный ИИ означает успешный ИИ.
Мы принимаем продуктовые и деловые решения в сфере ИИ на основе серии оценок и экспертных проверок. Это обеспечивает строгость и последовательность подхода независимо от продуктовой зоны или географии. Проверки начинаются с верификации того, что проект полностью соответствует нашим принципам ИИ. Хотя принципы ИИ помогают объединить команду общими обязательствами, не все будут согласны с каждым конкретным решением о том, как именно проектировать продукт с позиции ответственности. Поэтому критически важно выстроить надежные процессы, которым люди доверяют. Тогда даже при несогласии с итоговым решением они доверяют процедуре, на основе которой оно было принято.
Принципы ИИ Google
Мы много говорили о том, насколько важны руководящие принципы для ИИ в теории, но как они выглядят на практике? Давайте разберем их подробно. Нашу работу направляют три принципа ИИ. Это конкретные стандарты, которые напрямую регулируют исследования, разработку продуктов и влияют на наши бизнес-решения. Вот обзор каждого из них.
Первый: смелые инновации. Мы создаем ИИ, который помогает людям, расширяет их возможности и вдохновляет практически в любой сфере человеческой деятельности, способствует экономическому прогрессу, улучшает жизнь, открывает путь к научным прорывам и помогает решать масштабнейшие проблемы человечества.
Второй: ответственная разработка и развертывание. Мы понимаем, что ИИ, будучи все еще развивающейся трансформационной технологией, несет в себе усложняющиеся риски. Поэтому мы подходим к ИИ ответственно на протяжении всего жизненного цикла разработки и развертывания: от проектирования и тестирования до ввода в эксплуатацию и итераций, накапливая опыт по мере развития технологий и сценариев их использования.
Третий: совместное развитие. Мы создаем инструменты, которые позволяют другим использовать потенциал ИИ для индивидуальной и общественной пользы. Утверждение принципов стало отправной точкой, а не финалом работы. Принципы ИИ редко дают прямые готовые ответы на вопросы о том, как именно создавать продукты. Они не позволяют и не должны позволять нам избегать сложных дискуссий. Они служат фундаментом, определяющим наши ценности, то, что мы создаем и ради чего мы это делаем, и лежат в основе успеха наших корпоративных предложений в области ИИ. Спасибо за внимание! Если вы хотите узнать больше об искусственном интеллекте, обязательно посмотрите другие наши видео.
Перевод официального курса Google «Введение в ответственный ИИ». Оригинал на английском.