Демократизация искусственного разума

Интернет не сделал человечество лучше. Бедные остались бедными, а счастье по-прежнему не доступно.

Искусственный разум – это новый технологический рубеж, от которого потенциально зависит будущее мирового порядка. Революция искусственного разума (ИР) способна вытащить из нищеты «миллиард, живущий на дне», и преобразить плохо работающие институты, а может закрепить несправедливость и увеличить степень неравенства. Результат будет зависеть от того, как именно мы будем управлять предстоящими переменами.

К сожалению, когда речь заходит об управлении технологическими революциями, опыт человечества оказывается в целом негативным. Взять, к примеру, Интернет. Он оказал огромное влияние на общество во всём мире, изменил наши методы общения, работы и развлечений. Он привёл к радикальным переменам в целом ряде отраслей экономики, заставил менять давно существующие бизнес-модели и привёл к появлению совершенно новых видов деятельности.

Однако Интернет не вызвал той всеобщей трансформации, которую многие ожидали. И он, конечно, не решил крупных проблем, таких как ликвидация нищеты или осуществление полёта человека на Марс. Как однажды заметил один из основателей компании PayPal Питер Тиль: «Мы хотели летающих автомобилей, а вместо этого получили 140 знаков».

Интернет способствовал росту неравенства: больше всего выгод в онлайне получают образованные люди с высокими доходами, а у транснациональных корпораций появились возможности для масштабного роста, уклоняясь при этом от контроля.

Более того, Интернет в какой-то степени усугубил наши проблемы. Да, он открыл новые возможности для обычных людей, но ещё больше возможностей он открыл для наиболее богатых и могущественных. Как показало недавнее исследование учёных из Лондонской школы экономики, Интернет способствовал росту неравенства: больше всего выгод в онлайне получают образованные люди с высокими доходами, а у транснациональных корпораций появились возможности для масштабного роста, уклоняясь при этом от контроля.

Тем не менее, революция ИР всё же может принести перемены, которые нам нужны. Уже сейчас искусственный разум (речь идёт о развитии когнитивных функций машин, чтобы они могли «учиться» самостоятельно) меняет нашу жизнь. Появились беспилотные автомобили (пока ещё не летающие), виртуальные личные помощники и даже автономное оружие.

Искусственный разум не изменит человеческую жизнь, он изменит границы и значение человеческого бытия.

Но всё это лишь поверхностные проявления потенциала ИР, который, вероятно, приведёт к таким социальным, экономическим и политическим трансформациям, которые мы пока даже не в состоянии полностью постичь. ИР не станет какой-то новой отраслью, он проникнет во все существующие отрасли экономики и навсегда их преобразит. Искусственный разум не изменит человеческую жизнь, он изменит границы и значение человеческого бытия.

Как и когда произойдёт эта трансформация (и как управлять её глубинными последствиями) – это вопросы, которые заставляют учёных и политиков не спать по ночам. Ожидания от грядущей эры искусственного разума варьируются от видений рая, в котором все проблемы человечества решены, до страхов наступления антиутопии, в которой наши создания превратятся в экзистенциальную угрозу для человечества.

Как известно, предсказывать научные прорывы очень трудно. 11 сентября 1933 года известный физик-ядерщик лорд Резерфорд заявил перед большой аудиторией: «Любой, кто ищет источник энергии в трансформации атомов, бредит». На следующее утро Лео Силард выдвинул идею цепной ядерной реакции под воздействием нейтронов, а вскоре после этого он запатентовал ядерный реактор.

С одной стороны, проблема в том, что, как считают некоторые, новые технологические прорывы нельзя сравнивать с теми, что совершались в прошлом. Многие учёные, эксперты и практики согласились бы с мнением исполнительного председателя компании Alphabet Эриком Шмидтом о том, что у технологических открытий есть свои особые свойства, которые люди «не понимают» и не должны «с ними разбираться».

С другой стороны, иногда совершается противоположная ошибка: слишком сильный акцент на исторические аналогии. Среди прочих, исследователь темы технологий, писатель Евгений Морозов говорит об определённом эффекте колеи, когда современная риторика формирует наше мнение о будущем технологий, тем самым, влияя на развитие технологий. Будущие технологии, в свою очередь, могут влиять на нашу риторику, создавая своего рода замкнутый круг.

Для осмысления технологических прорывов, таких как ИР, нам надо найти баланс между этими подходами. Мы должны встать на междисциплинарную точку зрения, используя согласованные термины и единые концептуальные рамки. Кроме того, нам нужны политические решения, определяющие взаимосвязи между технологиями, управлением и этикой. Новые инициативы, например, «Партнёрство по ИР», а также фонд «Этика и управление ИР», являются шагами в правильном направлении, однако им не хватает необходимого участия со стороны государства.

В этой работе необходимо ответить на несколько фундаментальных вопросов: Что именно делает человека человеком? Является ли это стремление к сверхэффективности, как считают в Силиконовой долине? Или же это иррациональность, несовершенство и сомнения – свойства, которые недоступны любому небиологическому созданию?

Только ответив на подобные вопросы, мы сможем определить, какие именно ценности мы должны защищать и оберегать в предстоящую эру искусственного разума, занимаясь переосмыслением базовых концепций и условий наших социальных контрактов, в том числе тех национальных и международных учреждений, которые сделали возможным распространение неравенства и нестабильности. В контексте глубокой трансформации, вызванной развитием ИР, у нас появится возможность изменить статус-кво, содействуя росту безопасности и справедливости.

Для того чтобы все люди в эпоху искусственного разума получили достаточные права, необходимо, чтобы каждый человек – а не крупные компании – владел данными, которые он создаёт.

Одним из ключей к созданию более эгалитарного будущего являются данные. Прогресс в развитии искусственного разума зависит от доступности и анализа огромных объёмов данных о человеческой деятельности (онлайн и оффлайн) с целью выявить модели поведения, которые можно затем использовать для формирования поведения и сознания машин. Для того чтобы все люди в эпоху искусственного разума получили достаточные права, необходимо, чтобы каждый человек – а не крупные компании – владел данными, которые он создаёт.

Благодаря такому правильному подходу, мы смогли бы гарантировать, что ИР станет механизмом расширения прав людей в беспрецедентных масштабах. Множество исторических свидетельств заставляют сомневаться в вероятности такого сценария, но, возможно, здесь важно именно сомнение. Как говорил покойный социолог Зигмунт Бауман, «стремление оспаривать якобы неоспоримые принципы нашей жизни, наверное, является самой остро необходимой услугой, которой мы обязаны другим людям и самим себе».

Мацей Куземски – учёный, специалист по государственной политике в Оксфордском университете, сотрудник Атлантического совета (программа Millenium).

Copyright: Project Syndicate, 2017.
www.project-syndicate.org