Добро пожаловать в машину: опасен ли искусственный интеллект и как его остановить?

Серия статей CHIP: как искусственный интеллект (ИИ) бросает вызов миру
Человечество стоит на пороге великих перемен. Технологические концерны, военные и исследовательские лаборатории работают над созданием цифрового сверхинтеллекта, который с космической скоростью изменит все на свете: общество, жизнь и даже смерть человека. Что нас ждет впереди: идиллия или последние дни человечества? Пока что мы не решили, каким путем будем идти. В новой серии статей наш журнал расскажет о том, к чему может привести такая революция искусственного интеллекта, о его невероятных возможностях и подводных камнях.

• Часть 1. Создание сверхразума: что ждет человечество, когда появится искусственный интеллект?
• Часть 2. Формула вечной жизни будет открыта через 30 лет
• Часть 3. Нейронные сети умнее человека?
• Часть 4. Добро пожаловать в машину: опасен ли искусственный интеллект и как его остановить?

Возможно, уже через 25 лет, но в любом случае уже в этом столетии, — на нашей планете высадятся пришельцы из космоса, которые намного превосходят нас в развитии. Лучшие ученые, технологические концерны и военные получили соответствующие сигналы и открытым текстом предупреждают о событии, последствия которого непредсказуемы для человечества.

Конечно, это — всего лишь придуманный по шаблону сценарий развития событий, но давайте еще немного посмотрим этот третьесортный фильм. В сценарии в первую очередь прописывается история и герои, паника и проповедники. Но уже скоро компетентные люди начинают работать над решением главного вопроса: что делать, чтобы выйти из этой ситуации с наименьшими потерями, а то и вовсе остаться в выигрыше?

Перепишем одну деталь в сюжете: вместо инопланетян на Земле появляется один или несколько сверхинтеллектов. Включенная в сеть техника, которая умнее всего человечества вместе взятого и все больше совершенствуется посредством рекурсивной самооптимизации.

Многие могут назвать ерундой и такой сценарий, но вряд ли кто-то из ученых, хотя бы вскользь занимающихся вопросами искусственного интеллекта, всерьез сомневается в наступлении такой «технологической сингулярности» с непредсказуемыми последствиями для человечества. Вопрос только в том, когда. По самому пессимистичному сценарию это произойдет примерно через 25 лет, то есть не только молодые люди смогут дожить до этого часа «икс» для населения Земли. Кажется, интерес к этой теме уже вышел за пределы профессиональных кругов, что также может выплеснуться в панику и истерию.

Наибольшая угроза человечеству

Предупреждающих голосов раздается достаточно. Британский математик Ирвинг Гуд, который вместе Аланом Тьюрингом во время Второй мировой войны взломал немецкую шифровальную машину «Энигма», был одним из первых. В 1965 году он заявил: «Ультраинтеллектуальная машина определяется как машина, которая далеко превосходит интеллектуальные способности любого умного человека. Поскольку создание машин — это одна из таких способностей, то ультраинтеллектуальная машина будет создавать еще более совершенные машины; безусловно, это приведет к «интеллектуальному взрыву», который оставит человеческий разум далеко позади. То есть ультраинтеллектуальная машина станет последним изобретением, которое доведется сделать человеку».

Хорошо, это было 50 лет назад. За это время искусственный интеллект пережил две «долгие зимы», когда отсутствовали прогнозируемые успехи. Возьмем протагониста цифровой современности — Илона Маска. Этот авантюрист эпохи высокотехнологичного капитализма постоянно бросается в новые, зачастую кажущиеся фантастичными проекты и идет напролом, реализуя эти проекты, даже если это стоит много денег для него и еще больше нервов для его сотрудников. Он участвовал в основании PayPal, строил автоконцерн Tesla и вместе со своей космической компанией отправляет во Вселенную ракеты SpaceX. Одержимый техникой Маск хочет выйти за границы своего земного существования и стремится попасть на Марс: «Но, по возможности, не при посадке».

Может ли вообще чего-то бояться такой закаленный боец? Да, и этот страх мог бы сбить с толку почитателей этого «железного человека»: Маск рассматривает искусственный интеллект как нечто потенциально более опасное, чем атомное оружие, как «наибольшую существующую угрозу человечеству. С ним мы призовем демонов». Поэтому 44-летний Маск ищет пути выхода из ловушки искусственного интеллекта.

Но и против рассуждений Маска можно кое-что возразить. Он не ученый, а предприниматель, пусть даже и хорошо информированный. Как и его богатые друзья из Силиконовой Долины, он представляет калифорнийскую идеологию, которая понимает под прогрессом только разрывные технологии и монополии, сингулярность наверняка кажется ему слишком разлагающей и чересчур уникальной.

«Никто не знает, будет ли сверхинтеллект обладать сознанием»
Томас Метцингер, философ

В случае со Стивеном Хокингом, этим идолом современной физики, нет никаких сомнений в компетентности и мотивации. И этот уважаемый не только в экспертных кругах ученый пророчит следующее: «Сверхумный искусственный интеллект будет крайне силен в реализации своих целей, и если его цели не совпадут с нашими, то у нас будут проблемы».

Совместно с тысячами других ученых и знаменитостей Маск и Хокинг в открытом письме указали на опасность искусственного интеллекта. Но, несмотря на поддержку таких известных людей, как, например, соучредитель Apple Стив Возняк или актер Морган Фримен, который ведет научную программу «Сквозь пространство и время», эта тема пока не разжигает настоящих дискуссий в обществе. Ни политики, ни СМИ не кажутся очень обеспокоенными самой опасной проблемой современности. Напротив, об успехах искусственного интеллекта говорят мало, а риски высмеиваются.

Философская плоскость

Возможно, такая сбивающая с толку невозмутимость объясняется распространяющейся концепцией сингулярности, которую представляет Рэй Курцвейл. Изобретатель и футурист, как известно, нацелен на великие дела: в его истории человек и техника дружно шагают к вечному счастью; любая крупная проблема человечества решается, человек оцифрован, смерть побеждена. Именно овеянная метафизикой тема бессмертия вызывает у критиков ассоциации с безумным лидером секты, который внушает своим отрешенным от мира ученикам почтительный страх перед техникой. Философ Томас Метцингер знает таких цифровых хиппи не понаслышке: «Я часто бывал в Калифорнии и прожил там год. И считаю эту церковь сингулярности и так называемый трансгуманизм полной чепухой».

По сути своей это течение могло бы составить конкуренцию традиционным религиям, если оно разработает такую же сильную модель отрицания бессмертия, например, через загрузку на аватары и цифровой дух. Даже если это получит техническое воплощение, Метцингер видит в этом мало смысла: «Это все неверно с философской точки зрения. Если нет субстанционального «я», то что же загружать? Ваши детские травмы, страхи, неврозы? Ваши страдания и вашу жадность? Будет ли это благом? Эта форма трансгуманизма будет не более чем дешевым заменителем религии для технарей».

Курцвейл распознал проблему и отвергает такое понятие, как «трансгуманист». Как он пишет в своей книге «Человечество 2.0», он хочет, чтобы его ассоциировали с его техническими тезисами, а не с сомнительными религиозными производными. Тем не менее, в эзотерической шкатулке он прячет то, что зачастую перекрывает его технические прогнозы и аргументации.

Если Курцвейл и верит еще во что-то кроме технического прогресса, так это в силу свободного рынка, который, по его мнению, постоянно улучшает жизнь всех людей.

Томас Метцингер выходит далеко за рамки философии духа, на которой он специализируется. 58-летний философ исследует человеческое сознание и интенсивно занимается вопросами искусственного интеллекта. Его критика в отношении трансгуманизма никоим образом не должна пониматься как карт-бланш для игнорирования технологической сингулярности интеллектуального взрыва.

Страх — плохой советчик

Стоит ли нам опасаться супер-разума? «Да, поскольку неясно, какие предпочтения и цели будут у такого искусственного интеллекта. Но страх никогда не был хорошим советчиком, и мы должны подходить к ситуации рационально и на основе очевидных фактов. Я бы сравнил ее с концентрацией всей финансовой власти в руках богатейшего одного процента населения планеты. Нас об этом предупреждали, но мы не прислушались, и теперь ни одно правительство в мире не в состоянии контролировать мощную концентрацию капитала — напротив, ситуация скорее обратная». По словам Метцингера, существует риск, что нечто подобное произойдет и с «когнитивной властью», но при этом она будет сконцентрирована вне человечества.

Предприниматель Илон Маск хочет повлиять на развитие искусственного интеллекта. Для этого он совместно с инвесторами основал OpenAI — некоммерческую компанию, носящую характер стартапа. Из нее должен возникнуть свободный исследовательский центр, где ученые будут делиться своей работой с общественностью. Компания OpenAI уже получила одобрение на финансирование в размере $ 1 млрд, и ей не нужно получать прибыль. Венчурный капиталист Сэм Альтман, который входит в наблюдательный совет OpenAI, может найти и положительные стороны интеллектуального взрыва: «Искусственный интеллект с высокой долей вероятности приведет к концу света. Но в промежуточный период это будет отличный бизнес».

Так как же будет контролироваться сверхинтеллект? В случае технологической сингулярности машина в громадной степени превзойдет человека. Новый лидер рынка в вопросах интеллекта для сохранения своей дееспособности вряд ли позволит сдерживать себя медленным человеческим мышлением.

Лицемерный супер-разум

Базирующийся в Швейцарии «Институт эффективного альтруизма» также занимается этим вопросом: «Супер-разум по определению не может быть глупым: если существует опасность, что вы вытащите вилку из розетки, то сначала он будет вести себя так, как желает создатель, пока он не найдет способа минимизировать принудительную деактивацию».

Институт опубликовал доступный для обсуждения доклад (ea-stiftung.org) с рекомендациями относительно возможностей и рисков искусственного интеллекта. Томас Метцингер тоже внес вклад в создание этого доклада. Если бы философ мог воспрепятствовать сингулярности, он бы это сделал? «Да».

Предложения института следует также понимать как призыв к тому, чтобы придать теме искусственного интеллекта глобальный приоритет. К примеру, требуется больше грантов для исследователей для проведения анализа и предупреждения проблемы. Политики должны выделять больше ресурсов для научно-этического сопровождения технологических разработок. В предотвращении технологической гонки вооружений должно помочь и усиленное международное сотрудничество.

Искусственный интеллект загадывает новые загадки

Ситуация несколько напоминает разработку ядерного оружия. Каждый ученый, который участвовал в «Проекте «Манхэттен», знал, насколько опасна атомная взрывная мощь, но исследования не останавливались. Всегда были причины продолжать — от ситуации в большой политике до собственной меркантильности.
В случае с искусственным интеллектом ситуация еще более сложная, поскольку невозможно однозначно описать ни генезис, ни окончательную форму — напротив, все крайне загадочно. Так, скептики указывают на сознание, свойственное человеческой сущности, которое никогда не сможет развиться в машине. Но обязательно ли высокоразвитой мыслящей машине обладать сознанием? Профессор Метцингер говорит: «Этого не знает никто. У нас нет теории сознания».

Борьба с интеллектуальным апокалипсисом даже при малейшей вероятности его наступления составляет разумную необходимость, поскольку на карту поставлено слишком многое. Кроме того, уже сейчас, при программировании экспертными системами, возникает множество вопросов этического характера.

Примером может служить военная сфера: техника делает войны не «гуманнее», а эффективнее. Автономное оружие, заменяющее солдат, понижает психологическую планку в ведении войны. Машины следуют приказам стойко и без эмоций. Они справляются с суровыми условиями и не требуют ни денежного содержания, ни довольствия. Роботы никогда не устают, они точны, они не знают страха, жалости и скорби. У машин нет нервных родственников в Айдахо, они не страдают от посттравматического синдрома и никогда не бранят Урсулу фон дер Ляйен. Хорошо это или плохо? И для кого?

Пример в транспортной сфере: автономные автомобили должны принимать решение, когда они встают перед этической дилеммой при неизбежной аварии. Объехать пожилую даму, вышедшую на дорогу, но при этом протаранить подростка на велосипеде? Каким должно быть решение, если хрупкая женщина скончается с 90-процентной вероятностью, а крепкий подросток только с вероятностью 30%? Что сделает автомобиль, если эта женщина — мать водителя?

Эту игру можно было бы продолжать бесконечно, и, возможно, но только возможно, выход из дилеммы выглядит так: каждый день в России в ДТП погибает примерно 63 человека. Автономные автомобили резко снизят эти цифры. Но ради этого нам придется смириться с несколькими тяжелыми трагическими случаями.

«Я верю в существование универсума»
Рэй Курцвейл о своем отношении к религии

Пример в сфере занятости: умные машины все больше будут вытеснять людей с их рабочих мест. До сих пор это касалось, в первую очередь, тех видов труда, которые требовали физических навыков. Теперь они все больше проникают в сферы, где в основном требуются умственные способности. Например, врачи-радиологи уже имеют серьезную проблему с будущими перспективами трудоустройства, с тех пор как появились машины, позволяющие интерпретировать данные таких предоставляющих изображение обследований, как компьютерная томография, быстрее, дешевле и даже лучше, чем врачи-рентгенологи.

Согласно анализу банка ING-DiBa из-за роботизации в ближайшие десять-двадцать лет в Германии оказываются под угрозой 18,3 миллионов рабочих мест. И не предвидится, что они будут заменены новыми. Более вероятно, что будет расти давление на оставшихся «обладателей рабочих мест», чтобы они, как можно дольше, сохраняли конкурентоспособность посредством таких уступок, как отказ от заработной платы.

Работа — это модель вчерашнего дня

По мнению Федерико Пистоно, выходом из этой нисходящей спирали могут быть только системные преобразования. В своей книге под названием «Роботы лишат тебя работы, но это хорошо» американец пишет: «Мы должны, наконец, распрощаться с затертым до дыр представлением о том, что каждый должен зарабатывать себе на жизнь».

Пистоно призывает к тому, чтобы извлечь максимум пользы из будущего устройства общества по модели 99/1: только один процент населения зарабатывает деньги с помощью своих машин, а остальные 99 процентов, например, получают гарантированный доход и отрицательную налоговую ставку, что позволяет им вести независимую и благополучную жизнь.

Израильский историк эволюции Юваль Харари констатировал в своем интервью: «Мы не можем просто сказать: хорошо, теперь машины решают и умственные задачи, а мы будем делать что-то еще, потому что просто ничего не останется». Харари полагает, что большинство людей не будут больше работать, а будут только потреблять: «Это и будет наша работа. США как раз развиваются в направлении этой идеи, но есть проблема: она противоречит любой экономической модели в истории человечества. Для этого понадобится новая модель, которой пока не существует».

Система «человек» попадает под давление

Такие проблемы будут постоянно доставлять нам все больше сложностей. А вот для Томаса Метцингера даже открывается истинный человеческий конфликт на фоне мощного искусственного интеллекта: «Риск реален, и подходить к нему нужно рационально. А общественные дебаты скорее станут увлекательной формой развлечения для людей из богатых стран, для которых слишком сложны реальные проблемы. Настоящая проблема человечества состоит в структуре нашего собственного интеллекта, функциональной архитектуре нашего мозга. Политические, общественные и экономические проблемы абсолютно реальны и важны, но они всего лишь представляют собой поверхностное отражение нашей неспособности к быстрому и эффективному изменению нашей собственной интеллектуальной структуры».

Насколько важно критическое сопровождение искусственного интеллекта и превентивные меры, настолько же понятно, что если человек создает искусственный интеллект, ему придется с ним взаимодействовать. Может, он станет при этом учеником чародея. Может, с помощью совершенной машины создаст и совершенную систему разрушения: технологию, которая придет на смену системе «человек».

Разум как новейшая утопия

Но, возможно, все пойдет и по-другому. Не нужно глубокого анализа, чтобы по многим аспектам назвать созданный человеком мир иррациональным. Поэтому не представляется невероятным, что уже на пути создания сверхинтеллекта возникнут конфликты целей между стремительным искусственным интеллектом и упрямым человеком. Могут ли эти конфликты даже оказаться поучительными при попытке направить сингулярность на управляемые рельсы? «Конечно, искусственный интеллект мог бы очень логично и убедительно доказать нам, что мы меньше страдали бы и в целом были бы счастливее, если бы постепенно предоставили ему автономию. Он мог бы с научной точки зрения продемонстрировать, что мы уже почти полностью утратили контроль над планетой. И показать нам неприятно убедительным образом, как все изменится».

Если по всему миру будет использоваться один единственный искусственный интеллект — так называемый «одиночка» (singleton), то необязательно, что от него будет исходить особая опасность. Метцингер полагает, что «человечество как ограниченный ресурс конкурирующей группы объектов должно рассматриваться иначе, чем ресурс одного объекта. Мы сами уже сегодня гораздо быстрее разрушаем оставшуюся биосферу, потому что конкурируем друг с другом — разумное всемирное правительство никогда бы этого не сделало».

При наступлении сингулярности искусственный интеллект окажется в разы умнее всего человечества вместе взятого. Такие проекты, как безвредное и практически неограниченное производство энергии или освоение космоса, станут реальностью.

Но это — человеческие мечты, которые мы и сами могли бы исполнить рано или поздно. Самой безумной утопией среди всех фантастических сценариев на тему искусственного интеллекта было бы уже упомянутое разумное всемирное правительство. Проект «разум» великоват для людей на несколько размеров, и если есть желание испытать его действие на себе, нужно дать шанс искусственному интеллекту. А все остальные могут поискать утешение в словах обладавшего супер-разумом человека по имени Альберт Эйнштейн: «Я никогда не думаю о будущем. Оно наступает достаточно быстро».

ФОТО: Saklakova/Fotolia.com; Legion-Media; Thomas Peter, Suzanne Plunkett, Bobby Yip, Shannon Stapleton, Kevork Djansezian/Reuters; Stiftung fur Effektiven Altruismus; University of Oxford

Серия статей CHIP: как искусственный интеллект (ИИ) бросает вызов миру
Человечество стоит на пороге великих перемен. Технологические концерны, военные и исследовательские лаборатории работают над созданием цифрового сверхинтеллекта, который с космической скоростью изменит все на свете: общество, жизнь и даже смерть человека. Что нас ждет впереди: идиллия или последние дни человечества? Пока что мы не решили, каким путем будем идти. В новой серии статей наш журнал расскажет о том, к чему может привести такая революция искусственного интеллекта, о его невероятных возможностях и подводных камнях.

• Часть 1. Создание сверхразума: что ждет человечество, когда появится искусственный интеллект?
• Часть 2. Формула вечной жизни будет открыта через 30 лет
• Часть 3. Нейронные сети умнее человека?
• Часть 4. Добро пожаловать в машину: опасен ли искусственный интеллект и как его остановить?