Создание сверхразума: что ждет человечество, когда появится искусственный интеллект?

Серия статей CHIP: как искусственный интеллект (ИИ) бросает вызов миру
Человечество стоит на пороге великих перемен. Технологические концерны, военные и исследовательские лаборатории работают над созданием цифрового сверхинтеллекта, который с космической скоростью изменит все на свете: общество, жизнь и даже смерть человека. Что нас ждет впереди: идиллия или последние дни человечества? Пока что мы не решили, каким путем будем идти. В новой серии статей наш журнал расскажет о том, к чему может привести такая революция искусственного интеллекта, о его невероятных возможностях и подводных камнях.

• Часть 1. Создание сверхразума: что ждет человечество, когда появится искусственный интеллект?
• Часть 2. Формула вечной жизни будет открыта через 30 лет
• Часть 3. Нейронные сети умнее человека?
• Часть 4. Добро пожаловать в машину: опасен ли искусственный интеллект и как его остановить?

Развитие цифрового мира за последние полвека неразрывно связано с законом Мура. С одной стороны, этот закон по сути не является законом, а представляет собой нечто среднее между эмпирическим наблюдением и прогнозами. С другой стороны, конкретной формулы, выражающей выводы Гордона Мура в цифрах или символах, не существует.

Сооснователь концерна по производству микросхем Intel еще в 1965 году предсказал, что количество транзисторов, размещаемых на одном кристалле микросхемы, из года в год будет удваиваться. Десять лет спустя он скорректировал свой прогноз, увеличив интервал удвоения до двух лет.

Сегодня, оглядываясь назад, можно сказать, что плотность элементов на кристаллах увеличивалась в два раза каждые 20 месяцев. Нередко закон Мура объявляется недействительным. Но даже когда миниатюризация техпроцесса кремниевых микросхем достигнет атомарных пределов, повышение производительности еще долго будет происходить за счет разработки новых микроархитектур и использования новых материалов.

Мировосприятие Курцвейла

Закон Мура описывает развитие всей IT-отрасли, экспоненциальная динамика которой, казалось бы, не имеет исторического прецедента. Согласно этому закону, все устройства и компоненты становятся все быстрее, меньше в размерах и доступнее по цене. По быстродействию флагман Samsung Galaxy S6 не уступает пяти приставкам PlayStation второй версии 2000 года, вместе взятым. Новая консоль Sony PS 4 в свою очередь оставляет далеко позади ASCI Red — самый мощный суперкомпьютер в мире версии 1998 года.

А вот североамериканский изобретатель Рэймонд Курцвейл убежден, что закон Мура применим не только для цифровой эры, но и для всех информационных процессов в истории человечества, которую он понимает как постоянную смену эпох, выделяемых исходя из способа представления данных: «Эволюция идет косвенным путем: для того, чтобы создать следующую стадию или эпоху, используются информационно-процессуальные методы из предыдущей».

График выше иллюстрирует данное динамическое развитие с сокращающимися промежутками времени между все более усложняющимися событиями. С момента зарождения жизни, так называемой химической эволюции в начале истории Земли, до кембрийского взрыва, когда внезапно увеличилось разнообразие биологических форм, прошло около 3,5 млрд лет. С этого времени до появления современного человека — еще целых 500 млн.

Чтобы напечатать первую книгу, человеку разумному потребовалось еще 150 000 лет, в течение которых он попутно изобрел колесо. Со времен Гутенберга до первого сбоя Windows прошло еще 500 лет. А сегодня, 30 лет спустя, мы делаем запросы на смартфонах о робомобилях.

Курцвейл — это гений техники. Но его таланты техникой не ограничиваются. Его конек — теория распознавания образов. Это он изобрел планшетный сканер и синтезатор речи. В настоящее время Рэй Курцвейл занимает должность технического директора Google. Кроме того, он является автором нескольких научно-популярных книг. 67-летний ученый известен также и как футуролог.

Около 86% прогнозов Курцвейла на долгосрочную перспективу, сделанных в прошлом, сбылись. Среди них и такие яркие события, как триумфальное шествие Интернета и победа машины над человеком в шахматном матче, предсказанная им еще в 80-х годах.

Техника как новая ступень эволюции

Прогнозы Курцвейла по-прежнему нередко называют преувеличенными. Он в ответ возражает, что многие люди представляют себе технический процесс «интуитивно-линейно»: «Сначала нам нужно научиться думать экспоненциально. Если я совершу тридцать шагов по прямой, мой результат составит тридцать шагов. Если я совершу тридцать шагов по экспоненте, мой результат составит миллиарды».

Во времена обучения Курцвейла университетский компьютер занимал целое здание. А сегодня он пользуется смартфоном, который умеет намного больше, чем тот компьютер, и умещается в карман рубашки. По мнению Курцвейла, уже через лет двадцать компьютеры можно будет поместить в клетку крови.

Такая мудреная смесь Дарвина и Мура, которую Курцвейл называет «законом ускоряющейся отдачи» (The Law of Accelerating Returns), позволяет ему взглянуть в будущее человечества, которое в том виде, что мы знаем сегодня, исчезнет, и которому, по мнению изобретателя, будет даровано бессмертие.

Миллиарды лет на нашей планете почти ничего не происходило — это горизонтальное начало экспоненты. А потом эволюция внезапно начала набирать темп: с развитием человечества эпохальные свершения происходили со все сокращающимся временным интервалом. Из-за экспоненциального технического прогресса события быстро сменяют друг друга, а кривая идет круто вверх.

Человек как устаревающая биологическая модель

По Курцвейлу, уже совсем скоро технический интеллект догонит биологический. Случится это в 2029 году, и робот научится делать все то, что умеет делать человек. Для человечества ускорится фаза слияния человеческого разума и технологий, и совершенствование человека, начинавшееся с деревянных протезов, завершится его бессмертием, когда разум и тело можно будет дополнить или реплицировать.

Человек расстается со своими биологическими корнями

Наступлению эры «Человечества 2.0», по Курцвейлу, будут способствовать не только цифровые технологии, но и генетика и нанотехнологии. В книге «Сингулярность уже близко» («The singularity is near») ученый разжигает пламя надежды на спасение: изменение генетического кода позволит нам победить все болезни и затормозить процесс старения, для поддержания здоровья и расширения возможностей мозга в тело человека будут вводиться нанороботы, которые будут меньше по размерам, чем вирусы, а благодаря разработке новых материалов можно будет создавать новые органы и даже наши точные копии.

«Машинная производительность мозга» человека будет удваиваться каждый год. Люди-машины будут обрабатывать информацию в сотни раз быстрее своих биологических предшественников, никогда не ощущая усталости. Наши полупроводниковые потомки почувствуют себя королями Вселенной и завоюют ее. А старое доброе человечество, превратившееся в устаревшие модели, обречено.

Придут ли машины к власти?

Может, Рэй Курцвейл немного помешан? Так думают многие. На каждый из его тезисов о том, что нас ждет в ближайшем будущем, находится бесчисленное множество противников из всех областей науки — и примерно столько же сторонников. Наш журнал представит мнение обеих сторон. Кроме того, нам предстоит рассмотреть основной вопрос, имеющий жизненно важное значение для человечества, но, тем не менее, не играющий большую роль в публичных обсуждениях: могут ли машины захватить власть над людьми?

Курцвейл — отнюдь не единственный специалист в области искусственного интеллекта (ИИ), который считает, что «технологическая сингулярность» завершится через тридцать лет. Когда ИИ, намного превосходящий человеческий, получит доступ к повседневным знаниям, представленным в цифровой форме, и в процессе самообучения, по всей вероятности, незамедлительно приступит к созданию новых более высоких сверхинтеллектов, в истории человечества будет достигнута точка, с которой начнется новый путь развития, пока неведомый и не поддающийся определению для нас.

Генератор идей цифрового будущего

Рэй Курцвейл — один из ведущих  экспертов в области искусственного интеллекта. Сам он вполне мог бы послужить объектом исследования специалистов по интеллекту человеческому. 67-летний ученый отметился большими достижениями в разных областях: он изобрел планшетный сканер, оптическое распознавание символов (OCR) и первые коммерческие системы распознавания речи.

Появление «читающей машины» Курцвейла считается самым крупным шагом на пути к улучшению качества жизни людей с нарушениями зрения со времен введения тактильного шрифта в 1829 году. Устройство, читающее тексты вслух, в 1976 году положило начало дружбе изобретателя со Стиви Уандером.

Незрячий музыкант вдохновил Курцвейла на следующий крупный проект — музыкальный синтезатор, который эмулирует звуки акустических инструментов. Если бы у Томаса Эдисона и Джоан Роулинг был сын, то, наверное, он был бы похож на Рэймонда Курцвейла.

О его технологическом гении свидетельствуют десятки патентов, докторские степени, премии за исследования и благодарности от трех североамериканских президентов. В 2015 году он получил премию «Грэмми» за инновационный вклад в области музыки. Его книги регулярно становятся бестселлерами среди научно-популярных изданий в США.

В книге «Сингулярность уже близко» и других работах он развивает смелые тезисы о технологиях будущего, которые вполне могли бы стать основой для восьмой части серии книг о Гарри Поттере. Когда-то Курцвейл изучал литературу и информатику в Массачусетском технологическом институте в Бостоне. Отец двух дочерей происходит из семьи евреев — музыканта и художницы, вынужденных бежать в Нью-Йорк из родной Вены после «Хрустальной ночи» 1938 года. Будучи агностиком, он не полностью отвергает существование Бога, но считает, что религия уже потеряла актуальность.

Преувеличенным оказывается в этом отношении часто обсуждаемое мнение, что Курцвейл, будто глава какого-то культа, собирает вокруг себя общество верующих в трансгуманизм. Технический директор Google считает победу над биологией эволюционной неизбежностью. А это не вопрос духовности: «Религия связана с верой, технология — с пониманием».

Этот «большой взрыв» ИИ описывает также теологическое понятие «точка Омега». По мнению специалиста в области ИИ Юргена Шмидхубера, процесс растянется на два-три десятилетия, как считает и Курцвейл, однако Шмидхубер предпочитает выражение «Омега», поскольку его звучание напоминает фразу «Боже мой!» (Oh my God!).

Впрочем, независимо от точности этих прогнозов, людям — по меньшей мере, тем из нас, кто еще не достиг пенсионного возраста, — нужно подготовиться к бурным переменам, тем более что средняя продолжительность жизни экспоненциально растет. Те, кто родился в этом столетии, могут дожить до его конца и обрести бессмертие — если ИИ не будет этому препятствовать.

Но действительно ли точка Омега — это вопрос нескольких десятилетий? В настоящее время лучшие IT-ком­пании мира, в первую очередь концерн Google, который сейчас называется Alpha­bet, и его китайский аналог Baidu, предпринимают смелые попытки поднять биологию и технологии на новый, возможно, общий уровень. В исследовательских лабораториях университетов, военных и спецслужб ученые работают над собственной «ликвидацией».

Даже Европейская комиссия, ко всеобщему удивлению, продвигает особо амбициозный проект под названием «Человеческий мозг» (Human Brain Project, сокращенно HBP). Под руководством израильского специалиста Генри Маркрама международные группы ученых уже в течение двух лет проводят глубокие исследования человеческого мозга — под такой обтекаемой формулировкой установки была объединена работа 112 организаций из 24 стран мира.

Исследователи мозга и упрямцы

Дальнейшее развитие событий проходило по обычному сценарию: разгорелись жаркие споры. Маркрам с частью своих коллег объявил цель своей работы, что наделало немало шума: ученые запланировали эмулировать на компьютере работу человеческого мозга к 2023 году.

Сужение идеи и концентрация на таком замысле со множеством открытых вопросов вызвали открытую неприязнь у сотен ученых, задействованных в проекте. Они требовали изменить структуру проекта, бюджет которого, к слову, составляет €1,2 млрд. Спор естественным образом касался и денежных средств, выделенных на исследования. Еще один вопрос, вокруг которого не утихала дискуссия, заключался в возможности моделирования активности человеческого мозга на компьютере.

Даже среди исследователей мозга встречаются великие упрямцы. Спорам не было конца, поэтому пришлось вмешаться группе посредников, которой в конечном счете удалось переубедить Маркрама. Одним из членов этой группы стал мюнхенский физик Андреас Херц, профессор Мюнхенского университета Людвига-Максимилиана, преподающий вычислительную нейробиологию — это относительно молодая междисциплинарная область науки, в рамках которой биологи, медики, психологи, математики, физики и специалисты в области компьютерных наук занимаются исследованием мозга.

По мнению Херца, в рамках проекта HBP внимание ученых должно быть более сконцентрировано на изучении организации, анализе и визуализации сложных нейронных данных с целью собрать материал для широкого научного сообщества. Такое смещение вида деятельности с исследований на своего рода оказание услуг, по всей видимости, единственный выход: «Если продолжать погоню за иллюзией репликации мозга на компьютере, весь проект будет обречен на провал».

Решение в уме: на пятерку

Из-за чего эмуляция мозга оказывается несказанно трудным делом? Прежде всего, в нем задействован огромный потенциал производительности, благодаря которому шедевр эволюции может противостоять высшим достижениям цифровой современности. В человеческом мозге содержится около 100 млрд нейронов, а синапсов, соединяющих их, и вовсе больше в десять тысяч раз.

Скорость обработки данных нейронами относительно невысокая — около ста операций в секунду. В настоящее время цифровые схемы умеют производить вычислительные операции со скоростью как минимум в десять миллионов раз больше. Тем не менее, сверхразум — это не только скорость. Рецепт успеха от природы — массовый параллелизм: все нейроны и около квадриллиона синапсов могут работать одновременно. Поэтому победа в карточной игре с суперкомпьютером остается за человеческим мозгом.

Если наш мыслительный аппарат когда-нибудь можно будет эмулировать, то потребуется компьютер с производительностью порядка одного экзафлопса, производящий от 10¹⁸ операций над числами с плавающей запятой в секунду. Производительность самого мощного на сегодняшний день суперкомпьютера в мире, китайского Tianhe-2, составляет около 34 петафлопс — на три порядка ниже требуемой.

Такие мощные компьютеры будут созданы не ранее чем через три года — вероятнее всего, через пять лет. Разработки, кроме Китая, начинают Индия, США и Европа. Важным вопросом станет энергопотребление, которое по нынешним меркам должно составить от 200 до 1000 МВт. Для сравнения: мощность средней атомной электростанции составляет 700 МВт, а наш мозг обходится несколькими миллионными долями от этого значения; во всяком случае, 30 Вт синапсам для интенсивной работы хватает.

Вместе с тем, несмотря на конкретную направленность, HBP — это IT-проект. Юлихскому исследовательскому центру супервычислений, предоставляющему аппаратное обеспечение для HBP, следует разработать более быстрые и эффективные компьютеры, которые были бы ориентированы на биологическую модель: более низкая предельная производительность, более высокий параллелизм.

Мозг — не слишком ли сложная для нас структура?

Согласно закону Мура, эти технические проблемы рано или поздно будут решены. Но на пути к эмуляции работы мозга предстоит преодолеть еще немало препятствий, отмечает профессор Херц. Удачные модели сложных систем напоминают карикатуры: в них учтены важные моменты, но упущены второстепенные аспекты.

Что касается биологических систем, из-за их эволюционной истории мы вообще не знаем, можно ли пренебречь каким-либо определенным признаком: даже самая мелкая часть структуры синапса может иметь большое значение для его нормального функционирования.

«Таким образом, чтобы полностью понять, как работает отдельная часть мозга, надо понимать, как работает система в целом, и наоборот», — говорит Андреас Херц.

Искусственному интеллекту не нужен наш мозг

Может быть, было бы лучше, если бы Маркрам устроился в какой-нибудь концерн, занимающийся высокими технологиями, например, в Alphabet, в котором сумасшедшие идеи считаются принципами предпринимательской деятельности? Ведь неспроста технический директор Google Рэй Курцвейл симпатизирует пытливости Маркрама. Впрочем, даже главный пророк экспоненциального мышления ожидает появление полноценной эмуляции мозга только к 2029-му году.

Мощный ИИ не должен иметь много общего с человеческим

А вот Ник Бостром думает, что такие прогнозы времени появления эмуляции мозга слишком оптимистичны. Шведский специалист, изучавший физику, математику, нейробиологию и философию, в своей книге «Искусственный интеллект» делает наброски сценария революции в области ИИ.

Как и Курцвейл, Бостром считает моделирование активности мозга возможным. Но из-за сложности технологий, которые еще предстоит разработать, он рассчитывает, что это произойдет где-то в середине столетия. Проблему, например, представляет собой оборудование для визуализации: сканирующие туннельные микроскопы выдают точные результаты, но они медленно работают; электронные микроскопы, наоборот, работают быстро, но разрешение картинки более низкое.

Курцвейл неунывающе возражает, что методы визуализации тоже подчиняются закону ускоряющейся отдачи. В самом деле, пространственное разрешение магнитно-резонансной томографии с 1995 года увеличилось в десять раз. Однако, по мнению нейробиолога Херца, визуализационные приборы в будущем по-преж­нему будут выдавать только урезанную модель действительности.

Но даже если эмуляция в действительности так и останется мечтой, это не значит, что мощный ИИ заставит себя долго ждать, поскольку, конечно же, существуют более целенаправленные подходы по созданию ИИ, которым экспоненциальный прогресс играет на руку. Бостром допускает возможность появления на пути к эмуляции такого нейроморфного ИИ, в котором будут соединены новые принципы нейровычислений и способы синтеза.

Нейроморфное аппаратное обеспечение будет создано по подобию структуры нервной системы. В идеале оно будет работать аналогично мозгу, объединяясь в сеть высокого уровня, самоорганизуясь, будучи отказоустойчивым, подчиняясь принципу массового параллелизма, обладая высокой энергоэффективностью и занимая при этом небольшую площадь.

До сих пор неясно, приведет ли нейроморфный подход к созданию ИИ. Классическим примером его двойственной природы можно назвать создание первых летательных аппаратов. Птица показала человеку, что физически полет возможен и использование несущих плоскостей — не такая уж и плохая идея. Но, как оказалось, только крыльев самолету недостаточно, и способ перемещения в воздухе в принципе был изобретен заново.

Превосходство в мышлении благодаря технологиям

С ИИ ситуация может сложиться точно так же: природа показывает нам, как работает мышление, мы же заново его создаем. Преимущество такого подхода будет заключаться в том, что мы полностью можем полагаться на сильные стороны достижений техники — а их несметное количество.

Аппаратное обеспечение производит вычислительные операции и обменивается данными гораздо быстрее, чем их биологический соперник, и кроме того, его возможности могут беспредельно расширяться. Оборудование можно в любой момент оптимизировать, и оно будет надежнее, чем живой человек. Программы и алгоритмы можно обрабатывать и дублировать на любой вкус. Цифровой интеллект обучается гораздо быстрее биологического, к тому же он в состоянии справиться с различными задачами, тогда как даже гении человечества вроде Альберта Эйнштейна могут блистать только в очень узкой области.

Такой цифровой сверхинтеллект будет состоять из рекурсивно самоулучшающегося ИИ (жарг. Seed AI). Начало ему даст первое поколение мыслящих машин. А затем рекурсия позволит само­обучающемуся ИИ совершенствоваться. Каждое поколение будет умнее предыдущего. А в конце цикла произойдет «интеллектуальный взрыв».

Как это произойдет и что это значит, мы расскажем в следующей статье.

Серия статей CHIP: как искусственный интеллект (ИИ) бросает вызов миру
Человечество стоит на пороге великих перемен. Технологические концерны, военные и исследовательские лаборатории работают над созданием цифрового сверхинтеллекта, который с космической скоростью изменит все на свете: общество, жизнь и даже смерть человека. Что нас ждет впереди: идиллия или последние дни человечества? Пока что мы не решили, каким путем будем идти. В новой серии статей наш журнал расскажет о том, к чему может привести такая революция искусственного интеллекта, о его невероятных возможностях и подводных камнях.

• Часть 1. Создание сверхразума: что ждет человечество, когда появится искусственный интеллект?
• Часть 2. Формула вечной жизни будет открыта через 30 лет
• Часть 3. Нейронные сети умнее человека?
• Часть 4. Добро пожаловать в машину: опасен ли искусственный интеллект и как его остановить?