Слияние человека с машиной: движемся ли мы к матрице?

Большинство зрителей «Матрицы» считают, что самые фантастические элементы фильма - разумные компьютеры, загрузка информации непосредственно в человеческий мозг, виртуальная реальность, неотличимая от реальной жизни, - могут лишь позабавить как научная фантастика, но к действительности не имеют отношения. Они могут и заблуждаться. Как объясняет известный специалист по компьютерной технике и бизнесмен Рей Курцвейль, эти элементы весьма приближены к реальности, и очень вероятно, что они станут реальностью уже на наших глазах.

Действие «Матрицы» происходит в будущем, которое наступит через сто лет, в мире, предлагающем, на первый взгляд, сверхъестественный набор технологических диковинок: разумные (хотя и враждебные) программы, возможность загружать разнообразные навыки непосредственно в человеческий мозг и создание виртуальных реальностей, как две капли воды похожих на реальный мир. Для большей части кинозрителей эти достижения могут показаться чистой воды научной фантастикой, над которой интересно поразмышлять, но которая имеет мало отношения к миру, находящемуся за пределами кинотеатра. Однако эта точка зрения страдает близорукостью. На мой взгляд, эти явления станут частью реальности в течение последующих тридцати-сорока лет.

Я занялся изучением тенденций развития технологии в качестве приложения к моей деятельности изобретателя. Если вы работаете над созданием новых технологий, вам необходимо предвидеть, что будет происходить с технологией в будущем, чтобы ваш проект сохранял свою жизнеспособность и полезность после реализации, а не только в момент разработки. После нескольких десятилетий прогнозирования развития технологии, я разработал математические модели развития технологий в различных областях.

Это позволило мне осуществить разработки с использованием материалов будущего и не ограничивать свои идеи ресурсами, известными нам сегодня. Как заметил Алан Кей: «Чтобы предвидеть будущее, нужно изобрести его». Так что мы можем изобретать с расчетом на будущее, если мы имеем представление о том, каким оно будет.

Возможно, самая важная из осенивших меня догадок, с которой люди быстро соглашаются, но все последствия которой очень медленно доходят до них, касается возрастания темпов технического прогресса как такового.

Один нобелевский лауреат недавно сказал мне: «Мы не увидим самовоспроизводящихся нанотехнологических механизмов, по меньшей мере, еще лет сто». Да, разумеется, это высказывание является разумной оценкой того, сколько времени уйдет на то, чтобы этого добиться. Для получения самовоспроизводящихся нанотехнологических организмов потребуется еще сто лет прогресса с учетом той скорости, с которой он протекает сейчас. Однако темпы технического прогресса не собираются оставаться на одном и том же уровне: согласно моим расчетам, они ускоряются в два раза каждые десять лет. Столетний прогресс при текущих темпах развития мы одолеем за двадцать пять лет. Следующие десять лет сойдут за двадцать, а последующее десятилетие - за все сорок лет. Так что XXI век будет эквивалентен двадцати тысячелетиям прогресса с сегодняшними темпами. Двадцатое столетие, несмотря на свою революционность, не равно ста годам прогрессивного развития с нынешними темпами. Наше ускорение до современных темпов заняло лишь двадцать лет. Достижения XXI века в области изменений и существенных сдвигов будут примерно в тысячу раз превышать результаты века двадцатого.

Многие из этих тенденций вытекают из приложения к закону Мура. Закон Мура относится к интегральным схемам и, как известно, утверждает, что вычислительная мощность, доступная за определенную цену, будет удваиваться каждые год-два. Закон Мура стал синонимом экспоненциального роста вычислительной техники.

Я обдумывал закон Мура и его контекст, по меньшей мере, лет двадцать. В чем кроется подлинная природа этой экспоненциальной тенденции? Откуда она берется? Является ли она проявлением более глубокой и основательной закономерности? Как я собираюсь показать, экспоненциальный рост вычислительной техники существенным образом выходит за рамки закона Мура. Несомненно, экспоненциальный рост выходит за пределы вычислительной мощности вообще и относится ко всем областям основанной на информации технологии - технологии, которая в конечном итоге изменит мир. Наблюдатели указывают на то, что закон Мура вскоре исчерпает свои возможности. По мнению экспертов компании Intel и других специалистов индустрии, мы выйдем за пределы возможностей интегральных схем в течение пятнадцати лет, потому что длина основных деталей будет достигать всего лишь диаметра нескольких атомов. Так будет ли это означать завершение периода экспоненциального роста вычислительной техники?

Этот вопрос обретает чрезвычайную важность, если мы станем размышлять о природе XXI века. Обращаясь к этому вопросу, я расположил сорок девять известных компьютеров на экспоненциальном графике. Отсчет в нижнем левом углу начинается со счетной машины, которая использовалась в ходе американской переписи 1890 года {счетное оборудование на основе перфокарт). В 1940 году Алан Тьюринг создал компьютер на основе телефонных реле. Этот компьютер позволил взломать загадочные коды немцев и предоставил Уинстону Черчиллю расшифровку почти всех сообщений нацистов. Черчиллю приходилось использовать эти расшифровки с большой осторожностью. Он понимал, что масштабное использование расшифрованных посланий могло спугнуть немцев. Если, к примеру, он предупредил бы власти города Ковентри о том, что их город будут бомбить, немцы увидели бы приготовления к отражению бомбардировки и поняли бы, что их шифр разгадан. Впрочем, похоже, в ходе битвы за Британию английские летчики все время чудесным образом знали, где находятся немецкие самолеты. В 1952 году CBS воспользовалась более сложным компьютером на основе электронных ламп, чтобы предсказать избрание Эйзенхауэра на пост президента Соединенных Штатов. В правом верхнем углу находится компьютер, за которым вы сидите в настоящий момент.

Один из глубоких выводов, к которому мы можем прийти, глядя на этот график, состоит в том, что закон Мура был не первой, а пятой парадигмой, обеспечивающей экспоненциальный рост вычислительных возможностей. Каждая вертикальная линия обозначает различные парадигмы: электромеханика; техника, основанная на реле; электронные лампы; транзисторы; интегральные схемы. Каждый раз, когда какая-то парадигма вырабатывалась, ее сменяла другая парадигма, начиная с того места, где выдыхалась ее предшественница.

Люди скоры на критику экспоненциальных трендов. Они говорят, что в конечном счете эти тренды выработают свои ресурсы, как кролики в Австралии. Но каждый раз, когда конкретная парадигма достигала своих пределов, экспоненциальный рост продолжался благодаря новому, совершенно другому методу. Электронные лампы делались все меньше и меньше, но в конце концов ь настал такой момент, когда стало невозможно уменьшить лампу и сохранить в ней вакуум. Тогда появились транзисторы, которые представляют собой не просто электролампу маленького размера. Они выражают абсолютно иную парадигму. Каждая горизонтальная линия на этом графике показывает увеличение вычислительных возможностей в сто раз. Прямая линия на экспоненциальном графике обозначает экспоненциальный рост. Как видно, скорость экспоненциального роста сама возрастает в экспоненциальном порядке. Мы удваивали вычислительные мощности каждые три года в начале двадцатого столетия, каждые два года середине, а теперь мы удваиваем их ежегодно. Очевидно, что шестая парадигма будет являть собой вычислительную технику в трех измерениях. Как ни крути, мы живем в трехмерном мире и наш мозг организован в трех измерениях. Человеческий мозг использует весьма неэффективную схемотехнику. Нейроны - слишком громоздкие «устройства», и работают они крайне медленно. Они используют электрохимические сигналы, обеспечивающие лишь около двухсот вычислительных операций в секунду, однако мозг получает свою поразительную мощность благодаря параллельному вычислению, которое обеспечивается его трехмерной организацией. Трехмерные компьютерные технологии начинают появляться. В Лаборатории медиа Массачусетс-кого технологического института была создана экспериментальная технология, в которой схемы уложены в триста слоев. В последние годы в разработке трехмерных схем, действующих на молекулярном уровне, был сделан огромный шаг вперед.

Мои любимые нанолампы представляют собой шестиугольные матрицы атомов углерода, которые можно структурировать так, что они образуют любой тип электронной схемы. Из них вы можете создать эквивалент транзисторов и других электрических устройств. В физическом плане они очень прочные, их прочность превышает прочность стали в пятьдесят раз. Температурные характеристики, судя по всему, поддаются регулировке. Один кубический дюйм наноламповой схемы будет в миллион раз мощнее вычислительных возможностей человеческого мозга.

За последние несколько лет уверенность в создании трехмерных схем невероятно укрепилась. Были созданы, по крайней мере, аппаратные средства, способные конкурировать с человеческим интеллектом. Это достижение подняло более заметную проблему, а именно: «закон Мура может оказаться действующим по отношению к „железу", но не по отношению к программному обеспечению». После сорокалетнего экспериментирования с разработкой программного обеспечения я считаю, что это не так. Продуктивность софта возрастает очень быстрыми темпами. На примере одной из моих собственных компаний могу сказать, что за пятнадцать лет мы прошли путь от системы распознавания речи стоимостью в $5000, которая плохо распознавала тысячу слов, да еще и не в потоке речи, до продукта стоимостью в $50 со словарным запасом в сто тысяч слов, который намного более точен в распознавании. И это типичная картина для программного обеспечения. На фоне всех усилий в области разработки новых программных продуктов производительность программного обеспечения также экспоненциально увеличилась, хотя и с меньшей экспонентой, чем мы видели у аппаратных средств.

Многие другие технологии совершенствуются экспоненциально. Когда около пятнадцати лет назад стартовал проект по расшифровке генома человека, скептики доказывали, что с учетом той скорости, с которой мы можем изучать геном, на осуществление проекта уйдет десять тысяч лет. Наибольшее распространение получило следующее мнение: конечно, какой-то прогресс будет, но все равно завершить проект за пятнадцать лет невозможно. Однако экономическая эффективность и производительность расшифровки ДНК удваивались ежегодно, и проект был завершен меньше чем за пятнадцать лет. За двенадцать лет нам удалось добиться того, чтобы вместо $10 расшифровка комплементарной пары ДНК стоила десятую часть цента. Даже продолжительность жизни человека возрастает по экспоненте. В XVIII веке продолжительность жизни ежегодно увеличивалась на несколько дней, в XIX - на несколько недель. В наше время продолжительность человеческой жизни возрастает примерно на 120 дней ежегодно. А с учетом революционных открытии, сделанных на раннем этапе работы с геномом, с учетом кло2

нирования в медицинских целях, сознательного конструирования лекарств и прочих биотехнологических преобразований многие эксперты, включая меня самого, предвидят, что в течение десяти лет мы будем добавлять к продолжительности жизни больше года ежегодно. Итак, если вы сможете зависнуть здесь лет эдак на десять, то станете свидетелями нашего дальнейшего продвижения по кривой возможностей. Мы будем в состоянии прожить достаточно долго, чтобы увидеть поразительное столетие, которое ждет нас впереди.

Миниатюризация - вот еще одна важнейшая экспоненциальная тенденция. Каждое десятилетие мы уменьшаем предметы на 5,6 % линейного размера. В следующей статье Билл Джой среди всего прочего рекомендует существенным образом ускорить развитие нанотехнологии. Однако нанотехнология важна не только потому, что ее пропагандируют специалисты по нанотехнологии. Нанотехнология - это всего лишь неизбежный конечный результат набирающей обороты тенденции уменьшать размеры предметов, которая существует уже многие десятилетия.

Ниже приводится график экспоненциального роста вычислительной техники, рассчитанный для двадцать первого века. В данный момент ваш обычный персональный компьютер стоимостью $1000 стоит где-то между мозгом насекомого и мозгом мыши. В человеческом мозге насчитывается около ста миллиардов нейронов, при этом между двумя нейронами существует примерно тысяча соединений. Эти соединения работают очень медленно, порядка двухсот вычислений в секунду, однако сто миллиардов нейронов с тысячью связей между двумя каждыми из них создают стотриллионную параллельную производительноть. Если умножить эту цифру на двести вычислений в секунду, то получится двадцать миллионов миллиардов в секунду или, по компьютер

ной терминологии, двадцать миллиардов миллионов команд в секунду (MIPS). У нас будет двадцать миллиардов MIPS за $1000 к 2020 году.

Однако это не позволит нам автоматически достичь уровня человеческого интеллекта, потому что здесь не менее важны организация, программное обеспечение, объем памяти и «встроенное» знание. Ниже я обращусь к сценарию развития событий, согласно которому я предвижу разработку программного обеспечения, обладающего уровнем человеческого интеллекта. При этом мне кажется очевидным, что у нас будут необходимые вычислительные мощности. К 2050 году компьютер стоимостью в $1000 будет равен одному миллиарду человеческих мозгов. Возможно, это случится на год или два позднее, однако в любом случае XXI век не будет испытывать дефицит вычислительных ресурсов. Теперь давайте рассмотрим условия виртуальной реальности, воплощенные в Матрице, - виртуальную реальность, неотличимую от настоящей реальности. Это будет возможно, однако сначала я сделаю одно критическое замечание. Толстый кабель, воткнутый в ствол мозга Нео, был использован для пущего киноэффекта, но в нем нет особой нужды: все соединения могут быть беспроводными.

Давайте возьмем за точку отсчета 2029 год и сведем вместе некоторые из тех тенденций, о которых я говорил. К тому времени мы будем уметь конструировать наноботов, микроскопических роботов, способных проникать внутрь ваших капилляров и путешествовать по вашему мозгу, изучая его изнутри. Мы почти можем создать схемы такого рода уже сейчас. Мы еще не можем сделать их достаточно маленькими, однако мы можем сделать их довольно маленькими. В министерстве обороны разрабатываются крошечные устройства-роботы под названием «умная пыль» («smart dust»). Размер этих устройств сегодня - один миллиметр. Это еще слишком много для нашего сценария, зато этих крошек можно сбрасывать с самолета, и они могут находить нужные позиции с высокой точностью. У вас могут быть тысячи этих устройств в беспроводной локальной сети. Они могут принимать визуальные изображения, связываться друг с другом, координировать, отсылать сообщения, действовать как практически невидимые шпионы и использоваться для выполнения множества военных задач.

Мы уже создаем устройства размером с кровяную клетку, проникающие в поток крови. По теме «Биологические микроэлектронные механические системы» (bioMEMS) действуют четыре крупные конференции. Наноботам, появление которых я предвижу к 2029 году, необязательно потребуются собственные средства навигации. Они могут и произвольно передвигаться по системе кровообращения, а пока они будут проходить по различным элементам нервной системы, общаться с ними можно будет точно так же, как сегодня мы общаемся с абонентами посредством системы мобильной связи.

Разрешение при сканировании головного мозга, скорость и стоимость этого сканирования - все это развивается взрывными темпами, причем по экспоненте. С каждым новым поколением способов сканирования мозга мы получаем все лучшее и лучшее разрешение. Сегодня мы обладаем технологией, позволяющей разглядеть многие из скрытых элементов человеческого мозга. Разумеется, окончательного согласия по поводу того, что это за элементы, еще не достигнуто, однако мы можем наблюдать элементы мозга с очень высоким разрешением благодаря тому, что датчик сканирующего устройства имеет размеры, приближенные к самим наблюдаемым элементам. В настоящее время мы можем сканировать мозг и отслеживать его деятельность очень подробно. Для этого нужно всего лишь перемещать датчик сканирующего устройства по всему мозгу, чтобы он находился как можно ближе к каждому из элементов нейронов.

Теперь зададимся вопросом: как мы собираемся проделать эту операцию и ничего не повредить? Ответ: нужно послать сканеры внутрь мозга. Наши капилляры устроены так, что они проходят через каждое межнейронное соединение, каждый нейрон и каждый элемент нейрона. Мы можем отправить туда миллиарды сканирующих роботов, объединенных в одну беспроводную локальную сеть, чтобы они смогли отсканировать мозг изнутри и начертить карту с высоким разрешением, отражающую все, что происходит внутри.

Что же мы будем делать с огромными базами данных, объединяющих нейронную информацию, которую мы соберем? Мы обязательно проведем реинжиниринг мозга, чтобы понять основные принципы его функционирования. Мы уже пытаемся это делать. Мы уже располагаем отсканированными изображениями определенных зон головного мозга. Эти изображения имеют высокое разрешение. Мозг - это не монолитный орган; он состоит из нескольких сотен специализированных участков, каждый из которых организован по-своему. Мы отсканировали отдельные зоны слуховой и зрительной коры и использовали эту информацию для создания более «умного» программного обеспечения. Карвер Мид из Калтеха, например, разработал мощные аналоговые чипы с цифровым управлением на основе вдохновленных билогией моделей, созданных при помощи инженерного анализа отдельных участков зрительной и слуховой систем. Его визуально-чувствительные чипы используются в цифровых камерах высокого класса.

Мы продемонстрировали, что способны понимать эти алгоритмы, однако они отличаются от алгоритмов, которыми мы обычно снабжаем наши компьютеры. Они не являются ни последовательными, ни логичными - они хаотичные, высокопараллельные и самоорганизующиеся. По своей природе они голографичны в том смысле, что главного исполнительного менеджера-нейрона в мозге не существует. Вы можете убрать любой из нейронов, отрезать любой проводок, и все останется почти без изменений, потому что информация и процессы распределяются по всей сложной сети.

Отталкиваясь от этих открытий, мы создали ряд моделей, на которые нас натолкнула биология. Именно в этой сфере я работаю, пользуясь такими методиками, как эволюционные «генетические алгоритмы» и «нейронные сети». В них задействованы подсказанные биологией модели. Нынешние нейронные сети математически упрощены, однако по мере проникновения в принципы работы различных участков головного мозга мы сможем разрабатывать более мощные модели на основе биологических данных. В конечном итоге мы сможем спроектировать и воссоздать эти процессы, сохранив такие их свойства, как врожденный широкомасштабный параллелизм, аналогичное цифровому управление, хаотичность и способность самоорганизовываться. Мы сможем воспроизводить типы процессов, происходящих в сотнях различных участков мозга, и создавать организмы, сделанные не на основе кремния, а, возможно, с применением чего-нибудь вроде наноламп, которые сравняются в сложности, богатстве и глубине с человеческим интеллектом.

Наши сегодняшние механизмы по-прежнему устроены в миллионы раз проще человеческого мозга. Это одна из основных причин, по которым они все еще не приобрели подкупающих нас особенностей людей. У них нет нашей способности шутить, дурачиться, понимать ближних, адекватно реагировать на проявления эмоций или испытывать внутренние переживания. Это не побочные эффекты человеческого интеллекта или некая рассеянность. Это преимущества человеческого интеллекта. Для того чтобы создать организмы, которым будут свойственны столь же привлекательные и убедительные черты, потребуется технология такого же уровня сложности, какой присущ человеческому мозгу.

Возвращаясь к виртуальной реальности, давайте рассмотрим сценарий, включающий в себя прямую связь между человеческим мозгом и имплантантами, созданными на основе нанобо-тов. Существует ряд различных технологий, действие которых уже демонстрировалось: они применялись для обеспечения связи в обоих направлениях между влажным аналоговым миром нейронов и цифровым миром электроники. Одна такая технология, которая называется нейротранзистором, обеспечивает двустороннюю связь. При возбуждении нейрона нейронный транзистор засекает этот электромагнитный импульс, и при этом осуществляется коммуникация между нейроном и электроникой. При помощи этой системы можно также возбудить нейрон или блокировать его возбуждение.

Для полного погружения в виртуальную реальность мы направим миллиарды этих наноботов с тем, чтобы они разместились у каждого нервного волокна, исходящего от всех наших органов чувств. Если вы захотите остаться в подлинной реальности, они будут просто сидеть на своих местах и ничего не делать. Если вы захотите перейти в виртуальную реальность, они начнут подавлять сигналы, поступающие от ваших настоящих органов чувств, и станут заменять их сигналами, которые вы бы получали, находясь в виртуальной среде.

При такой схеме мы будем получать виртуальную реальность изнутри, и она сможет воспроизводить все наши ощущения. Это будет коллективная среда, в которую можно будет войти и одному человеку, и многим людям. Посещение какого-нибудь web-сайта будет означать попадание в среду виртуальной реальности, охватывающую все наши чувства, причем не только поступающие от пяти основных чувств, но и эмоции, сексуальное удовлетворение, юмор. На самом деле неврологические корреляты всех этих ощущений и эмоций, которые я обсуждаю в книге «Эпоха одухотворенных машин» («The Age of the Spiritual Machines»), уже существуют.

К примеру, хирурги, проводившие операцию на открытом мозге девушки (она была в сознании), обнаружили, что стимуляция определенной точки мозга может заставить девушку смеяться. Хирурги подумали, что они просто привели в действие безусловный рефлекс. Однако потом они открыли, что стимулировали восприятие юмора: всякий раз, когда они воздействовали на эту точку, девушке все казалось смешным. «Вы, ребята, просто уморительны, когда стоите тут» - вот типичная фраза девушки во время стимуляции.

Используя имплантанты на основе наноботов, мы сможем усиливать или ослаблять наши эмоциональные реакции на различные переживания. Эта возможность лежит на поверхности. Кроме того, вы сможете иметь несколько тел для разных переживаний. Как сегодня люди передают свои изображения при помощи web-камер, установленных у них в квартирах, так можно будет направлять на себя весь поток ощущений и даже эмоций из Интернета, так что вы сможете, как в фильме «Быть Джоном Малковичем», переживать жизнь других людей.

В конечном итоге эти наноботы повысят уровень человеческого интеллекта и расширят наши способности и возможности во многих направлениях. Поскольку они общаются друг с другом беспроводным способом, они могут создавать новые нейронные соединения. Эти соединения могут расширить нашу память, когнитивные навыки и познавательные способности. Мы увеличим возможности человеческого интеллекта, расширив его сегодняшнюю схему обширных межнейронных соединений, а также посредством установления тесной связи с небиологическими формами интеллекта.

Кроме того, мы сможем загружать знания, то есть воспроизвести то, что сегодняшние машины в состоянии делать, а мы нет. Так, например, мы потратили несколько лет, обучая один исследовательский компьютер понимать человеческую речь. При этом мы использовали модели с биологическими прототипами: нейронные сети, модели Маркова, генетические алгоритмы, самоорганизующиеся структуры. Все эти модели основаны на нашем пока еще грубом представлении о самоорганизующихся системах в биологическом мире. Основная часть технического проекта предполагала запись голосов различных людей, говоривших на разных диалектах, объемом в несколько тысяч часов. Потом эта запись была представлена системе, и ее заставили попытаться распознать записанную речь. Система делала ошибки, и тогда мы ввели автоматическое регулирование и самоорганизацию, чтобы система лучше осмысляла то, что она выучила.

Спустя много месяцев такого обучения система существенно улучшила свою способность распознавать речь. Если вы хотите, чтобы ваш персональный компьютер умел понимать человеческую речь, вам не надо тратить годы, обучая его так же кропотливо, как нам приходится обучать каждого ребенка. Вы можете просто загрузить разработанные модели - это называется «загрузить программы». Так что машины могут делиться своими знаниями.

В нашем мозге нет порта для быстрой загрузки информации. Но как только мы создадим небиологические аналоги наших нейронов, межнейронных соединений и нейротрансмиттерных уровней, где хранятся наши навыки и воспоминания, мы не упустим возможности создать и эквивалент загрузочного порта. Мы сможем загружать необходимые навыки с такой же легкостью, как Тринити загружает в свой мозг программу, позволяющую ей управлять вертолетом «Б-222».

Когда вы будете разговаривать с кем-нибудь в 2040 году, может статься так, что умственная деятельность вашего собеседника биологического происхождения будет являть собой гибрид биологического и электронного типов мышления, тесно сопряженных друг с другом. Вместо того чтобы ограничиваться всего лишь сотней триллионов соединений в нашем мозгу, как это имеет место сейчас, мы сможем значительно превзойти этот уровень. Скорость нашего биологического мышления фиксирована: считается, что человек может производить 1026 вычислений в секунду, и эта биологически заданная цифра не собирается спонтанно увеличиваться. Однако способности небиологического интеллекта возрастают экспоненциально. По моим расчетам, критическая точка наступит в 2030-е годы; некоторые называют это точкой перехода.

Когда мы доберемся до 2050 года, основная часть нашего мышления, которое, на мой взгляд, все еще является синонимом человеческой цивилизации, будет иметь небиологический характер. Я не считаю смертельную схватку враждебного искусственного интеллекта с человеческим, нашедшую отражение в «Матрице», неизбежным сценарием развития событий. Небиологическая часть нашего мышления будет по-прежнему оставаться человеческой, потому что она будет производной от биологического мышления. Она будет разработана людьми или машинами, созданными людьми, или машинами, построенными на основе инженерного анализа человеческого мозга либо загрузки человеческого мышления, либо на основе одного из многих других возможных вариантов тесного симбиоза между человеческим мышлением и мышлением машины, о котором мы не можем даже помыслить сегодня.

Обычная реакция на эти предположения: как все это мрачно, поскольку я «ставлю человечество на один уровень с машинами». Однако подобная реакция объясняется тем, что большинство людей имеет предубеждение против машин. Большая часть экспертов на самом деле не представляют, на что в конечном итоге способны машины, поскольку все машины, которые когда-либо «встречались» им, очень ограниченны по сравнению с людьми. Однако это не будет относиться к машинам года 2030-го или 2040-го. Когда машины станут производной человеческого интеллекта, которая к тому же в миллион раз способней человека, мы уже начнем уважать их, и явное различие между человеческим интеллектом и интеллектом машины исчезнет. Мы действительно сольемся с нашей технологией.

Мы уже идем по этому пути. Если машины во всем мире остановились бы, наша цивилизация могла бы впасть в коллапс от количества тяжелой утомительной работы сегодня. Совсем недавно, лет тридцать назад, этого бы не случилось. В 2040 году человеческий интеллект и интеллект машины будут очень тесно спаяны. Мы станем способны испытывать куда более сильные ощущения самого различного рода. Мы сможем «воссоздавать мир», созданный нашим воображением, и проникать в разные среды, настолько же изумительные, как в «Матрице». Остается только надеяться, что этот мир будет больше открыт для творческого самовыражения человека и его переживаний.

Библиография

Kurzweil R. The Age of Spiritual Machines: When Computers Exceed Intelligence. 2000.

Билл Джой

ПОЧЕМУ МЫ НЕ НУЖНЫ БУДУЩЕМУ

В предыдущей статье Курцвейль делится оптимистическими прогнозами насчет потенциальных возможностей технологии, способных изменить знакомый нам мир. В этой статье Билл Джой, руководитель исследовательских работ в Sun и один из вождей революции, связанной с распространением Интернета, более мрачно смотрит на вещи. Разделяя мнение Курцвейля относительно тенденций будущего развития, Джой находит больше поводов для волнения. Ужасы «Матрицы» - это лишь одна сторона возможных кошмаров... Самые мощные технологии XXI века -робототехника, генная инженерия и нанотехнология - угрожают превратить людей в вымирающий вид.

С того момента, как я увлекся разработкой новых технологий, меня стала занимать их этическая сторона. Но лишь осенью 1998 года я с тревогой осознал, насколько велика опасность, подстерегающая нас в двадцать первом столетии. Я начал беспокоиться об этом с того дня, когда встретил Рея Курцвейля, заслуженно известного изобретателя первой читающей машины для слепых и многих других поразительных вещей.

Мы с Реем выступали на Телекосмической конференции Джорджа Джилдера. Я случайно повстречал его в баре отеля после того, как секции, где мы выступали, закончили свою работу. Я сидел с Джоном Серлем, философом из Беркли, занимающимся изучением сознания. Мы с ним мирно беседовали, и тут к нам подошел Рей. Завязался разговор, предмет которого не дает мне покоя по сей день.

Я пропустил выступление Рея и вообще ту дискуссию, в которой они с Джоном принимали участие на конференции. Они начали с того, на чем тогда остановились: Рей сказал, что скорость совершенствования технологий будет возрастать и в недалеком будущем мы станем роботами или объединимся с ними, общем, что-то в этом роде, Джон опроверг его, сказав, что это невозможно, поскольку роботы не могут обладать сознанием.

Когда я слышал подобные разговоры раньше, мне всегда казалось, что разумные роботы существуют лишь в произведениях научной фантастики. Но теперь от человека, которого я уважал, я слышал убедительные доказательства в пользу того, что появление таких роботов можно ожидать в ближайшем будущем. Я был захвачен врасплох. Особенно меня потрясла знаменитая способность Рея изображать и моделировать будущее. Я уже знал, что новые технологии, наподобие генной инженерии и нанотехноло-гии, наделяют нас силой, позволяющей переделывать мир, однако реалистичный и неотвратимый сценарий, по которому появятся обладающие интеллектом роботы, сразил меня наповал.

Пресытиться информацией о таких достижениях довольно легко. Почти каждый день мы слышим в новостях о каких-нибудь прорывах в сфере технологии или науки. Однако предсказание Рея было не из числа привычных. В баре отеля Рей дал мне часть препринта своей книги «Эпоха одухотворенных машин», которая вот-вот должна была появиться. В этой книге Рей описывал предсказанную им утопию. По его мнению, в будущем люди станут почти бессмертными, слившись с роботизированной технологией. Чтение препринта книги Рея лишь усилило мою тревогу. Я был уверен, что он должен представлять себе все связанные с такой перспективой опасности и учитывать возможность плохого исхода.

Больше всего меня встревожил отрывок, в котором подробно излагался следующий дистопичный сценарий:

Новый луддитский вызов

Прежде всего давайте допустим, что специалисты по вычислительной технике преуспели в разработке разумных машин, способных делать все лучше человека. Предполагается, что при таких условиях вся работа будет выполняться многочисленными высокоорганизованными системами машин, и при этом в каких-либо усилиях со стороны человека не будет необходимости. Здесь становятся возможными два варианта. Машины могут получить разрешение принимать свои решения без вмешательства человека, =>

либо человеческий контроль над машинами может быть сохранен. Если машинам позволят принимать решения самостоятельно, мы не можем делать никаких предположений относительно результатов этих решений, поскольку предугадать действия таких машин невозможно. Подчеркнем лишь то, что судьба человечества в этом случае окажется во власти машин. Можно было бы утверждать, что человечество никогда не будет настолько глупым, чтобы передать машинам всю полноту власти. Однако мы не рассчитыва""" ем ни на то, что люди добровольно отдадут власть машинам, ни на то, что машины умышленно захватят власть. Мы как раз предполагаем, что человечество может с легкостью дойти до такой зависимости от машин, что у него не останется другого реального выбора, кроме как соглашаться со всеми решениями машин. По мере того как общество и проблемы, с которыми оно сталкивается, будут усложняться, а машины становиться все умнее и умнее, люди будут позволять машинам принимать за них все больше решений просто потому, что решения, принятые машинами, будут давать лучшие результаты, чем решения, принятые самими людьми. В конечном итоге может настать такой момент, когда решения, необходимые для поддержания системы в рабочем состоянии, достигнут такой сложности, что люди окажутся не способны принимать их. На этом этапе машины приобретут эффективный контроль. Люди просто не смогут выключить их, потому что их зависимость от машин будет настолько сильна, что отключение машин будет равнозначно самоубийству. С другой стороны, возможно, что люди сохранят контроль над машинами. В этом случае среднестатистический человек может контролировать определенные машины, находящиеся в его личном пользовании, например свою машину или свой компьютер, в то же время контроль над крупными системами машин будет находиться в руках крайне немногочисленной элиты - прямо как сейчас, но только с двумя отличиями. Благодаря улучшенной технологии элита приобретет больший контроль над массами, а поскольку человеческий труд перестанет быть необходимостью, массы станут ненужным, бесполезным бременем для системы. Если элита будет отличаться беспощадностью, она может просто решить ликвидировать большую часть человечества. Если элите будет свойствен гуманизм, она может воспользоваться пропагандой или другими психологическими либо биологическими приемами для сокращения уровня рождаемости до такого уровня, при котором большая часть человечества вымрет сама, оставив мир элите. Есть другой вариант. Если элита будет состоять из мягкосердечных либералов, они могут начать играть роль доброго пастыря по отношению к остальному человечеству. Они будут следить за тем, чтобы удовлетворялись физические потребности всех и каждого, чтобы все дети росли в психологически безопасных условиях, чтобы у каждого человека было полезное хобби и он не слонялся без дела, и чтобы каждый, если вдруг почувствует себя неудовлетворенным, получал соответствующее «лечение», помогающее ему выздороветь и избавиться от этой «проблемы». Разумеется, человеческая жизнь станет настолько бесцельной, что людей придется настраивать биологически или психологически, либо ликвидировать их потребность в обретении власти. Либо заставить их сублимировать стремление к власти в какое-нибудь безвредное увлечение. Возможно, эти управляемые человеческие существа и будут счастливы в таком обществе, однако почти точно можно сказать, что они не будут свободны. Людеи сведут до уровня домашних животных .

¹⁸³ Курцвейль цитирует отрывок из «Мани<