Оптимистический сценарий – Сингулярность
Мы выслушали печальных сторонников ограничения технологий. Давайте посмотрим на другое будущее. Сценарий тех, кто – буквально – верит, что только небо им предел. Среди многих наших великих мыслителей вращается одна мысль – новый «мем», если вы хотите, – который говорит, что мы готовимся к старту. Я имею в виду идею о Технологической сингулярности. Фантаст Вернор Виндж считается главным популяризатором этой идеи, хотя она уже существовала во многих формах в течение поколений. Недавно Рэй Курцвайль в книге «Сингулярность рядом» доказывал, что наша научная компетентность и технологическая сила скоро резко возрастут, направив человечество в полностью новую эру. Можно назвать это современной хай-тек версией апотеоза ноосферы Тейяра де Шардена – приближается время, когда человечество может перейти, ярко и решительно, на более высокий уровень осознания или бытия. Однако, вместо достижения трансцендентности через медитацию, хорошую работу или благородство духа, идея нынешнего времени состоит в том, что мы можем использовать ускоряющийся цикл образования, творчества и компьютерно-опосредованного знания для достижения интеллектуального господства как на окружающей средой, так и над нашими примитивными носителями.
Иными словами, взять под контроль «колесо жизни» Брахмы, а затем учиться крутить его туда, куда мы хотим. Чем бы ещё вы это назвали …
· Когда мы начнём использовать нанотехноогии, чтобы ремонтировать тела на клеточном уровне?
· Когда, при получении последних исследований по самой интересной вам теме, автономные программные агенты доставят её вам, настолько быстро и легко, как ваша рука сейчас движется, куда вы хотите?
· Когда производство по запросу станет таким обыденным, что богатство и бедность станут почти бессмысленными словами?
· Когда опыт виртуальной реальности – скажем, посещение далёкой планеты, – станет трудно различим от реальной вещи?
· Когда каждый из нас сможет иметь столько «слуг» – как роботов, так и программных – сколько захочет, таких же послушных, как наша правая рука?
· Когда усиленный человеческий интеллект взмоет вверх – и, обмениваясь прозрениями с другими умами на скорости света – поможет нам достичь абсолютно новых уровней мысли?
Конечно, стоит задуматься о том, как эта идея о «сингулярности» соотносится с давней традиции размышлений о выходе за пределы человеческого. В действительности, идея перехода на другой уровень существования навряд ли новая! Она представляет одну из самых устойчивых тем в истории культуры, а значит, происходит из нашей исходной природы.
В действительности, многие оппоненты науки и технологии вцепились в свои собственные образы мессианской трансформации, образы, которые – говоря по правде – смешивают множество эмоциональных потоков с технологически нагруженными восприятием, даже если они различаются в вопросе о средствах достижения трансформации.
В течение истории, большая часть этих размышлений задерживались на духовном пути, на идее о том, что человеческие существа могут достичь более высокого состояния посредством молитвы, морального поведения, ментальной дисциплины, или повторения правильных заклинаний. Возможно, потому что молитва и заклинания были единственными доступными средствами. В последнем веке, интеллектуальная традиция, которая может быть названа «Техно-трансцендентализм», добавила пятое колесо. Идею о том, что новый уровень бытия или более притягательное качество жизни может быть достигнуто посредством знания и умения.
Но какими именно видами знания и умений?
В зависимости от эпохи, в которой вам довелось жить, техно-трансцендентализм смещался от одного мимолётного увлечения к другому, направляя пылкие надежды на научную моду недели. Например, сто лет назад марксисты и фрейдисты сплетали сложные модели человеческого общества – или ума – предсказывая, что рациональное применение этих моделей будет иметь результатом гораздо более высокие уровни общего счастья[99].
Впоследствии, на фоне популярных новостей об успехах в сельском хозяйстве и эволюционной биологии, некоторые группы были увлечены евгеникой – соблазном улучшения человеческого животного. Время от времени, это приводило к неправильным и даже ужасающим последствиям. И эта повторяющаяся мечта недавно ожила в новых формах, вместе с перспективами генетической инженерии и нейротехнологии. Энтузиасты ядерной энергетики в 1950-е годы обещали энергию, слишком дешёвую, чтобы её мерить. Часть этой же страсти можно увидеть в широко распространившемся энтузиазме в отношении космических колоний в 1970-е и 80-е годы, и в теперешнем продолжающемся кибертрадиционализме, который обещает неограниченную свободу и приватность каждому, стоит нам только зашифровать каждое интернет сообщение, используя анонимность он-лайн, чтобы совершенным образом замаскировать хилые создания, которые в действительности печатают на реальной клавиатуре. В дальней перспективе некоторые держатся надежды, что человеческие умы можно будет загружать на компьютеры или огромную новую осваиваемую область кибер-пространства середины 21 века, освобождая людей от всякой остающейся рабской зависимости от грубых и ненадёжных органических тел.
Эта давняя традиция – искренних людей, направляющих свою веру и энтузиазм на трансцендентные мечты – говорит многое об одном аспекте нашей натуры, о характерной особенности, которая пересекает все культуры и эпохи. Довольно часто этот энтузиазм сопровождается презрением к современному обществу – вере, что некий вид спасения может быть достигнуть только за пределами обычной культурной среды, – среды, которая часто недобра к искренним философам – и к отщепенцам. Крайне редко обсуждается, как много эти энтузиасты имеют общего – во всяком случае эмоционально – с теми, кто верит более старые, более традиционные виды апотеоза (apotheosis – богоуподобление), которые настаивают на методах, которые являются в большей мере ментальными или духовными.
Мы должны помнить всю эту длинную историю, когда мы обсуждаем последнюю фазу: веру в исключительно позитивные эффекты экспоненциального роста способностей вычислительных устройств. В то, что ускоряющаяся мощь вычислений предложит соответственно глубокое увеличение наших знаний и сил, нашей мудрости и нашего счастья.
Вызов, который я неоднократно бросал, состоит в следующем: «Назовите хотя бы один пример в истории, когда эти верования действительно сбывались. Помня все прошлые поколения, которые были уверены в своей идее изменения, не должны ли вы подходить к своему новомодному набору с некоторой предосторожностью… и может быть небольшим сомнением?»
Это может быть лишь мечтой
Не заносит ли слегка тех, кто верит в сингулярность и сторонников ограничения технологий? Давайте дадим место сомнению. Может быть, все эти разговоры о решительной трансформации при нашей жизни, подобны нашим прошлым эпизодам: более основаны на мышлении, обусловленном желаниями (или страхами), чем на чём-либо доказуемом или прагматичным.
Возьмём, например, Джонатана Хьюбнера (Jonathan Huebner), физика, который работал в военном центре Пентагона (Pentagon's Naval Air Warfare Center in China Lake, California). Рассматривая в целостности понятие об ускорении технического прогресса, он исследовал частоту «значительных нововведений на человека». Используя в качестве источника книгу «История науки и техники», Хьюбнер сделал вывод, что пик инноваций пришёлся на 1873 год и с тех пор только убывал. Фактически, наше теперешний уровень инноваций – который Хьюбнер определил как 7 важных технологических перемен на миллиард человек в год, примерно тот же, что и в 1600 году. К 2024 году он упадёт до того уровня, каким он был в Тёмные века, около 800 года. «Число нововведений не увеличивается экспоненциально, я не увидел их столь много, как ожидал». Хьюбнер предложил два возможных объяснения: экономика и размер человеческого мозга. Как по причине того, что просто не стоит продвигать определённые инновации, если за них не будут платить – одна из причин, почему затормозились космические экспедиции – или потому что мы уже знаем большую часть того, что мы можем знать, и потому открытие нового стало чрезвычайно трудным.
Бен Джонс (Ben Jones) из Northwestern University in Illinois в целом соглашается с находками Хьюбнера, сравнивая проблему с аналогичной проблемой Красной Королевы из Алисы в Зазеркалье: мы должны бежать быстрее и быстрее, просто чтобы оставаться на месте. Но Джонс имеет другое мнение о причинах этого. Его теория состоит в том, что ранние исследователи выщипали все легко достижимые идеи. Или, возможно, огромный объём накопленного знания означает, что новаторы должны иметь более длительные периоды обучения, чтобы узнать достаточно, чтобы изобрести что-то новое, и в результате, меньшую часть своей жизни они могут посвятить изобретательству.
«Я заметил, что нобелевские лауреаты становятся старше», – говорит он. В действительности, легко отбросить все четыре аргумента от Хьюбнера и Джонса[100]. Например, это вполне естественно для нововведений и прорывов казаться менее очевидными для невооружённого взгляда, – теперь, когда мы расширили пространство наших исследований от размеров кванта и до края космоса. В биологии только несколько событий привлекли исключительное внимание как «прорывы» – вроде соревнования вокруг расшифровки человеческого генома. Трудно замечать путевые вехи на столь сложном и туманном поле исследований. Но из этого не следует, что биологические открытия не быстры и не существенны. Более того, в той мере, как многие исследователи получают, по-видимому, свои награды в более позднем возрасте, не является ли это в частности отражением того факта, что продолжительность жизни возросла, и меньше людей умирает до того, как начинается рассмотрение вопроса о призах?
И, есть кое-что ещё, что следует сказать о сомневающихся в сингулярности. В действительности, ещё в 1930-х было несколько известных фантастических произведений, которые предполагали замедление прогресса, исходя из простой логики. Потому что прогресс выглядит своим худшим врагом. Чем больше становится известно, тем в большей мере специалисты в каждой области должны знать всё больше и больше о всё меньшем и меньшем – или о постоянно сужающейся области науки – чтобы продвигать знание малюсенькими шажками.
Когда я был студентом в калифорнийском технологическом институте, в 1960-х, мы обсуждали эту проблему роста размеров науки. Например, каждый год абсолютный размер, занимаемый на полках библиотеки реферативным журналом по химии ("Chemical Abstracts") рос ошеломляюще, и он становился всё более неподъёмным для любого человека, ищущего нужные ему статьи.
И всё же эта тенденция в последующие десятилетия так и не стала бедствием, как мы того ожидали. В частности, потому что реферативные журналы по химии и их братья – факт – исчезли с библиотечных полок, все вместе! Проблема свободного места в библиотеке была разрешена просто путём помещения каждого автореферата в сеть. Определённо, поиск литературы для эффективной работы даже в отдалённых областях знания происходит сейчас быстрее и эффективнее, чем когда-либо раньше, особенно благодаря использованию программных агентов и ассистентов, которые станут ещё более эффективны в ближайшие годы. Эта противоположная сила определённо впечатляюща. Но моё собственное мнение склоняется к другой тенденции, которая, кажется, предупредила коллапс производительности науки. Это мнение, я должен предупредить, полностью субъективно. И оно, по моему опыту, выглядит даже более важным, чем продвижение в технологии онлайн поиска. Потому что мне кажется, что лучшие и самые толковые учёные становятся умнее, несмотря на то, что проблемы, с которыми они стакиваются, становятся всё более сложными.
Я не могу подтвердить это с помощью статистики или анализа. Только моим наблюдением, что многие профессора и исследователи, которых я знал в течение моей жизни, теперь выглядят гораздо более живыми, более свободно мыслящими и более интересующимися областями науки за пределами их собственной, чем они были, – даже с учётом их прогресса за прошедшие годы – когда я в первый раз встретил их. А некоторых я встретил ещё десятилетия назад. Физики кажутся более заинтересованными в биологии, биологи в астрономии, инженеры в кибернетике, и так далее, – чем это было раньше. Это находится в абсолютном контрасте с тем, что можно было бы ожидать, если бы специализация устойчиво сужалась. Но это согласуется с идеей, что культура может мощно влиять на нашу способность быть творческими. И культура, которая освобождается от избитых старых предположений и цеховых границ, может быть, находится в процессе высвобождения ментальных ресурсов, чем закрытия их.
Фактически, эта тенденция – к преодолению стандартного разделения дисциплин – сознательно воспитывается во многих местах. Например, новый колледж университета Калифорнии (Sixth College of theUniversity of California at San Diego), чья официально установленная миссия – «построить мост между науками и искусствами», вбивая гвоздь в старую концепцию C.P. Snow о том, что две культуры не могут встретиться. Никогда ранее не было столько совместных усилий между технически сообразительными художниками и учёными, которые принимают эстетические и творческие стороны жизни[101].
Хьюбнер и Джонс, кажется, упускают то, что сложные препятствия обычно преодолеваются сложными структурами. Даже если Эйнштейн и другие собрали все низко висящие фрукты, которые доступны отдельным людям, это не мешает группам – организациям, командам и коммерческим начинаниям – путём построения сотрудничающих человеческих пирамид отправляться за ценностями, которые висят выше на дереве. Особенно, когда эти пирамиды включают в себя новые виды участников, программных агентов и поисковых методологий, всемирные ассоциативные сети и даже участие заинтересованных любителей на основе работы с открытыми источниками. Или когда место творения мириадов областей исследований распылены по множеству недорогих настольных компьютеров, как раньше это произошло с программами[102].
Американо-голландский историк экономики Джоел Мокир (Joel Mokyr) в книге «Влияние сокровищ и дары Афины» поддерживает этот прогрессивный взгляд, что мы в действительно делаем нечто правильное, нечто, что даёт нашей либерально-демократической цивилизации уникальную способность создавать непрерывный прогресс. Мокир полагает, что с эпохи Просвещения 18 века, в балансе человеческих сил появился новый фактор: накопление и свободный рынок знаний. Как говорит Мокир, мы не обезглавливаем теперь людей за то, что они говорят неправильные вещи – мы выслушиваем их. Такое «социальное знание» является прогрессивным, поскольку оно позволяет идеям тестироваться и выживать наиболее эффективным из них. Это знание воплощается в учреждениях, которые, в отличие от отдельных людей, могут подняться над нашей человеческой природой. Но Мокир предупреждает, что, хотя общество может прогрессировать, человеческая натура – нет. Наша агрессивная, стадная природа жёстко впечатана в нас, нереформирована и нереформируема. Индивидуально каждый из нас является животным, и как животное, неспособен к прогрессу. Трюк состоит в том, чтобы посадить эти животные натуры в рамки эффективных организаций: образование, закон, правительство. Но это может пойти по неправильному пути. «То, что меня пугает, – говорит он, – это то, что эти организации могут промазать».
Хотя я не использую слова вроде «посадить», я должен согласиться, что Мокир улавливает существенную черту наших недавних и кратких экспериментов с Просвещением: Отрицание Джоном Локком романтического сверхупрощения в пользу прагматических учреждений, которое гибко максимализирует эффективность наших наилучших усилий – ангелов нашей природы – позволяет нашим творческим силам взаимно усиливаться. В то же время, те же самые учреждения и процессы могут ограничить наших «дьяволов» – всегда присутствующую человеческую тенденцию к самообману и жульничеству. Конечно, человеческая природа стремится вырваться из этих ограничений. Склонные к самообману и мошенничеству люди постоянно стремятся найти поводы к обходу соглашений Просвещения и выиграть от того, что эти институции станут менее эффективны. Если мы позволим этому случится, нет более надёжного способа провалить любую сингулярность. Но затем, если посмотреть с другой стороны, что если вскоре станет возможным не только сохранять творческие просвещённый институции, но сделать то, что Мокир считает невозможным? Что если мы на самом деле сможем улучшать человеческую природу?
Предположим, что человеческие компоненты обществ и организаций тоже могут быть сделаны лучше, хотя бы немножко? Я уже утверждал, что это уже происходит, в умеренной форме. Представьте последствия даже маленького скачка вверх общей человеческой интеллектуальности, как врождённой, так и просто функциональной, посредством всего, начиная от образования и «умных лекарств» до технологически усиленных органов чувств и новых методов самообучения.
Не потребуется очень большого усиления человеческого интеллекта, чтобы рынки, наука, демократия и т. д. заработали гораздо лучше, чем сейчас. Определённо, это один из факторов, на который рассчитывают ревнители сингулярности.
То, с чем мы остались, – это образ, который скрывает простое и чистое понятие о кривой «сингулярности»… которая неумолимо взмывает в небеса, как простая математическая функция, где знания и мастерство постоянно усиливают сами себя, как если бы их вёл некий природный закон. Даже наиболее разрекламированный пример такой кривой, закон Мура, – который успешно моделирует увеличение компьютерной силы при уменьшающейся цене – никогда не был гладким феноменом. Ряд критических и своевременных решений – ряд из них чисто случайных – спасли закон Мура от многих столкновений как с технологическими барьерами, так и с жестокими рыночными силами.
Это правда, что нам везло до сих пор. Кибернетика, образование и мириады других факторов помогли преодолеть «ловушку специализации». Но как мы увидим в этом разделе, прошлый успех не гарантирует будущий. Те, кто предвидит восходящие кривые продолжающимися до бесконечности, как если бы это был предмет веры, имеют на это не больше оснований, чем другие трансценденталисты, которые уверенно предсказывают другие воодушевляющие свершения, в своё время.