Старинный рецепт: отказ от прав

Осознавая разгон технологий в биотехе, нанотехе, ИИ и т. д., некоторые искренние люди – вроде Билла Джоя (Bill Joy), бывшего ведущего учёного фирмы Sun – видят мало шансов для выживания полностью отрытого общества. Возможно, вы читали грустный манифест Джоя в журнале ‘Wired’[96] , в котором он цитирует Унабомбера (не кого-нибудь, а именно его) в поддержку предположения, одновременно старого и нового – что нашей единственной надеждой на выживание может быть отказ, уничтожение или остановка нескольких видов технологического прогресса.

Идея об отказе получила поддержку повсюду на философской и политической карте, особенно на крайне правых и левых её краях.

Возьмём, например, романы и высказывания Маргарет Атвуд (Margaret Atwood), чьи основные сюжетные линии почти идентичны тем, что у Майкла Крайтона, несмотря на их различия в деталях. Оба автора постоянно выражают беспокойство, которое часто переходит настоящее отвращение, по отношению к самонадейной гордыне технологических инноваторов, которые просто не могут предоставить природу самой себе в достаточной мере.

На другой стороне спектра правых и левых стоит Фрэнсис Фукуяма, который занимает пост профессора в Хопкинском университете (Bernard L. Schwartz Professor of International Political Economy at the Paul H. Nitze School of Advanced International Studies of Johns Hopkins University). Наиболее известная работа доктора Фукуямы «Конец истории и последний человек» (1992) с триумфом воспринимает коллапс коммунизма как, вероятно, последнее волнующее событие, стоящее занесения в летопись историков. С этого момента мы увидим цветение либеральной демократии без значительного соревнования или столкновений. Больше не будет «интересных времён»[97]. Но этот жизнерадостный взгляд заканчивается, когда Фукуяма начинает замечать потенциально опасную «историю» разрушительных эффектов новых технологий. Будучи придворным интеллектуалом Администрации Буша и членом Президентского совета по биоэтике, он сейчас осуждает значительную часть биологической науки как разрушительную и даже аморальную.

Нельзя, согласно Фукуяме, доверять людям в принятии качественных решений об использовании – например – генетической терапии. Человеческая «недоказуемость» столь опасная концепция, что она должна быть отвергнута почти без всяких исключений. В «Нашем постчеловеческом будущем: Последствия Биотехнологической революции» (2002), Фукуяма призывает министерства американского правительства контролировать или запретить целые направления научных исследований, производя все действия, которые они полагают для этого необходимыми.

Вы можете подозревать, что я сомневаюсь. С одной стороны, должны ли мы распространить этот запрет на исследования на весь мир? Возможно ли истребить такие инструменты навсегда? Как для элит, так и для масс? И если да, то как?

Хотя некоторые из катастрофических процессов, упоминаемых Биллом Джоем, Ральфом Петерсом (Ralph Peters) и Фрэнсисом Фукуямой выглядят убедительными и стоящими исследования, всё же не понятно, как мы можем справиться со всем, став нео-луддитами. Законы, которые направлены на ограничение технологического продвижения, наверняка будут нарушаться экстремистскими группами, где как раз и сконцентрированы наибольшие опасности. Даже если будут устроены свирепые репрессии – вероятно, усиленные всевидящим и универсальным контролем – это не предотвратит исследования и использование таких технологий элитами. (Корпорации, правительства, аристократы, преступники, иностранцы – выберете на свой вкус элиту с неограниченной властью.) Годами я бросал вызов отрицателям прогресса – попробуйте привести хотя бы один пример из всей человеческой истории, когда власть имущие позволяли такому случиться. Особенно, когда они наверняка оставались на месте, чтобы выиграть от чего-то нового.

Будучи неспособными ответить на этот вызов, некоторые отрицатели возражали, что новые мега-технологии – включая биотех и нанотехнологию – могут быть лучше использованы и продвигаемы, если контроль будет осущевляться только известными элитами, возможно даже в секрете. Когда на кону так много, не должны ли лучшие и самые искренние люди принимать решения за всех? В действительности, по справедливости, я должен допустить, что один исторический пример, который я дал раньше – насчёт ядерного вооружения – не даёт особой поддержки этой идее. Определённо, главным обстоятельством здесь, которое спасло нас, было ограниченное число лиц, принимающих решения, которые могли начать ядерную войну.

И ещё, не был ли весь политический процесс тогда под внимательным наблюдениям публики? Не были ли эти лидеры контролируемы публикой, хотя бы с одной стороны? Более того, решения об атомных бомбах не были сильно подвержены влиянию эгоистических интересов. (Говард Хьюз не стремился иметь и использовать частный ядерный арсенал.) Но эгоистический интерес определённо будет воздействовать на правящие элиты, когда они будут оценивать огромные преимущества и потенциальную цену биотехнологий и нанотехнологий.

И с другой стороны, не является ли элитарная секретность в точности тем создающим ошибки режимом, который Крайтон, Атвуд и многие другие изобразили столь живо, снова и снова, когда выступали против технологической гордыни?

История кишит примерами бредовых сборищ самоуверенных мелких дворян, рассказывающих друг другу воодушевляющие истории и избегающих при этом какой-либо критики, которая могла бы обнаружить расчеты в Плане (мятежа). Предписывая возвращение к патернализму – контролю элитами, которые остаются замкнутыми и неподотчётными – не предлагают ли таким образом отрицатели именно тот самый сценарий, который – справедливо – все боятся больше всего?

Вероятно, это одна из причин того, почему отрицатели – словоохотливые и конкретные, когда речь идёт о возможных путях катастрофы – редко выражаются ясно о том, какие именно контролирующие организации должны выполнить грязную работу по подавлению технологического прогресса. Или о том, как именно эта остановка разработок будет реализована повсеместно. В действительности, сторонники этой теории не могут указать ни одного исторического примера, где подавление знаний вело бы к чем-нибудь иному, чем ещё большие человеческие страдания. До сих пор нет ни одного предложения о том, как предотвратить жульничество со стороны некой элитарной группой. А возможно, и всеми элитами.

В результате, только огромное количество нормальных людей будет исключено от всецивилизационной сети обнаружения ошибок, за счёт отвлечения их мириадов глаз, ушей и префронтальных лобных долей.

И, прежде всего, самоограничение выглядит мерой отчаяния, полностью противоположной характером оптимистичной, прагматичной, могучей культуре.

Редко упоминаемая альтернатива –

Взаимная подотчётность

И всё же, несмотря на весь скептицизм, я в действительности гораздо больше поддерживаю Джоя, Атвуда, Фукуяму и др., чем кто-то мог бы ожидать. В книге «Прозрачное Общество» («The Transparent Society»), я подробно описал с большое число социальных критиков, которые затыкались, когда осознавали потенциальные опасности на пути.

В мире быстрых перемен, мы можем только максимизировать преимущества научного развития, и уменьшать неизбежный вред, используя великие инструменты открытости и отчётности. В первую очередь необходимо признание того, что высокий уровнь критики – единственный известный антидот к ошибкам. Эта коллективная версия «мудрости» – почти наверняка то, что спасало нас до сих пор. У неё нет почти никакого сходства с индивидуальной мудростью, которую мы привыкли ассоциировать со священниками, гуру и бабушками… но она менее зависима от совершенства. Менее склонна к катастрофе, когда миропомазанный «Центр Мудрости» делает неизбежный просчёт.

В силу этого, на самом деле, я нахожу полезными раздражающих торговцев беспокойством! Одно только их присутствие помогает прогрессу продвигаться вперёд с помощью озадачивания легковерных энтузиастов. Это процесс, называемый взаимная подотчётностью (reciprocal accountability). Без искренних ворчунов, стремящихся указать на потенциальные виды аварий, мы действительно окажемся в той опасности, в которой мы, по их словам, находимся. Забавно, что в открытом обществе – где брюзги-Кассандры прекрасно слышны – вряд ли потребуются самоограничения, или драконовский контроль, который они предписывают.

Итак, я приближаюсь к главной идее ограничителей. Если общество останется столь же глупым, как некоторые люди думают – или даже если оно столь же умно, как я полагаю, но не становится ещё умнее – то тогда немногое получится из того, что народ планирует на тысячах исполненных благих намерений футурологических конференциях. Получится не более, чем отсрочка неизбежного.

В этом случае, мы будем иметь ответ на давнюю загадку науки – почему нет подлинных следов внеземных цивилизаций среди звёзд[98]. Ответ будет прост. Где бы ни возникала технологическая цивилизация, она всегда разрушает себя. Эта возможность всегда таится в засаде в углу нашего взгляда, напоминая нам, каковы ставки.

С другой стороны, я вижу все причины верить, что у нас есть шанс опровергнуть эту суровую опасность. Как члены открытой и вопрошающей цивилизации – которая использует взаимную подотчётность, чтобы находить и проверять любой возможный источник ошибок – мы можем быть уникально экипированы, чтобы справится с предстоящими задачами.

В любом случае, верить в это гораздо более весело.