Проблема глобальных катастроф

В последние десятилетия предложено несколько моделей глобальных угроз, которые могут привести к катастрофам максимально большого масштаба, ведущим к вымиранию человечества. В дальнейшем я буду называть такие события "глобальными катастрофами". Целью настоящей статьи является исследование процессов с положительной обратной связью как общих механизмов глобальных рисков – и социальных последствий реализации таких рисков. Основная идея этой статьи в том, что именно ничем не ограниченная положительная обратная связь делает глобальные риски действительно глобальными, то есть способными распространиться по всей Земле.

Иначе говоря, имеется прямая связь между неограниченностью положительной обратной связи и глобальностью риска. Неограниченность положительной обратной связи возникает в том случае, когда самоусиливающийся процесс не сопровождается конкурирующими тормозящими процессами, что возможно лишь в том случае, когда он обладает неким принципиально новым качеством, до того отсутствовавшим в системе. Например, гипотетическая микроскопичекая черная дыра, возникшая на Большом адроном коллайдере, обладала бы новым качеством, до того отсутствовавшим на Земле, и поэтому могла бы расти неограниченно, не встречая сопротивления.

Условием возникновения качественно новых явлений, не встречавшихся до того в природе, является человеческая деятельность, и в первую очередь – технический прогресс. Более того, здесь принципиальную роль играет эффект ускорения научно-технического прогресса, который приводит ко все большему разрыву между новым и старым. В результате новое оказывается настолько качественно превосходящим старое, что оно без труда может превратить это качественное превосходство в количественное. Данный процесс имеет как научно-технический, так и социальный аспект. Если первый связан с довольно простыми формулами экспоненциального роста числа бактерий, транзисторов на чипе или массы черной дыры, то второй связан с явной неспособностью человеческой цивилизации адекватно предвидеть свое будущее в условиях быстрых изменений.

Этот эффект исследовал Н.Бостром в статье "Технологические революции: политика и этика во тьме" [Bostrom, 2007]. Человеческий мозг в значительной степени сформировался в ходе эволюционного процесса, проистекавшего в принципиально других условиях, чем нынешнее время [Дольник, 2009], и человеческое поведение, а также создаваемые человеком социальные структуры оказываются неспособны адекватно воспринять все ускоряющийся темп изменений, вызывают несколько уровней шока будущего [Тоффлер, 2002]. А именно, мозг человека привык к замедляющимся изменениям – то есть максимум новой информации он получал в начале жизни, когда процессы обучения наиболее активны, а к старости он оказывался в относительно привычном и неизменном мире. Наоборот, в современном мире от человека требуется способность адаптироваться к ускоряющимся изменениям, в первую очередь, в области компьютеров и средств обработки информации.

В статье "Когнитивные искажения, влияющие на оценку рисков" Е.Юдковски [Юдковски, 2008б] исследует то, как различные психологические искажения могут приводить к недооценке будущих глобальных рисков. В частности, людям свойственно пренебрегать вероятностями, меньшими, чем 1 к 100 000, им трудно воспринимать концепцию экспоненциального роста, который они стараются аппроксимировать с помощью линейных моделей (притча с шахматной доской и рисовыми зернышками на ней, количество которых возрастали в геометрической прогрессии, и шах не смог этого предсказать.) В моей статье “О возможных причинах недооценки рисков гибели человеческой цивилизации” [Турчин, 2007] я рассматриваю список из примерно 100 когнитивных искажений, которые могут влиять на оценку рисков глобальной катастрофы.

Помимо эволюционно запрограммированных когнитивных искажений, которые записаны в человеке на уровне генокода, есть также уровень социальной организации, которая эволюционирует вместе с человеческим обществом – и цель которой компенсировать эти исходные человеческие качества с тем, чтобы сделать человеческое общество более устойчивым. Один из аспектов такой социальной оптимизации выражен в гипотезе о техно-гуманитарном балансе А.Назаретяна. По мере развития производительных сил общества, гласит она, возрастает уровень летальности создаваемого им оружия, и для того, чтобы общество не самоуничтожилось, необходим все более высокий уровень ограничений на его применение, прописанный в самой структуре общества и воспитании его членов, по сути дела, являющийся формой отрицательной обратной связи. В своей книге он приводит примеры самоуничтожения отдельных сообществ, к которым попало оружие, не соответствующее их уровню развития [Назаретян, 2001].

Другим способом компенсировать естественно присущие человеку когнитивные искажения, на этот раз в области построения адекватной модели мира, является научный метод. Баланс сил сдерживания и сил разрушения является весьма тонким взаимодействием положительной и отрицательной обратной связи в глобальной системе, и экспоненциальный рост сил разрушения требует адекватной коррекции сил сдерживания, что оказывается весьма сложным в условиях информационной перегрузки и разобщенности, имеющих место в современном обществе.

В начале статьи я рассмотрю современную ситуацию в области исследования глобальных рисков, затем покажу, как большинство глобальных рисков описываются моделями с неограниченной положительной обратной связью и завершу тем, какие социальные структуры необходимы для адекватного реагирования для глобальные риски и обеспечения устойчивости проресса.