Медленное движение к постчеловеческому этапу

Бостром заявляет, что «аргумент о симуляции действует не менее эффективно для тех, кто полагает, что достижение постчеловеческого этапа развития потребует сотен тысяч лет». Но это не так. Развитие постчеловеческой цивилизации в базовой реальности может занимать намного больше времени, чем в симуляциях, например, из-за того, что научный и технический прогресс в симуляциях специально ускорен для удобства наблюдателей. Если это так, то H_BASE (число людей, живших в базовой цивилизации до момента достижения ею постчеловеческого этапа развития) может быть значительно больше, чем . Это может сильно понизить значение f_sim, что, в свою очередь, повысит вероятность жить в реальном мире.

Ошибки в интерпретации аргумента о симуляции

Законы, управляющие симуляциями

В своей статье Бостром постоянно игнорирует отличительную особенность симуляций. Можно предположить, что практически всегда создатели симуляции будут полностью контролировать происходящее в ней. Это означает, что любые исторические закономерности, этические соображения и даже законы природы в симуляции имеют второстепенное значение. События в симуляции всегда в первую очередь зависят от воли наблюдателей, контролирующих симуляцию.

Тем не менее, Бостром упускает этот момент и часто делает ошибочные допущения о том, что симуляция будет действовать по определенным законам. К примеру, он замечает, что для того, чтобы значение f_I (доля постчеловеческих цивилизаций, заинтересованных в создании симуляций) было мало, «необходима сильная конвергенция направлений развития цивилизаций высокого уровня» [1]. Далее Бостром описывает две возможности — что постчеловеческие цивилизации не станут запускать симуляции из этических соображений или что у них просто исчезнет желание это делать. Бостром ничего не говорит о возможности того, что вышестоящая цивилизация может запретить создание вложенных симуляций.

Для постчеловеческой цивилизации контроль над всеми симуляциями первого уровня будет очень простым делом. Совсем не сложно будет запретить создание в них вложенных симуляций. Возможно также, что компьютеры в симуляциях не будут симулироваться, а программы будут выполняться напрямую на компьютерах вышестоящей цивилизации (для повышения эффективности или из иных соображений). Это означает, что симулируемые цивилизации первого уровня могут создавать вложенные симуляции, но они не будут содержать реальных (сознающих или реальных согласно любому другому определению) людей. В то же время, у постлюдей из симуляции первого уровня сложится впечатление, что они на самом деле запустили симуляцию.

Угасание

Похожую ошибку Бостром делает, описывая угасание симулируемых цивилизаций как естественный процесс. Если симулируемые цивилизации существуют, тогда очень вероятно, что большинство из них прекратят свое существование не естественным образом, но в результате действий создателей симуляции. Очевидно, что механизмы прекращения существования в этом случае сильно отличаются, поскольку создатели симуляции не ограничены в своих действиях естественными явлениями. Существует множество возможных альтернатив. К примеру, симулируемые цивилизации могут быть замедлены (или даже остановлены с сохранением состояния симуляции) в момент приближения к постчеловеческому этапу развития. Следует отметить, что остановка цивилизации (постановка на паузу с возможностью последующего запуска), вероятно, лучшая альтернатива, чем вымирание.

Наиболее приятной является следующая альтернатива. При остановке симуляции все люди из нее могут быть перенесены в вышестоящую цивилизацию. Менее приятная возможность — это искусственная ликвидация. Симуляция может быть просто остановлена и стерта, вне зависимости от ситуации в симулируемой вселенной и без видимых причин (с точки зрения симулируемых, которые, впрочем, даже и не заметят такой ликвидации). Кроме того, симулируемая цивилизация может быть уничтожена любым мыслимым способом до того, как сама симуляция будет остановлена. Для симулируемых людей это будет выглядеть как апокалипсис, Армагеддон, Судный день или Рагнарек. Но в любом случае, подобные события будут вызваны внешними причинами, а не процессами внутри симуляции.