Ошибки в расчетах в оригинальной работе

В дополнение к ошибкам, допущенным в рассуждениях, Бостром использует формулы для расчета вероятности оказаться в симуляции, которые содержат различные ошибки и неточности. Некоторые из этих ошибок непринципиальны и мало влияют на результат, тогда как другие намного более серьезны.

Бесконечное число вселенных

Одним из незначительных недостатков формул является неучтенная возможность существования бесконечного числа цивилизаций. Франк Типлер [10] показал, что вблизи точки Омега (гипотетический момент во времени перед коллапсом Вселенной) возможно достижение бесконечной вычислительной мощности. Другие ученые [16] распространили подобные аргументы на случай тепловой смерти Вселенной (вторая альтернатива — неограниченное расширение). Если неограниченная вычислительная мощность возможна, использование всех переменных из основной формулы ( f_P, и ) является некорректным. Это не опровергает аргумент о симуляции, поскольку формула может быть легко расширена на случай бесконечного числа симуляций, но этот недочет может повлиять на некоторые следствия. Более серьезным возражением является возможность реального существования множественных вселенных (не симуляций) или множества человеческих цивилизаций в базовой физической вселенной. Это делает теоретически возможным широкий спектр исходов, таких как следующие:

· Постчеловеческий этап развития наступит только после того, как большинство человеческих цивилизаций на разных планетах встретятся вместе (см. далее рассуждения о том, что постчеловеческий этап может далеко отстоять от сегодняшнего дня, и следствиях из этого). Это увеличивает количество реальных людей по сравнению со случаем единственной реальной цивилизации и такого же количества симуляций.

· В зависимости от природы множественных вселенных, разница между цивилизациями, симулируемыми в различных реальных вселенных, может быть незначительной (см. далее рассуждения об идентичных личностях в симуляциях), в то время как различия между реальными цивилизациями в различных вселенных будут значительными. Если считать несколько идентичных симуляций лишь копиями, то число симулированных личностей значительно снизится. Реальные же люди в разных вселенных останутся различными.

Другой важный аспект использования средних величин, игнорируемый Бостромом, заключается в том, что разные цивилизации находятся в разных условиях. Если дополнительные предположения, перечисленные в предыдущем разделе, верны (особенно предположение о снижающейся сложности симулированных вселенных), то «глубоко симулированные» цивилизации (симулированные внутри симуляции, симулированной внутри симуляции и т. д.) имеют меньше шансов достичь постчеловеческого уровня (а значит и запустить собственные симуляции). В таком случае использование средней величины f_P обманчиво, так как возможно существование наблюдаемых признаков «глубины симуляции». Возможно, что наша способность думать о создании симуляций — это показатель того, что мы находимся сравнительно близко к базовой реальности (насколько близко, и в реальности или нет, разумеется, точно сказать нельзя). Это важный (хотя и не единственный) аргумент против принципа безразличия.

Число личностей

Особое внимание следует уделить расчетам числа личностей с человеческим опытом ( ). Возможно, что несмотря на, казалось бы, большое количество симулируемых людей, реальное число уникальных симулируемых личностей намного меньше. Также существует возможность того, что значительная часть симулируемых личностей принципиально отличается от нас отсутствием самосознания.Идентичные индивиды

В своей работе Бостром не описывает причины для создания исторических симуляций, считая желание их создавать само собой разумеющимся. Отсутствие конкретных причин для запуска исторических симуляций означает, что не известно никаких требований, предъявляемых к симуляциям их создателями. Таким образом, нельзя исключить возможность того, что постчеловеческая цивилизация, создавшая множество симуляций, будет использовать в них идентичных индивидов.

Возможность использования идентичных индивидов в различных симуляциях ставит множество вопросов. Это серьезная проблема, поскольку природа индивидуальности недостаточно хорошо изучена даже сама по себе. Можно привести убедительные аргументы как в пользу того, чтобы считать таких индивидов одной личностью, так и за то, чтобы считать их разными.

Такие люди могут обладать похожими, неотличимыми или даже полностью идентичными личностями. То же самое может быть сказано и относительно их опыта. Правила симуляций, определяющие накопление и распространение изменений во времени, могут быть разработаны для удобства людей, создавших симуляцию. Нет никаких причин для того, чтобы, например, в симуляции, посвященной средневековой Японии, люди в остальных частях света и в другие эпохи отличались от людей в других симуляциях.

Подобная возможность приводит к нескольким неочевидным последствиям для аргумента о симуляции. Неясно, должны ли такие люди считаться отдельными индивидами или всего лишь копиями одного индивида. В последнем случае общее число симулированных людей вполне может оказаться сравнимым с числом реальных людей в базовой реальности. Это, в свою очередь, означает, что f_sim вполне может принять большое значение, например, 0,5.

Люди без сознания

Другое обстоятельство, серьезно влияющее на справедливость аргумента о симуляции, это возможность симулирования людей без самосознания. Такое симулирование может быть осуществлено из этических соображений, так как симулирование реального мира (предположительно схожего с нашей человеческой историей) неизбежно влечет за собой боль и страдания для симулируемых людей. Есть основания полагать, что постчеловеческие цивилизации неизбежно проявляют глубокое уважение к сознающим существам в любой форме и вряд ли решат причинить им страдания, если этого можно избежать.

Люди без самосознания могут, тем не менее, быть разумными. Они могут также контролироваться центральной программой симуляции и вообще не обладать индивидуальностью. Бостром затрагивает такую возможность, отмечая, что «остальная часть человечества может состоять из зомби или “людей-теней” — людей, симулируемых на уровне, достаточном лишь для того, чтобы полностью симулируемые люди не заметили ничего подозрительного». Но он рассуждает об этом только применительно к «я-симуляциям», где лишь незначительное число людей полностью симулируется, а остальные представляют собой «людей-теней». Бостром далее заявляет, что эту возможность можно полностью игнорировать, поскольку число людей в исторических симуляциях неизбежно будет намного больше, так как каждая из них будет включать в себя миллиарды людей.

Бостром называет только одну возможную причину для создания «людей-теней» — то, что их симуляция может оказаться дешевле, чем симуляция реальных людей. Он полностью игнорирует этический аспект, который наверняка будет намного важнее для постчеловеческой цивилизации, чем вопросы ресурсов. Существует реальная возможность того, что симуляции с «людьми-тенями» окажутся полностью достаточными для всех практических целей и что постчеловеческие цивилизации не захотят полностью симулировать реальных сознающих людей. Главным критерием, определяющим, можно ли запускать симуляцию, будет способность симулируемых существ испытывать субъективные переживания, включая способность испытывать боль и страдания. Если это так, то тот факт, что мы способны сознавать себя, доказывает, что мы, скорее всего, не живем в симуляции.

Ошибки в формуле

Прежде всего, следует отметить, что описанные ниже исправления не помогают избежать «логического круга» и других логических ошибок. По этой причине, будут приведены только наиболее важные комментарии к формулам, использованным в исходной статье.

Бостром дает следующую формулу для расчета доли людей, живущих в симуляциях:

(1)

Здесь f_P — это доля человеческих цивилизаций, достигающих постчеловеческого этапа развития, — это среднее число исторических симуляций, запускаемых постчеловеческой цивилизацией, а — это среднее число людей, живущих в цивилизации до достижения ею постчеловеческого этапа.

Бостром утверждает, что f_sim — это «доля всех наблюдателей с человеческим опытом, живущих в симуляциях» [1], но он явно заблуждается. Данная формула, в том виде, в котором она записана, не несет практически никакого смысла. Числитель формулы равен среднему числу людей, симулированных одной цивилизацией, а не общему числу симулированных людей (всеми цивилизациями в метавселенной). Наиболее близкий к величине знаменателя параметр — это среднее число людей, живущих в цивилизации и симуляциях следующего уровня, запущенных из этой цивилизации. Очевидно, что значение f_P будет в большинстве случаев очень близко к 1, поскольку

и

C_PH — число постчеловеческих цивилизаций, C_sim — число симуляций.

Таким образом, значение f_sim, рассчитанное по формуле (1), будет практически всегда очень близко к 0,5, что явно противоречит выводам Бострома.

Первое исправление, которое необходимо сделать, это ввести в формулу общее число цивилизаций C:

(2)

Следующая проблема заключается в том, что в знаменателе формулы (1) не может быть правильным значением числа людей, живших в базовой цивилизации до достижения ею постчеловеческого этапа развития. Эта переменная имеет вполне конкретное значение, не имеющее абсолютно ничего общего со средним значением этого показателя для всех цивилизаций метавселенной. Поэтому следующее исправление — это замена переменной H_base, представляющей собой число людей, живших в базовой цивилизации до достижения ею постчеловеческого этапа развития:

(3)

Еще одна ошибка (похожая на предыдущую) состоит в том, что число симуляций, запущенных в базовой цивилизации, вероятно, тоже сильно отличается от средней величины. Обозначим это число N_base. Сделав допущение о том, что число людей в симуляциях первого уровня близко к среднему значению для всех симуляций, мы приходим к следующему варианту формулы:

(4)

Такая формула является более правильной, чем вариант, который был предложен Бостромом. Тем не менее, даже все эти изменения не снимают некоторой фундаментальной проблемы. Дело в том, что f_P не имеет никакого смысла применительно к базовой цивилизации. Как будет показано ниже, развитие базовой цивилизации подчиняется совершенно иным законам, чем развитие симулируемых цивилизаций. Поскольку достижение постчеловеческого этапа развития базовой цивилизацией — это неповторяющееся событие, исход которого уже определен (хотя обычно и не может быть получен в рамках симуляции), и которое напрямую связано с природой реальности (существование метавселенной). Применительно к базовой цивилизации, вместо вероятности f_P должна быть использована величина, принимающая значения 0 (базовая цивилизация достигла постчеловеческого этапа, и, если N_base>0, то метавселенная существует) или 1 (базовая цивилизация не достигла постчеловеческого этапа, метавселенной не существует, а мы живем в реальном мире).