Анализ возможных целей атаки
Теперь мы обратимся к анализу целей, по которым некая сверхцивилизация могла бы осуществлять такую атаку.
1. Мы не должны путать понятия о сверхразвитой и «сверхдоброй» цивилизации. Более того, от «сверхдоброты» тоже ничего хорошего ждать не стоит. Хорошо об этом написано у Стругацких в романе «Волны гасят ветер». Какие бы цели нам не навязывала сверхцивилизация, для нас они будут чужими, потому что у нас свои представления о благе. Исторический пример: деятельность христианских миссионеров, искоренявших традиционные религии. Более того, чисто враждебные цели могут быть нам более понятны. Если SETI-атака удалась, то её можно применить для «облагодетельствования» людей. Наличие позитивных целей контакта не исключает того, что контакт в какой-то момент станет разрушительным. Например, секс существует для удовольствия и для воспроизведения детей. Однако вирус ВИЧ пользуется этим каналом для своего распространения. А.Д. Панов пишет, что уже сейчас деятельность человека в космосе является экзогуманистической – а именно, мы принимаем меры по недопущению попадания земных микроорганизмов на Марс и спутник Юпитера Европу на наших научных аппаратах. В действительности здесь нами движет научный эгоизм, а не забота о гипотетической жизни на Марсе и Европе: мы заинтересованы в том, чтобы эти помехи не помешали нашим будущим исследованиям внеземной жизни.
2. Мы можем поделить все цивилизации на наивные и серьёзные. Серьёзные цивилизации знают о рисках SETI, избежали их и обладают собственным мощным ИИ, который может противостоять инопланетным хакерским атакам. Наивные цивилизации, вроде Земли, уже обладают средствами дальней прослушки космоса и компьютерами, но ещё не обладают ИИ, не осознают рисков ИИ и не осознают рисков SETI, связанных с ИИ. Вероятно, каждая цивилизация проходит этап «наивности», и именно в этот момент наиболее уязвима для SETI-атаки. И, вероятно, этот этап очень короток. Поскольку промежуток от возникновения мощных радиотелескопов и распространения компьютеров до создания своего ИИ может быть, по земным меркам, только несколько десятков лет. Следовательно, SETI-атака должна быть настроена именно на такую цивилизацию.
3. Если путешествия со сверхсветовой скоростью невозможны, то распространение цивилизации с помощью SETI-атаки является наиболее быстрым способом покорения космоса. На больших дистанциях она будет давать существенный временной выигрыш по сравнению с любыми видами звездолётов. Поэтому, если две цивилизации соревнуются за овладение пространством, то выиграет та, которая начала SETI-атаку.
4. Самое важное состоит в том, что достаточно один раз начать SETI-атаку, как она волной пойдёт по Вселенной, поражая всё новые и новые наивные цивилизации. Например, если у нас есть миллион неспособных к размножению обычных биологических вирусов и один опасный и способный, то после того как они попадут в организм, у нас станет триллионы копий опасного вируса, и по-прежнему только миллион безопасных вирусов. Иначе говоря, достаточно одной из миллиардов цивилизаций запустить данный процесс, чтобы он пошёл по всей Вселенной. Поскольку он распространяется почти со скоростью света, остановить его будет почти невозможно.
5. Далее, рассылка SETI-сообщений будет приоритетом для поражённой SETI-вирусом цивилизации, и она будет тратить на это столько же энергии, сколько биологический организм тратит на размножение – то есть десятки процентов. При этом земная цивилизация тратит на SETI не более нескольких десятков миллионов долларов в год, а на METI, то есть отправку – ещё меньше – за всё время было осуществлено только 30 часов направленных передач, то есть менее одной миллионной своих ресурсов, и вряд ли эта пропорция сильно изменится у более продвинутых цивилизаций (есть ряд соображений, по которым нормальным рациональным цивилизациям выгоднее слушать космос, чем посылать сообщения). Иначе говоря, одна заражённая цивилизация будет производить в миллион раз больше радиосигналов, чем здоровая. Или, говоря по-другому, если в Галактике миллион здоровых цивилизаций, и одна заражённая, то у нас будут равные шансы наткнуться на здоровую или заражённую. Точно такую же ситуацию мы видим в современном Интернете – где почти половина сообщений является спамом, и эти сообщения генерируются очень небольшим количеством людей. Кроме того, значительная часть спама содержит в себе компьютерные вирусы, которые стремятся подчинить себе компьютер и использовать его для дальнейшей рассылки своих копий.
6. Более того, нет никаких других разумных причин, кроме саморазмножения, чтобы рассылать свой код в далёкий космос.
7. Более того, такой процесс может начаться случайно – например, в начале это мог быть просто исследовательский проект, цель которого была в том, чтобы отослать результаты исследований материнской цивилизации, не причиняя вреда принимающей цивилизации, а потом этот процесс из-за неких сбоев или мутаций стал «раковым».
8. Нет ничего необычного в такой модели поведения. В любой информационной среде существуют вирусы – в биологии это вирусы, в компьютерных сетях – компьютерные вирусы, в общении – это мемы. Мы ведь не спрашиваем, зачем природа захотела создать биологический вирус.
9. Путешествие с помощью SETI-атаки гораздо дешевле любых других способов. А именно, находясь в галактике Андромеда, можно одновременно посылать сигнал на 100 миллиардов звёзд нашей Галактики. Но потребовалось бы миллиарды звездолётов, к тому же более медленных, чтобы облететь все звёзды нашей Галактики.
10. Перечислю ещё несколько возможных целей SETI-атаки, просто чтобы показать, что их может быть много:
· Это делается для исследования Вселенной. После исполнения кода возникают исследовательские зонды, которые отсылают назад информацию.
· Это делается для того, чтобы не возникло конкурирующих цивилизаций. все их зародыши уничтожаются.
· Это делается для того, чтобы другая конкурирующая сверхцивилизация не смогла воспользоваться этим ресурсом.
· это делается для того, чтобы подготовить базу к прилёту реальных космических кораблей. Это имеет смысл, если сверхцивилизация находится очень далеко, и соответственно, разрыв между световой скоростью радиосигнала и околосветовой скоростью её кораблей (допустим, 0,5 с) составляет тысячелетия.
· Это делается для достижения бессмертия. Кэрриген показал, что объём личной сознательной памяти человека имеет порядок 2,5 гигабайт, поэтому, переслав несколько экзобайт информации, можно переслать всю цивилизацию.
· это делается с нелогичными и непонятными для нас целями, например, как произведение искусства, акт самоутверждения или игрушка. (Например, инопланетянам было бы непонятно, зачем американцы установили флаг на луне. Стоило ли лететь за 300 000 км, чтобы установить окрашенную железяку?)
11. Поскольку Вселенная существует уже давно, то область, на которую могла бы распространится SETI-атака, занимает сферу с радиусом в несколько миллиардов световых лет. Иначе говоря, достаточно было бы попасться одной «плохой» цивилизации в световом конусе от нас размером в несколько миллиардов лет, то есть включающем миллиарды галактик, чтобы мы оказались под угрозой SETI-атаки. Разумеется, это верно, если средняя плотность цивилизации – хотя бы одна на галактику.
12. По мере увеличения глубины сканирования неба на порядок, объём пространства и число звёзд, которые мы наблюдаем, возрастает на три порядка. Это значит, что наши шансы наткнуться на внеземной сигнал растут нелинейно, а по быстро растущей кривой.
13. Возможна ситуация, когда мы наткнёмся на несколько разных посланий из разных точек неба, которые опровергают одно другое в духе: «не слушайте их, они вас обманывают и желают вам зла». Это обычная ситуация в земном информационном поле (например, в средствах массовой информации), где разные издания критикуют друг друга.
14. Какие бы позитивные и ценные послания мы бы не получали, мы никогда не сможем быть уверены, что за всем этим не стоит очень тонкий обман. Это означает, что в межзвёздном общении всегда будет элемент недоверия.
15. Оборонительной позицией в межзвёздном общении считается слушать, ничего не посылая, чтобы не выдать своего местоположения. Законы США запрещают посылку посланий к звёздам. Те цивилизации, которые посылают – не боятся выдать своё местоположение. Возможно, потому что отправка сообщений для них важнее безопасности. Например, потому что они атакуют.
16. Про атомную бомбу сказали: главная тайна атомной бомбы в том, что её можно сделать. Если до открытия цепной реакции Резерфорд считал, что высвобождение атомной энергии – вопрос отдалённого будущего, то после открытия любой физик понимал, что достаточно создать критическую массу из урана. Иначе говоря, если однажды выяснится, что из Космоса поступают сигналы, это будет необратимое открытие. Даже если точные координаты источника сигнала будут скрыты, то его смогут переоткрывать снова и снова. Невозможно закрыть космос (хотя можно представить себе космические аппараты-глушители опасного сигнала, расположенные между Землёй и источником сигнала.)
ВОЗРАЖЕНИЯ
В ходе дискуссий по данному вопросу возник ряд типичных возражений, которые стоит обсудить. Снова подчеркну, что речь не идёт о заражении обычным компьютерным вирусом, а только о запуске на Земле программы ИИ, которая является вирусоподобной по планетарным масштабам своей деятельности – а именно стремится использовать планету для рассылки своих копий дальше. При этом она может использовать, а может и не использовать атаку по компьютерным сетям, подобную атакам компьютерных вирусов.
Возражение 0: Искусственный интеллект невозможен.
Ответ: А. Д. Панов полагает высокой плотность внеземных цивилизаций в Галактике, но считает ИИ невозможным, поскольку догадка и озарение недоступны конечному автомату, каковым является компьютерная программа. Однако это мнение внутренне противоречиво. Если согласиться с множественностью внеземных цивилизаций, то из этого следует, что и интеллект неоднократно зарождался на разных планетах, причём это происходило достаточно часто, если цивилизации находятся достаточно близко друг к другу. Таким образом, из допущения множественности цивилизаций следует, что есть некий эффективный способ создавать интеллект (а именно, с помощью эволюции и естественного отбора) и что в человеческом интеллекте нет ничего особенного. Более того, сам естественный отбор и эволюция моделируются современными компьютерами в направлении исследований, называемом «генетическое программирование». Наоборот, признание невозможности ИИ (например, основываясь на рассуждениях в духе Пенроуза) равносильно признанию существования трансцендентальной физическому миру души. (Но тогда мы должны признать её наличие и у всех внеземных цивилизаций.) Отметим, что даже если ИИ невозможен на конечных автоматах, но реализуется на квантовых процессах в нейронах мозга, то тогда он возможен на квантовых компьютерах, и, соответственно, SETI-атака всё равно остаётся возможной – если добавить к ней этап пересылки описания и программы для квантового компьютера. Более того, даже если окажется, что для существования интеллекта необходим мозг живого существа, то даже в этом случае SETI-атака остаётся возможной, так как возможно переслать код ДНК некого существа плюс некоторые сопутствующие инструменты (как это и происходит в романе «Андромеда» Хойла, где электронный компьютер нужен только для того, чтобы адаптировать присланное ДНК к местной форме жизни и создать живое разумное существо – девушку Андромеду).
Враждебный и опасный ИИ вовсе не обязательно должен обладать всеми человеческими качествами, например, интуицией. Скажем, Deep Blue обыграл Каспарова, используя против его интуиции простой перебор. В любом случае, современный мир использует интуицию в незначительной степени, и у нас нет средств обороны, целиком построенных на интуиции. Интернет, управление вооружениями, конструирование новых механизмов – почти целиком рациональные процессы и уязвимы к воздействию сверх- рационального субъекта.
Возражение 1. Описываемое здесь поведение цивилизаций слишком антропоморфно. На самом деле, цивилизации слишком отличаются друг от друга, чтобы можно было предсказать их поведение.
Ответ: В данном случае имеет место мощный эффект наблюдательной селекции. Хотя возможны самые разные цивилизации, мыслящие океаны и т. п., но мы можем получать радиосигналы только от тех цивилизаций, которые их посылают, а значит, обладают соответствующей радиоаппаратурой и знаниями материалов, электроники и вычислений. То есть нам угрожают цивилизации нашего же типа. Те цивилизации, которые не могут ни принимать, ни отправлять радиопослания, не участвуют в этой игре. Кроме того, принцип предосторожности заставляет нас предполагать, что существуют достаточно похожие на нашу цивилизации – пока не доказано обратное.
Также наблюдательная селекция касается и целей. Цели у цивилизаций могут быть самые разные, но интенсивнее всего посылать сигналы будут только те цивилизации, которые хотят донести до нас некую важную им информацию. (Примером такой тонкой информационной атаки может быть культурная экспансия, каковой, скажем, является продвижение американского образа жизни в современном глобализирующемся мире – и известно, что это в определённой мере приводит к утрате культурной идентичности.)
Наконец, наблюдательная селекция касается эффективности и универсальности SETI-вируса. Чем эффективнее он, тем больше разных цивилизаций поразит и тем большее число его радиосигналов будет на небе. Таким образом, вероятнее всего будет обнаружен наиболее эффективный SETI-вирус.
Возражение 2. Для сверхцивилизаций нет нужды прибегать к уловкам. Они могут нас непосредственно физически завоевать. Сверхцивилизации уже знают о нас благодаря сверхмощным телескопам.
Ответ: Это верно, только если они находятся в непосредственной близости от нас. Если же перемещение со скоростью больше световой невозможно, то воздействие посланиями будет быстрее и дешевле. Вероятно, эта разница приобретает значение на галактических расстояниях. Следовательно, не стоит опасаться SETI-атаки от ближайших звёзд, находящихся в радиусе ближайших десятков и сотен световых лет. Неверно и то, что сверхцивилизации уже знают о нас. Если они расположены на расстоянии 1000 световых лет, то антропогенное радиоизлучение Земли ещё не достигло их. Всё, что они могут наблюдать – это сам факт существования жизни на Земле, проявляющийся в спектре атмосферы. Если бы сверхцивилизация реагировала на обнаружение разумной жизни, то её реакция запоздала, по крайней мере, на 2000 лет – а за это время мог бы сформироваться грозный противник. Таким образом, SETI-атака обладает временным преимуществом перед любым другим видом атаки, так как её можно осуществлять упреждающе.
Возражение 2.1. Если существует сверхцивилизация, то она давно нас обнаружила и обладает огромным техническим арсеналом средств, чтобы достичь нас заранее – и раз мы существуем, то она не стала нам мешать и не заинтересована в нашем уничтожении и в будущем. Если же партнером по SETI выступает цивилизация нашего уровня, то она не обладает необходимыми ресурсами для SETI-атаки. Таким образом, в обоих случаях – цивилизации нашего уровня и сверхцивилизации – SETI-атака невозможна.
Ответ: Подобные эвристические умозаключения, к сожалению, не обладают доказательной ценностью, то есть они могут только понизить нашу оценку вероятности атаки, но не доказать её невозможность во всех мыслимых случаях. Например, если мы отпускаем гулять пятилетнего ребёнка в парк, мы тоже можем рассуждать подобным образом: либо он встретит ребёнка своего возраста, который для него безопасен, либо он встретит взрослого человека, который достаточно мудр и гуманистичен (раз дожил до взрослого возраста не саморазрушившись – как доказывает А.Д.Панов «экзогуманистичность» космических цивилизаций). Тем не менее, ни один родитель не руководствуется рассуждениями такого рода, когда отпускает ребёнка в парк. Во-первых, потому что помимо детей и взрослых, ещё существуют подростки, которые сильнее детей, но не обладают мудростью. Во-вторых, потому что сама «мудрость» взрослых есть категория весьма относительная: достаточно одного маньяка на миллион мудрых взрослых, чтобы это было достаточным поводом для беспокойства. В случае контакта с внеземной цивилизацией возможна ситуация, когда мы вступили в контакт с цивилизацией, которая только на несколько десятков лет опережает нас в развитии. В этом случае она гораздо больше нас знает о создании ИИ, учитывая огромную скорость прогресса в этой области, но ещё не является древней и устойчивой сверхцивилизацией. Более того, она может быть изнутри разрываема конфликтом разных глобальных систем ИИ или стран и обречена на гибель в ближайшем будущем. Тем не менее, она может предпринять попытку отправить к нам враждебную нам SETI-программу.
Важно понимать, что то, что мы можем воспринимать как агрессивное, бесчеловечное и враждебное поведение, может быть совершенно нейтральным поглощением ресурса с точки зрения субъекта этого поведения. Например, то, как мы воспринимаем уборку урожая на поле – а ведь при этом гибнут миллионы насекомых и грызунов. Или как большинство людей воспринимает скотобойни.
Из того, что клетки внутри тела хищника, например лисы, заботятся друг о друге, и из того, что клетки внутри зайца тоже точно также заботятся друг о друге, вовсе не следует, что лиса будет добра к зайцу. Отношение лисы к зайцу обусловлено законами эволюции и конкуренции – те лисы, которые были слишком добры к зайцам, просто вымерли с голоду. Эти простые закономерности не зависят от масштабов, и также могут относиться и к космическим цивилизациям.
Возражение 3. Есть масса причин, по которым SETI-атака может не удаться. Какой смысл затевать столь неэффективную атаку?
Ответ: SETI-атака вовсе не должна действовать всегда. Она должна действовать в достаточном числе случаев, в соответствии с целями той цивилизации, которая отправляет сообщение. Например, нищий или мошенник не ожидает, что ему удастся «развести» каждого встречного. Ему достаточно хотя бы одного человека из ста. Из этого следует, что SETI-атака бесполезна, если стоИт цель атаковать все цивилизации в некой галактике. Однако если цель состоит в том, чтобы получить хотя бы некоторые форпосты в другой галактике, то SETI-атака годится. (Из этих форпостов затем можно распространиться на досветовых звездолётах по окрестным звёздам.) Кроме того, SETI-атака нацелена на обычные цивилизации, то есть на тот тип цивилизаций, который многократно встречается во Вселенной, а принцип Коперника заставляет нас полагать, что мы являемся цивилизацией обычного типа, а не уникальной цивилизацией. Отсюда можно заключить, что SETI-атака нацелена именно на цивилизации нашего типа.
Возражение 4. Пересылка компьютера и работающей на нем программы предложенным в данной статье способом невозможна по тем или иным причинам.
Ответ: Согласие с этим возражением означало бы признание того, что нет никакого способа переслать описание компьютера с работающей на нём программой ни от какой одной цивилизации ни к какой другой, как бы сильно отправляющая цивилизация ни хотела оправить это описание, а получающая – получить его и выполнить. Такое утверждение слишком сильное, чтобы быть истинным. А значит, существуют способы переслать описание компьютера и его программы. При этом нет сомнений, что отправитель вирусного сообщения очень хочет сделать его максимально понятным, а земная цивилизация очень хочет «подключиться к галактическому Интернету», то есть понять сообщение и выполнить.
Возражение 5. Весь объём знаний сверхцивилизации нельзя вместить в 1 гигабайт, следовательно, загруженный код будет неполноценным, и атака им невозможна.
Ответ: Во-первых, мы не знаем, что можно, а что нельзя закодировать в 1 гигабайт, например, объём генокода человека меньше, а ведь он не плотно упакован. Во-вторых, по мере надобности ИИ может подключаться к зашифрованным каналам передачи, и подгружать недостающие сведения (например, попросив доступ к антеннам радиотелескопов). В-третьих, будучи мощной самообучающейся программой, он может изобрести заново многие вещи, зная только базовые принципы.
Возражение 6. Послав нам программу с ИИ, внеземная цивилизация раскроет нам сам факт своего существования и свои координаты, технологию ИИ и сам факт её возможности, ряд других технологий, которые этот ИИ создаст, а также, что особенно важно, откроет нам факт агрессивности своих намерений. И всё это, в случае неудачности её атаки, обернётся против неё.
Ответ: Опять же, подобные рассуждения носят только вероятностный характер и не могут гарантировать невозможность события. Отметим, что в случае войны на Земле те же самые соображения не препятствуют определённым агрессивным действиям. Например, пушка раскрывает своё местоположение первым же выстрелом, но это не приводит к отказу от использования пушек. Кроме того, вряд ли сверхцивилизация пошлёт нам вместе с ИИ такие технологии, которые мы сами бы не открыли в ближайшие 100-200 лет (во всяком случае, не пошлёт – точнее, не позволит их расшифровать – до того, как будет уверена в победе). Возможно, что соблазн переиграть инопланетный ИИ (например, запустив его в полностью симулированном мире) будет одной из частей многоуровневой ловушки, которую она нам подстроит.
Кроме того, мы не сможем «взломать» чужой ИИ в лоб – допустим, что у нас есть программа размером в 1 гигабайт и работающая со скоростью 10 млрд. операций в секунду – если мы будем выполнять ее пошагово, пытаясь понять смысл каждой операции, это у нас займёт примерно 200 лет только на первую секунду работы этой программы, предполагаю, что мы будем каждую секунду анализировать 1 шаг без перерыва день и ночь. То есть задача обратной компиляции программы весьма нетривиальна.
Возражение 7. Невозможен контакт между постсингулярной сверхцивилизацией, каковой является отправитель SETI-сигнала, и предсингулярной цивилизацией, каковой являемся мы, поскольку сверхцивилизация на много порядков превосходит нас, и её сообщения нам будут абсолютно не понятны – точно так же, как невозможен контакт между муравьями и людьми. (Сингулярностью здесь называется момент создания способного к самосовершенствованию ИИ, после чего цивилизация резко уходит в отрыв по своему развитию – на Земле это возможно в районе 2030 года.)
Ответ: В предлагаемом сценарии речь не идёт о контакте. Речь идёт о целенаправленном обмане нас. Точно также и человек вполне способен манипулировать поведением муравьёв и других общественных насекомых, при это с целями совершенно непонятными им. Например жж-юзер ivanov-petrov описывает следующий эпизод: Будучи студентом, он изучал поведение пчёл в Ботаническом саду МГУ. Но у него были плохие отношения со сторожем сада, который регулярно выгонял его раньше времени. Иванов-Петров взял зелёную доску и выработал у пчёл условный рефлекс атаковать эту доску. Когда в следующий раз к нему подошёл сторож, который постоянно носил зелёную фуфайку, то все пчёлы атаковали его и обратили в бегство. Больше сторож не мешал исследованиям. Такая манипуляция не является контактом, но это не мешает ей быть эффективной.
Возражение 8. Находящимся невдалеке от нас цивилизациям гораздо проще атаковать нас с помощью звездолётов, чем с помощью SETI-атаки.
Ответ. Возможно, что мы существенно недооцениваем сложность атаки с помощью звездолётов и вообще сложность межзвёздных перелётов. Если такая атака осуществлялась бы сейчас или в прошлом, то земной цивилизации нечего было бы ей противопоставить, однако в будущем ситуация изменится – все вещество Солнечной системы будет засеяно земными роботами, а возможно, и полностью переработано ими. С другой стороны, чем с большей скоростью будет к нам приближаться вражеский звездолёт, тем более он будет заметен по своим тормозным выхлопам и прочим характеристикам. Такой быстродвижущийся звездолёт был бы весьма уязвим, кроме того, к его прилёту можно было бы приготовится заранее. Медленно движущийся нанозвездолёт был бы весьма менее заметен, но в случае полной переработки вещества солнечной системы ему было бы просто негде высадится.
Наиболее серьёзное возражение состоит в том, что продвинутая цивилизация могла бы за несколько миллионов лет засеять всю нашу галактику способными к саморазмножению микророботами, которые могли бы реализовать любые цели у каждой звезды, в том числе без труда предотвратить развитие других цивилизаций. Однако мы этого не видим, – никто не помешал пока нашей цивилизации развиться. То есть разослать микророботов с заданиями было бы гораздо проще и надёжнее, чем бомбардировать всю галактику SETI-посланиями, а раз этого нет, то нет и SETI-атаки внутри галактики. Вероятно, за многие миллионы или даже миллиарды лет микророботы могли бы долететь даже из отдалённых галактик на расстоянии в десятки миллионов световых лет. В этом случае SETI-атака имела бы смысл только на бóльших расстояниях. Однако на таком расстоянии – десятки и сотни миллионов световых лет, – вероятно, потребуются принципиально новые способы модуляции сигналов, например, управление свечением активных ядер галактик. Или передача узконаправленным лучом в сторону нашей галактики (но они не знают, где она будет через миллионы лет). Но цивилизация, способная управлять ядром галактики, может, вероятно, создать и звездолёт, летящий с околосветовой скоростью, даже если его масса будет массой с планету. Подобные рассуждения сильно снижают вероятность SETI-атаки, хотя и не опускают её до нуля, так как мы не знаем всех возможных целей и обстоятельств. Масштабы космической стратегии могут быть непостижимы для человеческого ума.
ЗАКЛЮЧЕНИЕ
Вероятность описываемой атаки является произведением вероятностей следующих событий. В отношении этих вероятностей мы можем дать только так сказать «экспертную» оценку, то есть приписать им некую априорную субъективную вероятность, что я сейчас и сделаю.
1) Вероятность того, что внеземные цивилизации существуют на расстояниях, на которых возможна радиосвязь с ними. В целом, я склоняюсь к точке зрения Шкловского и сторонников гипотезы «редкой земли» – о том, что земная цивилизация уникальна в наблюдаемой вселенной. Это не означает, что внеземных цивилизаций вообще нет (ведь вселенная, согласно теории космологической инфляции, почти бесконечна) – просто они находятся за горизонтом событий, видимым из нашей точки в пространстве-времени. Кроме того, здесь речь идёт не просто о расстоянии, а о том расстоянии, на котором можно установить связь, позволяющую передавать гигабайты информации. (Однако, передавая даже 1 бит в секунду, можно передать 1 гигабит за примерно 20 лет, что может быть достаточно для SETI-атаки.) Если в будущем возникнет возможность для некой сверхсветовой связи или взаимодействия с параллельными вселенными, то это резко увеличит шансы SETI-атаки. Итак, эту вероятность я оцениваю в 10%.
2) Вероятность того, что SETI-атака возможна технически: то есть возможна компьютерная программа, обладающая саморазвивающимся ИИ и имеющая конечные и пригодные для пересылки размеры. Эту вероятность я рассматриваю как высокую: 90%.
3) Вероятность того, что в нашем поле зрения есть цивилизации, которые такую атаку осуществляют – эта вероятность зависит как от плотности цивилизаций во вселенной, так и от того, какова доля цивилизаций, которые решатся начать такую атаку, или, что важнее, оказались ее жертвами и стали ретрансляторами. Кроме того, здесь надо учитывать не только плотность цивилизаций, но и плотность создаваемого ими радиоизлучения. Все эти факторы крайне неопределённы. Поэтому разумно приписать этому вероятность в 50%.
4) Вероятность того, что мы обнаружим такой сигнал в период уязвимости к нему. Период уязвимости продолжается от настоящего момента до того момента, когда будет принято и технически обеспечено решение никогда и ни при каких условиях не скачивать никаких инопланетных компьютерных программ. Такое решение может быть реализовано только нашим ИИ, установившим всемирную власть (что само по себе сопряжено со значительными рисками). Такой всемирный ИИ может возникнуть к 2030 году. Нельзя исключить, однако, что наш всемирный ИИ всё же не станет вводить запрета на закачку внеземных посланий, и падёт жертвой атаки со стороны инопланетного ИИ, который на миллионы лет эволюции превосходит его. Таким образом, окно уязвимости составляет, скорее всего, около 20 лет, и «ширина» этого окна существенно зависит от интенсивности поисков в ближайшие годы. Эта «ширина», например, зависит от интенсивности текущего экономического кризиса 2008-2009 гг., от того, начнётся ли мировая война, и от того, как это всё повлияет на возникновение всемирного ИИ. Это также зависит от плотности заражённых цивилизаций и силы их сигналов – чем они больше, тем больше шансы обнаружить их раньше. Поскольку мы являемся обычной цивилизацией в обычных условиях, согласно принципу Коперника, то эта вероятность должна быть достаточно велика, иначе бы SETI-атака была бы вообще неэффективной. (Однако SETI-атаки, если они есть, переживают «естественный отбор» по критерию своей эффективности.) Эту весьма неопределённую вероятность мы примем тоже за 50%.
5) Далее идёт вероятность того, что SETI-атака будет успешной – то есть что мы клюнем на наживку, скачаем программу и описание компьютера, запустим их, потеряем над ними контроль и позволим им достичь любых своих целей. Эту вероятность я оцениваю как весьма высокую из-за фактора множественности – то есть того факта, что сообщение будет скачиваться многократно, и кто-нибудь рано или поздно его запустит. Кроме того, за счёт естественного отбора, вероятнее всего мы попадём на самое эффективное сообщение, которое сможет максимально эффективно обмануть цивилизацию нашего типа. Я оцениваю ее в 90%.
6) Наконец, надо оценить вероятность того, что SETI-атака приведёт к полному человеческому вымиранию. С одной стороны, можно представить себе «добрую» SETI-атаку, которая ограничится тем, что создаст за орбитой Плутона мощный радиоретранслятор. Однако для такой программы всегда будет риск, что люди создадут мощный ИИ, эффективное оружие и уничтожат этот ретранслятор. Кроме того, на создание наиболее мощного ретранслятора потребуется всё вещество Солнечной системы и вся солнечная энергия. Поэтому доля таких «добрых» атак будет меньше за счёт естественного отбора, так как часть из них будет рано или поздно уничтожаться захваченными ими цивилизациями или их сигналы будут слабее. Так что шансы на уничтожение людей с помощью SETI-атаки, достигшей всех своих целей, я оцениваю в 80%.
В результате мы имеем:
0,1*0,9*0,5*0,5*0,9*0,8 = 1,62%
Иначе говоря, округляя, шансы гибели человечества в результате SETI-атаки в XXI веке (но без учёта других рисков вымирания) составляют около 1 процента c точностью до порядка.
Существует протокол о действиях в случае обнаружения внеземного разумного сигнала [12]. Однако он предполагает скорее тщательную проверку информации, а затем широкое информирование о событии. В нём ничего не говориться об опасностях, которые может создавать само загруженное сообщение. В нём нет правила о том, что никогда и ни при каких обстоятельствах нельзя создавать никаких механизмов, чертежи которых получены из космоса, и не запускать на компьютерах никаких программ, загруженных по каналам SETI. Это связано с тем, что ни широкая публика, ни сами исследователи SETI не осознают рисков, связанных с загрузкой программ. Вероятно, это связано с тем, что осознание этого риска требует принятия двух допущений, каждое из которых по отдельности выглядит фантастическим: 1) что внеземные цивилизации существуют, 2) что возможна компьютерная программа, обладающая искусственным интеллектом. А вместе они уже оказываются за гранью фантастики. Кроме того, исследователи SETI – это энтузиасты своего дела, и им трудно признать, что их деятельность может быть опасна.
Можно сказать, что осознание данного риска катастрофически мало – за прошедшие почти 50 лет он упоминается только в 3 публикациях. Это значительно отличает его от других рисков, например, глобального потепления, который исследуется тысячами исследователей. Эта наша не-осознавание риска ведёт к неготовности, а значит – к повышенной уязвимости.
Наилучшей нашей защитой в данном контексте было бы то, что цивилизации в космосе встречались бы крайне редко. Однако это не совсем верно, потому что здесь парадокс Ферми срабатывает по принципу «оба хуже»:
· Если внеземные цивилизации есть, и их много, то это опасно, потому что они могут нам так или иначе угрожать.
· Если же внеземных цивилизаций нет, то это тоже плохо, так как придаёт вес гипотезе о неизбежности вымирания технологических цивилизаций. (Или о высокой плотности факторов космической опасности, например, гамма-всплесков и астероидов, которые мы недооцениваем по причине наблюдательной селекции.)
Теоретически возможен обратный вариант, который состоит в том, что по SETI придёт полезное сообщение с предупреждением о некой угрозе, которая губит большинство цивилизаций, например: «Не делайте никаких экспериментов с Х-частицами, это может привести к взрыву, который разрушит планету». Но даже и в этом случае останутся сомнения, не обман ли это, чтобы лишить нас неких технологий. (Подтверждением было бы, если бы аналогичные сообщения приходили бы от других цивилизаций, расположенных в космосе в противоположном направлении.) И, возможно, такое сообщение только усилит соблазн экспериментировать с Х-частицами.
Поэтому я не призываю отказаться окончательно от SETI поисков, тем более что такие призывы бесполезны. Однако важно повысить осознание рисков у SETI-сообщества, без этого любые дальнейшие меры бесполезны. Возможно, было бы полезно отложить любые технические реализации посланий, которые мы могли бы получить по SETI, до того момента, когда у нас будет свой искусственный интеллект. До этого момента, возможно, осталось 10-30 лет, то есть можно потерпеть. Во-вторых, важно было бы скрывать сам факт получения SETI-сигнала, его суть и месторасположения источника, с тем, чтобы избежать его повторного скачивания. В-третьих, можно обдумать способы глушения SETI-сигнала, если он будет признан опасным, и международного запрета на его приём, хранение и анализ, аналогично тому, как действует запрет в отношении ядерных секретов и оборудования.
Проще всего заметить проявления тех цивилизаций, которым выгодно о себе сообщать. Важно понять, какова может быть причина этой выгоды, и не может ли эта выгода быть для нас опасна.
Интересен вопрос о том, может ли и должна ли сама Земля стать источником SETI-атаки в будущем, когда у нас появится свой собственный ИИ. Очевидно, что может. Уже сейчас в рамках программы METI были идеи посылать код ДНК человека. (“Детское послание” – дети просят взять их кусочек ДНК и клонировать их на другой планете – в фильме Calling all aliens.)
Возможность SETI-атаки обостряет парадокс Ферми. Почему мы до сих пор не обнаружили маяков других цивилизаций, если такая атака возможна и многие цивилизации к ней стремятся? Ведь можно окружить целые созвездия - каждую по отдельности – звёзд (или даже шаровые скопления или ядра квазаров) сферами Дайсона, чтобы превращать огромное количество энергии в излучение маяка.
Враждебный ИИИ может сохранить земную цивилизацию, но следующим оригинальным способом: а именно создав ее точную симуляцию в компьютере (на который он будет расходовать только малую часть своих ресурсов). это позволит ему разобрать нашу планету для строительных нужд и при этом сохранить то уникальное, что наработано человеком и биосферой, затратив на это только миллионную долю своих ресурсов. и это позволит ему лучше выглядеть в глазах других сверхцивилизаций, которые, каким-то способом, быть может, могут фильтровать разн