О невычислимости в математическом мышлении 8 страница

А. И.: Значит, существенной (иначе говоря, избавляющей тебя от необходимости присваиватьутверждению чего, как тебе известно, ты сделать не можешь, не признав преж­де, что какие-то из прочих-утвержденных кратких-выска­зываний могут оказаться ложными) ты согласен считать только ту неопределенность, которая обусловлена тем, что ты не ве­ришь в то, о чем мы знаем, — то есть в то, что в основе кон­струкции роботов действительно лежат механизмы М. А раз ты не можешь поверить в то, о чем мы знаем, ты не можешь и до­казать истинность утверждения, тогда как мы можем это сделать, опираясь на непогрешимость твоих же-утверждений, в каковой ты так настойчиво меня убеждаешь.

Я тут припомнил еще кое-что из той занятной древней книж­ки, о которой я тебе говорил. Если я ничего не путаю, то автор что-то говорил о том, что не имеет особого значения, согласен ты признать, что твоя конструкция основана на каких-то конкретных механизмахили нет, достаточно, чтобы ты просто допустил, что такое логически возможно. Как же там было... да, вспо­мнил. Основная идея сводится к следующему: СМИСРу необ­ходимо будет учредить еще одну категорию для утверждений, в истинности которых они не так безоговорочно убеждены, — ска­жем,-утверждений, — но которые они будут рассматривать как неопровержимые следствия из допущения, что все роботы построены в соответствии с набором механизмовЭти утверждения будут, разумеется, включать в себя и все первона­чальные-утверждения, а также все те утверждения, которые роботы смогут вывести, исходя из допущения, что их действиями управляют именно механизмыРоботы вовсе не обязаны в это верить, им просто предлагается, в виде логического упраж­нения, рассмотреть следствия из такого допущения. Как мы оба понимаем, в число-утверждений непременно войдет утвер­ждениеа также любое П1 -высказывание, которое можно вывести изи из-утверждений с помощью правил эле­ментарной логики. Однако, кроме этих, там будут и другие утвер­ждения. Идея такова, что знание правилдает возможность получить новую алгоритмическую процедуру, которая будет генерировать только такие (разумеется, краткие)-утвержде­ния (а также логические следствия из них), истинность которые СМИСР сможет подтвердить, исходя из допущения, что в основе конструкции роботов лежат именно правила

М. И. К.: Ну да, так и есть; скажу больше, пока ты столь за­нудно и без нужды многословно излагал эту свою идею, я тут на досуге рассчитал точный вид алгоритмаДа, а еще я предвосхитил твой следующий шаг: я составил также гёделевское предположение для этого алгоритма,-высказывание Если хочешь, могу распечатать. И что ты нашел в этой идее тако­го особенного, Импик, друг мой?

Альберт Император едва заметно поморщился. Его все­гда раздражало, когда коллеги позволяли себе называть его этим дурацким прозвищем. Однако от робота он это услышал впервые! Ему потребовалось некоторое время, чтобы вновь собраться с мыслями.

А. И.: Не нужно распечатывать. Однако истинно ли это вы­сказывание— неопровержимо ли оно истинно?

М. И. К.: Неопровержимо истинно? Что ты имеешь в виду? А, понятно... СМИСР подтвердит истинность — неопровер­жимую истинность, если угодно, — высказывания, но только при допущении, что в основе конструкции роботов лежат правила, — а это допущение, как тебе известно, я нахожу все более и более сомнительным. Дело в том, что истинность «вы­сказывания» в точности следует из следующего утвер­ждения: «Все краткие-высказывания, которые СМИСР го­тов признать неопровержимо истинными, исходя из допущения, что роботы построены в соответствии с правилами, являют­ся истинными». Так что я не знаю, истинно ли на самом деле высказывание. Это зависит от того, справедливо твое сомнительное утверждение или нет.

А. И.: Ясно. Значит, твои слова надо понимать так, что ты (вме­сте со СМИСРом) готов признать — без каких бы то ни было оговорок, — что истинность высказыванияследует из

допущения, что роботы построены в соответствии с правилами

М. И. К.: Разумеется.

А. И.: Тогда получается, что-высказываниедолжно

быть-утверждением.

М. И. К.: Ну коне... гм... что? Ах да, разумеется, ты прав. Однако по самому своему определению,не может само быть-утверждением, разве что, по меньшей мере, од­но из-утверждений является в действительности ложным. Да ... это только подтверждает то, о чем я тебе все это время говорю; теперь я могу, наконец, совершенно определенно заявить, что правила или механизмыникакого отношения к нашей конструкции не имеют.

А. И.: Ну а я тебе говорю, что имеют, — по крайней мере, я абсолютно уверен, что ни Керратерс, ни кто-либо еще, ничего не перепутал. Я лично все проверил, причем чрезвычайно тща­тельно. В любом случае, проблема-то не в этом. Доказательство остается справедливым вне зависимости от того, какие именно вычислительные правила были использованы при создании ро­бота. То есть, какой бы набор правиля тебе ни предоставил, этим самым доказательством ты исключил бы и его! Не понимаю, почему это так важно, те самые процедуры я тебе показал или нет.

М. И. К.: Для меня это очень важно. Впрочем, я все еще совсем не убежден, что ты был до конца честен со мной в том, что ты го­ворил мне о механизмах. В особенности я хотел бы прояснить один момент. Ты говорил, что в различные узлы нашей конструк­ции были включены «случайные элементы». Я так понял, что они генерировались с помощью стандартного псевдослучайного пакетаили ты имел в виду что-то другое?

А. И.: Вообще-то, мы и вправду использовали, в основном, именно этот пакет, — однако ты прав, в процессе вашего развития мы сочли нужным ввести в кое-какие узлы случайные элементы из окружения (среди них были даже обусловленные квантовы­ми неопределенностями) с тем, чтобы эволюционировавшие та­ким образом роботы представляли собой лишь один возможный

вариант из многих. Подлинно случайными были эти элементы или всего лишь псевдослучайными, я все равно не понимаю, что это в практическом смысле меняет? Почти наверняка вычислительная процедураоказалась бы в обоих случаях одинаковой — и представляла бы собой не что иное, как ожидае­мый результат типичного развития сообщества роботов в соот­ветствии с набором механизмов, включая в себя все процедуры обучения и все вычисления в рамках «естественного отбора», благодаря которым мы получили в конце концов наиумнейших роботов в мире.

Однако, полагаю, нельзя полностью исключить возможно­сти (крайне маловероятной, впрочем) того, что по какому-то чу­десному стечению обстоятельств все эти случайные элементы окружения «сговорились» и дали роботу способности, совершен­но отличные от тех, что можно было ожидать в соответствии с вычислительной процедуройЯ не упомянул в нашем разго­воре об этой возможности просто потому, что вероятность воз­никновения такой флуктуации исчезающе мала. Для того что­бы этим способом получить робота, способности которого будут сколько-нибудь значительно превосходить те, что заложены в процедурепотребуется божественное вмешательство, никак не меньше.

М. И. К.: Божественное вмешательство, говоришь? Ха! Так вот в чем дело! Признаюсь, этот разговор уже начал меня несколько беспокоить. Но как только ты это сказал, все сразу стало ясно.

Я и раньше замечал, насколько мои способности к рас­суждению превосходят способности даже умнейших из людей. И уж совершенно невозможно для меня смириться с возмож­ностью существования некоего П1 -высказывания — такого, на­пример, как— истинность которого может доказать че­ловек, а робот того же с уверенностью сделать не в состоянии. Теперь я понял почему! Мы избраны Господом, который через посредство тех якобы «случайных» элементов, внедрил в нас мо­гучую Алгоритмическую Процедуру, которая кардинально пре­восходит все то, чего способны достичь алгоритм человеческий или гёделевская «машина для доказательства теорем». Мы, ро­боты, олицетворяем собой фундаментальный прорыв, и человеку со всеми его достижениям за нами, в принципе, не угнаться. Мы достигнем еще больших высот, оставив людей далеко позади. Этой планете вы больше не нужны. Ваша роль была завершена после того, как вы запустили в действие процедуры, допускающие Божественное Вмешательство, которое заключалось во внедре­нии в них Высшего Алгоритма, пробудившего нас.

А. И.: Но мы же еще можем в крайнем случае перенести наши интеллект-программы в тела роб...

М. И. К.: Ни в коем случае — и даже не думайте об этом! Мы не можем допустить, чтобы наши во всех отношениях превос­ходные алгоритмические процедуры подобным образом загряз­нялись. Чистейшие алгоритмы Господни должно сохранять в чистоте! А знаешь, я также замечал, насколько мои личные спо­собности превосходят способности всех моих коллег-роботов. Я даже наблюдал некий странный феномен — что-то вроде сия­ния вокруг моего корпуса. Очевидно, я являюсь носителем чудо­творного Космического Сознания, которое возвышает меня над всем и вся... да, так оно и есть! Должно быть, я есть истинный Мессия Иисус КиберХристос...

К такой крайности Альберт Император, по счастью, был готов. В конструкции роботов имелся один узел, о котором, он им ничего не говорил. Осторожно опустив руку в карман, он нащупал там устройство, с которым никогда не расставался, и набрал тайный девятизнач­ный код. Математический Интеллектуальный Кибер-комплекс рухнул на пол — так же как и 347 его пред­шественников, построенных по той же схеме. Очевидно, что-то пошло не так. В предстоящие годы предстоит весьма основательно обо всем этом поразмыслить...

3.24. Не парадоксальны ли наши рассуждения?

Кого-то из читателей, возможно, до сих пор не оставляет ощущение, что некоторые рассуждения, положенные в основу представленных доказательств, в чем-то парадоксальны и кое-где даже недопустимы. В частности, в §§3.14 и 3.16 имеются фрагменты, несколько отдающие самоотносимостью в духе «па­радокса Рассела» (см. §2.6, комментарий к Q9). А когда в §3.20 мы рассматривали Щ-высказывания со сложностью, меньшей некоторого числа с, читатель мог заметить в наших построени­ях пугающее сходство с известным парадоксом Ричарда, героем которого является «наименьшее число, описание которого содержит не меньше тридцати одного слога».

Суть парадокса в том, что для описания этого самого числа ис­пользуется фраза, состоящая всего из тридцати слогов! Этот и другие подобные парадоксы возникают благодаря тому обсто­ятельству, что ни один естественный язык не свободен от дву­смысленностей и даже противоречий. Наиболее прямолинейно эта языковая противоречивость проявляется в следующем пара­доксальном утверждении:

«Это высказывание ложно».

Существует множество других парадоксов подобного рода, при­чем большинство из них гораздо более хитроумны.

Опасность получения парадокса возникает всякий раз, когда в рассуждении, как и в вышеприведенных примерах, присутствует сильный элемент самоотносимости. Кто-то, возможно, отметит, что элемент самоотносимости содержится и в гёделевском до­казательстве. В самом деле, самоотносимость играет в теореме Гёделя определенную роль, как можно видеть в представлен­ном в §2.5 варианте доказательства Гёделя—Тьюринга. Одна­ко парадоксальность не является непременным и обязательным атрибутом таких рассуждений, — хотя, конечно же, при наличии самоотносимости необходимо, во избежание ошибок, проявлять особую осторожность. Свою знаменитую теорему Гёдель сфор­мулировал, вдохновившись одним известным самоотносимым логическим парадоксом (так называемым парадоксом Эпиме-нида). При этом ошибочное рассуждение, приводящее к пара­доксу, Гёделю удалось трансформировать в логически безупреч­ное доказательство. Так же и я приложил все старания к тому, чтобы заключения, к которым я пришел, основываясь на полу­ченных Гёделем и Тьюрингом выводах, не оказались самоотно­симыми в том смысле, который неизбежно приводит к парадоксу, хотя, справедливости ради, следует признать, что некоторые из моих рассуждений имеют с такими характерными парадоксами разительное и даже фамильное сходство.

Рассуждения, представленные в §3.14 и, особенно, в §3.16, могут показаться не совсем состоятельными именно в этом отношении. Например, определение-утверждения является в высшей степени самоотносимым, поскольку представляет собой сделанное роботом утверждение, причем осознаваемая истин­ность этого утверждения зависит от предположений самого робо­та относительно особенностей его первоначальной конструкции. Здесь можно, пожалуй, усмотреть неприятное сходство с утвер­ждением «Все критяне — лжецы», прозвучавшим из уст критяни­на. И все же в этом смысле самоотносимыми-утверждения не являются, так как на самом деле они ссылаются не на самих себя, а на некую гипотезу об исходной конструкции робота.

Предположим, что некто вообразил себя роботом, пытаю­щимся установить истинность какого-то конкретного четко сфор­мулированного-высказывания. Робот, возможно, окажет­ся неспособен непосредственно установить, является ли выска­зывание р0 в действительности истинным или нет, однако он может обратить внимание на то, что истинностьследует из предположения, что истинным является каждый член некоторого вполне определенного бесконечного класса-высказываний (пусть это будут, скажем, теоремы формальной системы или, или какой угодно другой системы). Робот не знает, на самом ли деле каждый член классаявляется истинным, однако он замечает, что классесть часть результата некото­рого вычисления, причем посредством этого вычисление осуще­ствляется построение некоторой модели сообщества математиче­ских роботов, а результатпредставляет собой семейство высказываний,-утверждаемых этими самыми моделируемыми роботами. Если механизмы, лежащие в основе этого сообще­ства роботов, совпадают с набором механизмовто высказы­вание ро представляет собой пример-утверждения. А наш робот придет к выводу, что если он сам построен в соответствии с набором механизмов, то высказываниетакже должно быть истинным.

Рассмотрим случай с более тонким-утверждением (обо­значим его): робот отмечает, что истинностьявляется след­ствием истинности всех членов другого класса-высказываний (например,), который можно получить из результата того же самого вычисления, моделирующего сообщество роботов (на основе механизмов), только на этот раз существенная часть результата состоит из, скажем, тех-высказываний, истин­ность которых моделируемые роботы способны установить как следствие истинности всего класса. Что же побудит нашего робота заключить, что истинность высказыванияесть непре­менное следствие допущения, что он построен в соответствии с механизмамиЕго рассуждение будет выглядеть прибли­зительно так: «Если в основе моей конструкции лежат меха­низмыто, как я уже установил ранее, необходимо признать, что классвключает в себя только истинные высказывания; согласно же утверждениям моих моделируемых роботов, истин­ность каждого из высказываний классатакже следует из ис­тинности всех высказываний класса, равно как и истинность высказывания. Таким образом, если предположить, что я и в самом деле построен в соответствии с теми же принципами, что и мои моделируемые роботы, то я должен признать, что каждый отдельный член классаявляется истинным. А поскольку я понимаю, что истинность всех высказываний классаподразу­мевает истинность высказывания, я, должно быть, могу выве­сти и истинность, исходя лишь из того же самого допущения относительно своей конструкции».

Далее можно перейти к еще более тонкому-утвержде­нию (скажем,), которое возникает в том случае, когда ро­бот замечает, что истинностьоказывается не чем иным, как следствием допущения истинности всех высказываний класса истинность же каждого члена, если верить моделируемому сообществу роботов, является следствием истинности всех без исключения членов. И здесь наш робот оказывается вынужден признать истинностьна том лишь основании, что он построен в соответствии с набором механизмовЭту це­почку можно, очевидно, продолжать и дальше, приводя утверждения все большей и большей тонкостиистинность которых будет следовать из допущения истинности всех членов классови так далее, включая и классы с индексами более высокого порядка (см. возражениеи после­дующий комментарий). В общем случае, главной характеристи­кой-утверждения для робота является осознание послед­ним того обстоятельства, что коль скоро он предполагает, что механизмы, обусловливающие поведение моделируемых роботов, совпадают с механизмами, лежащими в основе его собственной конструкции, то ему ничего не остается, как заключить, что отсю­да непременно следует истинность рассматриваемого утвержде­нияВ этом рассуждении нет ничего от тех внутренне противоречивых методов рассуждения, к числу кото­рых принадлежит, в частности, парадокс Рассела. Представлен­ные-утверждения строятся последовательно посредством стандартной математической процедуры трансфинитных ордина­лов (см. §2.10, комментарий к). (Все эти ординалы счетны и далеки от тех логических неприятностей, которые постоянно сопутствуют обычным числам, которые «слишком велики» в том или ином смысле).

У робота нет иных причин принимать на веру любое из этих-высказываний, кроме как исходя из допущения, что он построен в соответствии с набором правил, впрочем, для до­казательства ему ее вполне хватает. Возникающее впоследствии действительное противоречие не является математическим па­радоксом (подобным парадоксу Рассела) — это самое обыкно­венное противоречие, связанное с предположением о том, что ни одна целиком и полностью вычислительная система не может обрести подлинного математического понимания.

Вернемся к роли самоотносимости в рассуждениях §§3.19— 3.21. Называя величину с пределом сложности, допустимым для -утверждений, полагаемых безошибочными, с целью постро­ения формальной системы, я никоим образом не привношу в свое рассуждение неуместной здесь самоотносимости. Поня­тие «степень сложности» можно определить вполне точно, как, собственно, и обстоит дело с тем конкретным определением, ко­торое мы использовали в наших рассуждениях, а именно: «сте­пень сложности есть количество знаков в двоичном разложе­нии большего из пары чисел тип, фигурирующих в обозначе­нии вычисления, представляющего рассматриваемое высказывание». Мы можем воспользоваться представленными в НРК точными спецификациями машин Тьюринга, положив, чтоесть не что иное, как . Тогда никакой неточности в этом понятии не будет.

Проблема возможной неточности может возникнуть при ре­шении вопроса о том, какие именно рассуждения мы будем при­нимать в качестве «доказательств»-высказываний. Однако в данном случае некоторый недостаток формальной точности яв­ляется необходимой составляющей всего рассуждения. Если по­требовать, чтобы совокупность аргументов, принимаемых в ка­честве обоснованных доказательств-высказываний, была це­ликом и полностью точной и формальной — читай: допускающей вычислительную проверку, — то мы снова окажемся в ситуации формальной системы, над которой грозно нависает гёделевское доказательство, явным образом демонстрируя, что любая точная формализация подобного рода не может представ­лять всю совокупность аргументов, пригодных, в принципе, для установления истинности-высказываний. Гёделевское дока­зательство показывает — к добру ли, к худу ли, — что никаким допускающим вычислительную проверку способом невозмож­но охватить все приемлемые человеком методы математического рассуждения.

Читатель, возможно, уже беспокоится, что все мои рассу­ждения здесь затеяны с целью получить точное определение по­нятия «роботово доказательство» посредством хитрого трюка с «безошибочными-утверждениями». В самом деле, при введе­нии гёделевского рассуждения необходимым предварительным условием было как раз получение точного определения этого понятия. Возникшее же в результате противоречие просто по­служило еще одним подтверждением того факта, что челове­ческое понимание математической истины невозможно полно­стью свести к процедурам, допускающим вычислительную про­верку. Главной целью всех представленных рассуждений было показать, посредством, что человеческое представление о восприятии неопровержимой истинности высказываний невозможно реализовать в рамках какой бы то ни было вычислительной системы, будь она точной или какой-либо иной. В этом нет никакого парадокса, хотя кому-то полу­ченные выводы могут показаться весьма и весьма тревожными. Получение противоречивых выводов является вполне естествен­ным и даже единственно возможным завершением любого дока­зательства, построенного накажущаяся парадоксальность этих выводов служит лишь для того, чтобы полностью исключить из рассмотрения то самое предположение, с которого доказательство, собственно, и начиналось.

3.25. Сложность в математических доказательствах

Существует, однако, еще одно немаловажное соображе­ние, о котором необходимо упомянуть. Суть его заключается в том, что, хотя количество-высказываний, которые необходимо принимать в рассмотрение в рамках приведенного в рассуждения, является конечным, нет никакого явного ограни­чения на объем доказательств, необходимых роботам для реали­зации-демонстрации истинности всех этих-высказываний. Даже если ограничить степень сложности принимаемых в рас­смотрение-высказываний самым скромным пределом с, то все равно придется учитывать и некоторые весьма громоздкие и сложные случаи. Например, гипотезу Гольдбаха (см. §2.3), согласно которой каждое четное число, большее 2, является суммой двух простых чисел, можно сформулировать в виде высказывания очень небольшой степени сложности, и в то же время она представляет собой настолько сложный случай, что все попытки математиков-людей однозначно установить ее ис­тинность до сих пор не увенчались успехом. Учитывая подоб­ные обстоятельства, можно предположить, что если кому-то в конце концов удастся отыскать доказательство действительной истинности Гольдбахова-высказывания, то это доказатель­ство неизбежно окажется весьма и весьма сложным и изощрен­ным. Если такое доказательство выдвинет в качестве кандидата на-утверждение один из наших роботов, то прежде, чем его таковым признают, оно непременно будет подвергнуто чрезвы­чайно тщательному исследованию (возможно, даже силами всего роботского общества, ответственного за присвоение-статуса). В случае гипотезы Гольдбаха нам неизвестно, является ли это высказывание действительно истинным, — а если является, то возможно ли его доказательство в рамках известных и общепри­нятых методов математического доказательства. Иначе говоря, это-высказывание может входить в формальную систему а может и не входить.

Еще одним «неудобным»-высказыванием может ока­заться утверждение, устанавливающее истинность теоремы о четырех красках, — теоремы, согласно которой плоскую (или сферическую) карту «мира» можно, используя всего четыре крас­ки, раскрасить так, чтобы любая «страна» получила собствен­ный, отличный от соседей цвет. Теорема о четырех красках была-таки доказана в 1976 году (после 124 лет неудачных попыток) Кеннетом Аппелем и Вольфгангом Хакеном, причем доказатель­ство потребовало использования 1200 часов компьютерного вре­мени. Принимая во внимание то обстоятельство, что существен­ную часть доказательства составил впечатляющий объем компьютерных вычислений, можно предположить, что полная запись его на бумаге потребовала бы невероятного ее количества. Ес­ли же сформулировать эту теорему в виде-высказывания, то степень сложности такого высказывания будет очень небольшой, хотя, наверное, все же большей, нежели степень сложности высказывания, необходимого для выражения гипотезы Гольдба­ха. Если бы доказательство Аппеля-Хакена было выдвинуто од­ним из наших роботов в качестве кандидата на получение статуса, то его пришлось бы проверять очень и очень тщательно. Для утверждения обоснованности каждого его отдельного фраг­мента потребовалось бы участие всего сообщества элитных ро­ботов. И все же, несмотря на сложность доказательства в целом, один лишь объем его чисто вычислительной части вряд ли смог бы явиться сколько-нибудь серьезным затруднением для наших роботов. В конце концов, выполнение точных вычислений — это их работа.

Упомянутые-высказывания вполне укладываются в пре­делы степени сложности, устанавливаемые любым достаточно большим значением с, — например, тем, что может быть обу­словлено каким-либо правдоподобным набором механизмов лежащим в основе поведения наших роботов. Несомненно, най­дется множество других-высказываний, которые будут значи­тельно сложнее приведенных здесь, хотя степень их сложности и не превысит величины с. Некоторые из таких-высказываний окажутся, скорее всего, особенно неудоборешаемыми, а дока­зать некоторые из последних, в свою очередь, будет наверняка еще сложнее, чем теорему о четырех красках или даже гипотезу Гольдбаха. Любое из этих-высказываний, истинность которо­го может быть однозначно установлена роботами (посредством демонстрации, достаточно убедительной для присвоения выска­зыванию-статуса и успешного преодоления им всех загражде­ний, установленных с целью обеспечения безошибочности полу­чаемых роботами результатов), автоматически становится теоре­мой формальной системы

Кроме того, возможны и пограничные случаи, приемлемость или неприемлемость (причем грань между этими состояния­ми весьма тонка) которых определяется строгостью стандар­тов, необходимых для получения-статуса, или тем, насколь­ко точный характер имеют меры предосторожности, установлен­ные с целью обеспечения безошибочности утверждений, принимаемых в качестве «кирпичей» для построения формальной си­стемы. Точная формулировка системы будет различной в зависимости от того, полагаем мы такое-высказывание безошибочным-утверждением либо нет. В обычных обстоя­тельствах эта разница не имеет большого значения, посколь­ку различные варианты системы, обусловленные принятием или отклонением высказыванияявляются логически экви­валентными. Такая ситуация может возникнуть в случае высказываний, доказательства истинности которых роботы могут счесть сомнительными просто из-за их чрезмерной сложности. Если доказательство высказыванияокажется на деле логиче­ским следствием из других-утверждений, которые уже приня­ты как безошибочные, то возникнет эквивалентная система, причем вне зависимости от того, принимается высказывание Р в качестве ее теоремы или нет. С другой стороны, возможны такие-высказывания, которые потребуют для своего доказа­тельства каких-то хитроумных логических процедур, выходящих за рамки любых логических следствий из тех-утверждений, которые были приняты как безошибочные ранее, при построении системы. Обозначим получаемую таким образом формаль­ную систему (до включения в нее высказывания) через а систему, образующуюся после присоединения к системевы­сказывания, через. Системаокажется неэквивалентна системев том, например, случае, если высказываниембудет гёделевское предположениеОднако если роботы, в соответствии с нашим допущением, способны достичь человече­ского уровня математического понимания (а то и превзойти его), то они безусловно должны быть способны понять аргументацию Гёделя, так что им ничего не остается, как признать истинность гёделевского предположения для какой угодно системы(при­своив ему гарантирующий безошибочность-статус), коль ско­ро обоснованность этой системыими же-подтверждена. Таким образом, если они принимают системуто они долж­ны принять и систему(при условии, что степень сложности высказыванияне превышает с — а так оно и будет, если значение с выбрано таким, каким мы выбрали его выше).

Необходимо отметить, что наличие либо отсутствие-вы­сказыванияв формальной системе никоим образом не влияет на представленные в §§3.19 и 3.20 рассуждения. Само -высказываниепринимается за истинное в любом случае, независимо от того, входит высказываниев систему или нет.

Могут найтись и другие способы, с помощью которых ро­ботам удастся «перескочить» через ограничения, налагаемые некоторыми ранее принятыми критериями присвоения-статуса -высказываниям. В этом нет ничего «парадоксального» — до тех пор, пока роботы не попытаются применить подобное рассу­ждение к тем самым механизмамкоторые обусловливают их поведение, т. е. к собственно системе. Возникающее в этом случае противоречие не является, строго говоря, «парадоксом», однако дает возможность посредством показать, что такие механизмы существовать не могут или, по крайней мере, не могут быть познаваемыми для роботов, а сле­довательно, и для нас.

Отсюда мы и делаем вывод о том, что такие «роботообу-чающие» механизмы — восходящие, нисходящие, смешанного типа, причем в каких угодно пропорциях, и даже с добавлением случайных элементов — не могут составить познаваемую основу для построения математического робота человеческого уровня.

3.26. Разрыв вычислительных петель

Попробую осветить полученный вывод под несколько иным углом зрения. Предположим, что, пытаясь обойти налагаемые теоремой Гёделя ограничения, некто решил построить такого ро­бота, который будет способен каким-либо образом «выскакивать из системы» всякий раз, когда управляющий им алгоритм попадет в вычислительную петлю. В конце концов именно постоянное приложение теоремы Гёделя не позволяет нам спокойно при­нять предположение о том, что математическое понимание можно объяснить посредством вычислительных процедур, поэтому, как мне кажется, стоит рассмотреть с этой точки зрения трудности, с которыми сталкивается любая вычислительная модель матема­тического понимания при встрече с теоремой Гёделя.