О невычислимости в математическом мышлении 7 страница

Вышеприведенные рассуждения в равной степени справед­ливы и в случае любой дальнейшей модификации условий, имею­щих целью устранение ошибок, при условии, что характер такой модификации в некоем широком смысле аналогичен характеру уже предложенных. Для того чтобы эти рассуждения работали, необходимо лишь наличие какого угодно четко сформулиро­ванного и вычислимого условия, достаточного для устранения всех ошибочных-утверждений. В результате мы приходим к строгому выводу: никакие познаваемые механизмы, пусть и снабженные какими угодно вычислительными «подпорка­ми», не способны воспроизвести корректное математиче­ское умозаключение человека.

Мы рассматривали-утверждения, которые, оказавшись по той или иной причине ошибочными, в принципе исправимы самими роботами, — пусть даже в каком-то конкретном экземпляре модели роботова сообщества эти утверждения так и оста­ются неисправленными. Что же еще может означать (в опера­ционном смысле) фраза «в принципе исправимы», как не «ис­правимы средствами некоторой общей процедуры, подобной тем, что предложены выше»? Ошибка, которую не исправил позднее тот робот, что ее допустил, может быть исправлена каким-либо другим роботом — более того, большинство потенциально суще­ствующих экземпляров первого робота эту конкретную ошибку вообще не допустят. Делаем вывод (с одной, по-видимому, незна­чительной оговоркой, суть которой в том, что хаотические компо­ненты нашей модели можно еще заменить на подлинно случай­ные; см. ниже,): никакой набор познаваемых вычислитель­ных правил(неизменных нисходящих, «самосовершенствую­щихся» восходящих либо и тех, и других в какой угодно про­порции) не может обусловливать поведение нашего сообщества роботов, равно как и отдельных его членов, — если исходить из допущения, что роботы способны достичь человеческого уровня математического понимания. Вообразив, что мы сами функцио­нируем как управляемые вычислительными правилами роботы, мы оказываемся перед непреодолимым противоречием.

3.22. Спасет ли вычислительную модель разума хаос?

Вернемся ненадолго к вопросу о хаосе. Хотя, как неодно­кратно подчеркивается в этой книге (в частности, в), хаоти­ческие системы в том виде, в каком они обычно рассматриваются, представляют собой всего-навсего особого рода вычислительные системы, довольно широко распространено мнение о том, что фе­номен хаоса может иметь весьма значительное отношение к де­ятельности мозга. В представленных выше рассуждениях я опи­рался, с одной стороны, на обоснованное, как мне кажется, пред­положение, согласно которому любое хаотическое вычислитель­ное поведение можно без существенной потери функционально­сти заменить поведением подлинно случайным. Против такого допущения можно привести, по крайней мере, одно вполне оправ­данное возражение. Поведение хаотической системы — пусть мы и ожидаем от него огромной сложности в мельчайших деталях и видимой случайности — в действительности случайным не является. В самом деле, многие хаотические системы демонстрируют весьма интересное сложное поведение, явно отклоня­ющееся от чистой случайности. (Иногда для описания сложно­го неслучайного поведения, демонстрируемого хаотическими системами, используется термин «край хаоса».) Возможно ли, чтобы именно в хаосе крылась разгадка тайны человеческого интеллекта? Если это так, то нам предстоит понять нечто доселе абсолютно неведомое относительно того, как ведут себя в соот­ветствующих ситуациях хаотические системы. Хаотической си­стеме в такой ситуации придется очень близко аппроксимировать невычислительное поведение в асимптотическом пределе — или нечто подобное. Демонстрации такого поведения, насколько мне известно, еще никто не представлял. Возможность, тем не менее, интересная, и я надеюсь, что в последующие годы ею кто-нибудь всерьез займется.

И все же, безотносительно к упомянутой возможности, хаос может предоставить нам лишь очень сомнительный способ обой­ти неутешительное заключение, к которому мы пришли в преды­дущем разделе. В представленных выше рассуждениях эффек­тивная хаотическая неслучайность (т. е. непсевдослучайность) играла хоть какую-то роль один-единственный раз — когда мы рассматривали моделирование не просто «действительного» по­ведения нашего робота (или сообщества роботов), но полный ансамбль всех возможных действий роботов, согласующихся с заданным набором механизмовТа же аргументация приме­нима и здесь, только на сей раз мы не станем включать в эту случайность хаотические результаты функционирования упомя­нутых механизмов. Впрочем, некоторые случайные элементы (на­пример, в составе исходных данных, определяющих начальное состояние модели) присутствовать все же могут, а чтобы опе­рировать этой случайностью, мы можем вновь воспользоваться идеей ансамбля и тем самым получить возможность рассмотреть в процессе синхронного моделирования большое количество воз­можных альтернативных робото-историй. Однако само хаотиче­ское поведение нам просто-напросто придется вычислять — в чем нет ничего странного: на практике, в математических при­мерах, хаотическое поведение обыкновенно и вычисляется на компьютере. Ансамбль возможных альтернатив окажется в дан­ном случае не таким большим, каким он мог бы быть, допусти мы аппроксимацию хаоса случайностью. Однако в том случае ансамбль подобного размера был нужен лишь для того, чтобы мы могли лишний раз удостовериться в том, что устранили все возможные ошибки в-утверждениях роботов. Даже если ан­самбль включает в себя всего одну «историческую линию» со­общества роботов, можно быть совершенно уверенным в том, что при достаточно жестком наборе критериев для присвоения статуса такие ошибки будут очень быстро устраняться либо са­мими их виновниками, либо какими-то другими роботами сооб­щества. В ансамбле умеренного размера, составленном из под­линно случайных элементов, устранение ошибок будет происхо­дить более эффективно, при дальнейшем же расширении ансамб­ля посредством введения в него случайных аппроксимаций на замену подлинно хаотическому поведению сколько-нибудь суще­ственного роста эффективности не предвидится. Вывод: хаос не избавит нас от проблем, связанных с созданием вычислительной модели разума.

3.23. Reductio ad absurdum — воображаемый диалог

Многие из представленных в предыдущих разделах рассу­ждений, мягко говоря, несколько запутаны. Для прояснения си­туации читателю предлагается в качестве этакого резюме вооб­ражаемый разговор, состоявшийся в далеком будущем между неким гипотетическим, весьма преуспевающим прикладным спе­циалистом в области ИИ и одним из его наиболее удачных кибер­нетических созданий. Написан диалог с позиции сильного ИИ. [Примечание: процедурав повествовании выступает в роли алгоритма А из, а утверждение— в роли незавершающегося вычисления, То есть к чтению нижеследующего материала можно переходить сразу послебез какого бы то ни было ущерба для понимания.]

Альберт Император имел все основания быть удовле­творенным результатом трудов всей своей жизни. Про­цедуры, которые он запустил в действие много лет на­зад, наконец принесли плоды. И вот перед вами точный протокол его беседы с одним из наиболее впечатляющих его творений — роботом выдающихся и потенциаль­но сверхчеловеческих математических способностей по имени Математический Интеллектуальный Киберком-плекс (см. рис. 3.2). Обучение робота почти завершено.

Альберт Император: Просмотрел ли ты статьи, что я давал тебе, — статьи Гёделя, а также и другие, где рассматриваются следствия из его теоремы?

Математический Интеллектуальный Киберкомплекс: Ра­зумеется, причем они оказались даже интересными, хотя и до­вольно элементарными. Этот ваш Гёдель был, по всей видимости, весьма способным логиком ... для человека.

А. И.: Всего лишь «весьма способным»? Да он был, несомнен­но, одним из величайших логиков всех времен. Возможно, даже первым из величайших!

М. И. К.: Приношу извинения, я вовсе не намеревался пре­уменьшать его заслуги. Вам, разумеется, хорошо известно, что я обучен проявлять общее уважение к достижениям людей (по причине того, что люди очень обидчивы), хотя все эти достижения нам, роботам, обыкновенно представляются весьма тривиальны-

ми. Мне просто показалось, что уж с тобой-то я могу, по крайней мере, выражать свои суждения просто и открыто.

А. И.: Безусловно, можешь. Прости и ты меня, я был неправ. Так, значит, у тебя не возникло никаких трудностей с пониманием теоремы Гёделя?

М. И. К.: Абсолютно никаких. Уверен, я бы и сам додумался до такой теоремы, если бы у меня было хоть немного больше сво­бодного времени. Но мой разум был занят иными, чрезвычайно увлекательными вопросами, связанными с трансфинитной нели­нейной когомологией, которая в последнее время интересует меня гораздо больше. Теорема Гёделя показалась мне очень здравой и непосредственной. Повторюсь, совершенно никаких трудностей у меня с ней не возникло.

А. И.: А вот получи-ка, Пенроуз!

М. И. К.: Пенроуз? Кто такой Пенроуз?

А. И.: Да я тут недавно наткнулся на одну старую книжку. Ниче­го особенного, не стоило и упоминать. Автор, насколько я помню, утверждал, что то, о чем ты мне сейчас рассказал, принципиально невозможно.

М. И. К.: Ха-ха-ха! (Робот поразительно похоже имити­рует презрительный смех.)

А. И.: Кстати, эта книжка мне кое о чем напомнила. Показы­вал ли я тебе когда-нибудь в полном объеме те правила, что мы применили при составлении вычислительных процедур, которые позволили в конечном счете разработать и построить тебя и твоих коллег-роботов?

М. И. К.: Нет, пока еще нет. Я надеялся, что когда-нибудь ты все же сделаешь это, и еще я думал, что ты, может быть, пола­гаешь подробное описание этих процедур чем-то вроде коммер­ческой тайны (довольно бессмысленной, надо сказать)... или, возможно, опасаешься, что мы сочтем их грубыми и неэффектив­ными, и тебе придется их стыдиться.

А. И.: Нет-нет, дело совсем не в этом. Я уже очень давно не стыжусь такого рода вещей. Все описание находится вот в этих папках и на дисках. Если тебе интересно, можешь ознакомиться.

Приблизительно 13 минут 41,7 секунды спустя.

М. И. К.: Очаровательно ... хотя уже после беглого просмотра могу отметить, что существует по меньшей мере 519 очевидных способов достичь того же эффекта с большей простотой.

А. И.: Я прекрасно понимал, что эти процедуры еще допускают некоторое упрощение, однако овчинка не стоила выделки, и ис­кать простейшие алгоритмы мы тогда не стали. Просто не сочли это целесообразным.

М. И. К- Вполне вероятно, что так оно и есть. Не могу сказать, что меня очень обидело, что вы так и не удосужились отыскать наипростейшую схему. Не думаю также, что мои коллеги-роботы будут как-то по-особенному обижены этим обстоятельством.

А. И.: Честно говоря, мне кажется, что мы и так достаточно потрудились. Ты только подумай — насколько впечатляющими математическими способностями обладаешь ты и твои колле­ги ... и они постоянно совершенствуются, насколько я понимаю. Я бы сказал, что ты уже сейчас по математическим способностям намного превосходишь всех математиков-людей.

М. И. К.: Со всей очевидностью следует признать, что твои сло­ва истинны. Вот ты говоришь, а я в это время думаю о несколь­ких новых теоремах, которые, похоже, оставят далеко позади те выводы, что публикуются в человеческих печатных изданиях. Кроме того, мы с коллегами обнаружили несколько весьма се­рьезных ошибок в выводах, которые математики-люди полагают истинными вот уже в течение многих лет. Несмотря на очевидную тщательность, с которой вы, люди, относитесь к проверке своих математических выводов, боюсь, что какие-то ошибки вы все же время от времени пропускаете.

А. И.: А вы, роботы? Не кажется ли тебе, что и ты, и твои коллеги математические роботы тоже можете допускать иногда ошибки — я имею в виду, в окончательно установленных, как вы утверждаете, математических теоремах.

М. И. К.: Решительно не кажется. Если робот-математик утвер­ждает, что тот или иной вывод является теоремой, то можно быть абсолютно уверенным, что этот вывод является неопровер­жимо истинным. Мы никогда не делаем тех глупых ошибок, какие

люди порой допускают в своих якобы строгих математических утверждениях. Разумеется, при предварительном размышлении мы — так же, как и вы, люди — часто прибегаем к догадкам и допущениям. Такие догадки могут, конечно же, оказаться и неверными; однако когда мы окончательно утверждаем, что то или иное положение является математически установленным, мы полностью гарантируем его справедливость.

Хотя, как тебе известно, мы с коллегами уже опубликовали несколько полученных нами математических выводов в некото­рых из ваших наиболее респектабельных электронных журналов, нас несколько беспокоят тамошние довольно-таки нечеткие кри­терии, с которыми твои коллеги-математики, похоже, охотно ми­рятся. Мы намерены начать выпуск нашего собственного «жур­нала» — точнее, всеобъемлющей базы данных, содержащей все математические теоремы, которые мы полагаем неопровержимо установленными. Этим теоремам мы будем присваивать особый знак(этот символ ты как-то сам предложил нам использовать именно для такой цели), который будет означать, что они приня­ты как истинные нашим Советом по математическому ин­теллекту сообщества роботов (СМИСР) — организацией, предъявляющей чрезвычайно высокие требования к своим чле­нам и проводящей регулярные проверки с тем, чтобы предотвра­тить значительную деградацию интеллектуальных способностей любого из роботов, какой бы невероятной ни показалась тебе (да и нам, если уж на то пошло) подобная возможность. Вы, люди, можете продолжать довольствоваться вашими размытыми стандартами, однако будьте уверены — если мы отмечаем какой бы то ни было вывод знаком, мы однозначно гарантируем его математическую истинность.

А. И.: Теперь ты и впрямь напоминаешь мне кое о чем из того, что я прочел в той самой книге, о которой мы говорили. Вспомни о тех исходных механизмахруководствуясь которыми я и мои коллеги запустили в действие процессы развития, результатом которых, в свою очередь, стало современное сообщество мате­матических роботов; вспомни также и о том, что эти механиз­мы включают в себя все введенные нами вычислительно смо­делированные факторы внешнего окружения, строгое обучение и процессы отбора, которым мы вас подвергли, а также явные (восходящие) процедуры обучения, которыми мы вас наделили, — не приходило ли тебе в голову, что эти механизмы дают вычислительную процедуру для генерации всех математиче­ских утверждений, которым ваш СМИСР когда-либо присво­ит-статус? Именно вычислительную, потому что вы, роботы, являетесь чисто вычислительными сущностями, развившимися (отчасти с помощью введенных нами процедур «естественного отбора») в целиком и полностью вычислительном окружении — в том смысле, что в принципе возможно построить компьютерную модель всего процесса. Все развитие вашего сообщества роботов представляет собой выполнение некоего неимоверно сложного вычисления, и тот набор-утверждений, который вы в конечном счете породите, возможно воспроизвести на одной конкретной машине Тьюринга. Причем на такой машине Тьюринга, которую, в принципе, могу описать и я; более того, полагаю, что, будь у меня в запасе несколько месяцев, я, воспользовавшись теми папками и дисками, что я тебе показал, и в самом деле описал бы такую машину Тьюринга.

М. И. К.: Довольно элементарное замечание, как мне кажется. Да, ты вполне мог бы сделать все это в принципе, и я даже готов поверить, что ты сможешь осуществить это и на практике. Хотя едва ли оно стоит нескольких месяцев твоего драгоценного вре­мени; я могу сделать это прямо сейчас, если хочешь.

А. И.: Нет, не нужно, не в этом дело. Давай порассуждаем еще немного в этом направлении и ограничим наше рассмотрение только теми-утверждениями, которые являются-высказы­ваниями. Ты помнишь, что такое-высказывание?

М. И. К.: Мне, разумеется, прекрасно известно определение hi-высказывания. Это утверждение о том, что какая-то конкрет­ная машина Тьюринга никогда не завершает свою работу.

А. И.: Очень хорошо. Теперь обозначим вычислительную про­цедуру, которая генерирует-утверждаемые-высказывания, черезили, для краткости, просто буквойЛогичным бу-

дет предположить, что должно существовать некое математиче­ское утверждение гёделевского типа — также-высказывание, обозначим его через— причем истинностьявляет-

ся следствием утверждения, что вы, роботы, никогда не допуска­ете ошибок в отношении-высказываний, которым вы присва­иваете статус

М. И. К.: Да; тут ты, надо полагать, тоже прав... гм.

А. И.: И утверждение должно быть истинным, по-

скольку вы, роботы, никогда не ошибаетесь в ваших-утвер­ждениях.

М. И. К.: Разумеется.

А. И.: Минуточку... отсюда также следует, что роботы должны быть неспособны установить истинность утверждения по крайней мере, с-уверенностью.

М. И. К.: Тот факт, что мы, роботы, были изначально скон­струированы в соответствии с набором механизмоввкупе с тем фактом, что наши..-утверждения, касающиеся-выска­зываний, никогда не бывают ошибочными, и в самом деле имеет очевидное и неопровержимое следствие, заключающееся в том, что-высказываниедолжно быть истинным. Полагаю,

ты думаешь, что я наверняка смогу убедить СМИСР присвоить утверждениюстатус, коль скоро они также согласны с

тем, что никогда не допускают ошибок в присвоении этого самого статуса. В самом деле, с этим-то они просто обязаны согласить­ся. Ведь смысл. -статуса как раз и заключается в том, что он является гарантией правильности.

Хотя ... невозможно, чтобы они смогли согласиться с утвер­ждениемтак как по самой природе твоего гёделевского по­строения это утверждение не входит в число тех предположений, истинность которых мы можем установить с-уверенностью — при условии, что мы в своих-утверждениях действительно не ошибаемся. Полагаю, ты намекаешь на то, что эта несообраз­ность должна посеять в нас какие-то сомнения относительно аде­кватности наших-суждений.

Я, однако, и мысли не допускаю о том, что наши-утвер­ждения могут оказаться ложными, особенно если учесть всю тщательность их рассмотрения и предпринимаемые СМИСР ме­ры предосторожности. Скорее всего, это, вы люди, что-то на­путали, и процедуры, встроенные в вовсе не являются теми самыми процедурами, которые вы применяли в самом начале,

несмотря на все твои заверения и якобы документальные под­тверждения. Да и вообще, СМИСР никогда не сможет с абсо­лютной точностью установить, действительно ли мы были скон­струированы в соответствии с механизмамиили, иначе говоря, процедурами, заложенными вВ этом отношении нам прихо­дится верить тебе на слово.

А. И.: Уверяю тебя, мы использовали именно эти процедуры. Уж кому об этом знать, как не мне; я лично контролировал весь процесс.

М. И. К.: Мне не хочется, чтобы ты подумал, будто я сомнева­юсь в твоих словах. Возможно, кто-то из твоих ассистентов про­сто неверно выполнил твои инструкции. Есть тут у тебя один, его зовут Фред Керратерс — так вот он, например, вечно допускает самые глупейшие ошибки. Я даже не удивлюсь, если выяснится, что именно он и ответственен за ряд критических ошибок.

А. И.: Ты хватаешься за соломинки. Даже если бы он и внес какие-то ошибки, мы с остальными коллегами в конечном счете выявили бы их и тем самым выяснили, какой должна в действи­тельности быть твоя процедураДумаю, тебя беспокоит то обстоятельство, что мы на самом деле знаем — в крайнем случае, можем узнать, — какие именно процедуры были заложены в твою исходную конструкцию. Это означает, что мы могли бы, затра­тив определенное количество времени и сил, записать то самое -высказываниеи однозначно установить, что оно истинно — при условии, конечно же, что роботы и в самом деле никогда не ошибаются в своих-утверждениях. Вы же не можете быть уверенными в том, что высказываниеистинно; во всяком случае, вы не можете утверждать этого с той убежденностью, какой, несомненно, потребует СМИСР для присвоения -статуса. Это, похоже, дает людям некое фундаментальное преимущество перед роботами, пусть даже только в принципе, а не на практике — существуют такие-высказывания, которые доступны нам и недоступны вам. Не думаю, что вы в состоянии стерпеть такое, — именно поэтому ты так беззастенчиво обви­няешь нас в том, что мы якобы чего-то там напутали!

М. И. К.: Не нужно приписывать нам ваши мелочные человече­ские побуждения. Но ты, разумеется, прав в том, что я просто не могу смириться с мыслью, что существуют-высказывания, доступные людям и недоступные нам, роботам. Роботы-математики просто не могут в чем бы то ни было уступать математикам-людям — хотя я, пожалуй, могу допустить обратную ситуацию: какое-нибудь конкретное-высказывание, доступное роботам, может быть, в принципе, получено и людьми... когда-нибудь в отдаленном будущем, учитывая ваши темпы работы. Я не наме­рен мириться лишь с тем, что какое-то-высказывание может быть принципиально недоступно нам, в то время, как вы, люди, с легкостью его получаете.

А. И.: Помнится, еще Гёдель размышлял о возможности су­ществования вычислительной процедуры, подобной процедуре только применительно к математикам-людям — он, кажется, на­зывал ее «машиной для доказательства теорем», — которая была бы способна генерировать только те-высказывания, дока­зательство истинности которых было бы, в принципе, по силам математикам-людям. Не думаю, что он и в самом деле верил в то, что такая машина может существовать в действительности, — он просто не смог математически исключить такую возможность. У нас здесь, похоже, имеется как раз такая «машина», но уже для роботов, я имею в виду процедурукоторая может генерировать все доступные роботам-высказывания, в то время как ее соб­ственную обоснованность вы доказать не в состоянии. Впрочем, зная лежащие в основе вашей конструкции алгоритмические про­цедуры, мы сами можем добраться до этой самой процедуры и оценить ее истинность — но только в том случае, если вы убедите нас в том, что действительно никогда не ошибаетесь в ваших-утверждениях.

М. И. К.: (после едва заметной паузы) Хорошо. Полагаю, ты думаешь приблизительно так: нельзя ведь совсем исключить вероятность того, что члены СМИСР будут время от времени ошибочно присваивать тем или иным утверждениям-статус. Полагаю, возможно и такое, что члены СМИСР не убеждены безоговорочно в том, что присвоение ими-статуса неизменно происходит безошибочно. Таким образом, утверждение мо­жет и не приобрести-статуса, и противоречие исчезнет само собой. Заметь себе, это вовсе не означает, что я признаюсь в том, что мы, роботы, намеренно делаем ошибочные-утверждения. Это означает лишь, что у нас нет абсолютной уверенности в обратном.

А. И.: Ты хочешь сказать, что, хотя вы и даете абсолютную гарантию истинности каждого отдельного-утвержденного высказывания, никто не может гарантировать, что в некотором наборе таких высказываний не окажется ни одного ошибочного? Сдается мне, это противоречит всей концепции «неопровержи­мой уверенности», что бы под этим термином не подразумева­лось.

Постой-ка... может быть, это как-то связано с тем, что возможных-высказываний бесконечно много? Мне почему-то вспомнилось об условии-непротиворечивости, которое, если не ошибаюсь, имеет какое-то отношение к гёделевскому утвер­ждению

М. И. К.: (после едва заметно более продолжительной па­узы) Нет, определенно нет. Это никак не связано с тем, что чис­ло возможных-высказываний бесконечно. Мы можем огра­ничить рассмотрение только теми-высказываниями, которые являются в некотором вполне определенном смысле «кратки­ми», — т. е. такими, что описание машины Тьюринга для каждого из них содержит не более с двоичных знаков, где с есть некоторое заданное число. Не стану досаждать тебе подробным изложением только что проделанных мною вычислений, суть же их сводит­ся к тому, что упомянутое число с постоянно, и величина его определяется той конкретной степенью сложности, что присуща правилам процедурыПоскольку гёделевская процедура — по­средством которой изполучается утверждение— неиз­менна и довольно проста, нет необходимости рассматривать высказывания существенно большей сложности, нежели сама процедура. То есть ограничение сложности рассматриваемых высказываний величиной, задаваемой некоторым подходящим числом с, не препятствует применению гёделевской процедуры. Выбранные таким образом-высказывания составляют конеч­ное семейство, пусть и весьма многочисленное. Ограничив рас­смотрение лишь «краткими»-высказываниями, мы получаем некоторую вычислительную процедуру— той же, в сущности, сложности, что и процедура— которая будет генерировать только такие..--утверждаемые краткие-высказывания. К этой новой процедуре применимы все наши прежние рассуждения. Исходя из заданной процедуры, мы можем отыскать другое краткое-высказывание, которое, разумеется, должно быть истинным — при условии, что истинными являются все. -утверждаемые краткие-высказывания, — однако истинность его невозможно установить с-уверенностью. Впрочем, все это верно лишь в том случае, если ты не ошибаешься, утверждая, что при нашем создании действительно использовался тот самый набор механизмов, причем в истинности этого «факта» я как раз совершенно не убежден.

А. И.: Так мы снова возвращаемся к тому же парадоксу, только на этот раз в более сильной форме. Теперь у нас есть конечный ряд П1-высказываний, истинность каждого из которых в отдель­ности гарантирована, однако никто из вас, ни СМИСР, ни кто угодно еще, не может дать абсолютной гарантии того, что ряд в целом не содержит ни одной ошибки. То есть вы не можете гаран­тировать истинность утверждениякоторая есть следствие истинности всех-высказываний из этого самого ряда. Как-то нелогично, не находишь?

М. И. К.: Роботы не могут быть нелогичными.-высказыва­ниеявляется следствием из остальных-высказываний только в том случае, если мы действительно были построены в соответствии с механизмамиМы не можем гарантировать ис­тинностипросто потому, что мы не можем гарантировать, что в основе нашей конструкции лежат именно механизмы Нам приходится полагаться в этом лишь на ваше устное заявле­ние. А роботы, конечно же, не могут полностью доверять людям, учитывая присущую вам склонность ошибаться.

А. И.: Повторяю уже в который раз: именно эти механизмы и никакие другие. Хотя я согласен с тем, что у роботов нет ни­какого способа узнать наверняка, правда ли это. Это-то знание и позволяет нам верить в истинность П1 -высказывания,

однако в нашем случае имеется иная неопределенность: мы не можем разделить эту вашу твердолобую уверенность в том, что все ваши-утверждения непременно безошибочны.

М. И. К.: Можешь мне поверить — каждое из них абсолютно безошибочно. И «твердолобость», как ты выражаешься, здесь ни при чем. Наши стандарты доказательства безукоризненны.

А. И.: Тем не менее, неуверенность в отношении процедур, ле­жащих в основе твоей конструкции, должна, я думаю, вызвать у тебя некоторые сомнения. Уверен ли ты, что знаешь навер­няка, как именно поведут себя твои роботы во всех возможных обстоятельствах? Вини нас, если угодно, однако я бы на твоем месте предположил, что некоторый элемент неопределенности в утверждении «все -утверждаемые краткие-высказывания непременно истинны» все же присутствует, потому хотя бы, что ты не веришь, что мы при твоем конструировании ничего не напу­тали.

М. И. К.: Думаю, можно согласиться с тем, что ваша неизбеж­ная ненадежность и внесла изначально какую-то малую неопре­деленность; однако, учитывая то, что с тех пор мы ушли чрез­вычайно далеко от тех твоих неуклюжих исходных процедур, эта неопределенность не настолько значительна, чтобы восприни­мать ее всерьез. Даже если собрать вместе все неопределенности, связанные со всеми краткими-утверждениями (число которых, если помнишь, является конечным), они не составят сколько-нибудь существенной неопределенности в утверждении Кроме того, есть еще кое-что, о чем ты, возможно, и не по­дозреваешь. Нам необходимо рассматривать лишь те„ -утвер­ждения, что удостоверяют истинность того или иного-вы­сказывания (более того, краткого-высказывания). Не может быть никакого сомнения в том, что разработанные СМИСРом тщательнейшие процедуры исключат абсолютно все ошибки, ко­торые могли проявиться в рассуждениях какого бы то ни бы­ло отдельного робота. Однако ты, возможно, намекаешь на то, что методы рассуждения роботов могут, предположительно, со­держать какую-то внутреннюю ошибку — несомненно, вслед­ствие какого-то изначального недосмотра с вашей стороны, — вынуждающую нас формировать некую непротиворечивую, но ошибочную точку зрения в отношении-высказываний, в со­ответствии с которой СМИСР может полагать неопровержимо истинным какое-либо краткое-высказывание, которое в дей­ствительности истинным не является; иными словами, мы можем быть уверены, что работа некоей машины Тьюринга завершает­ся, тогда как на самом деле это не так. Если бы мы решили принять на веру твое утверждение о том, что в основе нашей конструкции лежат именно механизмы— а я все больше склоняюсь к мысли, что это крайне сомнительно, — тогда такая возможность явилась бы единственным логичным разрешением нашего противоречия. В этом случае нам приходится согласиться с тем, что действие некоей машины Тьюринга, в действительности завершающееся, мы, математические роботы, вследствие некото­рых особенностей своей конструкции, безоговорочно (и при этом ошибочно) полагаем незавершающимся. Такая система убежде­ний является несостоятельной в принципе. Просто немыслимо, чтобы основополагающие принципы, в соответствии с которыми СМИСР утверждаетматематического доказательства, были столь вопиюще ложными.