Можем ли мы построить сознательный компьютер?

Задача науки после Ньютона, разумеется, состояла в том, чтобы насколько возможно приблизиться к всезнающему интеллекту Лапласа. Проницательность классической физики Ньютона оказалась весьма впечатляющей, и делались важные шаги в направлении такого рода приближения. Ученые постепенно разгадывали, по крайней мере частично, некоторые из так называемых вечных тайн — как возникла наша планета, откуда берут энергию звезды, как создавалась вселенная и как воспроизводится жизнь.

В конце концов последователи Лапласа брались за проблему объяснения человеческого ума, самосознания и прочего. Со своей детерминистической проницательностью, они не сомневались, что человеческий ум тоже представляет собой ньютоновскую классическую машину, подобно мировой машине, частью которой он является.

Один из убежденных сторонников понимания ума как машины, Иван Павлов, очень радовался тому, что его собаки подтверждали это убеждение. Когда Павлов звонил в звонок, у его собак выделялась слюна, даже хотя им не предлагали никакую пищу. Павлов объяснял, что у собак выработался условный рефлекс ожидать пищу всякий раз, когда звонит звонок. В действительности, это совершенно просто. Давай стимул, наблюдай реакцию, и если это та реакция, которая тебе нужна, подкрепляй ее вознаграждением.

Так рождалась идея, что человеческий ум — это простая машина с простыми входами и выходами, связанными однозначным соответствием, которая действует на основе стимула—реакции—подкрепления. Эту идею много критиковали на том основании, что подобная простая поведенческая машина не могла бы осуществлять такие умственные процессы, как мышление.

Вам нужно мышление — оно у вас есть, отвечали умные классические механицисты, которые придумали сложную машину с внутренними состояниями. Посмотрите, как ведет себя даже простой мобайл[4], — говорили они. За ним так забавно наблюдать, поскольку его реакции на характер ветра бесконечно разнообразны. А почему? Потому что каждая реакция, в дополнение к конкретному стимулу, зависит от множества сочетаний различных внутренних состояний ветвей мобайла. В случае мозга, эти состояния синонимичны мышлению, чувству и так далее, которые представляют собой эпифеномены внутренних состояний сложной машины, каковой является человеческий мозг.

Голоса оппозиции по-прежнему возражали: а как насчет свободной воли? Человеческие существа обладают свободой выбора. Механицисты отвечали, что свободная воля — это просто иллюзия; они добавляли интересный довод, что существует возможная физическая модель иллюзорной свободной воли. Изобретательность исследователей машинного ума поистине достойна восхищения. Теперь существует идея, согласно которой, хотя классические системы, в конечном счете, являются детерминистическими и демонстрируют, в основном, детерминистическое поведение, возможен и хаос: временами очень незначительные изменения начальных условий могут приводить к очень большим различиям в конечном исходе для системы. Это порождает неопределенность (примером этого хаотического поведения может служить неопределенность погодных систем), и неопределенность предсказания можно интерпретировать как свободу воли. Поскольку хаос, в конечном счете, является детерминированным, отсюда следует, что это иллюзия свободной воли. Итак, наша свободная воля - это иллюзия?

Еще более убедительный довод в пользу механической картины человека предложил английский математик Алан Тьюринг. По его мнению, когда-нибудь мы сконструируем машину, подчиняющуюся классическим детерминистским законам — полупроводниковый компьютер, который будет способен вести беседу с любым человеком, обладающим так называемой свободной волей. Более того, он доказывает, что беспристрастные наблюдатели не смогут отличать разговор компьютера от разговора человеческого существа. (Я предлагаю девиз для нового общества: ДРЧИИ — Движение за равенство человеческого и искусственного интеллекта.)

Хотя я восхищаюсь многими из достижений в области искусственного интеллекта, они не убеждают меня в том, что мое сознание — это эпифеномен, а моя свободная воля — мираж. Я не считаю, что мне присущи ограничения, налагаемые на классическую машину локальностью и причинностью. Я не верю, что это реальные пределы для любого человеческого существа, и боюсь, что понимание их в качестве таковых может стать самоосуществляющимся пророчеством.

«Мы — отражения мира, в котором живем», — говорил историк науки Чарльз Сингер. Вопрос в том, насколько большим может быть отражение? Небо отражается и в маленьких прудах, и в могучем океане. Какое отражение больше?

Но мы проделали большой путь в направлении создания разумной машины Тьюринга, возражают сторонники машинного ума. Наши машины уже способны проходить тест Тьюринга со случайным ничего не подозревающим человеком. Несомненно, при дальнейшем обучении и развитии, они будут иметь ум, подобный человеческому. Они будут понимать, обучаться и вести себя, как мы.

Сторонник машинного ума продолжает в детерминистской манере: если мы можем создавать машины Тьюринга, которые во всех известных отношениях ведут себя как люди, разве это не доказательство того, что наш собственный ум — это всего лишь собрание полностью детерминированных классических компьютерных программ? Для такой точки зрения не представляет препятствия и человеческая непредсказуемость, поскольку детерминированность — это не то же самое, что предсказуемость. Сам по себе, этот довод убедителен. Если наши компьютеры могут имитировать человеческое поведение — прекрасно, это облегчит общение между нами и нашими машинами. Если, изучая работу компьютерных программ, имитирующих некоторые виды нашего поведения, мы что-то узнаем о самих себе, это еще лучше. Однако от имитации нашего поведения на компьютерах очень далеко до доказательства, что мы состоим из тех программ, что осуществляют имитацию.

Конечно, даже один пример имеющейся у нас программы, которую никогда не сможет имитировать классический компьютер, разрушит миф ума как машины. Математик Роджер Пенроуз доказывает, что компьютероподобного алгоритмического рассуждения недостаточно для открытия математических теорем и законов. (Алгоритм представляет собой последовательную процедуру решения проблемы: строго логический подход, основанный на правилах.) Поэтому, спрашивает Пенроуз, откуда же берется математика, если мы действуем как компьютеры? «Математическая истина — не что-то устанавливаемое нами просто с помощью алгоритма. Я также полагаю, что решающим элементом в нашем постижении математической истины является сознание. Мы должны "видеть" истинность математического доказательства, чтобы быть убежденными в его правильности. Это "видение" составляет самую суть сознания. Оно должно присутствовать всегда, когда мы непосредственно воспринимаем математическую истину». Иными словами, наше сознание должно существовать прежде нашей алгоритмической компьютерной способности.

Еще более сильный довод против идеи ума как машины выдвинул Нобелевский лауреат, физик Ричард Фейнман. Классический компьютер — замечает Фейнман — никогда не сможет имитировать нелокальность (это специальный термин, означающий передачу информации или влияния без локальных сигналов; такая передача представляет собой действие на расстоянии и происходит мгновенно). Поэтому, если у людей существует нелокальная переработка информации, то это одна из наших неалгоритмических программ, которую никогда не сможет имитировать классический компьютер.

Есть ли у нас нелокальная переработка информации? Очень убедительным доводом в пользу нелокальности может быть наша духовность. Еще один спорный довод в пользу нелокальности — это заявления о паранормальном опыте. На протяжении веков люди утверждали, что обладают способностью к телепатии — передаче информации от ума к уму без локальных сигналов, и теперь для этого, как будто, есть кое-какие научные доказательства.

Сам Алан Тьюринг понимал, что телепатия представляет собой один надежный способ отличить человека от вычислительной машины в тесте Тьюринга: «Проведем имитационный эксперимент, используя в качестве свидетеля человека, обладающего телепатическими способностями, и машину. Эксперт может задавать, например, такие вопросы: "Какой масти карта, которая у меня в руке?" Человек, с помощью телепатии или ясновидения, правильно угадывает 130 из 400 карт. Машина может давать только случайные догадки, и, возможно, наберет 104 правильных ответа, и, таким образом, эксперт сделает правильное определение».

Экстрасенсорное восприятие (ЭСВ), которое, несомненно, остается спорным — это лишь один довод против могущества классического компьютера. Еще одной важной способностью человеческого ума, по-видимому, недостижимой для компьютера, является творчество. Если творчество включает в себя разрывность, резкие отходы от прошлых паттернов мышления, то способность компьютера к творчеству, безусловно, сомнительна, поскольку классический компьютер оперирует с непрерывностью.

Однако, в конечном счете, все дело в сознании. Если специалисты по машинному уму смогут создать классический компьютер, который будет сознательным в том же смысле, в каком сознательны мы с вами, дело примет другой оборот, несмотря на все перечисленные выше второстепенные соображения. Смогут ли они? Как знать. Предположим, что мы снабдили машину Тьюринга несметным количеством программ, совершенно имитирующих наше поведение; стала бы тогда машина сознательной? Безусловно, ее поведение демонстрировало бы все сложности человеческого ума, и, как машина Тьюринга, она была бы безупречной имитацией человека (за исключением немногих таких специфически человеческих характеристик, как ЭСВ и способность к математическому творчеству, которые энтузиасты машинного ума в любом случае считают сомнительными), но была бы она подлинно сознательной?

Во время обучения в колледже в 1950-е гг. я познакомился с идеей сознательного компьютера, читая научно-фантастический роман Роберта Ханлайна «Луна — строгая хозяйка». Ханлайн передает представление, что сознание компьютера зависит от его размера и сложности: как только машина в романе переходит предел сложности и размера, она становится сознательной. Судя по всему, такая точка зрения широко распространена среди исследователей искусственного интеллекта.

Мне представляется, что сознание компьютера не определяется сложностью. Конечно, высокий уровень сложности может гарантировать, что реакции компьютера на данный стимул будут не более легко предсказуемыми, чем человеческие, но не больше того. Если мы можем прослеживать входные/выходные характеристики компьютера к активности его внутренних цепей совершенно однозначно (а это, по крайней мере в принципе, всегда должно быть возможно для классического компьютера), то зачем нужно сознание? Судя по всему, у него не будет никакой функции. Я думаю, сторонники искусственного интеллекта уклоняются от вопроса, говоря, что сознание — это только эпифеномен, или иллюзия. По-видимому, с моей точкой зрения согласен Нобелевский лауреат, нейрофизиолог Джон Экклз. Он спрашивает: «Почему мы вообще должны быть сознательными? В принципе, мы можем объяснять все наши входные/выходные характеристики с точки зрения активности нейронных цепей; и, следовательно, сознание кажется абсолютно излишним»[5].

Не все излишнее в природе запрещено, но оно маловероятно. Для классической машины Тьюринга сознание представляется излишним, и это достаточная причина для того, чтобы сомневаться, что эти машины, какими бы сложными они ни были, когда-либо будут сознательными. Факт наличия сознания у нас самих предполагает лишь, что наши входные/выходные характеристики не полностью определяются алгоритмическими программами классической компьютерной машинерии.

Сторонники машинного ума иногда приводят еще один довод: мы свободно приписываем сознание другим человеческим существам потому, что они сообщают о ментальном опыте — мыслях, чувствах и т. д., — который аналогичен нашему собственному Если запрограммировать андроида сообщать о мыслях и чувствах, сходных с вашими, смогли бы вы отличить его сознание от сознания вашего друга? В конце концов, вы не более способны переживать то, что происходит в голове у вашего друга, чем то, что происходит в голове андроида. Так что вы, в любом случае, никогда не сможете знать наверняка!

Это напоминает мне об эпизоде из телесериала «Звездный путь». Мошенника приговаривают к необычному наказанию, которое вовсе не выглядит наказанием. Его ссылают в колонию, где он будет единственным человеком в окружении обслуживающих его андроидов, многие из которых имеют форму прекрасных девушек.

Вы, как и я, можете догадаться, почему это — наказание. Причина, по которой я живу не в солипсистской вселенной (где реален только я), состоит не в том, что другие, подобные мне, логически убеждают меня в своей человечности, а в том, что у меня есть с ними внутренняя связь. Я никогда бы не мог иметь такой связи с андроидом.

Я утверждаю, что имеющееся у нас чувство внутренней связи с другими людьми обусловлено реальной связью духа. Я полагаю, что классические компьютеры никогда не могут быть сознательными, подобно нам, потому что у них нет этой духовной связи.

Этимологически слово сознание (англ. consciousness) происходит от слов scire (знать) и сит (с). Сознание означает «знать с». Для меня этот термин подразумевает нелокальное знание; мы не можем «знать с кем-либо», не имея нелокальной связи с этим человеком[6].

Нас не должно приводить в смятение то, что мы не можем построить модель самих себя, основанную на классической физике и с использованием компьютерного алгоритмического подхода. С начала этого столетия нам известно, что классическая физика является неполной. Не удивительно, что она дает нам неполное мировоззрение. Давайте исследуем новую физику, рожденную на заре XX в., и, с точки зрения конца этого века, посмотрим, какую свободу несет с собой ее мировоззрение.