II. Критика новой постановки проблемы
Может ли машина мыслить?
А.Тьюринг
"Может ли машина мыслить?"-— едва ли не самая знаменитая статья А.Тьюринга. Даже сейчас, спустя почти 50 лет после ее написания, она, вызвавшая в свое время огромное количество как серьезных исследований, так и псевдонаучных спекуляций, нисколько не утеряла своего значения. Статья написана с юмором и иронией ("словно между строк стоят смайлики, по словам Э.Ходжеса, биографа Тьюринга), но за шутливым тоном изложения скрываются одни из самых оригинальных и глубоких идей, высказанных в уходящем веке.
"Игра в имитацию", описанная в этой статье, получила название "теста Тьюринга" (ставшего стандартным теоретическим тестом на "интеллектуальность машины"), который, помимо специалистов по кибернетике, интересовал и некоторых психиатров, усмотревших глубинный психоаналитический смысл в цели игры ("угадывание пола").
Статья была впервые опубликована в научном журнале Mind, v. 59 (1950), pp. 433—460, под названием Computing Machinery and Intelligence и перепечатана в 4-м томе "Мира математики" Аж. Р. Ньюмена {The World of Mathematics. A small library... with commentaries and notes by James R. Newman, Simon & Schuster, NY, v. 4, 1956, pp. 2099-2123), где опубликована под заголовком Can the Machine think? С этого издания был сделан русский перевод, публикуемый здесь по книге:
А.Тьюринг. Может ли машина мыслить? (С приложением статьи Аж. фон Неймана Общая и логическая теория автоматов". Пер.и примечания Ю.В. Данилова). М.: ГИФМЛ, 1960.
I. Игра в имитацию
Я собираюсь рассмотреть вопрос: могут ли машины мыслить. Но для этого нужно сначала определить смысл терминов "машина" и "мыслить". Можно было бы построить эти определения так, чтобы они по возможности лучше отражали обычное употребление этих слов, но такой подход таит в себе некоторую опасность. Дело в том, что, если мы будем выяснять значения слов "машина" и "мыслить", исследуя. как эти слова определяются обычно, нам трудно будет избежать того вывода, что значение этих слов и ответ на, вопрос "могут ли машины мыслить?" следует искать путем статистического обследования наподобие анкетного опроса, проводимого институтом Гэллапа*. Однако это нелепо. Вместо того чтобы пытаться дать такое определение, я заменю Наш вопрос другим, который тесно с ним связан и выражается словами с относительно четким смыслом.
Эта новая форма может быть описана с помощью игрой, которую мы назовем "игрой в имитацию". В этой игре участвуют три человека: мужчина (А), женщина (Б) и кто-нибудь задающий вопросы (С), которым может быть лицо любого пола. Задающий вопросы отделен от двух других участников игры стенами комнаты, в которой он находится. Цель игры для задающего вопросы состоит в том, чтобы определить, кто из двух других участников игры является мужчиной (А), а кто — женщиной (В). Он знает их под обозначениями Х и У и в конце игры говорит либо: "Х есть А и У есть В", либо: "X есть В и У есть А". Ему разрешается задавать вопросы такого, например, рода:
С: "Попрошу Х сообщить мне длину его (или ее) волос".
Допустим теперь, что в действительности Х есть А. В таком случае А и должен давать ответ. Для А цель игры состоит в том, чтобы побудить С прийти к неверному заключению. Поэтому его ответ может быть, например, таким:
"Мои волосы коротко острижены, а самые длинные пряди имеют около девяти дюймов в длину".
Чтобы задающий вопросы не мог определить по голосу, кто из двух других участников игры мужчина, а кто — женщина, ответы на вопросы следовало бы давать в письменном виде, а еще лучше — на пишущей машинке. Идеальным случаем было бы телеграфное сообщение между двумя комнатами, где находятся участники игры. Если же этого сделать нельзя, то ответы и вопросы должен передавать какой-нибудь посредник. Цель игры для третьего игрока — женщины (В) — состоит в том, чтобы помочь задающему вопросы. Для нее, вероятно, лучшая стратегия — давать правдивые ответы. Она также может делать такие замечания, как "Женщина — я, не слушай- -те его!", но этим она ничего не достигнет, так как мужчина тоже может делать подобные замечания.
Поставим теперь вопрос: "Что произойдет, если в этой игре вместо А будет участвовать машина?" Будет ли в этом случае задающий вопросы ошибаться столь же часто, как и в игре, где участниками являются только люди? Эти вопросы и заменят наш первоначальный вопрос "могут ли машины мыслить?".
Теологическое возражение
"Мышление есть свойство бессмертной души человека, Бог дал бессмертную душу каждому мужчине и каждой женщине, но не дал души никакому другому животному и машинам. Следовательно, ни животное, ни машина не могут мыслить"*.
Я не могу согласиться ни с чем из того, что было только что сказано, и попробую возразить, пользуясь теологическими же терминами. Я счел бы данное возражение более убедительным, если бы животные были отнесены в один класс с людьми, ибо, на мой взгляд, между типичным одушевленным и типичным неодушевленным предметами имеется большее различие, чем между человеком и другими животными. Произвольный характер этой ортодоксальной точки зрения станет еще яснее, если мы рассмотрим, в каком свете она может представиться человеку, исповедующему какую-нибудь другую религию. Как, например, христиане отнесутся к точке зрения мусульман, считающих, что у женщин нет души? Но оставим этот вопрос и обратимся к основному возражению. Мне кажется, что из приведенного выше аргумента со ссылкою на душу у человека следует серьезное ограничение всесильности Всемогущего. Пусть даже существуют определенные вещи, которые Бог не может выполнить, — например, сделать так, чтобы единица оказалась равной двум; но кто же из верующих не согласился бы с тем, что Он волен вселить душу в слона, если найдет, что слон этого заслуживает? Мы можем искать выход в предположении, что Он пользуется своей силой лишь в сочетании с мутациями, совершенствующими мозг настолько, что последний оказывается в состоянии удовлетворить требованиям души, которую Он желает вселить в слона. Но точно так же можно рассуждать и в случае машин. Это рассуждение может показаться отличным лишь. потому, что в случае машин его труднее "переварить". По сути дела это означает, что мы считаем весьма маловероятным, чтобы Бог счел обстоятельства подходящими для того, чтобы дать душу машине, т.е. речь идет в действительности о других аргументах, которые обсуждаются в остальной части статьи. Пытаясь построить мыслящие машины, мы поступаем по отношению к Богу более непочтительно, узурпируя Его способность создавать души, чем мы делаем это, производя потомство; в обоих случаях мы являемся лишь орудиями его воли и производим лишь убежища для душ, которые творит опять-таки Бог.
Все это, однако, пустые рассуждения. В пользу чего бы ни приводили такого рода теологические доводы, они не производят на меня особого впечатления. Однако в старину такие аргументы находили весьма убедительными. Во времена Галилея полагали, что такие церковные тексты, как "Стояло солнце среди неба и не спешило к западу почти целый день" (Иисус Навин, 10, 3) и "Ты поставил землю на твердых основах; не поколеблется она в веки и веки" (псалом 103, 5), в достаточной мере опровергали теорию Коперника. В наше время такого рода доказательство представляется беспочвенным. Но, когда современный уровень знаний еще не был достигнут, подобные доводы производили совсем другое впечатление.
2. Возражение со "страусиной" точки зрения [The "Heads in the Sand" Objection]
"Последствия машинного мышления были бы слишком ужасны. Будем надеяться и верить, что машины не могут мыслить".
Это возражение редко выражают в столь открытой форме. Но оно звучит убедительно для большинства из тех, кому оно вообще приходит в голову. Мы склонны верить, что человек в интеллектуальном отношении стоит выше всей остальной природы. Лучше всего, если бы удалось доказать, что человек необходимо является самым совершенным существом, ибо в таком случае он может бояться потерять свое доминирующее положение. Ясно, что популярность теологического возражения связана именно с этим чувством. Это чувство, вероятно, особенно сильно у людей интеллигентных, так как они ценят силу мышления выше, чем остальные люди, и более склонны основывать свою веру в превосходство человека на этой способности.
Я не считаю, что это возражение является достаточно существенным для того, чтобы требовалось какое-либо опровержение. Утешение здесь было бы более подходящим; не предложить ли искать его в учении о переселении душ?
Математическое возражение
Имеется ряд результатов математической логики, которые можно использовать для того, чтобы показать наличие определенных ограничений возможностей машин с дискретными состояниями. Наиболее известный из этих результатов — теорема Гёделя* — показывает, что в любой достаточно мощной логической системе можно сформулировать такие утверждения, которые внутри этой системы нельзя ни доказать, ни опровергнуть, если только сама система непротиворечива. Имеются и другие, в некотором отношении аналогичные, результаты, принадлежащие Черчу, Клини, Россеру и Тьюрингу*. Результат последнего особенно удобен для нас, так как относится непосредственно к машинам, в то время как другие результаты можно использовать лишь как сравнительно косвенный аргумент (например, если бы мы стали опираться на теорему Гёделя, нам понадобились бы еще и некоторые средства описания логических систем в терминах машин и машин в терминах логических систем). Результат Тьюринга относится к такой машине, которая, в сущности, является цифровой вычислительной машиной с неограничейной емкостью памяти, и устанавливает, что существуют определенные вещи, которые эта машина не может выполнить. Если она устроена так, чтобы давать ответы на вопросы, как в "игре в имитацию", то будут вопросы, на которые она или даст неверный ответ, или не сможет дать ответа вообще, сколько бы ни было ей предоставлено для этого времени. Таких вопросов, конечно, может быть много, и на вопросы, на которые нельзя получить ответ от одной машины, можно получить удовлетворительный ответ от другой. Мы здесь, разумеется, предполагаем, что вопросы принадлежат скорее к таким, которые допускают ответ "да" или "нет", чем к таким, как: "Что вы думаете о Пикассо?". Следующего типа вопросы относятся к числу таких, на которые, как нам известно, машина не может дать ответ: "Рассмотрим машину, характеризующуюся следующим: ...Будет ли эта машина всегда отвечать "да" на любой вопрос?" Если на место точек поставить описание (в какой-либо стандартной форме, например, подобной той, которая была использована нами в разделе V) такой машины, которая находится в некотором сравнительно простом отношении к машине, к которой мы обращаемся с нашим вопросом, то можно показать, что ответ на этот вопрос окажется либо неверным, либо его вовсе не будет. В этом и состоит математический результат*; утверждают, будто он доказывает ограниченность возможностей машин, которая не присуща разуму человека.
[…]
Ответ на это возражение вкратце состоит в следующем. Установлено, что возможности любой конкретной машины ограничены, однако в разбираемом возражении содержится голословное, без какого бы то ни было доказательства, утверждение, что подобные ограничения не применимы к разуму человека. Я не думаю, чтобы можно было так легко игнорировать эту сторону дела. Когда какой-либо из такого рода машин задают соответствующий критический вопрос и она дает определенный ответ, мы заранее знаем, что ответ будет неверным, и это дает нам чувство известного превосходства., Не является ли это чувство иллюзорным? Несомненно, оно бывает довольно искренним, но я не думаю, чтобы ему следовало придавать слишком большое значение. Мы сами слишком часто даем неверные ответы на вопросы, чтобы то чувство удовлетворения, которое возникает у нас при виде погрешимости машин, имело оправдание. Кроме того, чувство превосходства может относиться лишь к машине, над которой мы одержали свою — в сущности весьма скромную — победу. Не может быть и речи об одновременном торжестве над всеми машинами. Значит, короче говоря, для любой отдельной машины могут найтись люди, которые умнее ее, однако в этом случае снова могут найтись другие, еще более умные машины, и т.д.
Я думаю, что те, кто разделяет точку зрения, выраженную в математическом возражении, как правило, охотно примут "игру в имитацию" в качестве основы дальнейшего рассмотрения. Те же, кто убежден в справедливости двух предыдущих возражений, будут, вероятно, вообще не заинтересованы ни в каком критерии.
4. Возражение с точки зрения сознания [The Argument from Consciousness]
Это возражение особенно ярко выражено в выступлении профессора Джефферсона* на Листеровских чтениях за 1949 год*, откуда я и привожу цитату. "До тех пор, пока машина не сможет написать сонет или сочинить музыкальное произведение, побуждаемая к тому собственными мыслями и эмоциями, а не за счет случайного совпадения символов, мы не можем согласиться с тем, что она равносильна мозгу, т.е. что она может не только написать эти вещи, но и понять то, что ею написано. Ни один механизм не может чувствовать (а не просто искусственно сигналить, для чего требуется достаточно несложное устройство)радость от своих успехов, горе от постигших его неудач, удовольствие от лести, огорчение из-за совершенной ошибки, не может быть очарованным противоположным полом, не может сердиться или быть удрученным, если ему не удается добиться желаемого".
Это рассуждение, по-видимому, означает отрицание нашего критерия. Согласно самой крайней форме этого взгляда, единственный способ, с помощью которого можно удостовериться в том, что машина может мыслить, состоит в том, чтобы стать машиной и осознавать процесс собственного мышления. Свои переживания можно было бы потом описать другим, но, конечно, подобное сообщение никого бы не удовлетворило. Точно так же, если следовать этому взгляду, то окажется, что единственный способ убедиться в том, что данный человек действительно мыслит, состоит в том, чтобы стать именно этим человеком. Фактически эта точка зрения является солипсистской*. Быть может, подобные воззрения весьма логичны, но если исходить из них, то обмен идеями становится весьма затруднительным. Согласно этой точке зрения, А обязан думать, что "А мыслит, а В нет", в то время как В убежден в том, что "В мыслит, а А нет". Вместо того чтобы постоянно спорить по этому вопросу, обычно принимают вежливое соглашение о том, что мыслят все.
В русском издании статьи "Может ли машина мыслить?" к этому примечанию добавлено еще одно предложение: "Солипсизм есть крайняя форма философии субъективного идеализма". Школьная форма солипсического credo, высказываемая иногда наиболее продвинутыми учащимися на уроках обществоведения, звучит примерно так: "Вы все существуете лишь в моем воображении, реален лишь я вместе с моими чувствами и ощущениями". Между тем великий философ Людвиг Витгенштейн (1889—1951), чьи лекции по философии математики в Кембридже посещал Тьюринг, заметил как-то: "Здесь мы можем видеть, что солипсизм совпадает с чистым реализмом, если он строго продуман". Эти слова Витгенштейна были выбраны в качестве эпиграфа к рассказу известного современного писателяВиктора Пелевина "Девятый сон Веры Павловны" и определили его содержание; см. напр.: Викшор Пелевин. Синий фонарь. М.: "Текст", 1991. — Прим. И.Д.
Я уверен, что профессор Джефферсон отнюдь не желает стоять на этой крайней солипсистской точке зрения. Вероятно, он весьма охотно принял бы в качестве критерия "игру в имитацию". Эта, игра (если игрок В не участвует) нередко применяется на практике под названием viva voce (устно) для того, чтобы установить, понял ли действительно данный человек некоторую вещь, или он заучил нечто, как попугай. Вот отрывок из такой игры.
Задающий вопросы: Не находите ли Вы, что в первой строке Вашего сонета: "Сравню ль тебя я с летним днем" выражение "с весенним днем" звучало бы лучше?
Отвечающий: Оно нарушало бы размер стиха.
Задающий вопросы: А если сказать "с зимним днем" ? С размером здесь все обстоит благополучно.
Отвечающий: Это так, но никто не захочет, чтобы его сравнивали с зимним днем.
Задающий вопросы: А разве мистер Пиквик не напоминает Вам Рождество?
Отвечающий: Некоторым образом да.
Задающий вопросы: Но Рождество — зимний день, и я не думаю, чтобы мистер Пиквик имел что-нибудь против этого сравнения.
Отвечающий: Я не думаю, что вы говорите все это всерьез. Когда говорят о зимнем дне, имеют в виду обычно зимний день, а не какой-то особенный, вроде Рождества.
И так далее. Что бы сказал профессор Джефферсон, если бы машина, пишущая сонеты, могла отвечать примерно так, как это было в приведенном выше отрывке из viva voce. He знаю, стал ли бы он рассматривать ответы машины лишь как "просто искусственную сигнализацию". Если бы ее ответы были столь же связными и удовлетворительными по содержанию, как в приведенном выше отрывке, я не думаю, чтобы профессор Джефферсон охарактеризовал это как дело, выполнить которое может "достаточно несложное устройство". Эту фразу из его выступления следует, по-видимому, относить к таким случаям, когда в машине имеется, скажем, граммофонная пластинка с записью сонета в чьем-либо исполнении, а также механизм, с помощью которого эту запись можно время от времени включать.
Короче говоря, я считаю, что большинство из тех, кто поддерживает возражение с точки зрения сознания [consciousness], скорее откажутся от своих взглядов, чем признают солипсистскую точку зрения. В таком случае они, по-видимому, охотно примут наш критерий.
Мне не хотелось бы создавать впечатление, будто я считаю, что в сознании нет ничего загадочного. Например, неудача наших попыток локализовать сознание похожа на парадокс. Но я вовсе не думаю, что загадки, связанные с сознанием, непременно должны быть разъяснены прежде, чем мы окажемся в состоянии ответить на вопрос, рассматриваемый в настоящей статье.
5. Возражения, исходящие из того, что машина не все может выполнить [Arguments from Various Disabilities]
Обычно эти возражения выражают в такой форме: "Я согласен с тем, что вы можете заставить машины делать все, о чем вы упоминали, но вам никогда не удастся заставить их делать X". При этом перечисляют довольно длинный список значений этого X. Я предлагаю читателю выбирать: "Быть добрым, находчивым, красивым, дружелюбным, быть инициативным, обладать чувством юмора, отличать правильное от неправильного, совершать ошибки, влюбляться, получать удовольствие от клубники со сливками, заставить кого-нибудь полюбить себя, извлекать уроки из своего опыта, правильно употреблять слова, думать о себе, обладать таким же разнообразием в поведении, каким обладает человек, создавать нечто подлинно новое".
Обычно в подтверждение подобных высказываний не приводят никаких доводов. Я убежден, что эти высказывания основываются главным образом на принципе неполной индукции*. […]
Возражение леди Лавлейс
Наиболее подробные сведения, которыми мы располагаем об Аналитической машине Бэббиджа, берутся из воспоминаний леди Лавлейс*. В них она высказывает такую мысль: "Аналитическая машина не претендует на то, чтобы создавать что-то действительно новое. Машина может выполнить все то, что мы умеем ей предписать" (курсив леди Лавлейс). […]
Я полностью согласен с Хартри по этому вопросу. Следует отметить, что он вовсе не утверждает в категорической форме, что машины, о которых идет речь, не обладают этим свойством. Он лишь замечает, что данные, которыми располагала госпожа Лавлейс, не позволяли ей допустить этого. Весьма возможно, что машины, о которых шла речь, в некотором смысле обладали этим свойством. Действительно, пусть некоторая машина с дискретными состояниями обладает рассматриваемым свойством. Аналитическая машина Бэббиджа была универсальной цифровой вычислительной машиной; это значит, что если бы она обладала нужной емкостью памяти и необходимой скоростью работы, то, будь в нее введена соответствующая программа, она могла бы подражать этой машине. По-видимому, этот довод не приходил в голову ни Бэббиджу, ни графине Аавлейс. Во всяком случае, от них нельзя требовать, чтобы они исчерпали все, что можно сказать по этому вопросу.
Весь этот вопрос будет рассмотрен еще раз в разделе, посвященном обучающимся машинам.
Один из вариантов аргумента госпожи Лавлейс — это утверждение, гласящее, что машина "никогда не может создать ничего подлинно нового". На секунду возразим поговоркой, что вообще "ничто не ново под Луной", Кто может быть уверенным в том, что выполненная им "оригинальная работа" не была ростком из зерна, посеянного образованием, или просто результатом применения хорошо известных общих принципов. Более удачный вариант этого возражения состоит в утверждении, что "машина никогда не может ничем поразить человека". Это утверждение представляет собой прямой вызов, который, однако, мы можем принять, не уклоняясь. Лично меня машины удивляют очень часто[…]
VII. Обучающиеся машины
Читатель, вероятно, уже почувствовал, что у меня нет особенно убедительных аргументов позитивного характера в пользу своей собственной точки зрения. Если бы у меня были такие аргументы, я не стал бы так мучиться, разбирая ошибки, содержащиеся в мнениях, противоположных моему собственному. Сейчас я изложу те доводы, которыми я располагаю.
Вернемся на секунду к возражению графини Лавлейс, согласно которому машина может выполнять лишь то, что мы ей приказываем. Можно сказать, что человек "вставляет" в машину ту или иную идею, и машина, прореагировав на нее некоторым образом, возвращается затем к состоянию покоя, подобно фортепианной струне, по которой ударил молоточек. Другое сравнение: атомный реактор, размеры которого не превышают критических. Идея, вводимая человеком в машину, соответствует здесь нейтрону, влетающему в реактор извне. Каждый такой нейтрон вызывает некоторое возмущение, которое в конце концов замирает. Но если величина реактора превосходит критические размеры, то весьма вероятно, что возмущение, вызванное влетевшим нейтроном, будет нарастать и приведет в конце концов к разрушению реактора. Имеют ли место аналогичные явления в случае человеческого разума и существует ли нечто подобное в случае машин? В первом случае, кажется, следует дать утвердительный ответ. Большинство умов, по-видимому, являются "под критическими", т.е. соответствуют, если пользоваться приведенным выше сравнением, подкритическим размерам атомного реактора. Идея, ставшая достоянием такого ума, в среднем порождает менее одной идеи в ответ. Несравненно меньшую часть умов составляют умы надкритические. Идея, ставшая достоянием такого ума, может породить целую "теорию", состоящую из вторичных, третичных и еще более отдаленных идей. ум [mind] животных, по-видимому, явным образом подкритичен. Развивая нашу аналогию, мы ставим вопрос: "Можно ли сделать машину надкритической?".
Для уяснения поставленного вопроса имеет смысл прибегнуть еще к одной аналогии, именно — уподобить человеческий разум луковице. Рассматривая функции ума или мозга, мы обнаруживаем определенные операции, которые возможно полностью объяснить в терминах чисто механического процесса. Можно сказать, что они не соответствуют подлинному разуму: это своего рода "кожица", которую следует удалить, для того чтобы обнаружить настоящий разум. Однако, рассматривая оставшуюся часть, мы снова найдем "кожицу", которую следует удалить, и т.д. Возникает вопрос: если мы будем продолжать этот процесс, удастся ли нам прийти когда-нибудь к "настоящему" разуму или же в конце концов мы снимем кожицу, под которой ничего не останется ? В последнем случае мы считаем, что разум имеет механический характер. (Правда, он не может быть машиной с дискретными состояниями. Этот вопрос мы уже рассматривали.)
Два последних абзаца вовсе не претендуют на роль убедительных доказательств. Их скорее следовало бы считать аргументами риторического характера.
Единственно убедительное доказательство, которое могло бы подтвердить правильность нашей точки зрения, приведено в начале раздела и состоит в том, чтобы подождать до конца нашего столетия и провести описанный эксперимент. А что же можно сказать в настоящее время? И что можно было бы предпринять уже сейчас, если исходить из предположения, что эксперимент окажется успешным? Как я уже объяснял, проблема заключается главным образом в программировании. Прогресс в инженерном деле также необходим, однако маловероятно, чтобы затруднение возникло с этой стороны. Оценки емкости памяти человеческого мозга колеблются от 1010 до 1015 двоичных единиц. Я склоняюсь к нижней границе и убежден, что лишь очень небольшая доля емкости памяти человека используется в высших типах мышления, причем из того, что используется, большая часть служит сохранению зрительных восприятии. Для меня было бы неожиданностью, если бы оказалось, что для игры в имитацию на удовлетворительном уровне требуется емкость памяти, превышающая 109, во всяком случае если бы игра велась против слепого человека. (Заметьте: емкость "Британской энциклопедии", 11-е изд., составляет 2 х 109.) Емкость памяти, равная 107, практически представляется вполне осуществимой даже при современном состоянии техники. Вероятно, нет необходимости вообще далее увеличивать скорость машинныхопераций*. Те части современных машин, которые можно рассматривать как аналоги нервных клеток, работают примерно в тысячу раз быстрее последних.
Это создает "запас надежности"', могущий компенсировать потери в быстроте, возникающие во многих случаях. Перед нами стоит задача составить машинную программу для игры в имитацию. В настоящее время скорость моей работы программиста составляет примерно тысячу знаков в день; если исходить из такой скорости программирования, то получится, что шестьдесят работников могли бы полностью закончить работу, о которой идет речь, если бы они работали непрерывно в течение пятидесяти лет, при условии, конечно, что ничего не пойдет в корзину для бумаг. Желателен, по-видимому, какой-нибудь более производительный метод.
Пытаясь имитировать ум [mind] взрослого человека, мы вынуждены много размышлять о том процессе, в результате которого человеческий интеллект достиг своего нынешнего состояния. Мы можем выделить три компонента:
1) первоначальное состояние ума, скажем, в момент рождения;
2) воспитание, объектом которого он был;
3) другого рода опыт, воздействовавший на ум, — опыт, который нельзя назвать воспитанием.
Почему бы нам, вместо того чтобы пытаться создать программу, имитирующую ум взрослого, не попытаться создать программу, которая бы имитировала ум ребенка? Ведь если ум ребенка получает соответствующее воспитание, он становится умом взрослого человека. Как можно предположить, мозг ребенка в некотором отношении подобен блокноту, который мы покупаем в киоске: совсем небольшой механизм и очень много чистой бумаги. Наш расчет состоит в том, что механизм в мозгу ребенка настолько несложен, что устройство, ему подобное, может быть легко Запрограммировано. В качестве первого приближения можно предположить, что количество труда, необходимое для воспитания такой машины, почти совпадает с тем, которое необходимо для воспитания ребенка.
Таким образом, мы расчленили нашу проблему на две части: на задачу построить "программу-ребенка" и задачу осуществить процесс воспитания. Обе эти части тесно связаны друг с другом. Вряд ли нам удастся получить хорошую "машину-ребенка" с первой же попытки. Надо провести эксперимент по обучению какой-либо из машин такого рода и выяснить, как она поддается научению. Затем провести тот же эксперимент с другой машиной и установить, какая из двух машин лучше. Существует очевидная связь между этим процессом и эволюцией в живой природе, которая обнаруживается, когда мы отождествляем:
• структуру "машины-ребенка" с наследственным материалом;
• изменения, происходящие в "машине-ребенке", с мутациями;
• решение экспериментатора с естественным отбором. Тем не менее можно надеяться, что этот процесс будет протекать быстрее, чем эволюция. Выживание наиболее приспособленных является слишком медленным способом оценки преимуществ. Экспериментатор, применяя силу интеллекта, может ускорить процесс оценки. В равной степени важно и то, что он не ограничен использованием только случайных мутаций. Если экспериментатор может проследить причину некоторого недостатка, он, вероятно, в состоянии придумать и такого рода мутацию, которая приведет к необходимому улучшению.
[…]
Применение поощрений и наказаний в лучшем случае может быть лишь частью процесса обучения. Проще говоря, если у учителя нет других средств общения со своими учениками, то количество информации, которое может получить ученик, не превышает общего числа примененных к нему поощрений и наказаний. Вероятно, к тому времени, когда ребенок выучит наизусть стихотворение "Касабьянка"*, он будет до крайности измучен, если процесс обучения будет идти по методу игры в "20 вопросов"*, причем каждое "нет" учителя будет принимать для ученика форму подзатыльника. В силу этого необходимо иметь какие-то другие, "неэмоциональные" каналы связи. Если такие каналы имеются, то, применяя поощрения и наказания, машину можно было бы научить выполнять команды, отдаваемые на каком-либо — например, символическом — языке. Эти команды следует передавать по "неэмоциональным каналам". Применение такого символического языка значительно снизит число требуемых поощрений и наказаний.
О том, какая степень сложности является наиболее пригодной для "машины-ребенка", могут быть различные мнения. Можно стремиться к тому, чтобы "машина-ребенок" была настолько простой, насколько этого возможно добиться, не нарушая общих принципов. Можно идти противоположным путем: "встраивать" сложную систему логического вывода*. В последнем случае значительную часть запоминающего устройства заняли бы определения и суждения [propositions]. Суждения по своему характеру должны быть различного рода, например: утверждения о хорошо известных фактах, предположения, математически доказанные теоремы, высказывания авторитетных лиц, выражения, по своей логической форме являющиеся суждениями, но не претендующие на верность. Некоторые из этих суждений могут быть охарактеризованы как "приказания". Машину следует устроить так, чтобы, как только некоторое приказание будет оценено ею как "вполне достоверное" [well-established}, автоматически выполнялась соответствующая операция. Чтобы пояснить это, предположим, что учитель говорит машине: "Теперь выполняй домашнее задание", — а машина реагирует на это тем, что ситуация "Учитель говорит машине: "Теперь выполняй домашнее задание" включается в число вполне достоверных фактов. Другим фактом такого же рода в ней может быть: "Все, что говорит учитель, истинно". Комбинация этих фактов может в заключение вести к тому, что приказание "Теперь выполняй домашнее задание" также будет включено в разряд вполне надежных фактов, а это, в свою очередь, будет значить в силу устройства нашей машины, что последняя действительно начнет выполнять домашнее задание, — что нам и было нужно. Процесс логического вывода, применяемый машиной, вовсе не обязательно должен быть таков, чтобы он удовлетворял требованиям самых строгих логиков. Например, может отсутствовать иерархия типов*. Но это отнюдь не означает, что вероятность связанной с этим ошибки, которую может сделать машина, больше вероятности того, что человек может упасть в пропасть, если ее край не будет огорожен. В рассматриваемом случае подходящие приказания (выраженные внутри системы формального вывода, а не составляющие часть ее правил), например, такие, как "Не используйте некоторый класс, если он не является подклассом класса, который ранее упоминался учителем", могут иметь эффект, аналогичный тому, какой имеет предупреждение: "Не подходите слишком близко к краю обрыва".
Приказания, которые может выполнять машина, не имеющая ни рук, ни ног, должны касаться преимущественно интеллектуальных сторон деятельности, как это было в приведенном выше примере (с домашним заданием). Из такого рода приказов наиболее важными будут приказания, определяющие порядок, в котором следует применять правила рассматриваемой логической системы. Ибо на каждой стадии применения логической системы перед нами открывается большое число возможных шагов, которые исключают друг друга и любой из которых мы можем осуществить, следуя правилам рассматриваемой системы. Как производится такой выбор — в этом и выражается различие между глубоким и посредственным умом, но это не имеет отношения к правильности или неправильности рассуждении. Суждения, которые порождают приказания такого рода, могут быть, например, такими: "Если упоминается Сократ, применяй силлогизм модуса Barbara"— или: "Если один метод приводит к результату быстрее, чем второй, не применяй более медленного". Одни из них могут исходить от "авторитетного лица", другие же могут вырабатываться самой машиной, например, с помощью неполной индукции.
Модус силлогизма — схема (правило) логического умозаключения. Понятие модуса силлогизма относится к схоластической (восходящей к Аристотелю) логике; каждый из модусов имеет специальное название. Классический пример умозаключения по модусу Barbara следующий: "Все люди смертны. Сократ — человек. Следовательно, Сократ смертей". — Прим.И.Д.
Некоторым читателям мысль об обучающейся машине может показаться парадоксальной. Как могут меняться правила, по которым машина производит операции? Ведь правила должны полностью описывать поведение машины независимо от того, какова была ее предыстория и какие изменения она претерпела. Таким образом, правила должны быть абсолютно инвариантными относительно времени. Все это, конечно, верно. Объяснение этого парадокса состоит в том, что правила, которые меняются в процессе научения, не претендуют на это, ибо их применимость носит преходящий характер. Читатель может провести параллель с Конституцией Соединенных Штатов*.
Важная особенность обучающейся машины состоит в том, что ее учитель в значительной мере не осведомлен о многом из того, что происходит внутри нее, хотя он все же в состоянии в известных пределах предсказывать поведение своей ученицы. Сказанное особенно применимо к дальнейшему воспитанию машины, прошедшей уже хорошую подготовку и вышедшей из начальной стадии "машины-ребенка". Такое положение, очевидно, в корне отличается от обычного-подхода, связанного с применением машин для вычислений, когда мы стремимся к тому, чтобы иметь ясное представление о состоянии машины в любой момент вычисления, достичь чего можно лишь с трудом. В свете сказанного взгляд, что "машина может выполнить только то, что мы умеем ей предписать*, кажется странным. Большинство программ, которые мы можем ввести в машину, вызывают в ее работе кое-что такое, что мы вообще не в состоянии осмыслить или рассматриваем как чисто случайное поведение. Интеллектуальное [intelligent] поведение предполагает, по-видимому, некоторое отступление от абсолютно детерминированного [disciplined] поведения в процессе вычисления; это отступление, однако, должно быть очень незначительным, чтобы не вызвать полностью беспорядочного поведения или бессмысленных повторений отдельных циклов. Другой важный результат обучения как способа подготовки нашей машины для участия в игре в имитацию, состоит в том, что "присущая человеку склонно