Путешествие седьмое, или как Трурля собственное совершенство подвело 7 страница
2. Ответ роботов (Иель). “Предположим, что мы написали бы программу, отличную от программы Шенка. Представьте, что мы вставили бы компьютер внутрь робота. Этот компьютер не только принимал бы формальные символы в качестве входных данных и выдавал бы формальные символы в качестве выходных данных — он управлял бы роботом таким образом, что робот делал бы нечто, напоминающее восприятие, ходьбу, разнообразные движения, еду, питье — все, что вы хотите. В робота, например, может быть встроена телекамера, позволяющая ему видеть; у него могут быть руки и ноги, позволяющие ему “действовать”, и все это будет контролироваться его компьютерным “мозгом”. Подобный робот, в отличие от компьютера Шенка, будет способен на действительное понимание и другие ментальные состояния”.
Первое, что бросается в глаза в этом ответе, это то, что он молча соглашается с тем, что понимание — это нечто большее, чем манипуляция формальными символами, поскольку этот ответ добавляет множество каузальных отношений с миром (Fodor, 1980). Наш ответ на это заключается в том, что добавление “моторных” или “сенсорных” возможностей не добавляет ничего к когнитивным или интенциональным возможностям первоначальной программы Шенка. Чтобы в этом убедиться, достаточно заметить, что тот же мысленный эксперимент приложим и в случае с роботом. Представьте, что вместо компьютера, помещенного в робота, вы поместите меня в комнату и снова, как и в первоначальном китайском эксперименте, дадите мне китайские символы и инструкции по-английски для соотношения одних китайских символов с другими китайскими символами и выдачи “на-гора” третьих китайских символов. Представьте, что, хотя мне об этом ничего не известно, некоторые китайские символы поступают ко мне из телевизионной камеры, прикрепленной к роботу, а некоторые китайские символы, произведенные мной, приводят в действие моторы внутри робота, двигающие его руками и ногами. Важно подчеркнуть, что я лишь манипулирую формальными символами. Я получаю “информацию” от “перцептуального” аппарата робота и даю инструкции его “моторному” аппарату, ничего об этом не подозревая. Я являюсь “гомункулюсом” этого робота, но, в отличие от традиционного гомункулюса, я не знаю, что происходит. Я не понимаю ничего, кроме правил манипуляции символами. Я утверждаю, что в этом случае робот лишен какой бы то ни было интенциональности; он просто передвигается в результате действия его электрических соединений и программы. Кроме того, представляя в данном случае эту программу, я также лишен относящихся к делу интенциональных состояний. Я только следую формальным инструкциям по манипуляции формальными символами.
3. Ответ имитации мозга (Беркли и Массачуссеттский Технологический институт). “Предположим, что мы разработали программу, которая не представляет информацию о мире, подобную информации в текстах Шенка. Вместо этого программа в точности симулирует процесс нервной деятельности в мозгу китайца, когда тот понимает рассказы по-китайски и отвечает на вопросы о них. Машина принимает в качестве входных данных рассказы и вопросы о них, симулирует формальную структуру мозгов китайца, понимающего эти рассказы, и производит в качестве выходных данных китайские символы. Мы можем даже вообразить, что вместо одной-единственной программы в машине работают множество параллельных программ, подобно тому, как предположительно работает человеческий мозг в процессе понимания человеческого языка. В таком случае нам придется признать, что машина понимает рассказы. Если мы откажемся это сказать, не придется ли нам отказать в понимании и самому китайцу? На уровне синапсов, какая разница между программой нашего компьютера и программой мозга китайца?”
Прежде, чем ответить на это возражение, я замечу, что это очень странное возражение для любого сторонника ИИ (или функционализма и т.п.). Мне казалось, что идея сильной версии ИИ состоит именно в том, что для понимания работы разума не обязательно понимать, как работает мозг. Я думал, что основная гипотеза сторонников этой версии состоит в том, что существует некий уровень мыслительной деятельности, на котором производятся манипуляции с формальными элементами. Именно это является основой разума и может быть реализовано в различных мозговых процессах, так же, как любая компьютерная программа может работать на различной аппаратуре. Сильная версия ИИ считает, что программа для компьютера — то же, что разум для мозга. Таким образом мы можем понять разум, не вдаваясь в нейрофизиологию. Если бы для занятий ИИ нам было бы необходимо понять, как работает мозг, то нам вообще не понадобилась бы такая наука, как ИИ. И все же такой близкий подход к работе мозга еще не достаточен, чтобы произвести понимание. Чтобы в этом убедиться, представьте себе, что вместо человека, работающего с формальными символами, в комнате сидит человек, оперирующий системой водопроводных труб, соединенных клапанами. Когда он получает китайские символы, он сверяется с написанной по-английски программой, и начинает открывать и закрывать определенные клапаны. Каждое соединение соответствует синапсу в мозгу китайца, и вся система настроена так, что после всех манипуляций с клапанами нужные китайские символы появляются с другого конца труб.
Где в этой системе понимание? Она принимает в качестве входных данных китайские символы, симулирует формальную структуру китайских синапсов и выдает другой набор китайских символов. Но человек явно не понимает китайского, так же, как не понимают его водопроводные трубы; если мы примем гипотезу, кажущуюся мне абсурдной, что каким-то образом человек в сочетании с трубами начинает понимать, вспомните, что в принципе человек может проделывать все эти манипуляции с трубами в своем воображении. Проблема с симулятором мозга заключается в том, что он подражает не тому, чему следует. Пока он имитирует лишь формальную структуру синапсов и нейронного возбуждения, он не отражает того, что действительно важно в мозгу — а именно, его каузальные свойства и его способность порождать интенциональные состояния. То, что формальные свойства недостаточны для порождения каузальных свойств, мы показали на примере водопроводных труб. Мы можем вывести все формальные свойства из относящихся к делу нейробиологических каузальных свойств.
4. Комбинированный ответ (Беркли и Стэнфорд). “Хотя сами по себе три предыдущих ответа не являются достаточно убедительным опровержением контрпримера китайской комнаты, взятые в совокупности, они весьма убедительны и решают дело. Представьте себе человекообразного робота с компьютером в виде мозга, расположенном в его черепной коробке, представьте, что программа этого компьютера в точности имитирует синапсы мозга, представьте, что поведение этого робота неотличимо от поведения человека. Теперь представьте все это как единую систему, а не как компьютер с входными и выходными данными. Безусловно, в таком случае вы должны будете согласиться с тем, что система имеет интенциональность”.
Я совершенно согласен с тем, что в таком случае гипотеза о том, что робот обладает интенциональностью, кажется вполне рациональной — если мы больше ничего не знаем об этой системе. В действительности другие элементы этой комбинации, кроме внешнего вида и поведения, к делу не относятся. Если бы мы могли построить робота, чье поведение было бы в течение долгого времени неотличимо от человеческого поведения, мы могли бы приписать ему интенциональность. Нам вовсе не нужно было бы знать заранее, что его компьютерный мозг представляет собой формальную аналогию с человеческим мозгом.
Но я не вижу, как это может помочь утверждениям сторонников сильной версии ИИ. И вот почему: согласно этой версии формальная программа с правильными входными и выходными данными является достаточным условием и составной частью интенциональности. Как писал Ньюэлл (Newell, 1979), основой ментального является деятельность системы физических символов. Но наше признание интенциональности робота в этом примере не имеет ничего общего с формальными программами. Оно основано на предположении, что если робот выглядит и действует достаточно похоже на нас, то мы должны предположить, пока не доказано обратное, что у этого робота есть ментальные состояния, подобные нашим; что эти состояния обуславливают его поведение и им выражаются; что робот имеет некий внутренний механизм, способный производить эти состояния. Если бы мы знали, как иначе можно объяснить его поведение, мы бы не стали приписывать ему интенциональность, в особенности если бы мы знали о наличии у него формальной программы. И именно в этом — смысл моего предыдущего ответа на возражение II.
Представьте, что нам было бы известно, что поведение робота полностью определяется спрятанным внутри него человеком, который получает неинтерпретированные формальные символы от сенсорных рецепторов робота и посылает неинтерпретированные формальные символы его двигательному аппарату. Человек производит эти формальные манипуляции согласно неким правилам. Далее, представьте себе, что человеку ничего не известно о роботе — он знает лишь то, какое действие производить с данными бессмысленными символами. В этом случае мы рассматривали бы робота как хитроумное механическое приспособление. Гипотеза о том, что у этого приспособления есть разум, оказалась бы необоснованной и ненужной. У нас больше не было бы причины приписывать интенциональность роботу или системе, частью которой тот является (за исключением, разумеется, интенциональности человека, манипулирующего символами). Формальная манипуляция символами продолжается, входные данные соотносятся с выходными согласно правилам, но единственным реальным фокусом интенциональности является человек, и человек этот понятия не имеет ни о каком относящемся к делу интенциональном состоянии. Например, он не видит того, на что направлены глаза робота, он не намеревается пошевелить рукой робота и не понимает замечаний, которые робот слышит и отпускает. То же самое можно сказать о системе, частью которой робот и человек являются.
Чтобы понять это последнее утверждение, сравним этот случай с теми, где мы естественно приписываем интенциональность членам некоторых других человекообразных групп, таким как различные обезьяны и приматы, и домашним животным, таким как собаки. Существуют, грубо говоря, две причины, по которым мы находим это естественным. Во-первых, мы не можем объяснить поведения животного, не приписав ему интенциональности. Во-вторых, мы видим, что эти животные сделаны из того же материала, что и мы сами — вот глаз, вот нос, вот кожа и так далее. Принимая во внимание последовательность поведения животного и предположение о том, что в его основе лежит каузальность, мы предполагаем, что поведение животного обусловлено наличием у того ментальных состояний и что механизмы, порождающие эти состояния, напоминают соответствующие механизмы человека. Мы безусловно предположили бы то же самое о роботе, если бы у нас не было оснований этого не делать; однако, если бы мы узнали, что его поведение — результат формальной программы и что действительные каузальные характеристики физического материала к делу не относятся, мы бы отказались от гипотезы интенциональности.
Существуют еще два ответа на мой пример — поскольку они встречаются часто, их стоит обсудить, хотя они и не улавливают сути проблемы.
5. Ответ другого разума (Иель). “Откуда вы знаете, что другие люди понимают китайский или вообще что-либо? На это указывает только их поведение. В принципе, компьютер может пройти тест на адекватное поведение не хуже человека; поэтому, если вы приписываете разумность человеку, вы в принципе обязаны признать разумность компьютера”. На это возражение вполне достаточно короткого ответа. Проблема состоит не в том, откуда я узнаю, что другие люди нечто понимают, но в том, что я приписываю этим людям, когда я уверен в их понимании. Основа моего аргумента в том, что это не могут быть лишь вычислительные процессы вкупе с выходными данными, поскольку и эти процессы и их результат могут существовать помимо когнитивных состояний. Притворяться, что при понимании отсутствуют другие чувства, не является ответом на мои доводы. В “когнитивных науках” предполагается, что ментальное реально и познаваемо, так же, как в естественных науках предполагается, что физические объекты реальны и познаваемы.
6. Ответ многих жилищ. “Вся ваша аргументация предполагает, что ИИ имеет дело только с цифровыми и аналоговыми компьютерами. Но это всего лишь сегодняшняя технология. Каковы бы ни были те каузальные процессы, которые вы полагаете основными для интенциональности (если вы правы), когда-нибудь мы сможем создать механизмы, обладающие этими каузальными свойствами — это и будет искусственный разум. Поэтому ваши аргументы не направлены против способности искусственного разума производить и объяснять когнитивные состояния”.
В действительности, у меня нет возражений против такого ответа, кроме одного: он делает сильную версию ИИ тривиальной, определяя искусственный интеллект как что-либо, что искусственно порождает и объясняет когнитивные состояния. Первоначальная гипотеза сильной версии ИИ была интересна тем, что она выдвигала четкий, хорошо определенный тезис: мыслительные процессы есть вычислительные процессы, манипулирующие формальными символами. Я пытался оспаривать именно это утверждение. Если утверждение изменяется, мои возражения, разумеется, становятся неприменимы.
Теперь вернемся к вопросу, на который я обещал дать ответ. Предположим, что в первоначальном примере я понимаю английский и не понимаю китайского, и что машина, таким образом, не понимает ни того ни другого. Тем не менее, во мне может иметься нечто, что позволяет мне понимать английский, и отсутствовать нечто, позволившее бы мне понимать китайский. Нельзя ли дать эти свойства, какими бы они ни были, машине?
В принципе я не вижу причины, по которой мы не могли бы дать машине способности понимать китайский или английский, поскольку в некотором важном смысле наше тело с нашим мозгом и есть такая машина. Но я решительно возражаю против того, что мы могли наделить подобным свойством машину, чья деятельность определяется только в терминах вычислительных процессов в приложении к формальным символам — то есть машину, эквивалентную компьютерной программе. Я понимаю английский и обладаю другими формами интенциональности вовсе не благодаря тому, что являюсь воплощением компьютерной программы (вероятно, я являюсь воплощением целого ряда программ). Насколько я знаю, мое понимание объясняется тем, что я принадлежу к определенному типу организмов с определенной биологической (то есть физической и химической) структурой, и эта структура в определенных условиях каузально способна порождать восприятие, действие, понимание, обучение и другие интенциональные феномены. Часть смысла моих доводов в том, что только то, что обладает подобной каузальностью, способно порождать подобную интенциональность. Может быть, другие физические и химические процессы могут производить точно такое же действие; например, марсиане имеют интенциональность, хотя их мозги сделаны из другого материала. Это эмпирический вопрос, подобный вопросу о том, может ли фотосинтез осуществляться с помощью вещества, химически отличного от хлорофилла.
Основной смысл моего аргумента в том, что никакая чисто формальная модель сама по себе не будет достаточна для интенциональности, поскольку формальные свойства сами по себе не являются составляющими интенциональности и не имеют каузальных свойств, кроме свойства переходить к следующему формальному шагу в процессе работы машины. Любые другие каузальные свойства, которые может иметь данное воплощение формальной модели, не имеют прямого отношения к этой формальной модели, поскольку та же формальная модель может быть воплощена в механизме, не имеющем этих каузальных свойств. Даже если, по чудесному стечению обстоятельств, китайцы являются точным воплощением программы Шенка, мы можем снабдить той же программой англо-говорящих людей, водопроводные трубы или компьютеры, и никто из них не будет понимать китайского, несмотря на программу.
В работе мозга важен не призрак формальности, появляющийся благодаря последовательности синапсов, а действительные свойства этих последовательностей. Все доводы в пользу сильной версии ИИ, которые мне встречались, обводят тени, отброшенные когнитивными процессам, и затем утверждают, что эти тени и есть сами процессы.
В заключение я хочу сформулировать некоторые общие философские идеи, которые в неявной форме встретились в этом аргументе. Для ясности я сделаю это в форме вопросов и ответов, начав с классического вопроса:
“Может ли машина думать?”
Ответ на этот вопрос, разумеется, положительный. Мы и есть такие машины.
“Да, но может ли думать искусственная машина, созданная человеком?”
Если предположить, что возможно создать машину с нервной системой, нейронами с аксонами и дендритами и всем остальным, достаточно похожим на то, чем обладаем мы, ответ, очевидно, снова будет положительным. Если вы сможете повторить причины, вы сможете повторить и следствия. На самом деле возможно, что сознание, интенциональность и все остальное удастся получить, используя химические принципы, отличные от тех, на которых основан человек. Как я говорил, вопрос это чисто эмпирический.
“Хорошо, но может ли думать цифровой компьютер?”
Если под “цифровым компьютером” мы понимаем нечто, что может быть на определенном уровне верно описано как воплощение действующей компьютерной программы, то ответ снова будет положительным, поскольку мы сами — воплощение множества компьютерных программ, а мы способны думать.
“Но может ли нечто думать, чувствовать и так далее, всего лишь будучи компьютером с соответствующей программой? Может ли работа программы — верной программы, разумеется — быть достаточным условием возникновения понимания?”
Думаю, что это правильный вопрос, хотя обычно его путают с предыдущими. Ответ на него — отрицательный.
“Почему?”
Потому что сама по себе манипуляция формальными символами не обладает интенциональностью и не имеет смысла. Нельзя даже сказать, что это манипуляция символами, поскольку символы ничего в данном случае не символизируют. Говоря языком лингвистов, они обладают только синтаксисом, но лишены семантического наполнения. Кажущаяся интенциональность компьютеров находится в головах тех, кто их запрограммировал и использует, кто вводит некие данные и интерпретирует ответ.
Цель моего примера с китайской комнатой в том, чтобы показать, что как только в систему вводится компонент, действительно обладающий интенциональностью (человек) и снабженный формальной программой, мы видим, что формальная программа не несет никакой дополнительной интенциональности. В данном примере она ничего не добавляет к способности человека понимать китайский язык.
То самое свойство ИИ, которое казалось таким привлекательным — различение между программой и ее реализацией — оказывается роковым для гипотезы о том, что симуляция может быть идентичной копией. Различие между программой и ее реализацией на определенной аппаратуре повторяет различие между уровнем мышления и уровнем мозговой деятельности. Если бы нам удалось описать мыслительные процессы в виде формальной программы, возможно, удалось бы описать основные характеристики разума, не прибегая к интроспективной психологии или нейрофизиологии мозга. Однако уравнение “разум для мозга = программа для аппаратуры” имеет слабые стороны.
Например, одна и та же программа могла бы иметь любые странные воплощения, некоторые из которых не имели бы интенциональности. Так, Вайценбаум (1976, гл. 2) описывает в деталях, как можно сделать компьютер из рулона туалетной бумаги и горсти маленьких камешков. Точно так же, программа, понимающая китайский рассказ, может быть воплощена в системе водопроводных труб или в англо-говорящем человеке, не понимающем китайского языка. Камни, туалетная бумага, водопроводные трубы и тому подобные материалы не могут иметь интенциональности, поскольку ею может обладать только нечто, приводимое в действие теми же каузальными силами, что и мозг. С другой стороны, хотя англо-говорящий человек и обладает нужным для интенциональности аппаратом, легко увидеть, что зазубрив программу, он не добавит себе интенциональности, поскольку его понимание китайского не улучшится.
Во-вторых, программа чисто формальна, в то время как интенциональные состояния этим типом формальности не обладают. Они определяются своим содержанием, а не формой. Например, убеждение в том, что на улице дождь, определяется не как некая формальная структура, но как содержание мыслей, обладающее условием удовлетворения, направленностью (см. Сирл 1979) и тому подобными характеристиками. В действительности, само убеждение вообще не обладает формальной структурой в синтаксическом смысле, поскольку одно и то же убеждение может быть выражено множеством различных способов в различных языковых системах.
В-третьих, как я уже говорил, ментальные состояния и события являются продуктами деятельности мозга, в то время как программа — не результат деятельности компьютера.
Но если программы не являются составляющими ментальных процессов, почему такое количество людей убеждены в обратном?
На этот вопрос у меня нет ответа. Идея о том, что компьютерная модель может быть тождественна реальному объекту, сомнительна уже потому, что компьютер ни в коем случае не ограничен симуляцией ментальных процессов. Никто не полагает, что компьютерная симуляция пожара может сжечь окрестные постройки или что компьютерная модель ливня промочит присутствующих насквозь. Почему же тогда мы должны считать, что компьютерная симуляция понимания что-либо понимает на самом деле? Иногда говорят, что компьютер очень трудно научить чувствовать боль или любовь, но боль и любовь ничуть не сложнее познания и других ментальных процессов. Для симуляции требуются всего-навсего правильные входные и выходные данные и программа, которая превращает первые во вторые. Это все, что делает компьютер. Принимать симуляцию за идентичную копию в случае боли, любви и познания ошибочно так же, как в случае пожаров или ливней.
Тем не менее, существует несколько причин того, что ИИ должен был казаться — и кажется многим до сих пор — воспроизведением и объяснением феномена мышления. Нам не удастся развеять это заблуждение, пока мы не выясним причин, по которым оно возникло.
Первая и, возможно, наиболее важная причина — это путаница с понятием “обработка информации”. Многие специалисты в области когнитивистики полагают, что человеческий мозг при помощи разума делает нечто, называемое “обработкой информации”, так же, как компьютер обрабатывает информацию при помощи программы. С другой стороны, пожары и ливни никакой информации не обрабатывают. Хотя компьютер может симулировать любые процессы, он находится в особом отношении к мозгу, поскольку правильно запрограммированный компьютер (в идеале программа должна быть идентичной программе мозга) занимается обработкой информации точно так же, как это делает мозг. Эта обработка информации и является квинтэссенцией разума. Проблема этого аргумента в том, что он основан на двусмысленности в понимании того, что считать “информацией”. Запрограммированный компьютер не обрабатывает информацию в том смысле, в каком это делает человек, когда он решает арифметические задачи, читает или пытается ответить на вопрос о прочитанном рассказе. Компьютер занимается только тем, что манипулирует формальными символами. То, что программист и интерпретатор выходных данных сопоставляют символы с явлениями действительности, находится вне компетенции компьютера. Повторяю, что компьютер обладает синтаксисом, а не семантикой. Таким образом, если вы напечатаете “2 + 2 =?”, компьютер напечатает в ответ “4”. Но он понятия не имеет, что 4 означает 4, или вообще что-нибудь означает. И дело не в том, что ему не хватает информации второго порядка об интерпретации символов первого порядка — скорее сами символы первого порядка вообще не имеют для компьютера никакой интерпретации. Все, что у компьютера имеется, это символы и еще раз символы. Таким образом, введение понятия “обработка информации” порождает дилемму: либо мы определяем этот процесс как нечто, обладающее интенциональностью, либо нет. В первом случае компьютер не обрабатывает информацию, а только манипулирует символами. Во втором случае компьютер, действительно, занимается обработкой информации, но делает это в том смысле, в каком обрабатывают информацию калькуляторы, пишущие машинки, желудки, термостаты, ливни и ураганы. Все они имеют некий уровень описания, на котором можно сказать, что они получают некие данные, трансформируют их и в результате выдают новую информацию. Однако в этом случае интерпретация входных и выходных данных как некой информации остается за наблюдателем. Между компьютером и мозгом не установлено здесь никакого сходства в терминах обработки информации.
Во-вторых, ИИ изобилует остаточным бихевиоризмом или операционализмом. Поскольку входные и выходные данные у соответствующим образом запрограммированных компьютеров могут быть схожи с этими данными у людей, нам хочется приписать компьютерам также и соответствующие ментальные состояния. Но как только мы убеждаемся в концептуальной и эмпирической возможности того, что система может проявлять человеческие способности в какой-либо области, не выказывая при этом абсолютно никакой интенциональности, мы без труда преодолеваем это желание. Мой калькулятор умеет вычислять, но не обладает интенциональностью. В этой статье я пытался показать, что входные и выходные данные некой системы могут точно повторять входные и выходные данные китайца, но тем не менее не понимать ни слова по-китайски, вне зависимости от того, как она запрограммирована. Тест Тьюринга, бессовестно бихевиористский и операционалистский, типичен для этой традиции. Мне кажется, что если бы специалисты по ИИ полностью отказались бы от бихевиоризма и операционализма, это положило бы конец путанице между подражанием и идентичной копией.
В-третьих, остаточный операционализм усугубляется остаточным дуализмом. Сильная версия ИИ имеет смысл только тогда, если принимается на вооружение дуалистическая гипотеза: там, где дело касается разума, мозг не важен. В сильной версии ИИ (как и в функционализме) важны только программы, и эти программы не зависят от их реализации в машинах: одна и та же программа может быть реализована в электронном компьютере, картезианской мыслительной субстанции или гегельянском мировом духе. Самое удивительное открытие, которое я совершил, обсуждая эти вопросы, состоит в том, что многие специалисты по ИИ были шокированы, когда я сказал, что феномен человеческого разума может находиться в зависимости от физико-химических свойств человеческого мозга. Однако если вы немного подумаете, то увидите, что я не должен был удивляться — ведь без той или иной формы дуализма сильная версия ИИ не имела бы никакого смысла. Сторонники этой версии пытаются воспроизвести и объяснить ментальные явления при помощи программ. Однако, поскольку программа полностью независима от ее реализации, этот проект может быть приведен в исполнение лишь в том случае, если разум не только концептуально, но и эмпирически независим от мозга. Если вы не верите в то, что разум можно отделить от мозга как концептуально, так и эмпирически — дуализм в сильной форме, — то вы не можете надеяться имитировать ментальные процессы путем написания и пуска в действие программ, поскольку программы должны быть независимы как от мозгов, так и от любой другой формы воплощения. Если ментальные процессы состоят в вычислительных операциях над формальными символами, из этого следует, что у них нет связи с мозгом. Единственная связь в таком случае заключалась бы в том, что мозг оказался бы одним из множества типов машин, на которых подобные программы могли бы работать. Эта форма дуализма отличается от традиционного картезианского варианта, утверждающего, что существуют два типа субстанций, картезианским его можно назвать из-за убеждения, что специфически ментальные свойства разума не связаны со свойствами мозга. Этот дуализм маскируется тем, что литература по ИИ содержит множество гневных тирад против “дуализма”; однако, авторы не замечают, что их собственная позиция предполагает сильную версию дуализма.
“Может ли машина думать?” Мое мнение в том, что только машины и могут думать. Эти особые машины называется мозгами или тем, что имеет ту же каузальную природу. Именно поэтому сильная версия ИИ не может сказать многого о мышлении, поскольку она не говорит нам многого о машинах. По определению, речь там идет о программах, а программы — это не машины. Чем бы еще ни была интенциональность, это прежде всего биологический феномен, который, скорее всего, находится в такой же каузальной зависимости от специфической биохимии своего происхождения, как лактация, фотосинтез и любой другой биологический феномен. Никто не предполагает, что мы можем получить молоко и сахар при помощи компьютерной симуляции формальных аспектов лактации и фотосинтеза, но когда речь идет о разуме, многие люди склонны поверить в подобное чудо, благодаря глубоко укоренившемуся, подспудному дуализму. Они считают, что разум — результат формальных процессов и, в отличие от молока и сахара, не зависит от специфических материальных причин.
В защиту подобного дуализма часто выражают надежду, что мозг по своей сути является цифровым компьютером (кстати, первые компьютеры часто называли “электронными мозгами”). Однако это нам не помогает. Разумеется, мозг — цифровой компьютер. Поскольку все на свете является цифровым компьютером, мозг — не исключение. Дело в том, что каузальная способность мозга порождать интенциональность не может зависеть от того, что на нем работает некая компьютерная программа, поскольку любая из программ может работать на другой машине, не имеющей ментальных состояний. Чего бы ни делал мозг, никакая программа сама по себе не достаточна для интенциональности.[7]