Китайский агент

Джон Сёрл придумал отличный мысленный эксперимент в ответ на тест Тьюринга. Интуиция Сёрла понятна: даже если машина в состоянии пройти этот тест, совсем не очевидно, что машина будет обладать сознанием. Для иллюстрации этого и придумана «Китайская Комната» (КК). Большое число споров свелось к обсуждению последствий мысленного эксперимента, но я хочу обратить внимание на саму возможность существования Комнаты.

По условиям эксперимента, человек работает с книгой правил по обращению с иероглифами так, чтобы его собеседник был уверен в том, что он разговаривает с тем, кто в действительности знает китайский язык и понимает смысл вопросов. Возможно ли составить такую инструкцию? Иными словами, возможно ли описать язык конечным набором правил? На первый взгляд кажется очевидным, что достаточно сложный набор правил будет адекватно отражать структуру языка и создавать ощущение, что КК является сознательным собеседником. Для этого КК должна в первую очередь иметь возможность отвечать на поставленные вопросы. Если ответы будут устраивать собеседника, то он будет уверен в сознательности КК. Я не беру в счет «отписки» на каверзные вопросы и хочу рассмотреть, как по существу КК может отвечать на вопросы, не выдавая собеседнику «я не хочу об этом говорить» или «не знаю и знать не хочу». Для удобства все вопросы можно разделить на два основных типа: поясняющие и проблематические.

Вопросы первого типа могут быть такими: «когда началась Первая Мировая война?», «где находится Лондон?», «как изготавливают нержавеющую сталь?». Ответы на них будут однозначными вне зависимости от того, когда и при каких обстоятельствах они были спрошены. С подобными вопросами возможно построение алгоритма ответов: мы анализируем структуру вопроса, выявляем то, что в нём спрашивается, потом обращаемся к базе данных и находим необходимые сведения.

По-другому обстоят дела с проблематическими вопросами. Для примера можно взять такие вопросы: «В чем художественная ценность того или иного произведения искусства?», «Почему Раскольников испытывал душевные терзания после убийства старушки?» и т.д. Можно задать вопрос и о пресловутой проблеме вагонетки: стоит ли спасать жизнь пятерых ценой жизни одного? Допустим, для ответа на первые два вопроса машина будет искать рецензии критиков, аналитику произведения, т.е. обращаться к «базе данных», как и в случае с поясняющими вопросами, но какими алгоритмами она будет пользоваться при поиске ответа на проблему вагонетки? Вполне возможно даже, что КК так или иначе сможет дать ответы на эти вопросы, но будут ли эти ответы удовлетворять того, кто их задаёт? Во всех подобных ответах предполагается «понимание» вопроса, исходя из которого может быть сформулирован ответ. Возможно ли алгоритмизировать все это?

Могу предположить, что на вопрос о вагонетке в инструкции будет содержаться два ответа: «я спасу пятерых и убью одного» и «я оставлю все как есть». А теперь главный вопрос к книге правил: что выбрать? Здесь мы имеем два варианта развития событий. Во-первых, в инструкции может заранее быть предпочтён один из вариантов ответа — не важно, так ли, что в ней будет прямо прописан единственный ответ конкретно на проблему вагонетки, или так, что выбор этого ответа будет являться лишь частным случаем следования общему алгоритму «между А и В выбор только А». Во-вторых, в инструкции может содержаться указание на то, чтобы находящийся в комнате провел операцию выбора: например, бросил монетку, посмотрел на часы, в общем, совершил любое действие, которое отличается от «перейди к странице N и выпиши иероглиф q». Следствия в обоих случаях неутешительные.

В первом случае книга правил должна содержать ответы на абсолютно все проблематические вопросы. Если так, то КК будет всезнающим, а самое главное — непоколебимым собеседником, который не способен изменить свое поведение (в данном случае — ответы на вопросы). Еще один довод в пользу маловероятности такого способа реализации — возможность бесконечно уточнять один и тот же проблематический вопрос, например: «говорить неправду плохо?», «говорить неправду, которая приведет ко благу, плохо?», «говорить неправду, которая приведет ко благу, но сделает хуже кому-то, плохо?». То есть мы всегда сможем задать КК такой проблематический вопрос, который будет на одно уточнение больше, чем содержится в ее книге правил.

Во втором варианте развития событий мы редуцируем любые проблематические вопросы к процедуре: «если мы должны выбирать, то мы выбираем во всех случаях вариант W». Что получится в этом случае? При достаточно долгом «разговоре» с КК можно будет сделать вывод, что собеседник — не человек и на вопросы он отвечает «потому, что так записано в книге правил».

Но допустим, процедура выбора записана в книге правил как «если да или нет, то брось монетку». Это даст определенную вариативность, и на вопрос «почему ты сделал такой выбор?» КК может ответить: «потому что я так решил в этой ситуации». Процедуру выбора можно усложнять до бесконечности, учитывая перекрестные связи слов друг с другом, но, так как это мысленный эксперимент, предположим что машина в каждом случае достаточно уточняет вопрос и редуцирует его к выбору между «да» и «нет» так, что создается впечатление «понимания» вопроса. И вот здесь кроется главный «подводный камень» КК. По условиям мысленного эксперимента, человек в комнате работает только с книгой правил и иероглифы для ответов берёт только соотнося одни с другими.

Если же мы расширяем китайскую комнату до «книга правил и процедура подбрасывания монетки», то теряется главная интуиция эксперимента. Объясню подробнее: результатом эксперимента Сёрл считает тот факт, что он, совершенно не зная китайского, тем не менее мог на нем говорить, используя всего лишь достаточно сложную книгу правил. Тем самым иллюстрируется принципиальная возможность и прохождения теста Тьюринга. Однако существование процедуры выбора в добавление к книге правил привносит в комнату именно то, что Сёрл старался избежать. «Агент», который совершает выбор, безусловно, тоже не знает китайского языка. Но что имеет значение — этот агент совершает определенный выбор. Логичным развитием модели с агентом является работа с «записью» всех его «решений», но это не меняет сути. Главное, что для создания машины, которая была бы способна пройти тест Тьюринга, необходим не только набор правил (каким бы полным он ни был), но и специальный «действующий агент».

К чему приводит такая модификация КК? С одной стороны, можно сказать о «привидении в машине» и возвращении «картезианского театра», от которой уважаемый Д. Деннет так старался нас избавить. Но можно взглянуть на это и с другой стороны. Вместо человека в КК можно поместить робота, который будет подбрасывать монетку, когда встретит в книге правил определенную команду. И вот здесь «miracle occurs»: записывая все свои предыдущие «выборы» и имея возможность совершать новые, механизм будет полностью имитировать поведение человека-агента, хотя реализовываться он будет без всякого сознания.

По условиям эксперимента, КК должна быть способна отвечать на оба типа вопросов: как на поясняющие, так и на проблематические. В противном случае рано или поздно собеседник поймет, что КК китайского языка не знает. Значит, либо КК невозможна (нет ни одного способа реализовать алгоритм поиска ответов на оба типа вопросов), либо она возможна только лишь при наличии «агента». Вывод напрашивается сам собой — даже если мы будет стараться реализовать человеческое (в данном случае — речевое) поведение максимально механистически, мы так или иначе придем к необходимости появления чего-то, что предполагает «самость». «Самость» будет присуща всей КК, а агент будет оставаться непонимающим. Мы получим систему, которая будет ссылаться на два типа данных: внешние (книга правил) и внутренние (учет результатов прошлых решений при ответе на новые проблематические вопросы). Автореферентность, способность к свободному выбору и максимальная пластичность в поведении служат доводом в пользу того, что такая Комната будет функциональным изоморфом[55]. После этого можно сослаться на сравнение функционального изоморфа и философского зомби и прийти в выводу о том, что в том или ином виде квалиа не могут не быть.

Заключение

Ответ на Трудную проблему сознания прост и очевиден: мозговые процессы сопровождаются субъективным опытом, потому что иначе он не состоянии работать так, как он работает. Внимание к Трудной проблеме всегда перемещается к Легким проблемам сознания, потому что любые уточнения отражают лишь один аспект сознания – функциональный или феноменальный. Это концептуально неразрешимая проблема, потому что даже наш собственный язык работает таким образом, что любое описание отражает только один из этих аспектов. Мы можем сколь угодно долго искать корреляты между переживаниями и работой мозга, но попытки объяснения будут ссылаться лишь на каузальную связь, которая отражает лишь функциональный аспект. Итогом является определение границ нашего познания, дальше которых построение строгих теорий невозможно. Мы приходим к концептуальной возможности термостата, обладающего «квалиа», однако его «субъективный опыт» все равно останется принципиально непознаваемым для нас с точки зрения первого лица. Немалую роль в этом играет правильное понимание идеи философских зомби – идея абсолютно невозможная для нашего субъективного опыта, однако та, о возможности существования которой мы способны говорить. «Сознающий термостат» Чалмерса таким же образом недоступен для наблюдения с точки зрения третьего лица и не обладает достаточной степенью «сознательности» для того, чтобы давать себе отчет о том, что он что-то ощущает, то есть даже если бы мы смотрели бы на него в перспективе от первого лица, он бы все равно стался непознаваем для нас. В общем виде мы приходим к тому, что И. Кант охарактеризовал как «трансцендентальная видимость» - она концептуально недоступна нашим познавательным способностям.

Может показаться, что результат выступает в качестве негативного следствия для проблематики сознания, однако это не так. Именно ввиду того, что Трудная проблема сознания недоступна нашему позитивному познанию, возникает необходимость исследования субъективного опыта в рамках «наук о духе», как выразился бы Г.В.Ф. Гегель. Если позитивизм не может объяснить сущность субъективного опыта (а он действительно не может, как видно из вышесказанного), то в таком случаем метафизика приобретает свои собственные смысл и значение.

Больше нельзя сказать, что метафизика бесполезна. Ее задача именно и заключается в том, чтобы работать с перспективной от первого лица, недоступной для изучения позитивными науками. Подобное понимание метафизики не предлагает субстанциального разделения, безусловно, в современное время приверженность вере в трансцендентное не принесет никакой пользы. Необходимость метафизики носит в первую очередь гносеологический характер. Одинаково бесполезно и бесперспективно как стараться объяснить появление религии с позиции эволюционизма[56], так и ссылаться на акт творения физического мира Богом в попытке объяснить «почему все работает именно так, как работает». Оба эти вопроса отсылают к двум абсолютно разным аспектам человеческого познания.

Вопрос о том, является ли метафизика наукой в таком случае нерелевантен, ибо в ее основе нет никакой строго научной методологии. Это не значит, что метафизика вообще не может обладать собственным методом. Скорее наоборот, методология метафизики должна строиться исключительно на своем предмете – субъективном опыте. И задача метафизики состоит не в том, чтобы обладать прогностической способностью, потому что это является позитивным критерием оценки. Нет, метафизика как самостоятельная область человеческого существования должна давать результаты, созвучные своему предмету.

В глобальном смысле мы снова возвращаемся к античной идее того, что «философия – наука умирать». Умирать не в том смысле, что наш организм перестанет функционировать, а «умирать» в качестве предельного переживания, которым невозможно поделиться с «третьим лицом». Задача метафизики состоит именно в работе по анализу субъективного опыта. Как и первые организмы с нервной системой задавались немым вопрос «И что мне теперь делать?», так человек, как совокупность его феноменального опыта старается ответить на вопрос «что делать?». Следовательно, и ответ на этот вопрос должен быть феноменальным – определенным переживанием (или их совокупностью).

На вопрос о том, может ли метафизика быть завершенной системой знаний, ответ будет скорее всего отрицательным. Феноменальный опыт каждого человека действительно разный, немаловажную роль в нем играет личная история и культурные особенности. Предполагаю, что так или иначе метафизическая проблематика никогда не будет завершена, раз и навсегда получив однозначные ответы на свои основные вопросы[57]. Скорее из-за такого рода однозначных ответов проблематика всегда будет видоизменяться.

По моему скромному мнению, основной проблемой в критическом отношении к метафизике является смешивание позитивных вопросов и метафизических, а так же онтологических и гносеологических вопросов. По большому счету, ни для позитивных наук, ни для метафизики не так важно «сколько субстанций существует на самом деле». Метафизика работает со своим предметным полем, позитивные науки – с другим. Проблема начинается там, где позитивные науки стараются элиминировать метафизические вопросы как «бессмысленные», но не в рамках системы науки, а в качестве «мировоззренческой» бессмысленности. После этого сама система наук испытывает внутренний кризис самообоснования – так было с логическим анализом Витгенштейна. Логико-философский трактат в своем завершался тезисом «О чем невозможно говорить, о том следует молчать», что привело к тому, что само понятие «атомарного факта» становилось фактически бессодержательным.

Однако такое определение метафизики является довольно обширным, что конкретно имеется ввиду? Это не только философская дисциплина. Основное следствие - конституирование человеческого духовного мира не как «иллюзии физического побочного эффекта существования мира», а как самостоятельной области знаний. В это понятие с необходимостью включается и религия, и искусство, этика и мораль, но не онтология, так как она всегда пытается ссылаться на позитивные данные наук. Все, что имеет отношение к метафизическим дисциплинам – гипотетично и вероятностно. Однако это не является «неразрешимым недостатком», а является атрибутивным качеством. В оппозиции к естественным наукам – те своим идеалом видят объяснение и прогнозирование действительности. Задача же метафизики заключается в исследовании того «как должно поступать в рамках субъективного опыта», то есть описывать не функциональную зависимость, которая напрямую связана не с «необходимостью» в естественнонаучном смысле. Безусловно, наука как таковая своим источником знания имеет тот же субъективный опыт, что и метафизика. Однако методология науки в достаточной степени прояснила систему работы с субъективным опытом: для обеспечения результатов достаточно придерживаться «перспективы от третьего лица». Метафизике отходит вотчина перспективы «первого лица»,в рамках которой мы описываем феноменальный опыт в его непосредственной данности. Хорошей иллюстрацией может являться исследовательский путь И. Канта – от критического анализа метафизики он пришел к проблематике оснований этики и морали. В определенном смысле заключение данной работы такое же: предмет метафизики это феноменальный опыт, который не в последнюю очередь включает в себя проблемы долга, свободы, религиозных убеждений, эстетики.

Только таким способом можно непротиворечиво совместить физический детерминизм и моральную ответственность. Вне зависимости от того, что «демон Лапласа» знает наперед все наши поступки – с точки зрения феноменального опыта это никак на нас не влияет. Пользуясь языком Деннета, можно сказать, что при таком положении вещей «предрешенность» нашей жизни будет иметь статус бессознательного. То есть, мы в какой-то степени будем информированы о том, что некоторому трансцендентному существу известно, как я поступлю в той или иной ситуации, но это никак не отразится на моем феноменальном опыте – я все равно буду испытывать муки выбора и буду переживать последствия своего выбора во всей полноте своих переживаний.

Данный взгляд на трудную проблему сознания так же полезен и в сфере позитивных наук. Концептуальный вопрос «возможен ли сильный ИИ?» разрешается положительно – в идеальных условиях развития позитивных наук нет никаких сомнений, что будет возможно создание машины, обладающей квалиа[58]. Однако сильный ИИ будет иметь одно следствие – в силу того, что он обладает собственным субъективным опытом, к нему уже будет невозможно относиться лишь как к физическому механизму. Все моральные суждения, а так же ответственность за свои действия будет распространяться на него в том же объеме, что и на человека.

При таком рассмотрении проблема сильного ИИ приобретает другой оттенок: конституируется важность последствий, которые повлечет создание подобного механизма. Можно с полной уверенность говорить о том, что «механизмом» как таковым сильный ИИ не будет. Безусловно, его «внутренний мир» будет супервентен на физическом (как и наш), но от этого не станет доступен для рассмотрения в качестве позитивного факта о мире.

Пожалуй, на этом можно считать работу завершенной. По ходу исследования проблематика как трудной проблемы сознания, так и следствия ее «решения» были в полной мере концептуально очерчены. Так же в заключении продемонстрирован «позитивный» вклад в поле как философской, так и естественнонаучной деятельности.

Список используемой литературы

1. Dennett D. Breaking the Spell: Religion as a Natural Phenomenon / D. Dennett. – New York: Viking, 2006 – 456 с.

2. Dennett D. Consciousness explained / D. Dennett. – New York: Hachette Book Group USA, 1991 - 511 с.

3. Васильев В. В. Кока-Кола и секрет Китайской комнаты // Философия сознания: классика и современность. М., 2007

4. Васильев В. В. Трудная проблема сознания и два аргумента в пользу интеракционизма // Философия сознания: история и современность. М., 2010.

5. Васильев В. В. Проблема сознание-тело в феноменологической перспективе // Проблема сознания в междисциплинарной перспективе. М.: Канон+, 2013. С. 51-60

6. Васильев В. В. Трудная проблема сознания / В. В. Васильев. – Москва: Прогресс-Традиция, 2009 – 272 с.

7. Гегель Г. В. Ф. Энциклопедия философских наук. Т. 1 / Г. В. Ф. Гегель. – Москва: Мысль, 1975 – 306 с.

8. Глейк, Дж. Хаос. Создание новой науки / Дж. Глейк. – Санкт-Петербург: Амфора, 2001 – 398 с.

9. Декарт Р. Сочинения в 2-х томах / Р. Декарт. – Москва: Мысль, 1989, 1995 – 656, 635 с.

10. Деннет Д. Виды психики: на пути к пониманию сознания / Д. Деннет. – Москва: Идея-пресс, 2014 – 188 с.

11. Кант И. Критика чистого разума / И. Кант. – Москва: Наука, 1999 – 653 с.

12. Краусс Л. Вселенная из ничего / Л. Краусс. – 2014, 152

13. Пенроуз Р. Большое, малое и человеческий разум / Р. Пенроуз, А. Шимони, Н. Картрайт, С. Хокинг – Москва: Мир, 2004 – 192 с.

14. Пенроуз Р. Тени разума. В поисках науки о сознании / Р. Пенроуз. – Москва: Институт компьютерных исследований, 2005 – 688 с.

15. Серл Дж. Открывая сознание заново / Дж. Серл. – Москва: Идея-Пресс, 2002 – 256 с.

16. Чалмерс, Д. Сознающий ум / Д. Чалмерс. – Москва: «Книжный дом “ЛИБРОКОМ”», 2013 – 512 с.

17. Юм Д. Сочинения в двух томах. Том 2 / Д. Юм. – Москва: Мысль, 1996 - 800 с.

[1] Чалмерс, Д. Сознающий ум, Глава 3, стр. 125-159.

[2] Длины волн: Синий 450-480нм, Фиолетовый 380-450нм

[3] Dennett D. Consciousness explained p. 62

[4] Dennett D. Consciousness explained p. 22

[5] Dennett D. Consciousness explained p. 101

[6] Dennett D. Consciousness explained p. 72

[7] Dennett D. Consciousness explained p. 155

[8] Dennett D. Consciousness explained p. 165

[9] Dennett D. Consciousness explained p. 169

[10] Dennett D. Consciousness explained p. 175

[11] Dennett D. Consciousness explained p. 188

[12] Dennett D. Consciousness explained p. 190

[13] Dennett D. Consciousness explained p. 214

[14] Dennett D. Consciousness explained p. 228

[15] Illusion of Central Meaner здесь и далее

[16] Dennett D. Consciousness explained p. 227

[17] Bureaucratic

[18] Pandemonium

[19] Conceptualizer

[20] Dennett D. Consciousness explained p. 239

[21] Folk psychology

[22] Dennett D. Consciousness explained p. 285

[23] In my mind’s eye

[24] Mind’s eye здесь и далее по тексту

[25] Dennett D. Consciousness explained p. 290, Figure 10.5

[26] Dennett D. Consciousness explained p.289, Figure 10.4

[27] См. предыдущую сноску

[28] Dennett D. Consciousness explained p. 301

[29] Second-order mental states

[30] В конкретном случае – человека.

[31] Однако это палка о двух концах: если философские зомби возможны и все функции человеческого поведения базируются на физическом, то остается открытым вопрос «почему мы переживаем субъективный опыт?». Это ведь совсем необязательно, ведь физического базиса достаточно для функционирования наших организмов. Значит, субъективный опыт возникает без обоснованной необходимости и линейно-независим от физического. Что это такое как не дуализм?

[32] “Shakey”, Dennett D. Consciousness explained p. 309

[33] report

[34] Dennett D. Consciousness explained p. 309

[35] zimbo

[36] Behaviorally complex

[37] Recursive self-representation- такой способ, при котором данные внутренних состояний составляют сложную сеть взаимодействий, так или иначе влияя друг на друга, из-за чего не может быть ни момента статичного состояния: каждый объект системы влияет на все остальные, а значит приводит к своим собственным изменениям.

[38] «Шестое чувство», применительно к человеку; четырехмерное ортогональное пространство; плоская сфера,

[39] Dismantling the witness protection program, Dennett D. Consciousness explained p. 321

[40] blindsight

[41] An absence of information

[42] Information about the absence

[43] Figure 11.2, Dennett D. Consciousness explained p. 324

[44] Dennett D. Consciousness explained p. 325

[45] Конечное количество взаимодействий определенно, так как количество возможных комбинаций нейронных связей в мозгу будет конечным, если исходные данные не влияют на себя, а следовательно, не могут запустить «повторную цепочку действий», когда взаимодействия ссылаются на исходный пункт.

[46] Чалмерс, Д. Сознающий ум стр. 28

[47] Чалмерс, Д. Сознающий ум стр. 29

[48] Чалмерс, Д. Сознающий ум стр. 41

[49] Это является еще одной возможной формулировкой Трудной проблемы сознания.

[50] Чалмерс, Д. Сознающий ум стр. 55

[51] Так же встречается упоминание метафизической супервентности, которая, в конечном счете, редуцируется к логической супервентности

[52] Чалмерс, Д. Сознающий ум стр. 60

[53] Чалмерс, Д. Сознающий ум стр. 65

[54] Более подробно см.: Глейк, Дж. Хаос. Создание новой науки

[55] См. подробнее Чалмерс, Д. Сознающий ум стр. 309, Глава 7.

[56] Как например в Breaking the spell за авторством Деннета

[57] Все те, что раз за разом рассматривались в истории философии. Трудная проблема сознания в этом смысле тоже является частной формулировкой метафизического вопроса.

[58] Один из вариантов ответа – создание Китайской комнаты в том виде, в котором она рассмотрена в данной работе.