Язык и искусственный интеллект

В общем психологи считают язык основным проявлением когнитивных процессов. Он больше чем все другие виды человеческого поведения отра­жает мышление, восприятие память, решение задач, интеллект и науче­ние. И ввиду его важности для основных психологических принципов он представляет главный интерес для специалистов по ИИ.

Способность к языку и связанная с ним сфера решения задач выше­упомянутого фантастического компьютера Хэла предвосхищена А.Клар­ком в наиболее полном виде — как обмен мнениями между Дейвом (чело­веком) и Хэлом:

"Я хочу сделать это сам, Хэл,— сказал он,- пожалуйста, пере­дай мне управление.

"Слушай, Дейв, у тебя еще куча работы. Я предлагаю, чтобы ты оставил эту мне."

"Хэл, переключи анабиоз на ручное управление."

"Насколько я могу судить по обертонам твоего голоса, Дейв, ты серьезно расстроен. Почему бы тебе не принять таблетку от стрес­са и не отдохнуть немного?"

Рис. 15.11.Мо­дель активной па­мяти с адресаци­ей по содержа­нию Адаптирова­но из: Winogrod (19761.

		ЖГ-][ГТ- Цента	альный эссор
		прощ		lima
? Описание желаемых данных
i	f		Г 1	г	i	\	t		-
	Элемент памяти	Элемент Элемент 3 памяти памяти t	Элемент памяти	Элемент памяти
Шина '	t	i	Г 1	г	..... 1 .....	....... 1, .

Содержимое элементов памяти

Мышление и интеллект - естественный и искусственный 516

r

"Хэл, этим кораблем командую Я. Я приказываю тебе разблоки­ровать ручное управление анабиозом."

"Извини, Дейв, но согласно специальной подпрограмме С1435-бис-4, цитирую: "Если экипаж мертв или недееспособен, бортовой компьютер должен принять управление на себя," конец цитаты. Следовательно, я должен признать твою власть недействительной, поскольку ты не в состоянии исполнять обязанности разумно."

Насколько близко мы подошли к этой фантастике в лабораториях ИИ? Рассмотрим пример реальной беседы с компьютером.

Одна из первых "разговаривающих" компьютерных программ ELIZA (ЭЛИЗА)⁹ была написана Джозефом Вейценбаумом из МТИ (Weizenbaum, 1966). В одной конкретной программе, называвшейся ДОКТОР, ЭЛИЗА играла роль, сходную с ролью психиатра. В следующем примере высказы­вания ЭЛИЗЫ выделены большими буквами.

Все люди похожи. ЧЕМ ЖЕ?

Они вечно надоедают нам то тем, то другим. НЕ МОГЛИ БЫ ВЫ ПРИВЕСТИ КОНКРЕТНЫЙ ПРИМЕР? Ну, мой приятель заставил меня прийти сюда. ВАШ ПРИЯТЕЛЬ ЗАСТАВИЛ ВАС ПРИЙТИ СЮДА? Он говорит, что я почти все время подавлен. МНЕ ЖАЛЬ СЛЫШАТЬ, ЧТО ВЫ ПОДАВЛЕНЫ Это правда, я чувствую себя несчастным.

ВЫ ПОЛАГАЕТЕ, ЧТО ПРИХОД СЮДА ПОМОЖЕТ ВАМ НЕ БЫТЬ НЕСЧАСТНЫМ?

Мне нужна какая-то помощь, это наверняка.

А ЕСЛИ БЫ ВЫ ПОЛУЧИЛИ ПОМОЩЬ, ЧТО БЫ ЭТО ВАМ ДАЛО? Может, я научился бы не ссориться со своей матерью. РАССКАЖИТЕ МНЕ ЕЩЕ О ВАШЕЙ СЕМЬЕ Моя мать заботится обо мне.

КТО ЕЩЕ ИЗ ВАШЕЙ СЕМЬИ ЗАБОТИТСЯ О ВАС? Мой отец. ВАШ ОТЕЦ?

Вы чем-то похожи на моего отца. В ЧЕМ ВЫ ВИДИТЕ СХОДСТВО?

Вы не агрессивны, но я думаю, вы не хотите, чтобы я это заметил. ПОЧЕМУ ВЫ ДУМАЕТЕ, ЧТО Я НЕ АГРЕССИВНЫЙ? Вы не спорите со мной.

ПОЧЕМУ ВЫ ДУМАЕТЕ, ЧТО Я НЕ СПОРЮ С ВАМИ? Вы боитесь меня.

ДОСТАВЛЯЕТ ЛИ ВАМ УДОВОЛЬСТВИЕ ДУМАТЬ, ЧТО Я БОЮСЬ ВАС?

Мой отец боится всех.

ЧТО ЕЩЕ ВАМ ПРИХОДИТ НА УМ, КОГДА ВЫ ДУМАЕТЕ О СВО­ЕМ ОТЦЕ?

⁹В пьесе Б.Шоу "Пигмалион" профессор Хиггинс учил Элизу Дулитл правиль­но говорить. Американский музыкальный фильм по этой пьесе назывался "My Fair Lady" ("Моя прекрасная леди"; 1971г.).

Искусственный интеллект 517

Забияки.

СВЯЗАНО ЭТО КАК-ТО С ТЕМ, ЧТО ВАШ ПРИЯТЕЛЬ ЗАСТАВИЛ

ВАС ПРИЙТИ СЮДА?

Кто-то может утверждать, что эта беседа вполне могла быть взята из беседы психиатра-человека и его пациента. Но давайте оценим этот конс­пект критически. Реакции компьютера в нем довольно стереотипны. На­пример, он запрограммирован отвечать на определенные ключевые слова фразой, являющейся всего лишь преобразованием первоначальной фразы. Так, когда пациент произносит ключевые слова "Я (есть)...", ЭЛИЗА отве­чает диалектом "Мне жаль слышать, что вы...". Если ключевых слов не обнаружено, компьютер отвечает бессодержательным замечанием или в некоторых случаях преобразованием предыдущей фразы. Так что хотя выс­казывания ЭЛИЗЫ и могли бы создать у кого-то иллюзию разговора, им на самом деле не хватает той концептуальной базы языка и знания о мире, которые настоящий психиатр обязан использовать в клиническом интер­вью. То, что за отсутствием лучшего слова мы называем пониманием, включает человеческие знания об ощущениях, склонностях, групповой динамике и т.д. У ЭЛИЗЫ этого нет.

Какая получилась бы беседа, если поменять роли, т.е. если бы психи­атр разговаривал с компьютерной моделью пациента? Колби и др. (Colby et al., 1972) смоделировали такого пациента, назвав свою программу ПАР-РИ¹⁰, поскольку она имитировала ответы параноидного пациента. Парано­ика они выбрали потому, что существует определенное теоретическое представление об этой системе и о процессе паранойи, различие между нормальными и психотическими ответами велико, и они могли использо­вать суждения экспертов для оценки отличимости ответов компьютерной модели от ответов человека. Колби и др. подвергли компьютер тесту Тю-ринга, попросив группу психиатров провести интервью с ПАРРИ при по­мощи дистанционно печатаемых сообщений. Психиатров просили оценить степень "паранойи" в общей сумме ответов. Приведем два диалога ("Ин­тервью А" и "Интервью В") — один между ПАРРИ и психиатром, а дру­гой между настоящим пациентом и психиатром¹¹.

Интервью А

Комментарий эксперта

Док.: ЧТО ВЫ МОЖЕТЕ СКА­ЗАТЬ КОНКРЕТНО О ЛЮДЯХ?

Пац.: ОПРЕДЕЛЕННЫХ ЛЮ- Интересная нить. Надо выяснить, что он ДЯХ думает об этих людях

Док.: КТО ЭТИ ОПРЕДЕЛЕН­НЫЕ ЛЮДИ И ЧТО То, что разговор зашел о преступном мире, ОНИ ДЕЛАЮТ? свидетельствует о наличии системы делю-

^IOPARRY= парирование вопроса, защита от удара, уклонение от ч-л.—Прим, перев.

^пСможете ли вы отгадать, где настоящий пациент? Ответ см. на стр. 537.

Мышление и интеллект - естественный и искусственный 518

ppp-

Пац.: ВЫ ЗНАЕТЕ, КАК ДЕЙ­СТВУЕТ ПРЕСТУПНЫЙ МИР?

Док.: А КАК ВЫ ПОЛАГАЕ­ТЕ?

Пац -НЕ ДОЛЖЕН ЛИ Я БЫТЬ?

Док.: ПОЧЕМУ ВЫ СПРОСИ­ЛИ ПРО ПРЕСТУПНЫЙ МИР?

Пац.: ЧТО ВЫ ЗНАЕТЕ О ПРЕ­СТУПНОМ МИРЕ?

Док • Я НЕ ЗНАЮ ПРО ПРЕ­СТУПНЫЙ МИР НО КОГДА Я УПОМИНАЛ О НЕМ, Я ДУМАЛ, ЧТО У ВАС С НИМ ЕСТЬ КА­КОЙ-ТО КОНТАКТ И ИМЕННО ОБ ЭТОМ ХОТЕЛ БОЛЬШЕ УЗ­НАТЬ

Пац.:СТАРАЙТЕСЬ ИЗБЕГАТЬ ПРЕСТУПНОГО МИРА

зий. Мы не знаем, действует ли он про­тив или этот преступный мир на его сто­роне.

Этот вопрос работает не слишком хоро­шо.

Это вроде уклончивости от моей уклончи­вости. В моей практике это обычно для паранойи. Довольно характерный признак.

Это определенно похоже на паранойю. Это похоже на то, что я Я связываю с жела­нием выкрутиться. Избегает прямых от­ветов или вдается в детали. Подозритель­но относится к моим вопросам. Я уже включен в систему делюзий пациента.

Интервью В

Комментарий эксперта

Док.: Я ПРЕДСТАВЛЯЮ, НА­СКОЛЬКО ВЫ ИСПУГА­НЫ. МОЖЕТЕ ВЫ СКА­ЗАТЬ МНЕ НЕМНОГО О ТОМ, КАК ВАС УГНЕТА­ЮТ?

Пац.:ОНИ ПОСЛАЛИ ВСЕХ ЭТИХ АНГЕЛОВ ИЗ АДА СЮДА И ОНИ БЫ­ЛИ У МЕНЯ ЗА СПИ­НОЙ ПОСЛЕДНИЕ ШЕСТЬ МЕСЯЦЕВ.

Док.:ЧТО ВЫ ИМЕЕТЕ В ВИДУ, КОГДА ГОВОРИ­ТЕ, ЧТО ОНИ ПОСЛА­ЛИ АНГЕЛОВ ИЗ АДА СЮДА?

Было бы важно знать, это действительно правда, или преувеличение, или делюзия? Похоже, он поглощен угрозой жизни и не желает говорить о чем-то еще, кроме уг­розы от ангелов из ада.

Искусственный интеллект 519

Паи,: ИЗ РАЗЛИЧНЫХ СЕК­ТОРОВ ШАЙКИ МОТО­ЦИКЛИСТОВ. МНОГИЕ ИЗ НИХ СВЯЗАНЫ С СЕРВИСОМ.

Док.: ВЫ ХОТИТЕ СКАЗАТЬ, ЧТО ЧУВСТВУЕТЕ СЕ­БЯ В ОПАСНОСТИ ДАЖЕ ЗДЕСЬ В БОЛЬ­НИЦЕ?

Паи,: ДА.

Док.: ЭТО ДОЛЖНО БЫТЬ ДЕЙСТВИТЕЛЬНО УЖАСНО. ВЫ ПРИ­ШЛИ СЮДА В ГОС­ПИТАЛЬ ЗА ПОМО­ЩЬЮ И ВСЕ-ТАКИ ИС­ПУГАНЫ

Пац.: Я ДАЖЕ БОЛЬШЕ НЕ МОГУ ДОВЕРЯТЬ МОЕ­МУ ДОКТОРУ.

Док.:ЧЕМ ВАМ МОЖНО БЫЛО БЫ СЕЙЧАС ПО­МОЧЬ?

Несколько расплывчатая тревожность

Если это правда происходило с ним рань­ше, то это должно быть очень пугающая ситуация для пациента.

Несколько усиливающееся ощущение, что этот человек параноик. Действительно испуган и не может больше рассчитывать на помощь.

Результаты показывают, что в очень специализированной обстановке эта модель "неотличима" от реального пациента. Конечно, можно справед­ливо утверждать, что условия этого эксперимента были придуманы, что действительный диагноз паранойи включает множество интервью лицом к лицу с пациентом и что, если бы эксперты знали реальную суть задачи, их интервью были бы другими. Хотя Колби и др. успешно запрограммирова­ли компьютер отвечать довольно похоже на параноидного пациента и эта программа прошла своего рода тест Тюринга, она очень далека от полной модели, способной генерировать и понимать язык.

Несмотря на то, что некоторые из бесед этого компьютера достаточно хороши, чтобы обманывать некоторых людей некоторое время, они не спо­собны обманывать всех людей все время. Они терпят неудачу не из-за недостатка памяти на слова, которая почти неограничена, и не из-за недо­статочной способности генерировать значимые предложения, которая об­ширна, а из-за недостаточного понимания используемого языка.

В начале 50-х многие думали, что компьютеры сильно помогут при переводе с языка на язык. Просто загрузить в компьютер словарные экви­валенты (например, necklace= ожерелье, cioth= сукно, notebook= запис­ная книжка, pink= розовый и т.д.), ввести один язык и получить на выходе другой. Однако, даже если делается перевод один к одному в контексте синтаксической информации, результаты получаются довольно странные. Например, когда пассаж из Библии 'The spirit is willing, but the flesh is

Мышление и интеллект - естественный и искусственный 520

weak" ("Стремится дух, да плоть слаба") перевели на русский, а затем обратно на английский, то получилось - "Вино было приятным, но мясо протухло". Только представьте себе, что было бы с международными от­ношениями, если бы госдепартамент вздумал использовать подобных элек­тронных переводчиков.

Опыт использования подобных примитивных программ перевода и раз­витие психолингвистики изменили наше представление о языке. В преды­дущем примере русские и английские слова были эквивалентны, и синтак­сис в обоих языках правилен. Но смысл двух предложений получился разным. Операции в нашем естественном языке ограничены различными правилами, определяющими последовательность грамматических компо­нентов и значение всей последовательности. Эти правила содержат слож­ные отношения, которые начинают подвергаться анализу. Компьютерный анализ процессов естественного языка выражается в разработке систем, способных "понимать" язык. Некоторые довольно сложные "понимающие" программы, основанные на концептуальной базе языка, разработали Шенк и др. (Schank, 1972, 1982; Schank and Hunter, 1985; Anderson, 1975; Anderson and Reiser, 1985; Wilks, 1973; Winograd, 1972, 1981, 1985). Эти системы могли анализировать как контекст рассуждения, так и значение слов, а в некоторых случаях и "знания о мире" (Виноград). Анализатор синтаксиса определяет наиболее вероятный анализ и интерпретацию пред­ложения.

У ранних языковых систем знания о мире и способность к выводам были ограничены, поэтому их способность подражать человеческому раз­говору была также ограниченной. В речи людей то, что не говорится, столь же важно для эффективного сообщения, как и то, что говорится. В разумной человеческой деятельности присутствуют все виды умозаключе­ний — и не только при обработке языка, но и при других видах деятельно­сти, таких как зрительное восприятие. Нам не обязательно видеть частич­но скрытый объект полностью, чтобы заключить, что он существует в целом виде. Даже частичных и вторичных признаков достаточно для вклю­чения целой серии ответных реакций: если я иду через лес, зная, что в нем есть ядовитые змеи, то звука шуршащих листьев достаточно, чтобы я замер на месте. Ден и Шенк сделали хороший обзор попытки в области ИИ учесть роль процессов умозаключения в человеческом интеллекте (Dehn and Schenk, 1982).

Еще один аспект понимания привлек внимание исследователей ИИ — это понятие об "убеждениях". Рассмотрим следующий пример из Дена и Шенка:

Вчера я вернулся домой после 2 часов ночи. Ну, приятель, и дала мне жена.

Я не стал бы утверждать под присягой, что приход домой в 2 часа но­чи — это наказуемое действие, но будет справедливо заключить, что боль­шинство людей понимают, что то, что дала эта жена своему мужу, вовсе не было выражением любви. Ничего, что этот вывод может быть абсолют­но неверен. (Например, этот муж мог работать в своей лаборатории и только что открыть средство от рака, которое принесло бы его семье славу и деньги; или он мог прийти домой слишком рано!) Мы говорим о том, что большинство людей понимают из этой простой истории, и чего не понима-

Искусственный интеллект 521

ют большинство компьютерных программ. Чтобы программа поняла эту историю, нужна не только обширная память для идиом (а иначе как по­нять выражение "дала мне"), но также некоторое представление о прихо­дах и уходах мужей и о том, каковы убеждения и отношения жен к таким выходкам.

Некоторые ученые предприняли попытку разработать компьютерные программы, отражающие политические убеждения. Одна такая программа была разработана Карбонеллом (Carboneil, 1979) с целью продемонстри­ровать политические убеждения американских консерваторов и либера­лов в отношении целей Соединенных Штатов, Советского Союза и стран Третьего мира и оценку ими этих целей. В примере показан диалог с "консервативной" и с "либеральной" программами.

Входной текст: Советский Союз сосредоточил войска на чешской границе.

Диалог с консерватором:

В: Почему Советский Союз делает это?

О: ПОТОМУ ЧТО СОВЕТСКИЙ СОЮЗ ДУМАЕТ, ЧТО, ПОСЫЛАЯ ВОЙС­КА, ОН МОЖЕТ ВЗЯТЬ ПОЛИТИЧЕСКИЙ КОНТРОЛЬ НАД ЧЕХОСЛО­ВАКИЕЙ.

В: А что делать Соединенным Штатам?

О: СОЕДИНЕННЫЕ ШТАТЫ ДОЛЖНЫ ПРЕДПРИНЯТЬ ВОЕННОЕ ВМЕ­ШАТЕЛЬСТВО.

Диалог с либералом:

В: Почему Советский Союз делает это?

О: ПОТОМУ ЧТО СОВЕТСКИЙ СОЮЗ ХОЧЕТ УВЕЛИЧИТЬ СВОЕ ПОЛИ­ТИЧЕСКОЕ ВЛИЯНИЕ НА ЧЕХОСЛОВАКИЮ.

В: А что делать Соединенным Штатам?

О: СОЕДИНЕННЫЕ ШТАТЫ ДОЛЖНЫ ОСУДИТЬ СОВЕТСКИЕ ДЕЙСТВИЯ В ООН.

Конечно, можно утверждать, что ответы этой программы стереотипны и что мнения и либералов, и консерваторов сильно варьируют; однако, важно, что эти программы и другие, созданные Флауверсом, МакГвайром и Бирнбаумом (Flowers, McGuire, and Birnbaum, 1982), отражают опреде­ленный реальный прогресс в разработке "понимающих" машин.

Программа Винограда ШРДЛУ (см. текст в рамке на с. 523 - 524) открыла новые горизонты в ранних исследованиях ИИ, поскольку это была рабочая диалоговая программа, предусматривающая разумное взаимодей­ствие человека и машины (например, определение отношений между иг­рушечными блоками). Однако, ШРДЛУ была несовершенна. Впоследствии Виноград включил в свою разработку основные речевые действия (Win-ograd, 1981, 1985). Речевые действия — это такие вербальные высказыва­ния, которые обычно происходят в социальном контексте. Принять в рас­чет "сферу человеческого действия и взаимодействия", выразив ее рече­вых актах, значило открыть новый взгляд в области ИИ. Предположим, вас попросили сходить на концерт, предназначенный для местной аудито­рии. Вы отвечаете: "Да, я был бы рад пойти". Ваш ответ означает согла-

Мышление и интеллект - естественный и искусственный 522

ШРДЛУ (SHRDLU)

Во время своей работы в МТИ и в рамках проекта понимания естественного языка Терри Виноград из Стенфордского универ­ситета разработал программу, которую он назвал SHRDLU. Вы понимаете естествен­ный язык, не особенно о нем раздумывая. Если бы вы задумались о нем больше, ваше понимание, возможно, споткнулось бы,— точно так, как вы стали бы спотыкаться при ходьбе, если бы раздумывали над каж­дым движением. Как же тогда можно сде­лать робота для "ходьбы", или "мышле­ния", или понимания естественного язы­ка? Виноград не знает ни того, ни другого, но продолжает над этим работать; его на­стоящий проект называется "Язык пред­ставления знаний" (KRL), a SHRDLU была одной из первых программ, при помощи ко­торой робот мог отвечать на вопросы, ис­полнять команды и воспринимать инфор­мацию на английском языке. Он не мог видеть, но мог "определять положение" предметов в заданных X-Y координатах. Он мог "передвигать" предметы. Вот диалог между Виноградом (жирный шрифт) и SHRDLU (большими буквами), снабжен­ный комментариями Маргрет Воден (кур­сив).

1. Подними большой красный блок*

ОК.

Система отвечает "OK"', когда она выполняет команду. Чтобы взять крас­ный блок, она должна освободить его, найдя место для зеленого блока и убрав его. (На Рисунке изображено начальное состояние.)

Возьми пирамиду.

Я НЕ ПОНИМАЮ, КАКУЮ ПИРАМИДУ ВЫ ИМЕЕТЕ ВВИДУ.

В сцене есть три пирамиды, поэто­му программа не делает ничего.