Технологии с «человеческим лицом»: социальные роботы рядом
Люди нередко называют Дмитрия Ицкова сумасшедшим, но как бы то ни было, крайним сроком реализации своего проекта он называет 2045 г. К этому времени, по его мнению, будет налажено «поточное производство недорогих аватаров, внешне похожих на живых людей, в которые можно будет загрузить все содержимое человеческого мозга вплоть до мельчайших деталей личности и сознания»1, говорится в статье The New York Times.
Сегодня «Россия-2045» в основном существует только в голове у Ицкова, молодого российского олигарха, и, кроме того, проект принимает форму его собственной — Ицкова — головы. Робототехническая компания конструирует копию головы и лица Ицкова, оснащенную 36 моторчиками, работа которых должна воспроизводить на механическом лице человеческую мимику. Загрузка собственного сознания представляется Ицкову более сложной задачей. Однако он неколебимо верит в то, что производство работоспособных аватаров, которые смогут даже переживать эмоции, поможет победить голод и вообще всякую неустроенность. «Нам больше не нужны будут жилища, — говорил Ицков в своем интервью журналу Forbes в 2013 г. — Отпадет нужда в тех ресурсах, которые мы поглощаем сегодня. Это тело не будет нуждаться в пище. Здравоохранение станет заниматься ремонтом искусственного тела, а не биологической системы»2. А в связи с тем, что сознание будет перемещено в искусственную оболочку, которую теоретически можно ремонтировать бесконечно, воплотится мечта человечества о вечной жизни3.
Идея очеловечивания машин — копирование жизни — давно влечет Ицкова и многих других футурологов. Может ли движение в этом направлении определить то, как мы будем взаимодействовать с компьютерами в будущем? Даже несмотря на бум экранной индустрии и рост доступности технопротезов для зрения, слуха и осязания, сохраним ли мы желание создавать очеловечивающие технологии? Думаю, да. Именно поэтому идея социального робота кажется столь захватывающей, но, с другой стороны, подобно смартфонам, придание машинам человеческих черт является тупиковой ветвью развития интерфейса между человеком и компьютером.
По нашему образу и подобию
Что вы представляете себе, когда слышите слово «робот»?
Эдакого гуманоида с причудами, правильно? Несколько нелепого, как C-3PO — застенчивый робот из «Звездных войн». Или вы представляете себе его предшественницу Марию из «Метрополиса», фильма Фрица Ланга 1927 г. У вас перед глазами машина приблизительно человеческих пропорций (размером не с дом и не с таракана), она понимает ваш язык и выговор, верно толкует жесты и может говорить и жестикулировать в ответ. Робот может передвигаться на двух ногах, как и вы.
Само слово «робот» придумал чешский писатель и драматург Карел Чапек, когда писал свою пьесу «Россумские универсальные роботы» или «Р. У. Р.». Согласно Оксфордскому словарю английского языка, слово восходит к чешскому «robota» — принудительный труд, изнурительная каторжная работа4. Ему родственно русское слово «раб».
Идея робота — это самое давнее и устойчивое представление о способе взаимодействия человека и машины. Еще древние греки задумывались об искусственных людях и других существах в облике машин — Герон Александрийский, живший в I в. н.э., якобы сконструировал механическую птицу-эолипил[9], которая приводилась в действие паровым двигателем его собственного изобретения. Герону, помимо прочего, приписывается также изобретение принципа торгового автомата с монетоприемником. Аристотель проявлял интерес к идее робототехники, размышляя о том, как было бы удобно, «если бы каждый инструмент мог выполнять свойственную ему работу сам или по данному ему приказанию, может быть, даже его предвосхищая». Появись такие инструменты, полагал Аристотель, «архитекторы не нуждались бы в рабочих, а господам не были бы нужны рабы»5.
Возможно, именно первого робота сконструировал в 1495 г. Леонардо да Винчи в виде рыцаря в доспехах. Согласно изысканиям Марка Эллинга Рошхайма, автора книги «Забытые роботы Леонардо да Винчи», этот рыцарь, находясь в сидячем положении, мог совершать хватательные движения, поворачивал голову и поднимал забрало, вероятно, чтобы напугать противника страшной гримасой6. Робот, изобретенный Леонардо, был удивительно устроен. Он функционировал с помощью элегантной в своей простоте системе тросов и противовесов. Она располагалась у него в груди, «тросы выходили через спину или основание и приводили его в движение, заставляя двигать конечностями, подниматься или садиться, повинуясь действиям оператора или работе водяного колеса»7.
Развитие робототехники всегда сопровождалось нравственными и этическими дилеммами, вращающимися вокруг вопроса стирания границы между человеком и машиной. Известный фантаст Айзек Азимов попытался решить этот вопрос, сформулировав в своем рассказе «Хоровод», изданном в 1942 г., «три закона робототехники»:
1. Робот не может причинить вред человеку или своим бездействием допустить, чтобы человеку был причинен вред.
2. Робот должен повиноваться всем приказам, которые дает человек, кроме тех случаев, когда эти приказы противоречат первому закону.
3. Робот должен заботиться о своей безопасности в той мере, в которой это не противоречит первому и второму законам8.
Разработчики отнюдь не всегда следуют законам Азимова. Беспилотники, наиболее впечатляющий и широко используемый тип робототехники сегодня, нарушают все три постулата. Они созданы для убийства и причинения вреда человеку (первый закон), они повинуются приказам, которые подразумевают нанесение вреда человеку (второй закон), и заботятся о своей безопасности только для того, чтобы и дальше нарушать первые два закона (третий закон).
В кино, однако, роботы часто изображаются в положительном ключе — так, словно подчиняются законам Азимова. C-3PO из «Звездных войн» — преданный помощник, незаменимый и универсальный, как швейцарский перочинный нож. Другие образы человекоподобных роботов построены на неспособности машин к эмоциям и обладанию личностью, на идее, что наше главное отличие от машин и уникальное свойство состоит в наличии души. Например, страх человека перед превращением в нечто механическое отражен в образе искусственных людей, появляющихся из огромных стручков в фильме «Вторжение похитителей тел».
Мысль о стирании границы между человеком и машиной может щекотать нервы и даже пугать. В культовом фильме Ридли Скотта «Бегущий по лезвию», снятом по мотивам романа Филиппа Дика, изображен целый социальный класс гуманоидных репликантов — человеческих клонов, созданных злодейской Tyrell Corporation, чтобы работать на подрядчиков, заселяющих космические колонии. Репликанты превосходят людей по многим параметрам, но неспособны на проявление настоящих эмоций. У каждого из них имеется фиксированный четырехлетний срок жизни, а в связи с тем, что они очень схожи с людьми и по природе своей жестоки, все они обречены жить в удаленных космических колониях, и посещать нашу ненаглядную планету им строго запрещено. Когда четыре экземпляра последней модели Nexus-6 сбегают из колонии на Землю, на охоту за ними отправляют «бегущего по лезвию», который как раз собрался уйти на покой, — эту роль в фильме исполняет Харрисон Форд (время действия — 2019 г., нам недолго осталось ждать…).
Один из беглых репликантов — женщина-андроид с непростым характером и модельной внешностью по имени Прис («базовая модель для удовольствия») попадает в руки к Себастьяну, дизайнеру-генетику компании Tyrell. Выясняется, что Себастьян создал сотни репликантов для собственных нужд, в основном чтобы скрасить одиночество и использовать как сексуальных партнеров. В фильме «Она» режиссер Спайк Джонс представляет картину глубоко личных взаимоотношений между человеком и операционной системой, которая не имеет телесного облика и существует в виде гарнитуры. Во всех этих фильмах фигурируют человекоподобные машины, обладающие яркой личностью и играющие роли пусть и не вполне человеческие, но глубоко интегрированные в общество. У Себастьяна есть собственное небольшое племя из бракованных и недоделанных друзей. Их причудливые изъяны отчетливо высвечивают механическую природу, но в то же время делают их по-своему очаровательными, ведь именно из-за своего несовершенства они нуждаются в защите и опеке, в точности как дети.
Неотения: сила умиления
Индустрия очеловеченных технологий нередко использует привлекательность детских черт и внешних атрибутов младенчества. Разработчики всегда думают о том, как люди будут взаимодействовать с продуктом, особенно если это вещь или услуга повседневного пользования. Как сделать так, чтобы люди эмоционально привязывались к вещам? Одна из уловок, которой пользуются дизайнеры, ответственные за облик роботов, игрушек и сотен других вещей, — это эффект умиления, реакция людей на неотению. Неотения в социальном смысле — это внешние признаки, отличающие детей от взрослых: например, большие немигающие глаза с расширенными зрачками и непропорционально большая голова9.
Тот факт, что неотения почти всегда вызывает у людей позитивный отклик, уже давно доказан множеством исследований, как академических, так и маркетинговых. Об этом эффекте рассказывают Байрон Ривз и Клиффорд Насс в своей книге «Уравнение медиа, или Почему люди обращаются с компьютерами, телевизорами и новыми медиа так, будто это живые люди». Согласно их изысканиям, всем нам свойственно бессознательно приписывать неодушевленным объектам человеческие свойства, если они проявляют какие-то внешние признаки жизни. В аннотации к своей книге «Человек, который обманывал свой ноутбук», размещенной на сайте Стэнфордского университета, Клиффорд Насс выдвигает теорию, дающую почву для размышления. «Фундаментальное свойство человеческого разума состоит в том, что мы не в состоянии провести границу между людьми и техникой. Мы можем стараться “не задевать чувства” компьютера, можем быть польщены подхалимским поведением какой-то программы и даже симпатизировать ей, если она нам симпатична. И все это происходит совершенно бессознательно»10.
Людям свойственно привязываться к вещам и приписывать им какие-то личностные характеристики. Нам не требуется слишком много для того, чтобы начать обращаться с неочеловеченным объектом как с человеческим существом. Устройству достаточно иметь подмигивающий диод, телесный изгиб корпуса и решетку вентилятора в форме улыбки, и мы уже приписываем ему какую-то живую индивидуальность. Он сразу кажется заслуживающим доверия, непоседливым, высокомерным, дружелюбным. Если механизм обладает способностью самостоятельно передвигаться, мы уже ждем от него разумности. Как говорит Шерри Теркл, социолог из Массачусетского технологического института, «добавь им еще лицо, и мы пропали».
Один небольшой пример подтверждает эту теорию: сотни записей в блогах свидетельствуют о том, что людям свойственно развивать личную привязанность к своим роботам-пылесосам Roomba. Может быть, дело в изгибе корпуса, похожем на улыбку, или в бестолковом упорстве, с которым он выполняет свою работу, беспрестанно натыкаясь на предметы мебели. Может быть, дело в том, как он крутится на месте с жужжанием, похожим на мурлыкань е. Как бы то ни было, перед его очарованием сложно устоять.
Дизайнеры из автомобильной индустрии принимают этот фактор во внимание, особенно когда речь заходит об облике «лица» машины. Посмотрите на эволюцию дизайна серии BMW 3. Какой «характер» у модели 1968 г.? С ее круглыми, широко раскрытыми глазами-фарами, широкой улыбкой бампера, вздернутым носом11 решетки радиатора, высоким лобовым стеклом и словно босыми ступнями шин? А какой характер у модели 2006 г.? Наверное, на ум приходит кто-то более сдержанный, зрелый, менее дружелюбный.
Учитывая нашу высокую восприимчивость к любому намеку на присутствие характера в вещи, можно ожидать, что в будущем наше взаимодействие с техникой будет еще более имитировать человеческие отношения, мы будем устанавливать личные связи с компьютерами, даже если они не выполнены в традиции роботов-гуманоидов. Мы уже строим выводы о том, каков характер у множества неочеловеченных предметов — инструментов, игрушек, домашней утвари, машин, даже домов, — и видим в них улыбки, хмурые взгляды, проявления злобы или радости. Я думаю, нас ожидает множество новых решений, основанных на личных отношениях с машинами, — механические репетиторы, психоаналитики, тренеры; мы будем отправлять роботов за покупками и слушать их шутки.
Я расспрашивал Шерри Теркл о роботе из ее лаборатории по имени Kismet, созданном специально для исследований в области социальных роботов. Kismet обладает выразительными глазами с огромными зрачками, длинными ресницами, подвижными веками и взглядом, намеренно копирующим человеческий, а точнее — детский. Он следит за вашими глазами и смотрит на то, что привлекает ваше внимание. Эффект, по мнению Шерри, потрясающий. Сидя напротив Kismet, вы быстро к нему привязываетесь. Вам скоро начинает казаться, что вы читаете на его лице эмоции и намерения, угадываете его планы и чувствуете, что машина искренне заботится о вас.
Принцип взаимности
Подход к робототехнике, задействованный при создании Kismet, поднимает важный вопрос: какими будут последствия взаимодействия с очеловеченной технологией для нас? В социальной психологии (и с общепринятой точки зрения) принцип взаимности подразумевает, что наше отношение к посторонним влияет на то, как посторонние ведут себя с нами в ответ. Это краеугольный камень любых правил поведения в обществе. На добрый привет — добрый ответ. Однако применим ли принцип взаимности к роботам?
И снова у Клиффорда Насса из Стэнфорда находим пример в одном из его исследований. В 1996 г. он проводил эксперимент, в ходе которого пытался выяснить, как люди воспринимают роботов, способных на ответную реакцию. В ходе исследования испытуемые гораздо охотнее выполняли утомительное и сложное задание, если имели дело с компьютером, проявлявшим предупредительность. Результаты эксперимента подтверждают, что мы склонны строить свои отношения с машинами по образцу межличностных.
Исследователи пробовали и другие подходы к изучению природы взаимоотношений между роботами и людьми. Кристоф Бартнек, например, провел роботизированную версию знаменитого эксперимента Милгрэма. В изначальной версии испытуемые Милгрэма постепенно увеличивали напряжение в электрошокере, подсоединенном к незнакомому человеку. Его страдания (на самом деле ненастоящие, как и электрошокер) не останавливали испытуемых, если исследователь продолжал подталкивать их к увеличению напряжения. В эксперименте Бартнека вместо актера фигурировал робот-кошка. Испытуемым предлагалось сыграть в игру на компьютере, в то время как робот просто сидел рядом. Одной группе испытуемых достался робот, проявлявший некоторое участие, а другой группе — равнодушный. Как только игра заканчивалась, предлагалось выключить робота. Вся загвоздка заключалась в том, что робот не хотел, чтобы его выключали, и начинал молить о пощаде. Естественно, испытуемые заволновались. Им было, конечно же, неприятно, ведь у них было такое ощущение, будто им предлагается убить кошку. Особенно неохотно нажимали на кнопку «Выкл.» те, кому достался участливый робокот.
Падая в зловещую долину
Почему это важно? Особенности нашего отклика на неотению и то, с какой легкостью мы поддаемся очарованию вещей, обладающих хотя бы намеком на индивидуальность, подводят нас вплотную к основной проблеме социальной робототехники: теории «зловещей долины».
Многие из нас хоть раз мечтали об обладании двойником, допельгангером[10], нашей копией-роботом, но чем ближе мы подходим к воплощению этой мечты, тем менее привлекательной она становится. Если бы мы были в состоянии создать идеальную копию человека, обладающую всеми навыками общения, человеческой логикой, памятью и эмоциональными переживаниями, проблема взаимодействия человека с компьютером была бы решена. Нам даже не пришлось бы называть это интерфейсом типа «человек-компьютер», ведь конструируя такого допельгангера, мы бы фактически создавали интерфейс «человек-человек».
Однако идея такого копирования человека может оказаться в корне ошибочной. В 1970 г. специалист в области робототехники Масахиро Мори ввел в обиход термин «зловещая долина». Он полагает, что чем ближе человекоподобные роботы становятся к своему прообразу, тем более неприемлемыми, даже пугающими кажутся всякие несовпадения и недостатки. У нас не возникает такой проблемы с индустриальными роботами или С-3PO, поскольку их механическая природа заведомо очевидна. Они не угрожают нашему восприятию самих себя. Но ведь и Франкенштейн уже близок к тому, чтобы быть копией человека. Он, по большей части, состоит из человеческой плоти и крови. Однако все неестественные компоненты — болты в шее, швы на лбу, неуклюжая медвежья походка — делают его пугающим. Мори заключает, что всякая попытка создать робота, точно копирующего человеческие черты, заведомо обречена на провал.
Мощный посыл этого предостережения, однако, не остановил сторонников очеловечивания машин. В 2000 г. Honda представила Азимо — «самого совершенного человекоподобного робота в мире», и он явно находится на самом краю «зловещей долины». У него удивительно человеческая пластика, он может прыгать на одной ножке и бегать упругим шагом со скоростью 9 км/ч на полусогнутых ногах. Азимо может взять бутылку, открутить крышку и налить воды в стакан. Он умеет ходить в толпе, не врезаясь в людей, может пожать руку и обладает естественной жестикуляцией. Если бы не шаровые крепления на месте суставов, то можно было бы подумать, что на самом деле под пластиковым корпусом находится маленький человек. Деталь, благодаря которой Азимо все же не проваливается в «зловещую долину», — это его лицо. Лица нет, только пустая темная панель.
Азимо — прекрасный пример «смешения категорий». Нам не нравится, когда природа окружающих нас вещей неясна. Именно поэтому нас смущает расплывчатость в вопросах гендерной принадлежности (помните Пэт — андрогинного персонажа из программы SaturdayNightLive?[11]). По той же причине мужчины и женщины в большинстве своем стараются подчеркнуть различия при помощи одежды, прически, макияжа, поз и жестикуляции. Андрогиния угрожает нашим стереотипам восприятия и вызывает конфликт категорий, сопровождающийся чувством тревоги.
Очевидный вопрос — хотели бы вы, чтобы Азимо жил у вас дома? Он занимает столько же места, столько обычный человек (даже если не врезается в вас в коридоре), но не способен на настоящее человеческое общение. Он выполняет задания, которые кажутся фантастическими для робота, но являются элементарными для человека, и был бы бесполезен в домашнем хозяйстве. Тем не менее опыт взаимодействия с таким человекоподобным «живым» роботом оставляет впечатление настолько яркое, что невольно заставляет задуматься об уникальности рода человеческого. Он вызывает в нас чувство тревоги. «Недочеловечность» Азимо пробуждает недоверие, смущение и выглядит как попытка соперничества. То, что он выглядит как человек, еще не означает, что мы знаем, как он себя поведет в следующий момент. Весь наш опыт человеческого общения неприменим к нему и бесполезен. А стоит ли жать ему руку? Вдруг он пнет меня своей пластиковой ногой, если я подойду слишком близко?
Продвинутый человекоподобный робот, настоящий андроид, — это человек во всем, кроме главного: сердца, души и разума. Теория «зловещей долины» объясняет, почему нам легче привязаться к марионетке из кукольного театра, чем к неважной копии человека, — вам бы хотелось подружиться с манекеном? Пустое копирование человеческого облика не прощает несовершенств, в отличие от робота-собаки или милого механического динозавра Pleo — они могут быть даже симпатичными. Будущее робототехники именно в веселых игрушках Ферби, роботах-собаках вроде AIBO компании Sony или специализированных роботах вроде пылесоса Roomba и робота-полотера Scooba.