Могут ли роботы представлять опасность?

Закон Мура (онутверждает, что производительность компьютеров удваивается каждые 18 месяцев) позволяет предположить, что через несколько десятилетий появятся роботы с разумом, скажем, собаки или кошки. Но вполне может так случиться, что к 2020 г. закон Мура перестанет действовать, а кремниевая эра подойдет к концу. Последние полвека производительность компьютеров росла такими поразительными темпами благодаря тому, что появлялись все более крохотные кремниевые транзисторы, десятки миллионов которых легко умещались на ногте. Для вытравливания этих микроскопических транзисторов на кремниевых пластинках использовалось ультрафиолетовое излучение. Но процесс микроминиатюризации не может продолжаться до бесконечности. Со временем транзисторы могут уменьшиться до размера молекул, и он автоматически прекратится. После 2020 г., когда закончится эра кремния, Силиконовая долина может превратиться в новый Ржавый пояс.

Процессор Pentium в вашем портативном компьютере имеет слои толщиной в 20 атомов. К 2020 г. толщина слоя может уменьшиться до пяти атомов. В этот момент вступит в действие принцип неопределенности Гейзенберга, и будет вообще невозможно сказать наверняка, где находится электрон. И тогда в чипе возникнут утечки электричества, а в компьютере — короткое замыкание. В этот момент компьютерная революция и закон Мура уткнутся в глухую стену — ведь законы квантовой механики обойти невозможно. (Кое-кто утверждает, что цифровая эра — это «победа битов над атомами». Но когда-нибудь, когда закон Мура перестанет действовать, атомы возьмут свое.)

В настоящее время физики работают над посткремниевой технологией, которая будет доминировать в мире компьютеров после 2020 г., но пока результаты не слишком обнадеживают. Как мы уже говорили, рассматривается несколько перспективных технологий, в том числе квантовые компьютеры, компьютеры на основе ДНК, оптические компьютеры, атомные компьютеры и т. п. Но на каждом направлении имеются громадные трудности, которые предстоит преодолеть, прежде чем технология сможет примерить на себя мантию кремниевых чипов. Технология манипулирования отдельными атомами и молекулами находится пока в зачаточном состоянии, и мы пока не в состоянии изготовить миллиарды транзисторов, сравнимых по размерам с атомами.

Но предположим на мгновение, что физики нашли способ преодолеть пропасть между кремниевыми чипами и, скажем, квантовыми компьютерами. Предположим также, что закон Мура в той или иной форме продолжает действовать и в посткремниевую эру. В этом случае искусственный интеллект действительно может стать реальностью. Тогда роботы могут овладеть человеческой логикой и эмоциями и научиться уверенно проходить тест Тьюринга. Стивен Спилберг исследовал эту тему в фильме «Искусственный интеллект»; в фильме рассказывается о том, как был создан первый искусственный мальчик, способный проявлять эмоции и пригодный поэтому для усыновления в человеческую семью.

Возникает вопрос: могут ли такие роботы представлять опасность? Наиболее вероятный ответ: да, могут. Роботы могут стать опасными, как только достигнут интеллекта обезьяны, — ведь обезьяна обладает сознанием и собственной волей. Возможно, на достижение этого рубежа уйдет немало десятилетий, и ученым хватит времени понаблюдать за роботами, прежде чем они начнут представлять угрозу. К примеру, в их процессоры можно будет помещать специальный чип, который не даст им «пойти вразнос». Или можно интегрировать в них механизм саморазрушения или отключения, который срабатывал бы в случае чрезвычайной ситуации.

Артур Кларк писал: «Может быть, мы станем для компьютеров домашними любимцами и будем, как комнатные собачки, вести беззаботное существование, но я надеюсь, что у нас всегда останется возможность в любой момент выдернуть вилку из розетки».

Более реальной угрозой представляется зависимость нашей инфраструктуры от компьютеров. Система водоснабжения и электрическая сеть, не говоря уже о связи и транспорте, в будущем станут все более компьютеризованными. Наши города уже превратились в сложнейшие организмы, и теперь для управления всей нашей инфраструктурой и ее мониторинга необходимы сложные и запутанные компьютерные сети. В будущем, чтобы все это работало, придется вводить в эти компьютерные сети искусственный интеллект. Ошибка или отказ в этой всеохватной компьютерной инфраструктуре способны полностью парализовать город, страну или даже всю цивилизацию.

Превзойдут ли компьютеры нас по разумности? Разумеется, в принципе это не запрещено никакими законами природы. Если роботы представляют собой самообучающиеся нейронные сети и если они достигли уровня развития, позволяющего им учиться быстрее и эффективнее, чем учимся мы, то логично предположить, что со временем они превзойдут нас в рассуждениях. Моравек говорит, что постбиологический мир — «это такой мир, в котором род человеческий оказался сметен волной культурных изменений и вытеснен его собственными искусственными потомками... Когда это произойдет, наша ДНК окажется никому не нужна, потому что она проиграет эволюционную гонку сопернику нового типа».

Некоторые изобретатели, например Рей Курцвейл, предсказывают даже, что это произойдет скоро, скорее, чем кажется, — возможно, в ближайшие десятилетия. Не исключено, что мы сейчас создаем своих эволюционных преемников. Кое-кто из ученых-компьютерщиков предвидит момент «сингулярности», как они это называют, — когда роботы смогут обрабатывать информацию все быстрее и быстрее, по экспоненте, и одновременно создавать новых роботов, пока наконец их коллективная способность к усвоению информации не вырастет практически до бесконечности.

Поэтому некоторые ученые в долговременной перспективе предлагают объединить углеродную и кремниевую технологии^[21], не дожидаясь нашего полного истребления. Мы, люди, основаны на углероде, роботы — на кремнии (по крайней мере в настоящий момент). Возможно, решение кроется в слиянии нас самих с нашими творениями. (Если мы когда-нибудь встретимся с инопланетянами, не стоит удивляться, если их тела окажутся частью органическими, частью механическими; так легче выдерживать тяготы космического путешествия и успешно жить во враждебной среде.)

В далеком будущем роботы или человекоподобные киборги^[22], возможно, даже подарят нам бессмертие. Марвин Мински добавляет: «Что, если Солнце погаснет или мы сами уничтожим планету? Почему не сделать лучших, чем мы сами, физиков, инженеров или математиков? Возможно, нам необходимо быть архитекторами своего будущего. Если нет, наша культура может исчезнуть».

Моравек предвидит такое время в отдаленном будущем, когда мы научимся переносить структуру своего мозга, нейрон за нейроном, прямо в машину. В определенном смысле это даст нам бессмертие. Эта мысль кажется дикой, но, вообще говоря, не выходит за пределы возможного. Так что, по представлениям некоторых ученых, в будущем человека ждет бессмертие (в кремниевой форме или в виде искусственных тел с улучшенной ДНК).

Итак, если мы сумеем преодолеть тупик, связанный с прекращением действия закона Мура, и разберемся с проблемой здравого смысла, думающие машины с интеллектом животных — а может быть, столь же умные, как мы, или даже умнее — могут стать реальностью. Возможно, это произойдет уже в конце текущего века. Хотя открыты еще не все фундаментальные законы искусственного интеллекта, прогресс в этой области идет семимильными шагами. Принимая это во внимание, я бы определил роботов и другие думающие машины как невозможность I класса.