Должны ли мы строить интеллектуальные машины?

В течение двадцать первого столетия интеллектуальные машины должны выйти из области научной фантастики и стать фактом. Прежде чем мы приступим к этому, мы должны подумать об этических вопросах, не превзойдет ли опасность интеллектуальных машин их возможные преимущества?

Перспектива машин, которые могут думать и действовать сами по себе, волновала людей многие годы. Это понятно. Новые области знания и новые технологии всегда пугали людей, когда только-только появлялись. Человеческое творчество позволяет нам вообразить ужасные пути, на которых новая технология может унаследовать наши тела, переоценить наше предназначение, или перечеркнуть саму ценность человеческой жизни. Но история показывает, что такие мрачные картины почти никогда не идут по тому пути, как мы ожидаем. Когда начиналась индустриальная революция, мы боялись электричества (помните Франкенштейна?) и паровых машин. Машины, которые обладают своей собственной энергией, которые могут вести себя сложным образом, кажутся сверхъестественными и в то же время потенциально зловещими. Но электричество и энергия внутреннего сжигания больше не кажутся странными и зловещими. Они такая же часть нашего окружения, как воздух и вода.

Когда началась информационная революция, вскоре возник страх перед компьютерами. Было бесчисленное множество научно-фантастических произведений о мощных компьютерах или компьютерных сетях, которые внезапно сознавали себя и затем оборачивались против своих органических хозяев. Но сейчас, когда компьютеры стали интегрированными в повседневную жизнь, этот страх кажется абсурдным. У Компьютер у вас дома, или Интернет имеют такие же шансы спонтанно обернуться сознательными, как и кассовый аппарат.

Конечно, любая технология может быть применена с добрым или злым умыслом, но некоторые более предрасположены к злоупотреблению или трагическому исходу, чем другие. Атомная энергия опасна, воплощена ли она в ядерной боеголовке или на электростанции, потому что единственная катастрофа или единственное злоупотребление может искалечить или убить миллионы людей. И хотя ядерная энергия очень полезна, ей имеются альтернативы. Транспортные технологии могут принять форму танков и истребителей, или может принять форму автомобилей и пассажирских самолетов, и несчастный случай или злоупотребление могут навредить множеству людей. Но транспортные средства возможно и более присущи современной жизни и менее опасны, чем ядерная энергия. Разрушения, вызванные одиночным злоупотреблением самолета гораздо меньше, чем ядерной бомбы. Есть множество технологий, которые в основном полностью благотворны. Например, телефон. Его тенденция соединять людей превышает любые негативные эффекты. То же самое для электричества и здравоохранения. По моему мнению, интеллектуальные машины будут одной из наименее опасных из технологий, наиболее благотворной технологией, которую мы когда либо разрабатывали.

Тем не менее, некоторые мыслители, наподобие Билла Джоя, одного из соучредителей Sun Microsystems, опасаются, что мы можем разработать интеллектуальных роботов, которые могли бы избежать нашего контроля, кишели бы по Земле, и переделали бы ее в соответствии с их собственными намерениями. У меня в воображении возникает картинка тех живых метелок из Sorcerer's Apprentice, регенерирующих себя из своих щепок и неустанно делающих все, чтоб привести к катастрофе. Аналогичным образом, некоторые оптимисты ИИ предлагают тревожащие пророчества. К примеру, Рей Курцвейл говорит о дне, когда нанороботы проберутся в ваш мозг, запишут каждый синапс и каждое соединение, и затем передадут всю информацию суперкомпьютеру, который реконфигурирует себя в вас! Вы станете «программной» версией самого себя, которая станет практически бессмертна. Эти два предсказания о машинном интеллекте, сценарий обезумевающих интеллектуальных машин и сценарий загрузки мозга в компьютер, кажутся на первый взгляд очень жуткими.

Построение интеллектуальных машин – это не то же самое, что построение само копирующихся машин. Между ними нет какой бы то ни было логической связи. Ни мозг ни компьютер не могут напрямую само копироваться, и мозгоподобная система памяти не отличается от них. Пока одним из достоинств интеллектуальных машин будет наша способность их массового производства, мир избежит из самокопирования на манер бактерий или вирусов. Самокопирование не ведет к интеллекту, и интеллект не ведет к самокопированию.

Более того, я серьезно сомневаюсь в том, что мы когда либо сможем скопировать наш разум в машину. Сейчас, насколько мне известно, нет действительных или воображаемых методов, способных записать триллионы деталей, составляющих ваше «Я». Нам потребуется записать и воссоздать все части нервной системы и тела, не только неокортекс. И нам необходимо будет понять, как все это работает. Однажды, мы определенно сможем сделать это, но проблемы уходят далеко за понимание того, как работает кортекс. Понимание неокортикального алгоритма и встраивание его в машины с нуля - это одно, но сканирование в несметном количестве деталей живого мозга и воспроизведение этого в машине – это совсем другое.

* * *

После упоминания о саморепликации и копировании разума, у людей возникает другое отношение к интеллектуальным машинам. Могут ли интеллектуальные машины как то угрожать большой популяции людей, как ядерная бомба? Может ли их присутствие привести к захвату полномочий небольшой группой злых людей? Или могут ли машины стать злыми и обернуться против нас, подобно безжалостным негодяям из фильмов Терминатор или Матрица?

Ответ на эти вопросы отрицательный. Как информационные устройства, мозгоподобные системы памяти должны стать в число наиболее полезных технологий, которые мы когда либо разрабатывали. Но подобно автомобилям и компьютерам, они всего лишь инструмент. Всего лишь обретение интеллектуальности совершенно не обозначает обретение способностей к разрушению имущества или манипулированию людьми. И точно также, как мы не доверили бы контроль над ядерным арсеналом одному человеку или одному компьютеру, мы должны будем проявить осторожность и не полагаться слишком на интеллектуальные машины.

Это приводит нас к вопросу недружелюбия. Некоторые люди полагают, что быть интеллектуальным – это в основном то же самое, что иметь человеческий разум. Они боятся, что интеллектуальные машины обидятся на «порабощение», поскольку люди ненавидят быть рабами. Они боятся, что интеллектуальные машины попытаются захватить мир, потому что интеллектуальные люди в течение всей истории пытались захватить мир. Но эти опасения основаны на ложной аналогии. Они основаны на объединении интеллекта – неокортикального алгоритма – с эмоциональными мотивациями старого мозга – страх, паранойя и страсть. Но у интеллектуальных машин не будет таких способностей. У них не будет личных амбиций. Они не будут желать богатства, общественного признания, или чувственного удовлетворения. У них не будет потребностей, склонностей или плохого настроения. У интеллектуальных машин не будет ничего похожего на человеческие эмоции, если только мы специально не заложим этого в них. Наилучшее применение интеллектуальных машин будет там, где человеческий интеллект испытывает трудности, в тех областях, в которых наши чувства неадекватны, или в деятельности, которая скучна для нас. У этих видов деятельности минимальное эмоциональное содержание.

Интеллектуальные машины будут распространены от простых систем узкого применения до очень мощных сверхчеловеческих интеллектуальных систем, но пока мы не захотим сделать их человекоподобными – они не станут таковыми. Возможно когда-нибудь нам придется установить ограничения на то, что люди могут делать с интеллектуальными машинами, но этот день очень далек, и когда он настанет, этические вопросы скорее всего будут относительно легче по сравнению с моральными вопросами настоящего времени относительно генетики и ядерной технологии.