Айзек Азимов - Мечты роботов (Сборник рассказов и эссе)

Искуственная конечность может действовать не идентично настоящей, но, однако, выполнять некоторые необходимые функции. То же самое мы скажем об искуственной почке, легком или печени. Искуственный мозг должен стать точной копией мозга, который он заменяет, или человек перестанет быть тем человеческим существом, которым он был.

Значит, самым сложным в переходе от человеческого организма к роботу является мозг.

А наоборот?

В «Двухсотлетнем человеке» я описал превращение моего героя-робота, Эндрю Мартина, в человека. Очень медленно, понемногу он менял себя, пока внешне не стал неотличим от человека. Он демонстрировал интеллект, равный человеческому (или даже превосходящий его). Он был историком, художником, ученым, администратором. Сумел провести законы, гарантирующие роботам определенные права, и завоевал всеобщее уважение и восхищение.

Однако ему так и не удалось добиться того, чтобы его считали человеком. И главная причина здесь тоже заключалась в проблеме мозга. Он понял, что должен решить эту задачу, прежде чем одолеть последний барьер.

И тут мы подходим к дихотомии тела и мозга. Настоящим киборгом следует считать такого, у которго тело и мозг не соответствуют друг другу. Значит, мы имеем две группы совершенных киборгов:

а) мозг робота в теле человека; б) мозг человека в теле робота.

Совершенно очевидно, что мы оцениваем человеческое существо (или робота) по первому внешнему впечатлению, которое он производит.

Я легко могу представить себе мужчину, который, увидев женщину поразительной красоты, с благоговением замрет на месте. «Какая красавица!» – скажет или подумает он. И без проблем представит себе, как влюбляется в нее с первого взгляда. В романах так происходит довольно регулярно. Разумеется, женщина, увидевшая потрясающе красивого мужчину, отреагирует на него точно так же.

Если вы теряете голову от восхитительно красивого человека, вряд ли вы станете задавать себе вопрос, наделила ли его (или ее) природа развитым интеллектом, хорошим характером, здравым смыслом, добротой и благородством. Если в конце концов выясняется, что красота – единственное достоинство данного человека, вы все равно найдете этому массу оправданий и будете оставаться жертвой (по крайней мере, некоторое время) условного рефлекса, который вызывает эротические реакции. Разумеется, наступит момент, когда вы устанете от прекрасной внешности без какого-либо внутреннего содержания, но кто знает, сколько должно пройти времени, чтобы это произошло?

С другой стороны, человек с огромным количеством положительных качеств, но вполне заурядной внешностью может не обратить на себя ваше внимание, если только вы не обладаете достаточно развитым интеллектом, чтобы увидеть эти качества и понять, что с данным человеком вас ждет долгая и счастливая жизнь.

Я хочу сказать, что киборг с мозгом робота в теле человека будет принят большинством, если не всеми, как человеческое существо, в то время как киборг с мозгом человека в теле робота будет рассматриваться большинством, если не всеми, как робот. В конце концов, мы все, по крайней мере для большинства, то, чем мы кажемся внешне.

Однако эти два диаметрально противоположных киборга поставят перед людьми совершенно разные проблемы.

Представьте себе мозг робота в теле человека и задайте вопрос, зачем нужен такой перенос. Мозг робота будет чувствовать себя намного лучше в теле робота, поскольку тело человека менее надежно. Возьмем, например, тело молодого здорового человека, мозг которго поврежден в результате травмы или болезни. Вы можете подумать: «Зачем пропадать такому прекрасному телу? Давайте снабдим его мозгом робота, и он сможет прожить полноценную жизнь».

Если вы так поступите, человеческое существо, получившееся в результате, не будет иметь ничего общего с изначальным. Вы будете иметь совсем другого человека. Вы сохраните не индивидуальность, а лишь определенное бездушное тело. А человеческое тело, какое угодно прекрасное, без мозга, который ему соответствует, – вещь дешевая. Каждый день на свет появляется полмиллиона новых тел. Нет никакой нужды сохрантяь какое-то из них, если поврежден мозг.

С другой стороны, как насчет человеческого мозга в теле робота? Наш мозг не вечен, но он может существовать до девяноста лет, не становясь совершенно бесполезным. Причем известно множество случаев, когда и в девяносто лет люди сохраняли остроту ума и были способны продуцировать разумные и любопытные мысли. Однако мы знаем и такие случаи, когда великолепный мозг погибал после двадцати или тридцати лет существования, потому что тело, в котором он находился, умирало в результате травмы или болезни. В таком случае выходит, что у нас есть серьезные основания для переноса абсолюьно здорового (или гениального) мозга в тело робота, чтобы продлить его полезное существование.

Таким образом, когда мы говрим «киборг», мы практически всегда думаем о мозге человека, помещенном в тело робота, и считаем получившийся результат роботом.

Мы можем сказать, что мозг человека – это мозг человека, что он главное, и не важно, где он находится, – и будем правы. Я уверен, что любой здравомыслящий суд решит, что киборг с мозгом человека должен иметь все права человека. Он может голосовать, не должен становиться рабом, и тому подобное.

Однако представим себе такое заявление, обращенное к киборгу: «Докажи, что у тебя мозг человека, а не робота, прежде чем мы позволим тебе получить все права человека».

Самый простой способ для киборга представить необходимые доказательства

– это продемонстрировать, что его не ограничивают Три закона роботехники. Поскольку они навязывают ему социально приемлемое поведение, это означает, что он должен вести себя как человек (иными словами, отвратительно). В таком случае самым простым и веским аргументом будет хорошенько врезать тому, кто задал вопрос, причем так, чтобы сломать ему челюсть, – роботу это вполне по силам. (В рассказе «Улики», который увидел свет в 1947 году, я решил прибегнуть именно к такому способу доказательства, однако должен признаться, что в моем рассказе имеется подвох.) Но если киборг должен постоянно демонстрировать грубую физическую силу, чтобы доказать, что он обладает мозгом человека, это не прибавит ему друзей.

Поэтому, даже если его и примут в обществе в качестве человека, позволят голосовать, снимать номера в гостиницах и делать прочие вещи, которые делают обычные люди, все же должны существовать определенные факторы, отличающие киборга от настоящего человеческого существа. Киборг сильнее человека, а его металлические кулаки могут представлять для нас семертельную опасность. В таком случае ему следует запретить вступать в драку с человеком даже в случае самозащиты, заниматься различными видами спорта на одном уровне с людьми и тому подобное.

Но разве обязательно помещать мозг человека в металлическое тело? А почему бы не использовать тело из керамики, пластика и разных волокон, чтобы на ощупь оно не отличалось от человеческого?

Однако я подозреваю, что проблемы киборгов все равно таким способом не решатся. Киборги будут другими. Люди все равно заметят даже совсем незначительные отличия.

Нам известно, что люди, имеющие настоящие человеческие мозги и тела, ненавидят друг друга только потому, что у них кожа или волосы разного цвета, не такой разрез глаз, другой формы нос, губы.

Нам известно, что люди, которые не различаются ни одной из физических характеристик, становящихся причиной для ненависти, могут находиться в состоянии войны друг с другом по вопросам, не имеющих никакого отношения к внешности, – я имею в виду религиозные и политические разногласия, языковые барьеры или даже гражданские войны.

Давайте посмотрим правде в глаза: серьезные трудности возникнут у киборгов в любом случае.

Чувство юмора

The Sense of Humor (1988)Перевод: В. Гольдич

Будет ли робот мечтать стать человеком?

Можете ответить вопросом на вопрос: мечтает ли «шевроле» стать «кадиллаком»?

Мой ответный вопрос содержит в себе завуалированное утверждение, что машина не может мечтать.

Но загвоздка в том, что робот – это не совсем машина, по крайней мере в том, что касается его потенциала. Робот сделан так, чтобы максимально – насколько это возможно – походить на человека, а где-то имеется пограничная линия, через которую в будущем мы вполне можем перешагнуть.

Давайте применим мои рассуждения к жизни. Земляной червь не мечтает стать змеей, гиппопотам не стремится превратиться в слона. У нас нет никаких оснований считать, что подобные существа обладают самосознанием и хотят стать чем-то бoльшим, чем они есть на самом деле. Шимпанзе и гориллы, похоже, обладают самосознанием, но у нас нет никаких оснований полагать, что они хотят стать людьми.