Айзек Азимов - Мечты роботов (Сборник рассказов и эссе)

– Я никому не позволил бы причинить вред маленькому хозяину, мадам, но я не знаю, что он хотел сделать. Он стукнул Родни голой ногой.

Гортензия вскрикнула и в ярости вытаращила глаза.

– Значит, у него имелись серьезные причины. Я добьюсь того, чтобы ваш робот был уничтожен.

– Валяй, Гортензия. Но вряд ли ты захочешь испортить своего робота и перепрограммировать его таким образом, чтобы он лгал, рассказывая, что произошло перед тем, как твой сынок ударил Родни. Кстати, я тоже с удовольствием выступлю в качестве свидетеля.

Гортензия покинула наш дом на следующее утро, увозя с собой сильно побледневшего Лероя (оказалось, что он сломал палец на ноге, и поделом ему!) и по-прежнему безмолвствующего Дилэнси.

Грейси ломала руки и умоляла их остаться, но я совершенно спокойно наблюдал за их отъездом. Нет, неправда. Меня переполняли самые разные эмоции – все приятные.

Позже я сказал Родни, когда Грейси не было поблизости:

– Извини, Родни. Рождество получилось просто ужасное, и все потому, что мы попытались обойтись без тебя. Обещаю, больше этого не повториться.

– Спасибо, сэр, – ответил Родни. – Должен признаться, что за последние два дня я несколько раз жалел о том, что должен подчиняться Законам роботехники.

Я усмехнулся и кивнул, а ночью проснулся от неприятных мыслей, которые продолжают посещать меня и по сей день.

Конечно, Родни пришлось немало пережить, но он просто _не мог_ жалеть о существовании Законов роботехники. Ни при каких обстоятельствах.

Если я сообщу о случившемся, Родни обязательно отправят в металлолом, а если в нашем доме появится новый робот (в качестве компенсации), Грейси мне никогда этого не простит. Никогда! В ее сердце никакой другой робот, даже самый новый и лучший, не заменит Родни.

По правде говоря, я и сам себе этого не прощу. Кроме того, что я привязан к Родни, я не хочу доставить такого удовольствия Гортензии.

Но если я ничего не стану предпринимать, получится, что я живу с роботом, который жалеет о существовании Законов роботехники. От сожалений по поводу их существования до поведения, будто их не существует, всего один шаг. Когда же он сделает этот шаг и в какой форме?

Как же мне поступить? Как?

II. Эссе

Роботы, с которыми я был знаком

Robots I Have Known (1954)Перевод: В. Гольдич

Механические люди, или роботы, если использовать универсально принятый термин, придуманный Чапеком, являются темой, к которой снова и снова возвращаются современные фантасты. Не существует другого неизобретенного изобретения (возможно, за исключением космического корабля), столь же надежно поселившегося в сознании такого огромного количества людей: пугающая конструкция, огромная, металлическая, слегка напоминающая человека, двигающаяся как машина и разговаривающая лишенным эмоций голосом.

Ключевым в данном описании является слово "пугающий", и в нем заключено трагическое начало, поскольку ни одно научно-фантастическая тема не лишилась настолько своей привлекательности, как тема роботов. Среднему писателю оказался доступен только один сюжет, связанный с роботами: механический человек становится угрозой, выступает против своего создателя, представляет собой опасность для человечества. Почти все рассказы подобного рода имели одинаковую мораль, намеренно или нет: "Есть вещи, которые человечеству не следует знать".

Начиная с 1940 года ситуация заметно улучшилась. На книжных полках появилось множество рассказов о роботах; родилась новая точка зрения, более механистичная и менее морализованная. Некоторые люди (например, Грофф Конклин в своем вступлении к антологии научной фантастики "Фантастические разумные машины", опубликованной в 1954 году) посчитали возможным объявить, что, по крайней мере отчасти, новый вид рассказов о роботах появился благодаря моим произведениям, написанным начиная с 1940 года. Поскольку на Земле скорее всего не найдется человека, меньше меня страдающего от ложной скромности, я с удовольствием и без возражений принимаю это мнение. Хочу лишь добавить еще одно имя - Джон У. Кэмпбелл-младший, редактор "Эстаундинг сайенс фикшн", с которым мы провели много часов в чрезвычайно полезных и плодотворных дискуссиях на тему рассказов о роботах.

Лично я считаю, что роботы - это не проклятая богом, святотатственная имитация жизни, а всего лишь высокоразвитые машины. Машина не может "выступить против своего создателя", если она правильно сконструирована. Когда механизм, например электропила, случайно отгрызает своему владельцу конечность, его достойная сожаления склонность к агрессии устраняется при помощи установки специальных защитных устройств. Подобные защитные устройства, очевидно, могут быть созданы и в роботах. А самым логичным местом для размещения таких устройств являются электрические цепи "мозга" робота.

Позвольте мне сделать паузу и объяснить вам, что мы, писатели, работающие в жанре научной фантастики, не вступаем друг с другом в яростные споры по поводу строения "мозга" роботов. Имеется некоторое механическое устройство, которое приблизительно похоже на человеческий мозг и содержит цепи, необходимые для того, чтобы робот обладал уровнем восприятия и разумного реагирования, эквивалентным человеческому существу. Как это сделать без использования механических приспособлений размером с молекулу протеина или по крайней мере с клетку мозга, не объясняется. Кое-кто из писателей рассуждает о транзисторах и печатных схемах. Большинство предпочитает хранить молчание. Лично я обожаю делать слегка мистические заявления о "позитронном мозге", предоставляя читателю возможность самому решать, какое отношение позитроны имеют к предмету обсуждения, и рассчитываю на то, что он не отложит книгу в сторону, даже если не сможет найти ответ на этот вопрос.

Так или иначе, по мере написания рассказов о роботах идея об устройствах, обеспечивающих безопасность людей, превратилась в Три закона роботехники. Эти три закона впервые были подробно описаны в рассказе "Хоровод". В утонченном и исправленном виде они выглядят следующим образом:

1. Робот не может причинить вред человеку или своим бездействием допустить, чтобы человеку был причинен вред.

2. Робот должен повиноваться всем приказам, которые отдает человек, кроме тех случаев, когда эти приказы противоречат Первому закону.

3. Робот должен заботиться о своей безопасности в той мере, в какой это не противоречит Первому и Второму законам.

Эти законы вносятся в мозг роботов или, точнее, в электрические цепи, заменяющие им мозг. Естественно, я не собираюсь данные цепи описывать. Правду говоря, я никогда не обсуждаю инженерные проблемы по очень простой причине: я абсолютно невежествен относительно практических аспектов создания роботов.

Первый закон, как вы видите, мгновенно покончил со старым, всем надоевшим сюжетом, о котором я торжественно обещаю больше вам не напоминать.

Хотя на первый взгляд кажется, что такие строгие ограничения могут повлиять на творческие способности, выяснилось, что Законы роботехники послужили богатым источником для научно-фантастических произведений. И уж ни в коей мере не загнали писателей-фантастов в тупик ограниченности.

Примером может послужить рассказ "Хоровод", о котором я уже говорил. В этой истории робот, дорогая экспериментальная модель, создан специально для работы на солнечной стороне планеты Меркурий. Третий закон был внедрен в его сознание надежнее остальных по вполне понятным экономическим причинам. В самом начале рассказа он отправляется в экспедицию с целью добыть жидкий селен для очень важных и абсолютно необходимых ремонтных работ. (Можете мне поверить: на солнечной стороне Меркурия, где самое настоящее пекло, жидкого селена сколько хочешь.)

К несчастью, приказ, который получил робот, был сформулирован не слишком четко, а цепи, отвечающие за Второй закон, оказались слабее, чем обычно. Что еще хуже, селеновая лужа, к которой отправили робота, находилась рядом с районом вулканической активности. В результате там возникла высокая концентрация углекислого газа. Я пришел к выводу, что при высоких температурах на солнечной стороне Меркурия углекислый газ быстро вступит в реакцию с железом и образуется летучий карбонил железа, отчего пострадают наиболее хрупкие детали сочленений у робота. Чем дальше он проникает на опасную территорию, тем большей угрозе подвергает себя, а следовательно, вступает в силу Третий закон, заставляющий его остановиться. Второй закон, который при обычных обстоятельствах перевешивает Третий, толкает его вперед. В определенной точке возникает ситуация, когда более слабый в данной конкретной ситуации Второй закон и более сильный Третий достигают равновесия и робот не может ни двигаться дальше, ни отступить. И потому он ходит в районе селеновой лужи по эквипотенциальной траектории, отдаленно напоминающей круг.