Владимир Гаков - Четыре путешествия на машине времени (Научная фантастика и ее предвидения)
Антропоморфизм всей затеи выявился достаточно скоро. Несмотря на бурный прогресс молодой кибернетики (а то было время ее буйного расцвета, безудержных претензий и несбыточных грез…) роботы научной фантастики имели все-таки мало общего с проблематикой "умных машин", о которых всерьез заговорили ученые. Оказалось, что кибернетика шла какими-то своими тропами, а фантастическая робоэволюция — своими. И родословную НФ-роботов следует вести не от идей кибернетиков, а от старого знакомого — глиняного Голема, лишь соответствующим образом заговоренного. Металлические же (или полимерные) "одежды" по моде XX века не скрывали, да и не могли скрыть главного — выстраданную мечту человека о совершенстве.
После внедрения Трех Законов в научно-фантастическое производство количество роботов-злодеев заметно поубавилось. Многие теперь уже видели в Законах некий нравственный императив для людей.
Так что никакой "этики для роботов" создано не было и, вероятно, не будет. Этика создается для людей — и только для них.
Произнесите про себя: "Я, робот" — и мысленно отметьте первое, что придет на ум. Скорее всего, это будут Три Закона. А потом? Думается, все-таки не роботы, а в первую очередь "человеческие" герои во главе с Сьюзен Кельвин. О людях писал Азимов. Об идеальных людях, которыми грезили писатели во все времена, — добрых, гуманных и никогда не ошибающихся…
Вот что писал сам творец роботехники в одном из рассказов цикла "Я, робот": "Три Закона роботехники совпадают с основными принципами большинства этических систем, существующих на Земле. Конечно, каждый человек наделен инстинктом самосохранения. У робота это — Третий Закон. Каждый "порядочный" человек, чувствующий свою ответственность перед обществом, подчиняется определенным авторитетам… Он исполняет законы, следует обычаям, соблюдает приличия, даже если они лишают его некоторых удобств или подвергают опасности. А у роботов это — Второй Закон, Кроме того, предполагается, что каждый "хороший" человек должен любить своих ближних, как себя самого, защищать своих товарищей, рисковать своей жизнью ради других. Это у робота — Первый Закон".
Ирония Азимова в адрес так называемых "хороших" и "порядочных" людей очевидна; что же касается роботов, то создатель верил в своих детищ. Пусть хоть роботы будут человечны!
Со страниц книг двинулись в мир целые легионы механической "армии спасения": заботливые няньки, вышколенная домашняя прислуга, стражи порядка, уборщики, повара, гиды, учителя, дублеры космонавтов… Роботы строящие, охраняющие, воспитывающие. Некоторые, правда, по старинке бунтовали, но то были явления эпизодические, от вселенского кошмара, который рисовался авторам ранней фантастики, не осталось и следа.
Но скоро обозначился принципиальный водораздел между механизмами (например, роботом — уборщиком мусора) и подобиями людей (вспомним робота-мэра Байерли из рассказа Азимова "Улики"). То есть андроидами… И как только дело дошло до человекоподобных роботов — не по внешности, а по поведению и уровню интеллекта, — пришли первые сомнения.
Пока речь шла о механизмах, исправно выполняющих возложенные на них функции. Три Закона служили безошибочно. А возможные парадоксы последовательно снимались Азимовым и его коллегами по перу. Но стоило только прозвучать словам "искусственный разум", как выяснилось, что Законы вовсе не универсальны. А в отдельных случаях — и вовсе неприменимы.
Потому что никаких разумных роботов в действительности создано не было, вместо них загримированные люди-актеры разыгрывали свои, истинно человеческие драмы. Только одной религией стало больше: ведь что такое эти Три Закона, как не укороченные по моде века христианские десять заповедей![30] Религия, в какие бы одежды она ни рядилась, уже не раз претендовала на роль этического спасителя — и терпела поражение на этом поприще не единожды.
Технократическая этика Азимова оказалась хороша для создания идеальных механизмов — сложнее обстояло дело с "созданием" идеальных людей. Действительно, стоит задуматься над вопросом: не слишком ли велико насилие над такой многомерной системой, как человек? Попытка замкнуть все богатство его возможных намерений и поступков в каркас жестких постулатов — это значит попытаться ограничить бесконечно сложное и до конца не понятое конечным числом рецептов поведение… Ведь мы еще так мало знаем о себе самих — зато опыт человеческой истории многому нас научил (ибо сказано было "не убий", но убивали, убивали преспокойно с этой заповедью на устах!).
Все это отнюдь не праздные вопросы и не выражение какого-то "этического нигилизма". Просто сомнительно, чтобы задача создания идеального человека решалась столь примитивно, путем наложения на реального человека запретов.
Разумеется, благородные побуждения Азимова сомнений не вызывают, его рассказы о роботах по сей день остаются редким образцом человечности в западной фантастике. Да и далеко еще многим, по правде говоря, до азимовских роботов в нравственном отношении. Но нельзя и безоговорочно восхищаться азимовской программой: в цикле "Я, робот", как ни в какой другой книге, проявилась социальная наивность молодой фантастики, истово веровавшей в однозначно благотворное воздействие науки на жизнь людей.
Да, роботы в этих рассказах, как правило, предусмотрительнее и человечнее людей. Сколько добра они сделали людям, скольких спасли, пока, наконец, не пришло время спасать все человечество: в заключительном рассказе цикла "Конфликт, которого могло бы не быть" роботы предотвращают ядерную катастрофу…
Но они — роботы и в этом качестве послужить примером людям не могут, несмотря на "нравственную чистоту" помыслов. Роботы изначально запрограммированы на добро, однако кто рискнет утверждать, что знает абсолютно точно, что такое это "добро"? Родился же афоризм о дороге в ад, вымощенной благими намерениями… И может ли быть "добро" действительно добром для всех? И вообще мыслим ли разум в отсутствие свободы выбора?
Вот ведь как все непросто. Ситуацию острее всех почувствовал Станислав Лем, в свое время подвергший азимовских роботов резкой критике. Дело не в технологических препятствиях, писал Лем, а в логических. Если роботы разумны, то они способны произвольно менять нормативы поведения, вырабатывать новые. Если же они не способны уклониться от раз и навсегда заданных правил, то они были, есть и навсегда останутся машинами. И их какие-то претензии на "замещение" рода человеческого попросту лишены смысла.
"Я простил Азимову многое, но не Законы роботехники — ибо они сознательно фальсифицируют картину существующих возможностей. Азимов просто вывернул наизнанку старую парадигму: традиционный злодей обернулся голубым этическим героем". Сказано по-лемовски резко и бескомпромиссно — и, как всегда, точно. Но и претензии Лема к коллегам-фантастам зачастую чрезмерны.
Ибо научная фантастика — конечно же, не только совокупность парадоксальных идей и неожиданных решений. Это подтвердила и судьба двух авторов — Азимова и Лема.
Франкенштейнова печать — как проклятье; стоит раз погрузиться в эту проблему — и из нее уже не выбраться. Вот и создатель Трех Законов не в силах оторваться от любимого детища. Спустя десятилетие после выхода книги "Я, робот" появляется новый сборник, программно названный "Остальное о роботах", а в начале семидесятых годов — еще один, "Человек двухсотлетия", почти полностью посвященный роботам. Вновь и вновь пытается Айзек Азимов распутать им же завязанный тугой узел из этики и кибернетики, и в последнем сборнике идеально логичные роботы окончательно убеждают себя в том, что они и есть самые настоящие люди…
Но поразительно другое — совершенно "противоестественная" привязанность к роботам едва ли не самого резкого их критика, Станислава Лема! Уж для него-то все было кристально ясно давно[31] — однако в своей публицистике Лем с поистине неиссякающим пылом продолжает бичевать убогую, по его мнению, мысль фантастов-роботехников. И это неистовство отрицания рождает вполне естественное подозрение: а сам-то Лем верит в собственный тезис о том, что "ничего скучнее и примитивнее роботов в научной фантастике создано не было"? Впрочем, к этому мы еще вернемся.
Вот ведь как они оказались просты и сложны одновременно, эти отражения человека в зеркале прогресса. Кто бы ни стоял перед тем зеркалом — восторженный энтузиаст или хмурый скептик, — не оторваться ему от отливающих металлом глаз, смотрящих из зеркала совсем по-человечески.
Не только научная или даже общефилософская проблема стояла перед писателями, выпускавшими в мир все новых и новых человекоподобных существ. В мировой литературе появился образ, которого не было ранее и который читатели сразу же приняли и полюбили. Конечно, создание Франкенштейна было во сто крат сложнее и богаче — не жертва и не агрессор, ни друг и не враг, а нечто двойственное и непрограммируемое, как и сам прогресс, вызвавший это создание к жизни. Роботы выглядели не в пример примитивнее: просто новые заменители няньки, слуги, собаки.
