Константин Фрумкин - Полдень, XXI век. Журнал Бориса Стругацкого. 2010. № 5
Мы начали с точных наук. Но ведь есть еще философия, этика, психология и многое другое. Безвреден ли жир (при наружном применении) для человеческого организма? Вполне. Но что, если жир — свиной, а организм украшен бородой и чалмой? И здесь нам придется вспомнить еще и категорию морального вреда…
Если хозяин приказал роботу подойти во-о-он к той даме, сообщить ей… нечто ласковое, а затем нежно пожать… ну, скажем, наиболее выдающиеся элементы ее рельефа? Что в этом плохого? С точки зрения робота — ничего. А с точки зрения дамы? Она обязательно поделится с нами своим мнением — как только ее приведут в чувство. И это еще относительно невинный вариант использования робота.
Еще немного о моральном вреде: все запреты касаются исключительно человека. А как насчет котенка? Ему можно отрезать лапку? Или голову? И даже не котенку, пусть это будет всего лишь тряпичная кукла. Можно? По Азимову — вполне: котенок не человек, кукла тоже. Теперь уточним: все это происходит на глазах маленькой девочки, хозяйки этого самого котенка (или куклы). Что, страшно? Да нет, по Азимову — ничего страшного!
Пусть так. Но что проистекает из данного действия в будущем? Через год? Через десять лет? Уж не вред ли? Кем станет девочка, на глазах у которой убили любимого котенка? Впрочем, эту проблему давно рассмотрели классики — Лем и Стругацкие. Рассмотрели и признали неразрешимой. Даже для человека. Не будем требовать от робота невозможного… Но разве проблема сиюминутного вреда намного проще?
Даже из немногих перечисленных ситуаций, которые мы решили принять во внимание (а в реальности их гораздо больше), кое-что становится ясным. Оказывается, для надлежащего исполнения Первого Закона робот должен быть высочайшего класса инженером, физиком, химиком, врачом, социологом, психологом (особенно детским)… Другими словами, он должен располагать всей информацией, имеющей хоть какое-нибудь отношение к человеку. То есть — почти всем объемом знаний, накопленных человеческой цивилизацией (из всех объектов Вселенной человека всегда интересовал в первую очередь, он сам, что и отразилось на тематике знаний).
Мало того: все это еще предстоит упорядочить и систематизировать, то есть превратить хаотичный набор сведений в нечто упорядоченное — в базу знаний, например (иначе робот не поймет). Представили себе объем подобной базы знаний? Так ведь этим объемом роботу надлежит не просто обладать, но еще и пользоваться! Робот должен его анализировать — весь, причем по многу раз за день, перед началом любого действия — для оценки возможного вреда. Кстати, долго ли он будет оценивать?
Быстродействие вычислительных систем, конечно, растет с каждым годом, причем по экспоненте. Возможно, через сотню-другую лет быстродействие вырастет до таких значений, которые мы сегодня даже и вообразить не можем. Но и количество обрабатываемой информации тоже невообразимое — шутка ли сказать, весь объем знаний, накопленных человечеством. Так ведь он тоже растет по экспоненте! Догонит ли Ахиллес черепаху, которая, на самом-то деле, больше похожа на гепарда?
Сейчас, при нынешнем быстродействии, анализ всей суммы знаний занимает непозволительно много времени. В будущем это время, несомненно, сократится… или нет? А если сократится, то до каких значений? Точно определить здесь, конечно, нельзя, но интуиция подсказывает: речь пойдет не о пикосекундах. И даже не о миллисекундах… Впрочем, дело даже не в быстродействии. А в чем?
Не будем говорить о том, что создание такой базы знаний (поистине чудовищного объема) — титанический труд, по сравнению с которым создание «позитронного мозга», способного ее вместить, не более, чем вопрос технологии.
Не будем говорить о том, что ни один человеческий мозг ее заведомо вместить не может, а робот, оснащенный подобной базой, превзойдет (по интеллектуальной мощи) любого из гениев прошлых веков и даже всех их, вместе взятых.
Не будем говорить о социальных и прочих последствиях создания роботов, интеллектуально превосходящих человека (эта тема многократно отражена в лучших произведениях НФ).
Поговорим лучше о других аспектах проблемы, не столь очевидных, но гораздо более существенных.
Роботы изначально создавались для выполнения той работы, которую человек не хочет или не может выполнять сам. Грязная, либо тяжелая, либо монотонная, либо опасная работа, либо все перечисленное в комплексе. Но не более того: замена роботами ученых, инженеров, администраторов никогда и никем не планировалась и не рассматривалась. Азимов не отступает от этих принципов: в его рассказах (и работах любых других авторов) роботы — слуги, рабочие, помощники. И только!
Работа такого рода явно не требует от робота сколько-нибудь развитого интеллекта. Лучшим доказательством этого служит тот факт, что подобные роботы (правда, без Трех Законов) уже существуют. И для их создания позитронный мозг не потребовался — вполне достаточной оказалась мощность обычного, электронного. Достаточной оказалась и технология XX (всего лишь) века. Опять-таки — если забыть о Трех Законах.
Значит, вся остальная (по Азимову — поистине невероятная) мощность позитронного мозга расходуется только и исключительно на соблюдение Трех Законов. То есть на выполнение полезной работы тратятся миллионные доли процента ресурсов системы, а все остальное — на обеспечение безопасности этой системы. Так вот: за всю историю цивилизации ничего подобного создано не было. Надеемся, что и не будет. Поскольку, с точки зрения любого инженера, это — нонсенс.
Паровоз, с его мизерным КПД, считающийся классическим примером неэкономичного решения, — инженерный шедевр по сравнению с роботом Азимова. Египетская пирамида — миллионы тонн камня, обработанного и уложенного для обеспечения сохранности семидесяти килограммов телесной оболочки фараона, — образец бережного расходования ресурсов. Куда им до робота Азимова!
Вы только представьте себе робота-землекопа, который, с каждым взмахом лопаты, прокачивает через свой могучий мозг всю сумму знаний человечества. Он ведь обязан это проделывать, чтобы очередной взмах не причинил вреда человеку! И он не взмахнет лопатой, пока не закончит оценку возможного вреда!
Вот поэтому, по всем этим причинам, и приходится признать: азимовский робот никогда не будет воплощен, что называется, «в металле». И дело даже не в технических возможностях, а в здравом смысле. Нужен ли нам робот Азимова? Невероятно дорогой, чудовищно умный, великолепно образованный, несколько медлительный, предельно капризный в эксплуатации — и совершенно безопасный благодаря Трем Законам… землекоп?
Копать землю, конечно, нужно. Но не такой же ценой! Агрегат с такими характеристиками и таким функциональным назначением просто не имеет права на существование. Как говорится, «по всем законам, божеским и человеческим», в круг которых Три Закона Роботехники, со всей очевидностью, не вписываются. «Хозяин, я не существую».
* * *Ну и что же, что не существует? Фантастика на то и фантастика, чтобы оперировать сущностями, пока не существующими. И ключевое слово здесь — «пока». Да, межзвездные перелеты пока недостижимы, но нам никто не запрещает фантазировать на эту тему! Но с роботом Азимова так не получится. Здесь ключевое слово совсем другое — «никогда». И мы в этом только что убедились.
Тогда, может быть, фэнтези? «Придворный маг взмахнул посохом — и верный меч героя ярко засветился». Да-да, тот самый мир меча и магии, в котором и «пока», и «никогда» одинаково излишни. Тоже вполне самодостаточный жанр литературы, хотя многие и считают его субжанром фантастики.
Значит, фэнтези? Или, точнее, техно-фэнтези? Предположение занятное, но неверное: здесь полностью отсутствуют магия и прочие диагностические признаки жанра. Стало быть, все-таки НФ? Пожалуй. Только какая-то странная… Вини-Пух когда-то открыл для себя неправильных пчел, которые делают неправильный мед. Наверное, бывает и неправильная фантастика?
Бывает. По крайней мере, бывала. Когда-то, в середине прошлого века, в недрах бурно развивающейся НФ зародилось… нечто. Чуть позже за этим явлением закрепилось обидное название «хвантастика». За неимением более подходящего определения, будем использовать именно его. И пусть не обижаются НФ-мэтры сопредельной державы: здесь никакой связи с особенностями украинского произношения. Просто фонетически это словечко уж очень точно отражает суть явления… Итак, явление по имени «хвантастика».
Вот один из первых и, одновременно, один из самых ярких его примеров. Критическая ситуация: космический корабль проходит зону пылевого скопления. Наконец, опасность позади, но в иллюминаторах — все еще «туман». И тогда один из членов экипажа выходит в открытый космос, осматривается и сообщает: все в порядке, космос чист, скопление осталось позади. Откуда же тогда «туман за окном»? А это просто иллюминаторы запылились (!). После чего он просит передать ему… пылесос, чтобы очистить иллюминаторы от космической пыли.
