Айзек Азимов - Позитронный человек (сборник)

Он мучился с ними, пытался поставить себя на место людей, которые, хотя и знали, что Три Закона являются полной гарантией того, что роботы не могут причинить им вреда, продолжали смотреть на роботов со страхом и отвращением. Но со временем Эндрю постиг в доступной ему степени причину той незащищенности, которую люди ощущали, несмотря на столь явную поруку безопасности.

Копаясь в архивах роботехники, он сделал открытие, что Три Закона не были столь обнадеживающими в смысле полной безопасности людей. Они содержали в себе двусмысленности и другие скрытые источники возможных конфликтов. Прямолинейных, воспринимающих все буквально роботов они могли поставить перед необходимостью принимать решения, которые, с точки зрения человека, были далеки от идеальных.

Так, например, на чужой и враждебной планете робот, отправленный с опасным заданием найти и принести субстанцию, жизненно необходимую для спасения и благополучия человека-исследователя, может вдруг почувствовать противоречие между Вторым Законом, требующим повиновения, и Третьим, о самосохранении; в результате потенциалы безнадежно уравновесятся и робот потеряет способность к каким-либо действиям — ни вперед не продвинется, ни назад не отступит. Попав таким образом в патовую ситуацию, робот поставит под угрозу жизнь человека, пославшего его, несмотря на непреложность Первого Закона и его преимущество перед двумя другими, потому что роботу невдомек, что замешательство из-за противоречий между Вторым и Третьим Законами, постигшее его, может поставить его хозяина в опасное положение. Если характер его задания не был точно разъяснен заранее, он мог остаться в неведении относительно последствий его бездействия и никогда не понять, что его проволочка приводит к нарушению Первого Закона.

Или робот, в конструкции которого оказались недочеты или ошибки в программе, может решить, что человек перед ним — и не человек совсем, и поэтому Первый и Второй Законы, защищающие человека, не имеют к нему отношения...

Или по причине небрежно сформулированного распоряжения робот, поняв его буквально, невзначай поставит в опасное положение находящихся рядом людей...

В архивах сохранились сведения о десятках подобных случаев. Первые специалисты по роботам, особенно великолепный робопсихолог Сьюзен Кэлвин, эта строгая и сухая женщина, долго и не жалея собственных сил трудились над преодолением все возрастающего количества трудностей.

Крайне усложнились эти проблемы к середине двадцать первого века, когда из цехов «Ю. С. Роботс энд Мекэникл Мен» стали выходить роботы с более развитыми позитронными сетями, роботы с более широким диапазоном мышления, способные разбираться в сложных ситуациях почти с таким же проникновением, как люди. Роботы вроде него, Эндрю Мартина, хотя сам он избегал говорить об этом. Новые, с более широкими общими понятиями роботы, снабженные способностью гораздо самостоятельнее, чем их предшественники, оценивать информацию, часто действовали по-своему, не так, как ожидали от них люди. Но, естественно, никогда при этом не выходя за рамки Трех Законов. И все-таки с иных позиций, нежели те, что были предусмотрены авторами Трех Законов.

Все сильнее углубляясь в анналы истории роботов, Эндрю наконец пришел к пониманию причин отрицательного отношения людей к роботам. В этом не были виноваты Три Закона при всем их несовершенстве — отнюдь. Они действительно являли собой образец логического построения. Беда состояла в том, что сами люди чаще всего не следовали законам логики, порой поступая вопреки ей, и роботы не всегда успевали за внезапными поворотами мысли человека.

Выходило так, что сами люди толкали иногда роботов на нарушения того или другого Закона, а потом без всякой логики, как это вообще свойственно людям, обвиняли тех же роботов в нежелательных действиях, хотя сами же и отдавали им соответствующие распоряжения.

Эндрю с особым вниманием и осторожностью работал над этими главами, без конца возвращался к ним, переделывал, чтобы ни в коем случае не проскочило какой-нибудь предубежденности. Никакого желания разоблачать пороки людей он не испытывал. Его основная цель, как всегда, состояла в служении на благо людей.

Когда он начинал писать свою книгу, он намеревался с ее помощью достичь более глубокого понимания своих отношений с людьми, с теми, благодаря кому он появился на свет; но в процессе работы над рукописью он понял, что, если должным образом, основательно поработать над ней, она может стать неоценимым мостом между человеком и роботами, источником знаний не только для роботов, но и для особей из плоти и крови, для их создателей. Все, что будет помогать лучшему взаимопониманию между роботами и людьми, позволит роботам больше дать человечеству, что, в конечном счете, и является целью их существования.

Написав половину задуманного, Эндрю попросил Джорджа прочитать рукопись и высказать ему свои замечания и предложения.

Прошло уже несколько лет после смерти Маленькой Мисс, и теперь уже Джордж не казался здоровяком, его когда-то атлетическая фигура согнулась, он почти совсем облысел.

С плохо скрытым неудовольствием он посмотрел на толстую рукопись и сказал:

— Я ведь не писатель, ты же знаешь, Эндрю.

— Я не прошу вашего мнения о моих литературных способностях, Джордж. Я хочу, чтобы вы дали оценку идеям. Мне необходимо убедиться в том, что я не допустил никаких оскорбительных высказываний в адрес человека.

— Да я уверен, что их там нет. Ты же всегда был образцом учтивости.

— Я никогда никого не обижу сознательно, это верно. Но, возможно, случайно...

Джордж тяжело вздохнул:

— Да-да. Понимаю. Хорошо, я прочитаю твою рукопись, Эндрю. Но сам знаешь, как быстро я устаю в последнее время. Чтобы перепахать твою рукопись, мне понадобится немало времени.

— Это не спешно, — сказал Эндрю.

И Джордж не спешил: на прочтение книги у него ушел почти год. Когда он наконец вернул рукопись Эндрю, при ней было с полстранички замечаний, очень незначительных — фактические поправки, и ничего более.

Эндрю мягко попенял ему:

— Я надеялся на более глубокую критику, Джордж.

— У меня нет оснований критиковать твою работу, это замечательная книга. Замечательная, правда. Глубокое исследование проблемы. Ты можешь гордиться написанным.

— Но в той части, где я касаюсь темы человеческого иррационализма, который зачастую приводит к конфликтам с Тремя Законами...

— Ты попал в точку, Эндрю. Мы — существа с неряшливыми мозгами, понимаешь? Блеск и творчество временами, но сколько путаницы и мелких противоречий! Мы, наверное, выглядим в твоих глазах безнадежными путаниками, а, Эндрю?