Роберт Хайнлайн - Весь Хайнлайн. Фрайди (сборник)

— Хорошо, пусть так. Считай так, если хочешь. Я не понимаю, почему искусственники должны считаться гражданами второго сорта. Я считаю, что это несправедливо.

— Ты права. Но некоторые люди ощущают какую-то смутную угрозу от самого существования искусственников. Вот хоть Яна взять. Он собирается в Ванкувер, чтобы начать борьбу за то, чтобы искусственникам во веки веков запретили становиться пилотами. Он…

— Прекрати! — прорычал Ян. — Я чувствую себя самым паршивым образом. Я просто все так подаю, поскольку мои коллеги так проголосовали. Но я не идиот, Джордж, я жил рядом с тобой, и мы много говорили об этом, поэтому в душе я чувствую, что нужно пойти на компромисс. Все мы теперь, строго говоря, не пилоты: в нашем веке настоящих пилотов-асов в помине нет. За нас все делает компьютер. Если компьютер откажет, придется просто на уши встать, чтобы самому посадить свой автобус. Но дело не только в этом. Чрезвычайные ситуации давным-давно вышли из-под контроля человека, это так. Но я все-таки попытаюсь. И все мои товарищи из Гильдии. Но, Джордж, если ты сумеешь создать искусственника, который сможет думать и двигаться достаточно быстро, чтобы моментально устранить неполадки, я уйду на пенсию. Вот и все, чего мы собираемся добиться. То есть, если компания решит заменить нас пилотами-искусственниками, мы должны получить полную компенсацию. Если, конечно, ты сумеешь таких профессионалов изготовить.

— Да, в принципе можно произвести такого профессионала. И когда мы наладим поточное производство, всем пилотам ничего не останется, как заняться рыбной ловлей. Но это не будет искусственный человек, это будет живой артефакт. Если бы я собрался создать организм, призванный выполнять работу безотказного пилота, застрахованного от любых просчетов, я бы не стал делать его обязательно похожим на нормального человека.

— О, не делай этого! — вскрикнула я.

Оба мужчины были смущены, Жанет тоже, и я пожалела о своей несдержанности.

— Но почему бы и нет? — спросил наконец Джордж.

— Ну… потому что я бы лично никогда не полетела на таком корабле. С Яном спокойнее.

— Спасибо, Мардж, — улыбнулся Ян. — Но ты же слышала, что сказал Джордж. Он говорит об искусственном пилоте, который справится с работой лучше меня. Это вполне вероятно. Черт подери, и это будет! Точно так же, как кобольды заменили шахтеров, нас заменят биороботы. Не скажу, чтобы я был от этого в восторге, но я понимаю, что рано или поздно это произойдет.

— Хорошо. Понятно. Джордж, скажи, ты работал с мыслящими машинами?

— Конечно, Марджори. Искусственный интеллект — область, тесно связанная с моей работой.

— Ясно. Значит, ты должен знать о том, что специалисты по искусственному интеллекту много раз заявляли, что они подошли вплотную к созданию самостоятельно мыслящей машины. Но на поверку это каждый раз оказывалось очередной уткой.

— Увы. Как ни печально, но это факт.

— Нет. Это не печально — это неизбежно. Это никогда не получится! Гипотетически компьютер можно наделить сознанием. Доведи его до человеческого уровня сложности в мыслительных процессах — и ему придется стать сознательным. Но потом он поймет, что он не человек. Потом он поймет, что ему никогда не стать человеком. Ему ничего не останется, как стоять на месте и выполнять указания людей. Тогда он сойдет с ума.

Я продолжала, несмотря на то что на лицах всех было написано неподдельное удивление.

— Вот такая дилемма. Он не сможет стать человеком, никогда. Ян, может, и не сумеет спасти своих пассажиров, но, по крайней мере, попытается. Но живой артефакт, не будучи человеком и не чувствуя сострадания к людям, может погубить корабль просто так, от нечего делать. А может, потому, что устал от того, что его не считают человеком.

Нет, Джордж, я полетела бы с Яном, а не с твоим артефактом, который непременно научится ненавидеть людей.

— Не с моим артефактом, дорогая, — мягко возразил Джордж. — Разве ты не заметила, в каком наклонении я говорил об этом проекте?

— Пожалуй, нет.

— В сослагательном. Поскольку все, что ты сейчас сказала, для меня не новость. Я никогда не выступал за такое предложение и не собираюсь. Я могу разработать и создать такого пилота. Но для меня невозможно этим заняться по той же этической причине, по которой ты выбрала Яна.

Ян сидел в глубокой задумчивости.

— Может быть, — сказал он, потирая руки, — стоит на предстоящем совещании поднять вопрос о том, чтобы любого будущего пилота — искусственный артефакт или искусственного человека — проверяли на этические установки?

— Как проверишь-то, Ян? Я не знаю, каким образом можно заложить этические установки в зародыш, а Мардж только что доказала, что этого не сделаешь и в курсе подготовки и обучения. И, с другой стороны, какой тест это может выявить?

Джордж повернулся ко мне:

— Знаешь, в студенческие годы я почитывал кое-какие рассказики о гуманоидных роботах. Истории были просто очаровательные, и кое-где там встречались намеки на существование некоего кодекса, который именовался там законами роботехники. Причем главный закон означал, что в конструкцию робота заложено нечто такое, что никогда не позволит ему нанести вред человеку ни действием, ни бездействием. Это послужило прекрасной основой для научной фантастики, но вот вопрос: как этого добиться на практике? Как можно добиться, чтобы самосознающий, мыслящий организм — электронный или биологический, но нечеловеческий — был бы настроен лояльно по отношению к людям? Лично я не знаю, как этого добиться. И похоже, что специалисты по искусственному интеллекту в этом плане тоже в тупике.

Джордж несколько цинично улыбнулся:

— Такое впечатление, что интеллект можно определить как уровень, достигнув которого сознательный организм вопрошает: «А что я с этого буду иметь?»

Он продолжал:

— Так вот, Мардж, по поводу приобретения у тебя свеженького яичка: я должен объяснить тебе как сознательному организму, что ты с этого будешь иметь. — Не слушай его, — вмешалась Жанет. — Он положит тебя на холодный стол и будет смотреть в туннель любви без всяких там романтических устремлений. Я-то знаю, я себя уже трижды позволяла уговорить. Причем мне за это даже не заплатили.

— Интересно, а как я мог тебе заплатить, если у нас — общие деньги. Марджори, голубка моя, стол не холодный, он мягкий, и ты сможешь, пока я буду работать, читать или смотреть телевизор или болтать со мной — в общем, делать все, что тебе заблагорассудится. Прошло уже много лет с тех пор, когда для того, чтобы получить яйцеклетку, разрезали брюшную стенку и часто повреждали яичники. Если думаешь…