Марат Каби - Роботы не умирают (сборник)
– Мы провели анализ действий GM 1226, – робко проговорил профессор и умолк, подумав, что ему не дадут договорить. Повисла тишина, профессору она показалась оглушительно тяжелой, и он торопливо продолжил: – При сканировании робот посчитал, что данные люди не представляют угрозы. Мирные…
– Военные роботы обязаны исполнять приказы. Это не вопрос для обсуждения! – генерал грубо оборвал профессора. Было видно, что данный инцидент в налаженной системе раздражал его, поросячьи глазки наливались кровью, лицо краснело.
– Повстанцы не имеют возраста и пола, каждый из них может совершить террористический акт, у нас имеется множество доказательств тому, – Маковски не изменился в лице, но голос его стал еще жестче.
Бетси кинула быстрый взгляд на совершенно растерянного профессора.
«Как он все-таки сдал и постарел за этот год…» – не к месту пронеслось в голове.
Генерал хотел было крикнуть что-то еще, но она не выдержала:
– Мы создавали GM 1226 не для убийств! Его программа – это первый шаг к созданию искусственного интеллекта. Для ваших войн есть десятки других модификаций! GM 1226 – интеллектуальный робот, способный анализировать, видеть, слышать, чувствовать … – она не успела договорить.
Генерал с силой ударил ладонью по столу:
– Молчать! Не сметь! – его голос сорвался, и последний звук получился больше похожим на визг.
Капитан Маковски недовольно поморщился, словно от этих выкриков у него заболела голова. Он заговорил спокойно и уверенно, с долей усталости, как будто ему приходилось уже в который раз объяснять детям простейшие вещи:
– У нас общая цель: защита цивилизованного мира. И вы правы, модель GM 1226 – это не просто многофункциональный боевой робот. Он выше обычного военного бота на ступень. Его умение оценивать возникающую ситуацию и самостоятельно принимать решения позволило нам провести сотни успешных военных операций и уничтожить более десяти тысяч боевиков. Именно поэтому нам нужно как можно больше таких солдат.
Кровь ударила Бетси в голову, ладони вспотели. Она молча смотрела на блестящую поверхность стола и боялась поднять глаза, чтобы не закричать снова. Она старалась дышать ровно, но выходило плохо. Этим людям чуждо понятие гуманности. Они живут, рассчитав, сколько денег им принесет очередная война, и продолжают ее, делая вид, что ведут людей к победе. Победе над кем? Такими же людьми, просто не пожелавшими подчиняться тоталитаризму. Этим капитанам, генералам, этим убийцам в военной форме хочется, чтобы все вокруг стали роботами, четко выполняющими инструкции. И они не могут терпеть, когда кто-то нарушает установленные им правила.
– Дело в том, капитан, что мы хотели сделать его чуть более гуманным, понимающим человеческие ценности. Для этого мы отработали с ним тысячи и тысячи сложнейших тестов…
– Вы должны сделать так, чтобы аналогичные сбои были исключены! – генерал уже не кричал, но лицо его все еще было красным, щеки тряслись от злости. – Мы должны быть уверены, что данная модификация роботов будет исправно выполнять поставленные задачи.
– Это сделать несложно! – Бетси словно током ударило, она резко обернулась к говорящему.
– Нужно просто установить GM 1226 программу контроля, тогда мы сможем полностью управлять его действиями, – спокойно продолжал Майк Браун, инженер, который работал над программным обеспечением GM.
Бетси не могла поверить. Майк, их Майк, который засиживался в лаборатории до позднего вечера, который радовался вместе с Бетси и профессором, когда появились первые успехи с разработками GM – первым шагом на пути к созданию искусственного интеллекта. Их Майк. Ее Майк…
– Предатель… – прошипела Бетси сквозь зубы.
На счастье, ее злобный шепот услышал только профессор. Он незаметно дотронулся до руки девушки, безмолвно прося успокоиться и не делать глупостей. Бетси сжала губы.
Капитан видел, как изменилось лицо молоденькой ассистентки, заметил, как на секунду страдальчески свел брови профессор. Он перевел взгляд на идеально белый потолок и проговорил размеренно и даже несколько скучающе:
– Объединенное правительство приняло решение об увеличении финансирования вашего проекта. Но есть и другие лаборатории, которые согласны продолжить начатые вами исследования…
Генерал нетерпеливо перебил Маковски:
– Что это за программа контроля? У вас есть такая программа? – тяжело дыша, он уставился на профессора.
Крауч вздохнул и, помедлив, ответил:
– Да она существует, мы создали ее на ранней стадии работы над проектом, для ситуаций, когда решения GM 1226 могли стать неприемлемыми для нас.
– Говорите прямо! Я могу считать, что проблема решена? – генерал навис над столом, приблизив свое толстое лицо к профессору.
Бетси чувствовала, что негодование закипает в груди, она не могла спокойно видеть, как жалко кривятся губы профессора Крауча, величайшего ученого и ее учителя. Она не могла слышать, как он, опытный лектор, запинается и отвечает дрожащим голосом бравым воякам, считающих себя спасителями мира. Она опустила голову и сжала кулаки под столом…
Профессор говорил, а генерал и капитан одобряюще кивали.
– Думаю, нам нужно заново просмотреть введенные тесты и произвести их частичную реструктуризацию, чтобы не допустить противоречий в базовой информации, на основе которых GM 1226 принимает решение. Это станет решением проблемы…
– Приступайте! – бросил генерал и, не оборачиваясь, вышел из зала.
– Я думаю, нет надобности напоминать вам всю секретность данной информации, – с холодной улыбкой проговорил капитан Маковски и также направился к выходу.
Двери, услужливо разъехавшиеся перед капитаном, снова соединились, слившись со стеной. Никто из троих, оставшихся в зале, не поднимал глаз от стола. Тишина, казалось, давила на стены. Бетси на секунду представила, как стекла трескаются и вылетают, как лопаются барабанные перепонки, – все от этого невыносимого давления тишины.
– Вам надо было отстоять GM 1226, – тихо проговорила она, сделав усилие над собой, и подняла глаза на профессора. Он казался настолько обессиленным, что ей тут же сделалось стыдно за свои слова.
Майк раздраженно швырнул ручку, которую до этого крутил в руке. Она звонко отскочила от стола и отлетела к стене. Майк резко встал и сделал несколько шагов к двери, но снова повернулся к столу.
– Не будь такой наивной, Бет! Проект принадлежит правительству, нам за это платят. Мы зависимы от них. Пытаясь не признавать это, ты обманываешь сама себя, – он словно потерял все свое раздражение, выпалив эти слова, и снова сел за стол, устало посмотрев на профессора.
