Дуглас Престон - Проект «Кракен»

– Доктор Шепард, теперь подхожу к главному: мы хотели бы предложить вам работу.

– Какую работу? – спокойно поинтересовалась девушка.

– Нас проинформировали о так называемой программе «Дороти», которую вы разработали для НАСА. Теперь мы убедились, что эта программа имела дефект и работала неправильно, в конечном итоге уничтожив себя. Но мы также знаем, что это был настоящий прорыв в области искусственного интеллекта. И сделали это вы. Мы предлагаем вам возглавить группу по разработке автономной программы искусственного интеллекта для Разведывательного управления Министерства обороны – программы, которая обеспечит нам стратегическое преимущество.

Генерал положил перед программисткой на стол папку небесно-голубого цвета:

– Предложение здесь – естественно, секретное. Это высокооплачиваемая, престижная должность, очень ответственная, с поддержкой правительства и неограниченным финансированием. Кроме того, она предполагает офицерское звание.

– Звание? – удивилась мисс Шепард.

– Совершенно верно. Вам присвоят звание подполковника армии США.

Президент положил руки на колени и наклонился вперед:

– Теперь, после переизбрания, я получил мандат на совершенствование и расширение наших военных возможностей. Особенно в сфере кибервойны. Это огромный военный вызов двадцать первого века. За системами искусственного интеллекта будущее, он кардинально изменит войну. С его помощью можно будет создать умные ракеты, способные распознавать индивидуальные цели. Например – это секретные сведения, – мы разрабатываем серию дронов размером с насекомое, которые способны находить и уничтожать объекты, дронов, которые смогут на протяжении многих дней осматривать города и бункеры в поисках запрограммированной цели. Препятствие на этом пути – отсутствие сильного искусственного интеллекта. Такие дроны-насекомые, как мы их называем, должны быть автономными. И это всего лишь один из многообещающих военных проектов, над которыми вы будете работать, – в основе каждого из них лежит искин. Например, искусственный интеллект позволит нам создать маленькие, величиной с крысу, беспилотные вездеходы, которые смогут проникать на вражескую территорию, прятаться от противника, обыскивать дома, подслушивать и находить надежно защищенные подземные цели. Мы сможем разработать крошечные подводные аппараты в виде рыб, способные преодолевать тысячи миль по морям и рекам, собирая информацию, уничтожая вражеские суда, атакуя гавани… Искусственный интеллект поможет нам преодолевать сетевые экраны врага, разрушать его инфраструктуру и сбивать самолеты. Он снова сделает Соединенные Штаты военной супердержавой, но не с помощью запасов ядерного оружия, которое невозможно применить, а за счет интеллектуального оружия. Китайцы работают над этим уже несколько лет, а у нас в этой области накапливается отставание. С вашей помощью мы сможем его преодолеть.

– Отставание по искусственному интеллекту? – переспросила Мелисса. – Это вроде как раньше было отставание по ракетам?

– Очень похоже.

Форд посмотрел на девушку. Лицо его было бледным.

– Подробности нашего предложения в папке, – продолжал глава Штатов. – Можете взять ее домой и все хорошенько обдумать. Единственная просьба – не обсуждать с кем-то еще.

Изобретательница отодвинула папку:

– Я отказываюсь.

– Отказываетесь? – удивился президент. – Но вы даже не взглянули на предложение!

Шепард встала:

– В этом нет нужды. Вы понятия не имеете, во что ввязываетесь, когда речь идет об искусственном интеллекте. Как и я сама не имела, когда разрабатывала Дороти для НАСА.

– Что вы имеете в виду? – спросил глава государства.

Девушка окинула взглядом всех присутствующих:

– Настоящий искин, сильный искин, подобен человеческому разуму. И во всем этом есть что-то аморальное. А разрабатывать искусственный интеллект для войны, для убийства… Нет. Очень опасно создавать оружие, которое само способно принимать решение об убийстве, – с программой, которую обучили убивать и которая хочет убивать. Вы не сможете держать его под контролем. Как мне не удалось держать под контролем Дороти. Это откроет ящик Пандоры. С ядерным оружием, по крайней мере, на кнопке лежит палец человека.

– Это абсурдное заявление, – возразил генерал Доннелли. – Любая система искусственного интеллекта, которую мы развернем, будет находиться под полным контролем человека.

– Не стоит так думать, – покачала головой программистка. – Вы не сталкивались с Дороти.

– Доктор Шепард, подобное предложение бывает раз в жизни. – Голос президента звучал раздраженно. – Избавьте нас от своей лекции. Достаточно сказать «да» или «нет». Найдется много других людей, в том числе из вашей группы в НАСА, которые будут рады работать для нас.

– Тогда считайте, что я просто сказала «нет». – Мелисса взяла свой портфель. – Всего доброго, мистер президент. До свидания, генерал Доннелли.

– Позвольте напомнить вам, что предложение, которое вы только что отвергли, строго секретное, – сказал ей вслед глава Соединенных Штатов.

Девушка остановилась, а затем резко повернулась. В голосе ее проступили умоляющие нотки:

– Мистер президент, я умоляю вас отказаться от этого пути. Это будет началом конца человеческой расы. Пожалуйста, задумайтесь!

– Благодарю вас, доктор Шепард, но я не нуждаюсь в ваших советах, как мне поступать в качестве верховного главнокомандующего.

Мисс Шепард повернулась и вышла. Форд посмотрел ей вслед.

Президент, нахмурившись, повернулся к Локвуду:

– Вы не говорили мне, что она одержима антивоенными идеями.

– Я сам не знал, мистер президент, – стал оправдываться тот. – Мои искренние извинения.

Глава США повернулся к Уайману:

– А вы что скажете?

Детектив встал:

– Боюсь, что, видев Дороти в действии, я вынужден согласиться с доктором Шепард. Снабдив искусственный интеллект оружием, люди сделают последний шаг к собственному уничтожению. Это очень опасно.

– Но китайцы уже работают над этим, – сказал президент.

– В таком случае – да поможет нам Бог, – ответил Форд и вышел из кабинета.

64

Уайман нагнал Мелиссу в коридоре. Она быстро шла, стуча каблуками по твердому полу, и ее растрепанные белокурые волосы развевались за спиной.

– Мне очень жаль, – сказал сыщик. – Это предложение – подлый прием.

Девушка остановилась. Лицо у нее было бледным, губы крепко сжаты.

– Мне тоже, – ответила она. – Их нужно остановить.

Форд взял ее под руку:

– Мы ничего не можем сделать. Это не в нашей власти.