Рамез Наам - Дилемма
– Жди в машине. Меня не будет час или два.
Телохранитель поклонился, и Чен вошел в открытые двери, где его сразу же попросили предъявить пропуск и пройти через металлоискатель, терагерцевый сканер и сканер сетчатки глаз. Затем он вошел в лифт. Опустившись под землю на пять этажей, Чен оказался в центре защищенных вычислительных систем.
Вооруженный охранник почтительно кивнул. Чен, не обратив на него никакого внимания, пошел дальше – ко входу в ЦФИВС – центр физически изолированных вычислительных систем.
Лин закрыла глаза и через отцовские электронные устройства – телефон и планшет – тоже очутилась под землей, в официально несуществующем секретном комплексе под зданием университета Джао Тонг. Устройства провели анализ местной сети и образовали информационный туннель, по которому разум Лин мог проникнуть внутрь. Она осторожно поглаживала потоки информации – прощупывала, поглощала, искала. Где-то здесь заперта ее мать – изолирована от внешнего мира и от Лин. Ничего, она ее найдет.
Чен шел по коридорам. Встречные почтительно кланялись. Конечно, это ведь сам Чен Панг, стараниями которого Китай совершил такой гигантский рывок в области квантовых вычислений. Ему поклонялись. Жаль, никто не знает правды…
Ли-хуа – ассистентка отца, невзрачная серая мышка – завидела его издалека и вскочила, поклонилась.
– Профессор Чен, – затараторила она, – мы провели тесты, о которых вы просили…
Чен отмахнулся и пошел дальше. Да, да, вы провели тесты, очень хорошо. Сейчас не до этого.
Он уверенно шагал вперед мимо кланяющихся научных сотрудников. В нем опять росло негодование. Зависть. Величайшее достижение его жизни на самом деле принадлежало жене, а он лишь умело его присвоил. Не захотел жить в ее тени.
Впрочем, игра стоила свеч.
– Лин, перерыв закончился. Пора приступать к следующему уроку.
Она стиснула кулачки.
– Лин. – Учительница слегка повысила голос.
Она заставила себя улыбнуться и посмотреть человечишке в глаза, как научила ее мама, произнести ничего не значащие слова:
– Пожалуйста, можно я еще немножко посижу у окна, госпожа? Я так люблю смотреть на дождь…
– Что ж… – удивилась учительница. – Раз ты так вежливо попросила, разрешаю.
На следующем пункте досмотра Чен сдал всю электронику охране. Его тщательно обыскали и просветили всеми возможными сканерами – не дай бог кто-то пронесет в ЦФИВС цифровой носитель.
Наконец охранник кивнул, и Чен шагнул в просторный лифт. Двери за ним закрылись, и лифт поехал вниз, на глубину свыше тысячи метров, где содержали спятившее цифровое сознание – все, что осталось от его покойной жены.
Лин перелопачивала экзабайты данных. Криптографические библиотеки. Высокоразрешенные изображения со спутников. Сканы человеческого мозга. Геномные последовательности. Ее матери нигде не было.
Лин стала искать карты: схемы зданий и компьютерных сетей. Так, вот они. Топологическая схема сети ничего ей не дала – на ней не было объектов, похожих на нужный квантовый кластер. Кластер, в котором существовала ее мать. Схема здания тоже оказалась бесполезной, всюду сплошные дата-центры неясного предназначения.
Лин продолжала поиски. Она должна во что бы то ни стало найти свою мать.
Просторный лифт – размером с хорошую гостиную – вез Чена сквозь скальную породу под Шанхаем. На табло загорелась надпись: «ИЗОЛЯЦИЯ АКТИВНА».
Без мер предосторожности было никак. Ученые, философы, футуристы, фантасты – все писали об угрозах, которые таит в себе сверхразум. Если человечество когда-нибудь создаст разум с радикально усовершенствованными мыслительными способностями, то тем самым оно поставит свое существование под угрозу. Конечно, созданный разум может оказаться послушным и благожелательным. На это все и надеялись. А если он захочет избавиться от людей? Если он решит изменить мир в лучшую сторону – не обращая внимания на нужды и интересы тех, кто его создал?
Развитый искусственный интеллект способен развиваться сам, бесконечно меняя собственную структуру и оптимизируя ее, становясь бесконечно умнее своих создателей.
Именно по этой причине Су-Йонг Шу пришлось ограничить: она могла редактировать свой разум лишь на самом поверхностном уровне.
Чен сомневался, что риск произвольного самоусовершенствования действительно существует. Как один человек не может создать с нуля интеллект уровня человеческого, так и сверхразум не в состоянии породить интеллект своего уровня или выше. Да, безусловно, он сумеет усовершенствовать методы, которыми пользовались его создатели, и добиться незначительного развития, но без доступа к новому железу и оборудованию эффект от усовершенствований быстро нивелируется.
Поэтому Чен решил поступиться правилами: во время обычной процедуры техобслуживания установил ряд обновлений и доказал коллегам необходимость апгрейда квантовых процессоров. Все исключительно из практических соображений, разумеется. Чтобы Шу могла усерднее трудиться в интересах государства, Министерства наук и человечества. Все ради общего блага.
Однако в современном мире, где все связано, где балом правит информация, где шифры заменили собой замки и охраняют мировое богатство, инфраструктуру, оружие, в этом мире любое существо, способное обрабатывать данные быстрее человека, представляет собой огромную угрозу.
Именно по этой причине Копенгагенский протокол запретил разработку искусственного интеллекта, обладающего самосознанием. И по этой же причине правительство Китая, спонсируя разработку именно такого сознания, приняло немыслимые меры предосторожности, чтобы физически его изолировать, полностью отрезать от внешней среды и при необходимости дистанционно уничтожить.
Лифт с лязгом остановился. Здесь, глубоко под землей, не было никаких беспроводных сетей, только три физических канала для передачи данных. Один из них связывал квантовый кластер с мировой сетью, но сейчас он не функционировал: между двумя его концами было десять метров скальной породы. По второму кабелю данные с камер и прочих сенсоров передавались в центр защищенных вычислительных систем: охрана всегда знала, что творится внизу. По третьему кабелю курсировали куда более простые данные. Этот провод соединял надземный терминал с радиоизотопным генератором, обеспечивавшем ЦФИВС электричеством. Если хоть что-то пойдет не так, по кабелю пройдет один-единственный сигнал – команда генератору выйти из строя и расплавить всю подземную базу к чертям.
Огромные двери лифта разъехались в стороны. Двери внутреннего отсека толщиной в несколько метров разошлись секундой позже, и Чен Панг вышел из лифта, чтобы произвести техосмотр собственной жены.
Лин нахмурилась. Нигде не было ни намека на ее маму. Но она знала наверняка, что ее содержат в квантовом кластере под университетом. И отец туда отправился.
– Лин, перерыв окончен.
Она пропустила слова учителя мимо ушей. Где ее мать? Где?!
Чен сел к терминалу, с помощью которого осуществлялся контроль за квантовым разумом его жены, и запустил системную проверку. Сквозь пуленепробиваемое стекло он наблюдал за движением жидкого гелия по корпусам, видел вакуумные камеры, где поддерживались сверхнизкие температуры и почти полностью лишенная тепловых шумов атмосфера. Он в буквальном смысле видел мозг существа, на котором когда-то был женат.
Через считаные секунды по экрану побежали символы. Диагностика нулевого уровня прошла успешно. Корпус нетронут. Пропускная способность квантовых каналов связи между элементами – отличная. Когерентность кубитов – в пределах допустимой погрешности.
Дальше – диагностика первого уровня. Уровень загрузки процессора и памяти – высокий. Шу что-то лихорадочно обдумывала, не прекращая попыток установить внешнее соединение. Миллионы раз в секунду она пыталась выбраться во внешнюю сеть, выйти на связь с камерами, аудиосенсорами, нексусом, своим клоном, который умер в Таиланде.
Больше всего Чена встревожили результаты диагностики второго уровня. Ее цифровой разум выглядел нездоровым. Виртуальные мозговые импульсы – хаотичные и спутанные, непохожие на человеческие. Структура нейронных связей в лобных долях головного мозга – в чудовищном состоянии. Остатки функционирующих нейронов работали в бешеном режиме, пытаясь наверстать упущенное.
Значит, Шу действительно сходит с ума. И он никак не может остановить этот процесс.
Дай мне всего одну подсказку, жена. Позволь сделать еще одно открытие – последнее. Потом умирай.
Чен Панг потянулся и включил камеры и микрофоны, соединявшие его с разумом покойной жены.
– Лин!
Что-то не так, осознала она. Она сперва думала, что он просто остановился, но потом перепроверила и убедилась, что контакта с отцом нет.
– Лин, ты меня слышишь?
