Это злая разумная опухоль - Питер Уоттс
Но при этом он стал, возможно, самым тщательно продуманным и достойным внимания исследованием искусственного интеллекта, которое я видел.
Осознание этого застает тебя врасплох. Те маленькие подсказки при взгляде через глаза Бога поначалу легко упустить. И вся система в целом сперва кажется шаткой: Машина выдает страховые номера? По таксофону? Вот так она сообщает, что кто-то должен умереть через 24 часа? И не может открыть парочку из множества известных ей деталей, чтобы помочь нашим героям?
Ответ на этот вопрос – «нет», и в конечном итоге мы узнаем, почему. Финч не дает никому, даже себе, возможности следить за всеми постоянно. Что делать, если без «Паноптикума» не получается предотвратить теракты, а доверить его правительству нельзя? Собрать всезнающую машину. Сделать ее такой, чтобы она могла лишь указывать на опасность, не описывая ее, не выдавая всех тех мелких подробностей, которые могут быть использованы нечистыми на руку людьми, чтобы навредить невинным. (А тем, кто думает шире, расскажут также, что Финч скупил все эти устаревшие таксофоны, чтобы поддерживать их в рабочем состоянии.)
Но даже тогда внимание сосредоточено на политике и паранойе, а не на искусственном интеллекте. С Машиной очень долго обращаются как с переусложненной базой данных; сценарий в основном игнорирует элемент ИИ почти до самого конца первого сезона, когда хакерша Рут замечает, что нельзя создать нечто, предсказывающее поведение человека, если оно каким-то образом не понимает поведение людей. Рут не очень нравится то, как Финч обращается со своим изобретением: она обвиняет его в том, что он создал Бога и поработил Ее, не дал Ей даже голоса. И даже тогда мы не до конца понимаем, насколько серьезно нам стоит воспринимать этот НФ-элемент, обряженный в поношенные шмотки сериала про копов. Рут не из тех, кого можно назвать классическим надежным рассказчиком.
И насчет голоса она ошибается. Выясняется, что Машина умеет говорить – мы об этом знали, она все это время шептала на ушко Финчу милую чепуху, – и, признаюсь, я не жаждал услышать, как звучит этот голос. Трудно представить себе более затасканный троп, чем Голос фантастического компьютера. Будет ли он как у HAL-9000 или бесстрастный, механический и монотонный, как у форбиновского «Колосса»? А может, Машина будет говорить громогласным баритоном, присущим всем тем планетарным компьютерам, с которыми состязался когда-то Джеймс Т. Кирк? Сделается ли ее голос высоким и писклявым, когда Спок прикажет ей вычислить пи вплоть до последнего знака после запятой? Или, может, она будет похожа на Сири?
Все вышеперечисленное оказалось неверно. Это почти идеальная сцена. Риз встает на углу улицы, заглядывает в линзу камеры наблюдения – один мертвый взгляд встречается с другим – и говорит: «Сейчас он в опасности, потому что работал на тебя. И ты поможешь мне его найти». Мигает красная лампочка: рядом начинает звонить таксофон. Риз берет трубку, слышит писк модема, потом хор разрозненных голосов —
неуверенность, ромео, кило, семья, альфа, майк,
размышление, джульетта, оскар —
и звонок обрывается.
Вот и все. Ни убаюкивающего подражания HAL, ни театральности «Звездного пути»: реплики Машины – это звуковой эквивалент старомодных записок с требованиями выкупа, она склеивает слова, позаимствованные у разных людей. И даже не составляет предложения, а использует какой-то кривой радиоалфавитный код[163], мешанину внешне случайных слов, которую приходится расшифровывать. Она говорит по-английски – вроде бы – однако множество парсеков отделяет ее от ленивого клише о компьютере, который очеловечивается, едва включившись, и начинает задумываться о сострадании и этой че-ло-ве-чес-кой штуке под названием «любовь». Пусть она и разумна, но совсем на нас не похожа.
Мы были в начале второго сезона, в целом сезоне от переломной точки, после которой сериал вроде как должен был сделаться хорошим; и да, действительно, нам предстояло одолеть еще множество часов фигни. Но именно эта сцена меня зацепила.
Экранное воплощение Машины можно похвалить за очень многое. Есть, разумеется, очевидные, бросающиеся в глаза вещи: разъяснительные диалоги, споры Рут и Финча о непрозрачности машинных приоритетов, вопрос того, мясо или железо должны принимать решения (клянусь, некоторые из этих диалогов были потянуты прямиком из публикаций в журнале H+). На удивление трагическое открытие, что эта программа-Бог умирает каждую ночь ровно в 00:00, только чтобы раз за разом рождаться вновь. Все эти прежние, неудавшиеся версии из тех времен, когда у Финча не получалось создать программу, которая не пыталась бы его обмануть или убить, преследуя собственные цели. Неизбежный парадокс вагонетки, возникающий, когда Машина, запрограммированная защищать человеческие жизни, решает, что лучший способ этого добиться – устранение конкретных людей. Сам ум этой штуковины, то, как она обставляет своих врагов-людей: меня особенно порадовал тот случай, когда она общалась с пойманной Рут, посылая с лежащего неподалеку мобильника морзянку на частоте, слишком высокой для того, чтобы ее услышала пытавшая хакершу тетка в возрасте за сорок. Не говоря уже о том чудесном моменте, когда ты понимаешь, что эта чертова железяка переехала в неизвестное место (или места) сервер за сервером, обдурив FedEx и федералов фальшивыми платежками.
Но больше всего впечатляют, пожалуй, мелкие детальки, всплывающие без фанфар и комментариев. Хаотический палимпсест взаимосвязанных, наложенных друг на друга окошек, изображающий взгляд Машины на мир, который при перезагрузке восстанавливается в виде идеально ровной сетки рядов и столбцов. Иконки и наложения, меняющие цвет по ходу того, как программа анализирует новый фрагмент подслушанного разговора; фрактальное размножение ветвей и вероятностей, прорастающих из этого файла с голосовой записью по мере обновления сценариев будущего. Проходных персонажей зовут Тьюринг и фон Нейманн – в одном эпизоде есть даже Иэн Бэнкс. Не все отсылки настолько очевидны: сколько среди вас тех, кто заметил оммаж «Нейроманту», когда Финч проходил мимо ряда таксофонов, каждый из которых звонил, привлекая его внимание, а потом умолкал?
А когда противник Машины, Самаритянин, загружался под музыку из радиохэдовского «OK Computer»? Я чуть не обмочился.
Сегодня этот сериал служит, по сути, воплощением фразы «утром в газете – вечером в куплете». Возьмите любую из недавних серий – и найдете истории о киберсталкинге и высокочастотном трейдинге; найдете остроумные отсылки к тому, что Yahoo и Google – это тылы поисковых систем АНБ. В одной неприятно реалистичной серии небрежно завуалированная Сири, запрограммированная формулировать свои ответы так, чтобы максимизировать продажи для корпоративных спонсоров, выдает человеку, запросившему
