Новый Мир Новый Мир - Новый Мир ( № 4 2010)
в текстовом режиме (говорить он не может — голова разворочена, мозг погиб). И в ходе этого диалога вроде бы выясняется, что никакого страшного Сарасти, вампира, извечного врага и страха человечества, своей харизмой подавляющего «мясо», человеческий экипаж, на корабле никогда и не было. А был лишь придаток Капитана, суперкомпьютера «Тезея», собственно и принимавшего все стратегические решения.
«Труп Сарасти подтолкнул меня в спину. Я обернулся.
— Это хоть когда-нибудь был он? — спросил я.
Иди.
— Скажи. Он хоть раз говорил за себя? Решал ли хоть что-нибудь сам? Следовали мы хоть раз его указаниям или это все время был ты?
Неживые, стеклянные глаза Сарасти непонимающе пялились на меня. Пальцы его заскребли по наладоннику.
Лди плхо выплняют прикзы мшн. Так вам спкойней » [28] .
Так что же, выходит, вся команда экспертов, искалечивших и перекроивших свои тела в угоду торжеству «человеческого» разума, выполняя сложнейшее задание, рискуя жизнями и в конце концов эти жизни отдав за «правое дело», не раздумывая, подчинялась искусственному интеллекту, по определению (как мы уже выяснили тут) в нашем понимании не разумному? Интеллекту, руководствующемуся в своих действиях «высшей прагматикой», без рефлексии, без «ложных» посылов. Чем же в таком случае действия «Тезея» и его команды отличались от действий «Роршаха»
и его команды, неразумных, но очень эффективных полипов — «болтунов», как прозвала их «человеческая» команда «Тезея»?
Ничем. В сущности, ничем. Не потому ли результат столкновения получился таким драматическим. Ведь действия Сарасти с самого начала казались команде излишне жесткими, но команда списывала это на извечную загадочность и непогрешимость вампиров, старшей и страшной расы. Выходит, сами люди не только не способны отличить действующее сознательно разумное существо от бессознательного машинного интеллекта, но даже не способны оценить разумность собственных действий?
Итак, «правильная» реакция на раздражители не обязательно означает сознание; мало того, чем она автоматичней, инстинктивней, тем выгодней (сознательные действия, напомню, связаны с большими энергетическими затратами). Поэтому теоретически, говорит Уоттс, среди нас могут появляться отдельные особи — «зомби», — ведущие себя так, словно они разумны, но на самом деле просто демонстрирующие адекватные реакции на определенные социальные раздражители. Уоттс называет таких особей социопатами — лишенные воображения, они, по определению, лишены и эмпатии, сочувствия, хотя могут внешне демонстрировать проявления этих признаков. Такие особи будут успешны именно вследствие того, что не будут расходовать излишнюю энергию на глупости, действуя как «интеллектуальные автоматы».
«<...> никакое разумное существо не сумеет выделить зомби из толпы себе подобных. <…> Оно сможет даже участвовать в разговорах вроде нашего. Сможет писать письма родным, изображать реальные эмоции, ни в малейшей мере не воспринимая собственного существования. <…> О, мимикрия может оказаться не идеальной. Зомби станет слишком говорливым или будет скатываться время от времени до многословных лекций. Но так и настоящие люди поступают, верно? <…> А вот что действительно интересно, так это количество социопатов в высших эшелонах власти, хм? Как превозносятся безжалостность и предельный эгоизм в стратосфере, в то время как на уровне земли всякого, кто проявит те же черты, закатывают в тюрьму к реалистам. Словно само общество метаморфирует изнутри.
— <…> погоди, ты хочешь сказать, что корпоративная элита лишена разума?
— Господи, нет. Далеко не лишена. Должно быть, они только вступили на эту дорогу. <…>
— Да, но социопаты плохо вписываются в общество.
— Те, кого распознают, не вписываются, но они по определению — третий сорт. Остальные слишком умны, чтобы попадаться, а настоящий автомат справился бы еще лучше. Кроме того, если у тебя достаточно власти, тебе необязательно вести себя, как все. Все начинают вести себя, как ты» [29] .
Социопат — просто модная американская страшилка. Однако есть еще кое-что. Предположим, мы, каждый по отдельности, разумны. Но интеллект толпы, как известно, равен интеллекту самой глупой ее человеческой единицы. А уж вознесение и гибель царств и цивилизаций связаны с чем угодно — c колебаниями климата, солнечными пиками активности, циклами засух-обводнений, — только не с волей и интеллектом отдельных людей. Чем больше по численности структура, состоящая из отдельных людей, тем больше шансов, что она будет реагировать бессознательно. Как машина.
«— Видите, как хорошо видны отсюда люди, снующие в свете газовых фонарей.
— Они возвращаются домой после работы в доке.
— Какие они усталые и грязные! Но в каждом горит искра бессмертного огня. Глядя на них, ни за что не скажешь этого. И тем не менее это так. Странное все-таки существо человек.
— Кто-то назвал человека животным, наделенным душой.
— Уинвуд Рид хорошо сказал об этом, — продолжал Холмс. — Он говорит, что отдельный человек — это неразрешимая загадка, зато в совокупности люди представляют собой некое математическое единство и подчинены определенным законам. Разве можно, например, предсказать действия отдельного человека, но поведение целого коллектива можно, оказывается, предсказать с большой точностью. Индивидуумы различаются между собой, но процентное отношение человеческих характеров в любом коллективе остается постоянным. Так говорит статистика» [30] .
Мало того.
Наши собственные действия гораздо более механистичны, чем нам кажется. Привычные ситуации вовсе не требуют от нас постоянного напряжения разума, сводя отношения со средой до серии сложных условных рефлексов. (Попавшему в непривычное окружение, скажем в другую страну, известно, насколько проблемными становятся привычные бытовые действия, какой расход энергии тратится на поездку в том же метро, именно потому, что она не совершается автоматически, — все немножко другое, и этого уже достаточно.) Много ли человек задумывается, идя на работу, совершая раз за разом одни и те же привычные действия в метро, троллейбусе, маршрутке?.. Да и, честно говоря, много ли он задумывается вообще?
В космическом масштабе как нас отличить, скажем, от тех же муравьев? Люди годами ходят по одним и тем же маршрутам, притаскивают из специальных хранилищ продукты в гнезда, относят свои личинки в особые места, где за ними присматривают тренированные особи. Меняют вокруг себя окружающую среду? Так и муравьи в муравейнике ее меняют, у них там постоянная температура и влажность. И детские ясли, и теплицы, и скотные дворы. Ну да, муравьи не изобрели атомной бомбы. Так что, способность к саморазрушению — признак разума? Что-то неладно выходит.
Ну, вот еще один канонический пример.
Представим себе, что человеческие лейкоциты — клетки, обитающие в человеческой крови и обладающие свободой передвижения, — разумны. Что они ведут между собой высокоученые разговоры, влюбляются, ссорятся, создают великие произведения искусства, записанные на клеточных мембранах при помощи тончайших нанотехнологий, что, когда на их мирные поля и русла кровяных рек нападают коварные враги-бактерии, они, как один, бросаются на защиту своих домов, своих родных и близких и гибнут, отразив атаку… Что из этого всего почувствует человек, кроме повышения температуры, являющейся реакцией на вторжение в организм инфекции? Услышит ли он вопли умирающих, рыдания оставшихся
в живых, ощутит ли их печальное торжество? Какое дело целому до частей, если они функционируют правильно и выполняют свою функцию?
Кстати, насчет уоттсовских вампиров. Время от времени просыпаясь в своем спасательном челноке, герой получает с Земли все более и более странные сообщения. Вроде бы там произошло восстание вампиров. Вроде бы вампиры уничтожили (или последовательно уничтожают) все «мясо». Непонятно, правда, зачем они истребляют свою же собственную кормовую базу, непонятно, откуда их вообще взялось так много, если земные стратеги воскресили всего нескольких. Впрочем, возможно, Уоттс намеревается писать продолжение, этим все и объясняется. Так или иначе, сообщения, поступающие с Земли и из ближнего Космоса, становятся все прагматичней, все рациональней. Ничего лишнего. Если прилетит следующий «Роршах», говорит герой, конфликта не будет — древняя несправедливость исправлена, Землей правит рациональный бессознательный разум, «интеллектуальный автомат», потенциальный союзник «роршахов». Ошибка эволюции исправлена, все стало на свои места.
