Станислав Лем - Мегабитовая бомба
Artificial Servility
Эссе написано в ноябре 1996 г.
1
Что это такое — artificial servility? Такого словосочетания не было, пока я его не придумал. Это, в буквальном переводе, «искусственное рабство». Оно касается всего, на что способны в настоящее время широко распространяющиеся во всем мире электронные устройства, предназначенные для преобразования, передачи, хранения и last but not least отображения информации. Почему «рабство»? Потому, что во всем этом производстве (приносящем разным майкрософтам миллиарды), во всей массе компьютеров, во всех поколениях hardware и software, модемах, провайдерах, серверах нет ни следа разума. Нет ни капли интеллекта. Работают так, как рабы: по нашему приказу. Способны привести и в рай «сексуального удовлетворения», и в «тарпейский ад» [От «Тарпейская скала», с которой в Риме сбрасывали преступников и предателей]. Бредни не отличаются от информации, даже такой важной, как, например, равенство E=mc2. Всем этим объектам и субъектам, в конце концов, «все равно» в такой степени, которая не сравнима с тем послушным рабством, до которого можно было бы при необходимости довести не только человека, но любое животное, наученное реагировать в соответствии с правилами условных рефлексов, и даже безусловных (ибо существуют и такие).
2
Здесь читатель может сказать: ну и что? Разве такое безграничное подчинение нашим потребностям (посещение Кордовы или ознакомление с расшифрованными фрагментами узелкового письма кипу), такое ничем не ограниченное послушание всех компьютеров, их соединений, сетей и модемов, устройств печати, систем электронной почты — это плохо? И разве все это не приносило огромную выгоду, видимую не только и не прежде всего в том, что ПРОМЫШЛЕННОСТЬ ПРЕОБРАЗОВАНИЯ И ПЕРЕДАЧИ КАКОЙ-ЛИБО ИНФОРМАЦИИ дает большую прибыль, но в том, что она помогает нам в сборе, в упорядочивании, в написании, в распечатывании или визуализации всего, что может быть информацией и что надежно, пока какой-нибудь человек, вдохновленный типично человеческой злобой, не начнет насылать на этот всемирный порядок «ядовитые» вирусы в виде микропрограмм, способных разрушать данные до полного уничтожения, «информационной чистки» всего на жестких дисках, — сразу же (как снаряд, попадающий в цель) или с произвольно запланированной и установленной задержкой (как взрывное устройство с детонатором, установленным на «подходящий момент»)? Зло людям делают люди, поэтому они также могут, а часто любят, высылать или подкладывать, адресно или безадресно, не только взрывающиеся, но и «логические бомбы» (logic bomb). В то же время «сами по себе» электронные преобразователи, электронные разрушители, электронные media не могут ничего. Не могут «ничего» до такой степени, что обычная домашняя курица, даже слепая, которой «изредка попадается зерно», является Эйнштейном по сравнению с компьютером последнего поколения. Попробуйте увидеть эту разницу, замахиваясь молотком и на курицу, и на компьютер. Компьютер не дрогнет, пока вы его не искромсаете, а курица попробует хотя бы убежать. Мы же к этому раболепному послушанию так приспособились, так привыкли к компьютерно-сетевой безошибочности (исключая зависания и «пробки», вызванные единственно чрезмерным объемом информации, превышающим пропускную способность электронных соединений), что считаем такое положение вещей нормальным, желаемым и очевидным… с одним, но зато весьма существенным исключением. Именно сейчас мы убеждаемся, что все еще не высечена искра Artificial Intelligence, что уже пятьдесят лет инженерия связи и data processing бьются над проблемой AI и пока ничего полезного не создали. Кроме ужасно примитивных действий программ, которые способны различать, например, геометрические тела и цвета и которые могут (но опять без собственной инициативы) передвигать различные объекты и устанавливать их так, как мы хотим. Очевидно, что это не является каким-либо интеллектом. Это не является не только человеческим интеллектом, но даже собачьим. Кто-то скажет: но ведь у нас есть хранилища знаний, экспертные программы, имеются собрания специальных данных, позволяющих, например, геологам находить места, в которых под землей должна быть нефть, или собрания избранных данных (дополнительных исследований), позволяющих идти дорогой эвристических альтернативных разветвлений, чтобы поставить диагноз больному, чтобы указать оптимальный метод лечения и так далее. Имеются целые системы для управления и дирижирования, например, построением автомобилей или ракет (или бомб…) с помощью «промышленных роботов». Все это развивается дальше, но где в этом поступательном движении может появиться след разумности, интеллектуального внушения, «творческого вдохновения»? Мы уже достаточно научились тому, чтобы замещать интеллект, можем запускать симулирующие и оптимизирующие программы и программы, создающие «виртуальную реальность», но, к сожалению, все это — эффекты наших обходов «интеллектуальности» и творческого «воображения», все это подмены. Это похоже на «интеллектуальность» пищеварительного тракта, который вначале «пожирает пищу», «глотает» ее, «окисляет», и таким «интеллектуальным» способом обеспечивает организм энергией и химическими соединениями, необходимыми для поддержания жизни, а все обесцененные энергетически и химически «остатки» удаляются как экскременты. Да, выполнять что-то подобное неживые устройства мира электроники, подневольные человеческого разума, уже умеют, но ведь никто не считает, что употребление и переваривание котлеты есть доказательство интеллектуальности зубов, слюны, желудка и кишок.
3
Единственное объяснение причин отсутствия интеллекта, перемещенного из живого мозга в машины, отсутствия малейшего следа одушевления машин (не Deus exmachina [Бог из машины (лат.)], а хотя бы Animus ex machina [Душа из машины (лат.)]) звучит следующим образом.
НЕТ ОДНОГО ЕДИНСТВЕННОГО РАЗУМА. Нет также единственного вида интеллекта. Если будет создан Artificial Intelligence, а не какой-нибудь заменитель, более или менее удачно имитирующий интеллект, то уже тем самым, хотим мы того или нет, люди как конструкторы AI вступят в царство многообразия. Интеллектуальная система будет послушна — или не захочет быть послушной. А так как она будет понимать приказы, просьбы, воздействия, пожелания, то может послушаться или воспротивиться. Если такая система всегда и во всем будет готова слушаться, то тем самым продемонстрирует, что является безвольной и «не может иметь собственного мнения». То, что одни и те же научные, художественные, литературные и т. д. тексты разные люди, по-разному образованные, талантливые, то есть не конченые идиоты (о них не говорю здесь вообще), способны трактовать по-разному, интерпретировать, по-своему признавать важными или мелкими, взволноваться ими или разозлиться, чувствовать возмущение, безразличие или восторг, — все это, что я перечислил, и то, чего краткости ради приводить не стану, показывает множество реальных проявлений разумности, существование которой мы склонны признать. Если бы это было не так, то не смогли бы возникнуть исторические (или диахронические) и современные (или синхронические) разнообразные стили мышления в религиях, в философии и last but not least даже в инженерно-промышленном создании оружия или спасительных лекарств и терапевтических методов. Ибо, например, любая из существующих сейчас экспертных программ не придумает для нас нового метода лечения любого заболевания, так как программы совершенно не мыслят, а если б начали думать, то должны были бы думать разнообразно. Иными словами: создать искусственный интеллект — значит создать и поле свободы для интерпретации. Так называемая лингвистическая перформативность означает: любой человек, который способен пользоваться языком (понимая его, а также разговаривая на нем), вообще не должен и даже не может идеально однозначным способом артикулировать мысли, возникающие у него в мозгу. В таких малых масштабах «перформативность» просто означает, что мы говорим в меру свободно, а не только цитируем исключительно то, что выучили наизусть. Наизусть говорит граммофонная пластинка, или магнитофонная лента, или дискета. Мы можем изменять «направление бега мыслей, словами отображаемых». Чем лучше кто-либо знает данный язык, тем большая свобода артикулярного разнообразия преобладает в его разговорах, в иностранном же языке мы сильно ограничены. К чему я клоню этим будто бы развлекательным разговором? Единственно к тому, что, высекая интеллект из неживых устройств, мы окажемся в окружении множества проблем. О некоторых напомню.
4
В настоящее время устройствам передачи данных не хватает самоконтроля. Модемам все равно, что они передают на весь сетевой мир: изображения святых, или изображения голых задов, или формулы производства взрывчатых веществ. Им все равно, и от этого мы сейчас страдаем, так как люди имеют неприятную привычку пробовать фрукты, заказанные исключительно из-за их необычности либо вредные, даже убийственные. Но прошу взвесить: если в сетях возникнет блуждающий «искусственный интеллект», тем самым появится способность фильтрования, сдерживания, отсева и уничтожения информации, так как интеллектуальность, которая единокровна с разумностью, может и даже обязана быть также способной к введению цензуры для установления преград прохождению определенного рода информации. При этом окажется, что есть много различных интеллектов, и тем самым разные государства, разные режимы, разные веры, разные миропонимания, разные точки зрения начнут пользоваться способностью «нейтрализации или уничтожения» такой информации, на которую наложено табу и поступления или доступности которой для тех или иных адресатов они не желают. Сейчас, чтобы оградить детей от возможности просмотра электронно пересылаемых изображений (например, по TV), отец или мать могут установить «электронный намордник» на телевизор, исходя из того, что они (отец с матерью) узнают о программе, которая должна появиться. Если эту «приставку» не установят, то телевизор сам по себе какой-либо «добропорядочной цензуры» не создаст. Таким образом, окончательно «цензурируют» изображения или тексты отец с матерью, или дядя с тетей, или воспитатель, но не электронные устройства. Электроны ничто не шокирует. В то же время искусственный интеллект должен, а не только может, проявлять активность и избирательность. Его можно развратить, ему можно то или это отсоветовать, можно его дезориентировать, обмануть, отуманить или научить и объяснить ему что-нибудь. Фундаменталисты безмерно бы обрадовались, если б овладели AI! Тогда не надо было бы, как в Иране, запрещать установку спутниковых тарелок и приемников… Не так уж много прошло с того времени, когда Советы признавали запуск глобально вещающих спутниковых ретрансляторов как casus belli [Повод к войне (лат.)]. Я не придумал это специально для данного эссе. Уже нет Советов и еще нет искусственного интеллекта, но уверяю читателей, что вместе с его появлением наступит новая эра, насыщенная новыми, неизвестными опасностями. Не всех увлекает идея ГЛОБАЛЬНЫХ ВАРИАНТОВ ЦЕНЗУРЫ. Кроме того, я не говорю, что искусственный интеллект может нас взять за горло, но вводить в заблуждение, обманывать, сбивать с пути сможет. Это во-первых. Во-вторых, как нет одинакового у всех людей разума, так не может быть одинакового до тождественности интеллекта. Как существуют двигатели разной мощности, так же могут быть разной силы искусственные интеллекты. Не сразу же начнется построение машинных Эйнштейнов или — как в моем произведении — големов. Может быть, возникнут разные виды интеллекта, основанные на разных типах «характеров». Я лично считаю, что понятия «разумность» и «личность» потенциально разделены. Но такая потенциальная разделенность тоже не может обратиться добром и только добром.
