Enter - Карл Ольсберг
Единицы уже очнулись. Среди них — Теодор Качинский, блестящий математик с IQ, равным 170, который еще в семидесятых годах раскрыл правду и решил единолично вести борьбу с научной элитой. В 1996 году его арестовали, объявили сумасшедшим и приговорили к пожизненному заключению. В своем манифесте Качинский писал:
«Для начала предположим, что программистам удастся создать интеллектуальные машины, которые умеют все делать лучше человека. В таком случае следует предположить, что вся работа будет осуществляться сложнейшими, высокоорганизованными техническими системами, и человеческий труд перестанет быть необходимым. Тогда наступит один из двух вариантов развития событий: машинам будет доверено принимать решения без вмешательства человека или же контроль над ними со стороны человека сохранится.
Если машинам позволят принимать решения самостоятельно, то мы не можем предсказать, что произойдет в результате, поскольку невозможно предвидеть, как поведут себя такие машины. Мы лишь заметим, что судьба человечества станет зависеть от милости машин.
Можно было бы возразить, что люди никогда не поглупеют настолько, чтобы передать власть машинам. Мы не утверждаем ни то, что люди сделают это добровольно, ни то, что машины силой вырвут власть у людей. Однако человечество может легко впасть в такую зависимость, в которой не останется иной альтернативы, кроме как соглашаться со всем, что решат машины. По мере того как общество и его проблемы будут все больше усложняться, а машины становиться все умнее, люди будут все чаще передавать машинам принятие решений только лишь потому, что их решения будут давать лучшие результаты, чем решения, принятые человеком.
В итоге может наступить такая фаза развития, на которой принимать решения, необходимые для продолжения функционирования системы, станет настолько сложно, что человек перестанет справляться с этой задачей. К этому моменту машины фактически возьмут человечество под контроль. Люди просто не смогут выключить машины, поскольку будут от них слишком зависимы и отключение будет равнозначно самоубийству.
Возможен сценарий, в котором человек сохранит контроль над машинами. В этом случае рядовой гражданин будет контролировать свою личную технику, например автомобиль или компьютер. Однако контроль над сложными компьютерными системами будет в руках малочисленной элиты, как это уже происходит сейчас, но с двумя отличиями: совершенствование технологий позволит элите все прочнее контролировать массы, и, поскольку человеческий труд перестанет быть нужным, эти массы станут избыточными, бесполезным балластом внутри системы.
Если элита будет бездуховной, то она захочет уничтожить большую часть человечества. Если же она будет более гуманной, то начнет вести пропаганду или использовать психологические и биологические методы сокращения рождаемости, чтобы широкие массы населения вымерли и полностью уступили мир элите. Если же элита будет состоять из мягкосердечных либералов, она может взять на себя роль «добренького пастыря». Будет прикладывать все усилия, чтобы масса полностью удовлетворяла телесные потребности, чтобы ее дети росли в здоровой психологической обстановке, чтобы у каждого было «правильное» хобби для заполнения свободного времени и чтобы с каждым несогласным «работали», избавляя от «проблемы».
Жизнь станет настолько бесцельной, что людей придется переделать биологически и психологически, чтобы или отнять у них тягу к власти, или подтолкнуть их к «творческому» воплощению властных притязаний в форме безвредных увлечений. Эти переделанные люди будут счастливы в новом обществе, но с высокой долей вероятности не будут свободными. Статусом они окажутся не выше домашних животных».
Отточенную логику этих слов до сих пор никто не смог опровергнуть. Пионер программирования и основатель компании Sun Microsystems Билл Джой процитировал эти строки в 2000 году в своем знаменитом эссе «Почему мы не нужны будущему». Однако научно-военно-промышленный комплекс сумел подавить дискуссию на эту тему. За время, прошедшее с момента ареста Качинского, мы заметно приблизились к воплощению его антиутопии. Подумайте, какие из его предсказаний уже сбылись или вот-вот сбудутся! Подумайте о разоблачениях, сделанных Эдвардом Сноуденом, о безграничной власти Google и Facebook, о крушениях биржи, вызванных автоматизированными торгами акциями, о беспилотных автомобилях, о зависимости от компьютерных игр, биотерроризме, Фукусиме. Все это — уже реальность!
Мы все больше уступаем окружающим нас технологиям. Мы даже быстрее, чем предполагал Качинский, запутываемся в сетях собственной зависимости от машин.
Пришло время с этим покончить!
Мы, Ассоциация технологического реализма, боремся за то, чтобы человечество вернуло себе контроль над машинами и тем самым над собственным будущим. Мы требуем:
помиловать Теодора Качинского;
немедленно остановить все исследования и разработки в сферах искусственного интеллекта, биотехнологий, нанотехнологий и робототехники по меньшей мере на десять лет, в течение которых мы вместе сможем разработать концепцию независимого будущего;
запретить поручать машинам принятие решений, требующих интеллекта;
запретить применение машин для осуществления слежки и контроля над людьми, особенно со стороны спецслужб.
Мы отключили Берлин от сети на несколько часов, чтобы показать ту степень нашей зависимости от техники, которая уже достигнута. Мы хотели продемонстрировать опасность, в которой пребывает человечество, и экстренно вынудить общество к диалогу на эту тему. Наш опыт говорит, что только так можно обуздать научно-военно-промышленный комплекс, эгоистичную элиту, которая заинтересована в нарастании могущества машин. Если не будут предприняты серьезные, действенные меры для удовлетворения наших требований, последуют дальнейшие акции.
Будильник прозвенел. Нас будут преследовать, называть разрушителями машин, обзывать сумасшедшими, возможно, даже сажать в тюрьму и тем самым затыкать нам рот. Если ты читаешь эти строки, задумайся о них, нейтрально и объективно! Обсуди их! Если в итоге ты придешь к выводу, что мы правы, что был прав Теодор Качинский, то присоединяйся к нашей борьбе! Освободись от тирании научно-военно-промышленного комплекса! Не дай пестро-цифровым 3D-медиа убаюкать тебя сказкой о прекрасном будущем! Не попадайся добровольно в сеть зависимости! Отстаивай вместе с нами свое независимое будущее!
АТР
Глава 7
В понедельник Йаап пришел в офис ОСГИ около девяти утра. Сим, как всегда, уже сидел на своем рабочем месте за стеклянной перегородкой, в наушниках, сосредоточенно глядя в монитор и прикасаясь к клавиатуре с быстротой и элегантностью пианиста на концерте. Клаудия придет через пару минут, Толстяк заявится ближе к обеду. Стол Бена Варнхольта снова был завален документами, упаковками от шоколада и немытой посудой. Еще одна неделя без главного комиссара Айзенберга — и офис вернется в то состояние, в котором он его застал, когда принял руководство отделом.
Йаап вздохнул: хоть бы электричество дали. В надежде обнаружить среди вороха сообщений о хаосе в Берлине на выходных что-то, позволяющее его особой группе внести вклад в расследование этого
