Клаус Шваб - Четвертая промышленная революция
Многие из технологий, описанных во врезке F, уже существуют или находятся на стадии внедрения. В качестве примера можно привести роботов SGR-A1 производства Samsung, снабженных двумя пулеметами и орудием, стреляющим резиновыми пулями (в настоящее время они несут службу на пограничных постах в Корейской демилитаризованной зоне). На данный момент они контролируются операторами-людьми, но могут, если их запрограммируют, выявлять живые цели самостоятельно и действовать соответственно.
В прошлом году Министерство обороны Великобритании и компания BAE Systems объявили об успешном проведении испытаний самолета-невидимки Taranis, известного также как Raptor, который способен взлететь, достичь указанного места назначения и обнаружить установленную для него цель. При этом вмешательство оператора, следящего за работой устройства, кроме случаев, когда оно потребуется, будет незначительным. Уже существует множество таких примеров[51]. И число их будет расти, в связи с чем возникнут важные вопросы, лежащие на пересечении геополитики, военной стратегии и тактики, законодательного регулирования и этики.
Новые рубежи глобальной безопасности
Как уже несколько раз подчеркивалось в этой книге, мы лишь в ограниченной степени представляем, каковы пределы возможностей новых технологий, а также что ждет нас впереди в этой сфере. Это также касается сферы международной и внутренней безопасности. У каждой инновации, которую мы можем себе представить, в этой области найдется и позитивный путь применения, и возможная негативная сторона. Если сейчас нейротехнологии (например, нейропротезирование) уже применяются для решения проблем со здоровьем, в будущем они могут быть применены для военных целей. Компьютерные системы, подсоединенные к мозговой ткани, могут дать возможность парализованному пациенту управлять роботизированной рукой или ногой. Та же самая технология может использоваться для того, чтобы управлять бионическим пилотом или солдатом. Устройства для воздействия на мозг, предназначенные для лечения симптомов болезни Альцгеймера, могут быть имплантированы солдатам, чтобы стереть их воспоминания или создать новые. «Вопрос не в том, будут ли негосударственные организации использовать некоторые из методов или технологий нейронауки; вопрос в том, когда и какие именно технологии они будут применять», – считает Джеймс Джордано, специалист по нейроэтике медицинского центра Джорджтаунского университета. По его мнению, «мозг станет следующей ареной боевых действий»[52].
Доступность многих из этих инноваций, а также иногда нерегулируемый характер их применения влекут за собой еще одно важное последствие. Современные тенденции предполагают быструю и массовую демократизацию возможностей наносить крупномасштабный ущерб, которыми ранее располагали только правительства и самые высокопрофессиональные организации. Начиная от производства оружия с помощью 3D-печати и до генной инженерии, применяемой в домашних лабораториях, создаваемые с помощью целого ряда новых технологий орудия уничтожения становятся все более доступными. И под воздействием слияния технологий, которое является ключевой темой этой книги, естественным образом возникает непредсказуемая динамика, которая бросает вызов существующим правовым и этическим нормам.
На пути к большей безопасности в мире
Каким же образом мы можем перед лицом этих проблем убедить людей серьезно отнестись к тем угрозам безопасности, которые несут в себе новые технологии? Еще более важно то, сумеем ли мы наладить такое сотрудничество между государственным и частным секторами в глобальном масштабе, которое смягчило бы эту угрозу?
Во второй половине прошлого века на смену страху перед ядерной войной постепенно пришла относительная стабильность, опирающаяся на концепцию взаимно гарантированного уничтожения (MAD), и, как представляется, таким образом сложилось табу на применение ядерного оружия.
Если логика MAD до сих пор работала, это происходило потому, что только у ограниченного числа участников имелся потенциал для полного уничтожения друг друга, и в этом отношении ситуация была сбалансированной. Тем не менее это равновесие может быть подорвано за счет увеличения количества структур, которые способны нести в себе смертельную опасность. По этой причине ядерные державы договорились о сотрудничестве, направленном на то, чтобы ядерный клуб оставался небольшим. Вследствие чего по итогам переговоров, проведенных в конце шестидесятых годов прошлого века, был заключен Договор о нераспространении ядерного оружия (ДНЯО).
Советский Союз и Соединенные Штаты, пусть и не соглашаясь по большинству других вопросов, понимали, что их лучшая защита состоит в том, чтобы оставаться уязвимыми по отношению друг к другу. Это привело к принятию Договора по противоракетной обороне (ПРО), который фактически ограничивает право принимать меры по защите от доставляемого ракетами ядерного оружия. Но, когда разрушительный потенциал больше не ограничивается горсткой организаций, обладающих в большой степени сходными ресурсами, тактики и интерес к созданию доктрин, направленных на предотвращение эскалации, такие, как взаимное гарантированное уничтожение, становятся менее актуальными.
Опираясь на те изменения, которые предвещает нам четвертая промышленная революция, сможем ли мы достичь какого-либо альтернативного равновесия, которое аналогичным образом превращало бы уязвимость в залог безопасности и стабильности? Действующие стороны, имеющие очень разные точки зрения и интересы, должны быть в состоянии заключить какое-то временное соглашение и сотрудничать для противодействия негативному развитию.
Заинтересованные стороны, которых касается этот вопрос, должны сотрудничать по созданию юридически обязательных правил, а также добровольно принимаемых норм, установленных на уровне равных участников, этических норм и механизмов, контролирующих потенциально опасные новые технологии. При этом предпочтительно, чтобы эти технологии не препятствовали возможности исследований, обеспечивающих инновации и экономический рост.
Несомненно, потребуется заключить международные договоры, но меня тревожит то, что регулирующие органы в этой области будут отставать от технологических достижений по причине стремительности происходящего развития и его многостороннего воздействия. Следовательно, крайне необходимо, чтобы представители образования и разработчики вели обсуждение этических норм, касающихся новых технологий четвертой промышленной революции, чтобы в обществе и в культуре в этом отношении установились и укрепились общие этические принципы. Если правительства и организации на государственной основе не будут своевременно действовать в нормативно-правовом пространстве, то инициативу могут взять на себя частные предприятия и негосударственные организации.
Само собой разумеется, что военный сектор и развитие новых технологий ведения войны существуют в своей собственной, относительно изолированной области. Тем не менее одна из проблем, которые меня беспокоят, – это возможность превращения других секторов, таких как генетическая медицина и исследования в генетике, в такие же изолированные, как и военный сектор, высоко специализированные области, в результате чего мы будем в меньшей степени иметь возможность коллективно обсуждать их проблемы и возможности, понимать их и управлять ими.
Глава 8. Общество
Развитие науки, коммерциализация инноваций и их распространение представляют собой социальные процессы, которые разворачиваются по мере того, как в различных контекстах генерируются и циркулируют идеи, ценности, интересы и социальные нормы. В результате этого становится трудно определить полное социальное воздействие новых технологических систем: существует множество переплетающихся компонентов, которые составляют наше общество, а также множество инноваций, которые каким-либо образом созданы на основе взаимодействия этих компонентов.
Непростой задачей для большинства сообществ будет решение вопроса о том, как поглотить и приспособить для себя новую современность, в то же время не отказываясь от традиционных систем ценностей. Четвертая промышленная революция, которая становится проверкой для многих фундаментальных предпосылок, из которых мы привыкли исходить, может усугубить ту напряженность, которая существует между глубоко религиозными сообществами, защищающими свои фундаментальные ценности, и сообществами, чье мировоззрение сформировано на основе более светских взглядов. Наибольшую опасность для глобального сотрудничества и стабильности могут представлять радикальные группы, которые ведут борьбу с прогрессом с особой, идеологически мотивированной жестокостью.
Как отметил социолог Мануэль Кастельс, профессор в области коммуникационных технологий и социологии в Анненбергской школе коммуникации и журналистики Университета Южной Калифорнии: «В отношении всех проявлений основных технологических изменений люди, предприятия и учреждения ощущают глубину изменений, но часто оказываются не в состоянии разобраться в них, поскольку не осознают последствий таких изменений»[53]. Ступор из-за неосведомленности – это именно то, чего мы должны избегать, особенно когда дело касается ситуации, при которой множество разнообразных сообществ, составляющих современное общество, развиваются и выстраивают связи друг с другом.
