Кибербезопасность в условиях электронного банкинга. Практическое пособие - Коллектив авторов

С высокой степенью вероятности можно предполагать, что роботизация технологических процессов, виртуализация рабочих мест и AI приведут к конфликту человека и технологий, который будет заключаться не только в потере рабочих мест, но и во все возрастающем искушении создать аватары людей путем загрузки сознания (whole brain emulation, WBE[294]) и (или) киборгизации – реализовать заветные мечты трансгуманистов [295].

Все более актуальной угрозой для развивающихся стран с относительно низким уровнем доходов населения, в период глобализации превратившихся в промышленные площадки, становится reshoring[296], так как доступность дешевой рабочей силы более не является определяющим фактором конкурентоспособности компаний. А поскольку платежеспособный спрос в этих странах сохранится на относительно низком уровне, это усугубит социальное напряжение и конфликты, будет способствовать развитию деглобализации и еще большей нестабильности мира. Четвертая промышленная революция в итоге сделает принцип omnes vincit accipit[297] доминирующим в отношениях между странами и внутри их.

Уже на нынешней стадии развития AI ощутимы рост неопределенности (трудно достоверно определить, общается с вами чат-бот или человек, сам ли человек принимал решение или им искусно манипулировал интеллектуальный помощник, ограждающий от «излишней информации») и потеря контроля (нелегко распознать, являются рекомендации пока еще псевдо-AI истинными или ложными, потому что невозможно отследить логику нейросети, т. е. возникает дилемма: либо полностью доверять AI, либо всегда его перепроверять, а последнее становится все сложнее)[298].

При этом асимметрия информации ведет к значительной асимметрии власти, делая субъекта с правами суперпользователя почти всемогущим: ведь только тот, кто знает, как использовать технологию, приобретает силу от ее использования. На первых порах усилится неравенство между технически грамотными людьми, которые понимают и контролируют информационно-коммуникационные технологии (ИКТ), и людьми, не обремененными существенными познаниями в сфере ИКТ, которые являются пассивными потребителями технологий, не обладая их пониманием.

Все это создаст условия, при которых технологические гиганты, такие как Amazon, Apple, Facebook, Google и Microsoft[299], владеющие технологическими платформами, BigData и технологиями AI, обретут такие богатство и мощь, что фактически выйдут из-под контроля регулирующих органов и национальных государств[300]. Sharing economy делает все более ценным владение платформой по сравнению с владением материальными активами: при использовании CPS предельная себестоимость производства каждой дополнительной единицы товара или услуги стремится к нулю (по сравнению с затратами на разработку цифровой модели этого продукта или бизнес-процесса оказания услуги). При этом запуск BigTech-компаниями собственных криптовалют вроде Libra[301] от Facebook превращает их в замкнутые самодостаточные экосистемы, которые уже не нуждаются во внешних провайдерах финансовых услуг (деньги не надо «приземлять» на банковские счета, вся прежняя инфраструктура расчетов тоже становится ненужной).

Параллельно идет определенная десакрализация власти: правительства теряют преимущественный доступ к информации и действуют все менее своевременно и эффективно, в то время как управляемый субъект, то есть население, теперь гораздо лучше информирован и более требователен. Он все чаще рассматривает правительство по аналогии с BigTech-компаниями – как такой же центр обслуживания населения – и оценивает его по способности поставлять эти услуги наиболее эффективным и индивидуализированным способом.

В перспективе уже ожидается выход AI на уровень Artificial General Intelligence[302] (AGI), критерием достижения которого выступает «способность освоить большинство профессий, по крайней мере тех, которыми мог бы владеть среднестатистический человек»[303]. Не вдаваясь в полемику технооптимистов вроде создателя концепции сингулярности[304] в результате слияния человека с AGI Рэймонда Курцвейла (Raymond Kurzweil) и технопессимистов, ярким представителем которых является шведский философ-трансгуманист Ник Востром (Niklas Bostrom), стоит заметить, что уже сейчас уровень сложности программ не позволяет контролировать их наполнение до уровня строчек кода. Создание

AGI, который сможет самостоятельно программировать в том числе самого себя, в принципе ведет к утрате контроля за системами уровня PaaS и ключевой ИТ-инфраструктурой. Выступать в роли контроллера и аудитора AGI сможет только другой AGI: «Единственный способ избавиться от драконов – это иметь своего собственного»[305].

11.7. Цифровой феодализм

Демонстрация рабов в Древнем Риме. Несут транспаранты «Да здравствует феодализм – светлое будущее человечества!».

В 2017 г. Центр стратегических разработок предложил концепцию «Государства-как-Платформы» – качественно новую систему организации и функционирования органов государственной власти Российской Федерации, основанную на «трех китах»:

– ликвидации разрозненности ведомственных систем путем их объединения (создания) на единой PaaS, обеспечивающей единство системы сбора и хранения данных, цифровой инфраструктуры, среды взаимодействия для государственных служащих, автоматизированного принятия решений и т. п.;

– переводе всех государственных услуг в электронную форму с системой удаленной биометрической идентификации, переводе контрольно-надзорной и разрешительной деятельности в цифровой формат;

– формировании цифровых двойников граждан, организаций, объектов и проактивном предоставлении государственных услуг[306].

Указанная идея предполагала полную цифровую трансформацию государственного управления с использованием возможностей, которые предоставляют современные ИТ, вместо цифровизации устаревших процессов[307].

Однако создатели этой красивой концепции обошли своим вниманием проблемы сохранения государственного суверенитета в цифровом пространстве, поскольку рычаги управления «Государством-как-Платформой» в реальности все-таки будут в руках владельцев (разработчиков) PaaS, систем хранения данных и алгоритмов их обработки и реализации бизнес-процессов.

Между тем гиперсвязанность мира, обеспеченная господством BigTech-компаний, в условиях растущего неравенства размывает грань между войной и миром, а также между теми, кто участвует и не участвует в боевых действиях. Гипотетическая война в киберпространстве является самой серьезной угрозой нашего времени. Никто из технологически продвинутых игроков не в силах избежать искушения подорвать функционирование, внести сбои или уничтожить инфраструктуру своего противника, обеспечивающую коммуникации и принятие решений (включая датчики, базы данных, средства связи и т. д.). «В результате этого не только снизится порог критериев наличия войны, но также станет менее выраженной грань между войной и миром, поскольку любые сети или подключенные устройства, от военных систем до гражданской инфраструктуры, такие как источники энергии, электрические сети, системы управления здравоохранением, движением или водоснабжением, могут быть взломаны и подвергнуты нападению»[308]. Уже сейчас принципиально возможны военные действия посредством самоуправляемых систем[309], в том числе боевых роботов и автоматизированного оружия с применением AI. Настоящей проблемой может стать асимметричное преимущество негосударственных формирований (от хакерских команд до террористических группировок), которые сложно не только держать под контролем, но даже идентифицировать.

Даже полная изоляция от интернета не является 100 %-ной гарантией защиты от возможного вторжения в информационные системы, что наглядно продемонстрировала история с вирусом Stuxnet, серьезно подорвавшим иранскую ядерную программу в 2010 г.[310] Собственно, с этого времени можно начинать отсчет эпохи настоящих кибервойн, поскольку это были не простой взлом веб-серверов, кража данных или DDoS-атака, а нападение на максимально защищенную промышленную инфраструктуру[311].

Атака правительства США на Huawei из-за технологий