Сценарии будущего. Как жить и работать в мире, захваченном нейросетью и роботами - Руслан Геннадьевич Юсуфов
2026 год – Корпоративные анклавы фактически становятся независимыми от национальных юрисдикций.
Корпорации скупают целые города и регионы, превращая их в корпоративные анклавы, внутри которых устанавливают собственные законы и правила, подменяющие государственные. Анклавы эффективно контролируются алгоритмами, зачастую становясь пилотными зонами для проверки технологических новшеств. Для управления населением и активами повсеместно внедряют системы социального рейтинга.
2028 год – Корпорации реализуют право на насилие.
Для защиты своих территорий корпорации формируют частные армии и расширяют полномочия служб безопасности, наделяя их правом на «ответный удар» и «самооборону», поэтому хакерские атаки провоцируют горячие киберконфликты и неизбежные акты возмездия. Торговые и промышленные войны все чаще сопровождаются прямыми столкновениями: корпорации воюют друг с другом за ресурсы и технологии – в физическом мире через третьи стороны, а в киберпространстве напрямую.
Жизнь в анклавах строго регламентируется в соответствии с корпоративными целями и показателями эффективности. Каждый обитатель (сотрудник) получает столько благ, прав и возможностей, сколько ему и его семье полагается, исходя из занимаемой в корпорации позиции. Некоторые действия не столько запрещены, сколько влекут потерю корпоративного доверия, в долгосрочной перспективе лишая работника тех или иных возможностей. Более ценным в глазах корпорации сотрудникам дозволяется куда больше, чем рядовым: уровень корпоративного кредита для них выше, а при рассмотрении конфликтов корпоративный суд скорее примет их сторону.
Фактически в корпоративных анклавах формируется технологическая кастовая система, основанная на роли человека в производственных процессах. Высшие касты – менеджмент, инженеры и ученые – получают привилегии и расширенные возможности, благодаря генной инженерии, прогрессивным алгоритмам и передовым имплантам. Низшие касты – рабочие и обслуживающий персонал – управляются через нейроинтерфейсы и контролируются ИИ, фактически превращаясь в биороботов.
2034 год – Государства теряют всякий контроль над корпоративными анклавами, превратившимися в независимые техногосударства.
Мир разделяется между глобальными корпорациями, каждая из которых управляет сетью высокотехнологичных анклавов-государств со своими законами и армиями. Население воспринимает топ-менеджеров, стоящих во главе анклавов, как полубогов, определяющих судьбы миллионов людей через алгоритмы и корпоративные директивы. Единственный шанс на достойную жизнь – принадлежность к правильной касте в передовой корпорации.
Глава 13
Отказ от цифровизации или полная оцифровка?
Продолжим ли мы воспринимать цифровизацию как единственно возможный путь развития общества, или неспособность противостоять возникающим рискам заставит нас отказаться от «цифры» и обновления технологий, а то и откатиться к предыдущим стадиям научно-технического прогресса?
Билет до станции «киберпанк»
Это прекрасный день, чтобы начать все заново.
Billy Idol «White Wedding», альбом «Billy Idol», студия Chrysalis, 1982
Пандемия COVID-19 спровоцировала переход на дистанционную работу и удаленное потребление, а научившись более-менее эффективно трудиться, не выходя из дома, мы стали отдавать предпочтения онлайн-взаимодействиям и в остальных областях нашей жизни. Государства и корпорации активно внедряют цифровые платформы и сервисы: первые для удобства граждан, а вторые – для формирования новых источников выручки, но и те, и другие – в погоне за постоянной адаптацией и переизобретением себя.
Движение еще глубже в «цифру» открывает совершенно фантастические возможности: виртуальная и дополненная реальности позволят создать неотличимые от физических личностей аватары, стирая грань между онлайном и офлайном, а повсеместное внедрение цифровых двойников для людей, товаров, процессов и инфраструктуры откроет возможности прогнозирования всего и вся, чтобы выбирать наиболее благоприятные исходы.
В результате построения цифрового общества сбор и анализ данных неизбежно становится главным инструментом принятия решений, управления и контроля, но плата за эти возможности может быть велика. Когда ИИ-системы возьмут на себя большинство функций по принятию решений, то алгоритмы смогут управлять предпочтениями, поведением и даже мышлением людей в еще больших масштабах, чем сегодня. На кону – риск потери свободы воли и автономности человека, вытеснение креативности и спонтанности алгоритмической оптимизацией, помещение общества в эхо-камеры цифровых платформ и изоляция альтернативных точек зрения. В таком раздробленном обществе договариваться, принимать совместные резолюции и слышать оппонентов станет еще сложнее, хотя все инструменты для решения общих проблем в глобальном масштабе будут под рукой.
Нарастание негативных последствий цифровизации может заглушить первое очарование технологий, без которого мы начнем видеть в этих процессах только негатив, испытывая все больше раздражения. Участившиеся кибер-атаки и утечки данных будут подрывать доверие к цифровым системам, а дипфейки в политике, повсеместные информационные манипуляции с неизбежным ужесточением контроля и цензуры – разрушать информационную экосистему.
Цифровая зависимость – от видеоигр, виртуальных миров на любой вкус, виртуальных ассистентов и партнеров – и вызванный ею эскапизм спровоцируют социальную дисфункцию. Современное общество вроде бы связано многообразием инструментов коммуникации, но мы стали общаться не больше и качественнее, а наоборот. Алгоритмические предубеждения и дискриминация, помноженные на идеологические и ценностные конфликты, будут усиливать социальное напряжение, разжигая нетерпимость и обостряя чувство несправедливости.
Что должно произойти, чтобы окончательно подорвать веру в цифровое будущее? Атака на критическую инфраструктуру глобального масштаба? Геополитический конфликт с отключением целого региона от интернета? Кибертеррористический акт с десятками тысяч человеческих жертв? Скандал с запредельными этическими злоупотреблениями в транснациональных корпорациях? Мировой финансовый кризис, запущенный взломом алгоритмов шифрования?
Если общество и не свернет совсем с пути к «цифре», то каждое новое разочарование будет популяризировать идеи цифрового минимализма, детокса и возврата к природе, а значит, найдутся политические силы, готовые эти желания реализовать в обмен на лояльность избирателей. Призывы к ограничению влияния техногигантов и все более жестким регуляторным мерам могут привести к тренду на сворачивание цифровых инициатив, демонтажу информационной инфраструктуры и даже возврату на аналоговые рельсы. Кто-то вздохнет с облегчением: больше не нужно бороться за цифровые кадры в агрессивной конкурентной среде, достаточно заявить, что «у нас свой особый путь».
В сценарии значительного ограничения цифровизации нас ждет внедрение гибридных систем, которые частично полагаются на компьютеры другой формы. Вслед за закрытием несостоятельных цифровых платформ и сервисов, жесткими ограничениями на применение ИИ и анализа данных наступит экономический и социальный шок, который позволит снова влюбиться в прошлое. Ностальгические настроения обратят мысли к возрождению устаревших социальных институтов. Базовые цифровые навыки утратятся, а вместо «цифровой грамотности» трендами в образовании и науке станут «низкотехнологическая грамотность» и увлечение натурфилософией.
Новые ужасы социальной инженерии
Я тот, кого ты никогда не увидишь глубокой ночью. Заглядываю в твое окно, оставаясь вне поля зрения. Ложись спать, запри дверь,
