Сценарии будущего. Как жить и работать в мире, захваченном нейросетью и роботами - Руслан Геннадьевич Юсуфов

Прав был изобретатель, фантаст и футуролог Артур Кларк, когда еще в 1968 году сформулировал один из трех своих законов: любая достаточно развитая технология неотличима от магии. Искусственный интеллект и квантовые вычисления очень сложны для понимания неспециалистами, и каждая следующая технология будет еще сложнее. Сегодняшние и завтрашние карго-культы не признают себя религиями, хотя будут напоминать религиозные секты. Да и их адепты не поймут, что следуют карго-культу, пытаясь использовать системы, внутреннего устройства которых не понимают. Например, станут разрабатывать собственную нейросеть, на самом деле имитируя ChatGPT, но без учета ошибок и преимуществ его создателей, а также задействованных ими ресурсов. Другими словами, из-за восторженного отношения к технологии, похожей на магию, фанатики будут пытаться применить ее везде, где надо и не надо, невзирая на расходы, возможный ущерб или риски.

Для личности работают те же принципы и существуют те же вызовы, что и для целых стран. Уровень понимания технологий между разными поколениями, безусловно, различается, но большинство людей относится к компьютеру именно как к компьютеру, а к смартфону – как к смартфону, не считая их результатом магии или даром богов. Каждый из нас примерно представляет, как срубить дерево, даже если никогда не держал в руках топор. Однако для понимания принципов работы конвейера по вырезанию из дерева садовых гномов уже понадобится несколько месяцев или даже лет обучения.

С развитием научно-технического прогресса на изучение конкретной технологии приходится уделять все больше времени и внимания. Я не инженер и, проезжая на автомобиле мимо ТЭЦ-22 им. Н.И. Серебряникова в Москве, понимаю, что крайне поверхностно представляю технологические процессы, выпускающие облака пара из градирен, – в отличие от специалиста, который специально учился на инженера теплоснабжения и вентиляции, чтобы работать на подобных предприятиях.

Как и туземцы Меланезии, многие нынешние потребители могут быть бенефициарами, но не операторами технологий: из грузового контейнера можно вытащить продуктовый паек или майку с надписью «USA», но без глубинного понимания процессов и технологий сборки и доставки ящика организовать получение груза невозможно, даже если построить из соломы целый аэродром. И с этим связана крайне чувствительная зависимость от технологического оператора: если он перестанет доставлять блага, то привыкшее к ним население либо взбунтуется, либо попытается решить проблему при помощи магического мышления. Если кто-то другой решает, что положить в контейнер и куда его отправить, то бенефициары получают блага ровно до тех пор, пока дружат с оператором.

Не окажемся ли мы в очень специализированном обществе, где профессиональный трек будет зависеть от социального и экономического положения конкретной семьи и выстраиваться с момента рождения, критически влияя на возможность человека сменить род деятельности? Не понимая, как технология работает, мы не способны ее воспроизвести. В системе, где все заказы человека выполняются нажатием одной кнопки, общество начинает зависеть от моральных качеств людей, стоящих за технологией. Последняя остановка такого сценария выглядит пугающе: сотня человек во всем мире худо-бедно понимают, что происходит внутри черного ящика, а остальным вполне достаточно того, что труба в Капотне дымит, а дроны-доставщики самовоспроизводятся.

В подобном технократическом обществе сотня умников, контролирующих технологии, становится новой элитой, которая назначает президентов. А выход из такой системы практически невозможен, так как связан со снижением уровня благосостояния, экономическими и социальными потрясениями. Если отобрать у людей привычную кнопку, то они обязательно выйдут на улицы, требуя доставку благ за 15 минут. И обязательно найдется политик, готовый услужить технологически продвинутому сюзерену.

Возможный сценарий «Техношаманизм»

Новая кастовая система – Техноцентризм

2025 год – Прогресс в области искусственного интеллекта, квантовых вычислений, био- и нанотехнологий значительно ускоряется.

Все большее усложнение технологий приводит к тому, что обыватели теряются в потоке технических инноваций и научных открытий. Разрывы в знаниях и понимании технологий и последствий их внедрения между техноэлитой и обычными пользователями превращаются в пропасть, и дистанция все увеличивается. Повседневная жизнь все больше зависит от «магических» устройств и алгоритмов, которыми можно пользоваться, совершенно не понимая принципов их работы.

2026 год – Большинство интеллектуальных задач передается ИИ, который вытесняет людей из высокотехнологичных индустрий.

Первые коммерческие нейроинтерфейсы, недоступные простым смертным, достаются самым обеспеченным. Вкупе с эффективным биохакингом элиты расширяют возможности мозга, все сильнее отдаляясь от масс. В массовой культуре такие ИИ-евангелисты и техногуру становятся пророками новой эры, которые видят недоступное обычным людям и ведут ко всеобщему благоденствию.

2030 год – Квантовые компьютеры решают проблемы, недоступные человеческому пониманию.

Большинство людей уже не понимают принципов окружающих технологий, но хотят оставаться «в обойме», что только подогревает иррациональную веру в «чудодейственные» свойства высокотехнологичных устройств и ИИ-систем. После возникновения первых культов, обожествляющих технологии и их создателей, слепая вера в технологии, как панацею от всех проблем, вытесняет критическое мышление. Технологические карго-культы становятся доминирующей формой мировоззрения для миллиардов людей, которые поклоняются гаджетам и алгоритмам, не понимая их сути, но веря в сверхъестественную силу. Формируется новое мифологическое мышление.

Техноэлита окончательно закрепляет за собой статус «шаманов» и «жрецов», способных управлять непостижимыми технологиями, без которых общество пропадет. От них зависит судьба человечества, поэтому их роль и статус выше любого формального руководителя или политика. Общество фактически регрессирует в новые «темные века», где большинство служит карго-культу, иррационально обожествляя и мистифицируя науку, но не понимая ее основ. Невиданные высоты технологического развития парадоксальным образом соседствуют с тотальной деградацией – культурной и интеллектуальной.

Современный феодализм

Уступи новому мировому порядку – Систематическому, аристократическому. Не вводи себя в заблуждение, уйди с дороги! Мы приказываем, а вы подчиняетесь.

The Kovenant «New World Order», альбом «Animatronik», студия Nuclear Blast, 1999

Любая современная экосистема похожа на многоуровневую сороконожку – цепочку не только из многих звеньев со множеством карманов в виде сервисов и платежей на каждой ноге, но и из нескольких этажей, связанных с властью и управлением. Технологические гиганты уже существуют в рамках похожей на феодальную системы с привилегированными сословиями. Например, Джеф Безос – король Amazon, управляющий аппарат – его аристократическая свита, а дочерние компании и связанные бизнесы – его вассалы, и так вплоть до «крестьян», которые платят подати своим вниманием, временем и ежемесячной подпиской.

Хотя «крестьяне» могут выбирать экосистему на свой вкус, на их выбор оказывается влияние. Например, покупая подписку крупного провайдера облачных вычислений, он получает бесплатный или льготный доступ к другим сервисам экосистемы: стримингу музыки и сериалов,