Сценарии будущего. Как жить и работать в мире, захваченном нейросетью и роботами - Руслан Геннадьевич Юсуфов

Движения и проекты вроде PauseAI активизировались на фоне миллиардных инвестиций корпораций и массовых увольнений, но появились сравнительно недавно – спустя короткое время после выхода ChatGPT. Что ждет нас дальше? Если трансгуманисты, в числе которых влиятельные венчурные капиталисты, станут все активнее призывать к отмене ограничений на расширение возможностей человека, а технофобы – требовать более жесткого регулирования и моратория на рискованные технологии, отказываясь от прогресса, то будет ли их противостояние мирным? И кто победит в итоге?

Можно с уверенностью прогнозировать рост напряженности в вопросах границ и рисков технологической трансформации. Для преодоления экзистенциальных рисков и согласования противоречий потребуется совместная работа, но будет ли она в принципе возможна, если два сообщества окажутся настолько идеологически далеки друг от друга, что не смогут сесть за стол переговоров?

Вероятно, успешный сценарий не где-то ровно посередине между принятием или отказом. Развитие технологий для расширения человеческих возможностей и изменения в самом человеке должны сделать производство товаров и повышение персонального дохода куда более тривиальной задачей – для всех. Риски должны настолько померкнуть на фоне невероятного бума в экономике, обещающего каждому денежные, интеллектуальные и правовые средства для обеспечения собственных нужд на недостижимом прежде уровне, чтобы от этого предложения невозможно было отказаться.

Возможный сценарий «Массовая технофобия»

Отказ от цифровизации – Технолуддизм

2025 год – Массовое внедрение ИИ и автоматизации приводит к сокращению рабочих мест.

2026 год – Вводятся первые законы, регулирующие применение ИИ и защищающие права работников.

Внедрение ИИ и тотальная автоматизация производственных процессов приводят к массовым увольнениям: люди лишаются постоянного дохода, и далеко не все находят возможность перестроиться, чтобы получить новую профессию. По миру проходит череда забастовок, напряженность перерастает в социальные кризисы. На волне протестов против замены людей роботами растет популярность политических сил, выступающих за ограничение использования ИИ: среди них как левые, так и правые политики, строящие свои политические платформы на защите интересов людей от алгоритмов. Тему защиты рабочих мест поднимают во всех предвыборных кампаниях, а корпорации облагают дополнительными налогами на автоматизацию и применение алгоритмов. Социальная стабильность достигается за счет всеобщего ограничения цифровизации вплоть до полного отказа в некоторых сферах.

2028 год – Принимаются международные соглашения об ограничении развития и использования ИИ.

2030 год – Мир разделяется на страны, соблюдающие ограничения и тайно развивающие высокие технологии.

Прогресс становится дополнительным финансовым бременем, поэтому многие компании вынуждены отказаться от передовых технологий, возвращая людей на рабочие места. Многократное удорожание технологических инноваций делает их роскошью, доступной далеко не всем. Появляются подпольные рынки высоких технологий, а хакерская активность в сфере промышленного шпионажа многократно возрастает. Некоторые страны продолжают подпольно развивать цифровые технологии, торгуя ими в обход ограничений. Нелегальные сети обмена технологиями и цифровыми данными между странами и компаниями доказывают свою эффективность, но структуры, продолжающие открыто развивать их, все чаще подвергаются санкциям.

Опасения по поводу искусственного интеллекта и расширения возможностей человека перерастают в массовую технофобию и алармизм. Консервативные круги объявляют апгрейд людей «ересью» и покушением на человеческое достоинство. Активизируются технолуддитские движения, а в СМИ и политике доминируют нарративы о рисках и непредсказуемых последствиях трансгуманизма. Любые модификации человека вызывают массовую тревогу и отторжение, вне зависимости от их положительного потенциала. Развитие биомедицины кардинально смещается в сторону паллиативной помощи и поддержания «естественного» здоровья, а медицинские исследования становятся объектом пристального внимания, чтобы «ересь» не просочилась.

2033 год – Цифровизация и автоматизация находятся под строгим контролем государств.

Обе стороны агрессивно лоббируют про- и антитрансгуманистические законы, радикальные неолуддиты совершают хакерские атаки на исследовательские центры и ИИ-компании, устраивая погромы на территориях высокотехнологичных кампусов. В обществах с традиционными ценностями создают «комитеты человечности», тесно связанные с религиозными организациями. Систематическое нагнетение страхов вокруг «расчеловечивания» и создания «постлюдей» в глазах общественности приравнивает трансгуманизм к евгенике и преступным экспериментам. Проводятся исторические аналогии с леденящими кровь опытами над людьми в японском «Отряде 731» (1932–1949) или медицинскими экспериментами над заключенными концлагерей в нацистской Германии времен Второй мировой войны.

2034 год – Исследования в области трансгуманизма запрещены конвенциями ООН.

По мере маргинализации трансгуманизма ученые и энтузиасты расширения возможностей человека все чаще подвергаются остракизму, преследованиям и увольнениям из научных институтов и корпораций. Самый радикальный сценарий сопровождают акты биотерроризма и появление «антитрансгуманистических» штаммов вирусов, которые безвредны для «обычных» людей, но нарушают функционирование биотехнологического организма.

В некоторых странах против трансгуманизма выступают религиозные организации и духовные движения, позволяя технолуддизму получить характер квазирелигии, противопоставляющей технологиям «духовность». Трендом становится «возврат к корням», близость к природе, увлечение эзотерикой и псевдонауками. Социальная стабильность обеспечивается сохранением традиционных рабочих мест, но технический прогресс и развитие цифровой экономики замедляются, несмотря на существование черного рынка технологий.

Глава 15

Локализация или глобализация?

Каким будет мир: глобальным с синхронизацией экономических, культурных и технологических процессов в разных странах или еще более фрагментированным на политические, экономические и культурные союзы?

Новая «гонка вооружений»

Я сбросил бомбу на Японию, Я был заложником в Иране, Я – уродливый американец, Теперь я – человек правительства.

Electric Six «Naked Pictures (Of Your Mother)», альбом «Fire», студия XL, 2003

ИИ-агенты решают многие задачи лучше, чем нынешние боты, способные предложить не особо интересную альтернативу («для юридических лиц нажмите один, для физических лиц нажмите два…»), поэтому они крайне востребованы. С увеличением роли искусственного интеллекта в обществе, бизнесе и государстве, с внедрением алгоритмов во все большее количество бизнес-процессов, с появлением автономных ИИ-агентов, которые живут своей жизнью, взаимодействуя друг с другом и человеком, возникнет ряд вопросов, ответы на которые подскажут, из чего будет складываться значительная доля ВВП в ближайшем будущем:

• Что нужно для их создания и функционирования? – Данные, модели и архитектуры;

• На каком языке они будут общаться между собой? – Вероятно, не на русском и не на английском;

• Как и чем они будут платить друг другу? – Вероятно, не рублями и не долларами;

• Каким топливом их надо топить? Чем, кроме электричества?

• Какое оборудование нужно для их работы?

Для вычислений и хранения данных необходимы интегральные микросхемы:

• Из чего производится это оборудование?

• Какие именно полупроводниковые материалы?

• Кто умеет производить это оборудование?

• Кто владеет технологией производства?

• Как быстро она копируется?

Все эти вопросы определяют сферы перспективных