Сценарии будущего. Как жить и работать в мире, захваченном нейросетью и роботами - Руслан Геннадьевич Юсуфов
При принятии решений коллектив зачастую руководствуется общественным благом, которое может расходиться с желанием индивида не иметь никаких ограничений. К примеру, Китай лидирует по количеству камер: 372 штуки на тысячу человек. При этом здесь существует множество зрелых технических решений, отлично адаптированных под местную специфику и способных точно распознавать людей в этой очень большой и достаточно гомогенной популяции. По мнению многих граждан Китая, система всеобщего видеонаблюдения сделала их страну безопасней. Однако китайские амбиции не заканчиваются лидерством в области видеомониторинга в своей стране – появилась информация о том, что Китай планирует установить на Луне крупнейшую систему видеонаблюдения для защиты «лунной собственности» и «оперативной реакции» в случае нарушений.
Официальная российская статистика также подтверждает связь видеонаблюдения и повышения уровня безопасности: в 2023 году при помощи системы «Безопасный город» в Москве удалось на 31 % сократить количество преступлений, совершенных в жилом секторе, а использование модуля «ПАРСИВ»[35] и системы «Сфера»[36] позволили установить 4325 лиц, находившихся в розыске, в том числе задержать 3897 человек за совершение преступлений.
Размещение дополнительных камер наружного наблюдения, которые ищут преступников и следят за общественным порядком, – благо для общества в целом, но вполне возможно – угроза для отдельных индивидов, у которых остается все меньше личных границ. Если вы находитесь в публичном месте, то в большинстве стран мира вас можно снимать на видео и выкладывать ваши неловкие попытки перепрыгнуть через лужу в социальные сети с перспективой превращения в интернет-мем.
Еще один пример индивидуальных ограничений ради общественного блага: в начале 2024 года в Калифорнии внесли на рассмотрение законопроект, требующий с 2027 года оснащать все производимые и продаваемые в штате автомобили ограничителями скорости, чтобы не позволять водителям ускоряться сверх определенного предела. Предположительно, технология будет использовать систему глобального позиционирования GPS и базу данных о скоростях на дорогах, чтобы автомобили не превышали разрешенную скорость больше, чем на 10 миль в час. То есть на шоссе с максимальным ограничением в 65 миль/час ехать быстрее 75 будет физически невозможно.
По данным Министерства транспорта США, треть смертей на дорогах связана с превышением скорости, причем в 2021 году число погибших при превышении скорости достигло 14-летнего максимума. Так что с точки зрения государства и общественной безопасности, это абсолютно очевидное решение, и если технологии позволяют запретить превышение скорости, то почему нет? Но возникают вопросы о последствиях подобной инновации:
• Не приведет ли она к появлению черного рынка программных и технических средств, снимающих ограничения?
• Кто и каким образом будет с ним бороться?
• Не появятся ли дополнительные издержки из-за более медленного движения автомобилей?
• Не приведет ли это к авариям, которых можно было бы избежать за счет резкого ускорения?
• К каким злоупотреблениям со стороны автопроизводителей и злоумышленников могут привести подобные ограничители?
• Смогут ли водители безопасно управлять автомобилем на территориях, где нет требований о таких ограничителях скорости?
Все это – примеры того, как государство (коллектив), имея больше ресурсов, чем любой индивид, способно использовать технологии для своих нужд и во имя общественного блага. В тех областях, которые сегодня представляют «дикий запад», неизбежно появится регулятор, который получит гранты и субсидии, внедрит технологии, сформирует правила и принудит к их исполнению – в отличие от индивида, который не обладает ни экспертизой, ни ресурсами, ни возможностями.
Примечательно, что коллективизм проще обеспечивать и поддерживать при высокой степени цифровизации. Цифровая прозрачность каждого человека позволяет эффективнее проводить государственную политику и удовлетворять интересы большинства. Государства, активно внедряющие системы мониторинга и контроля за гражданами, цифровые идентификаторы и профили для каждого человека, получают больше данных для анализа их поведения и предпочтений. А коллектив, имеющий инструменты для более эффективного анализа поведения и предпочтений своих членов, может точнее удовлетворять запросы людей, заранее отслеживая возможных отступников от принятых в обществе правил, законов или идеологии.
Все это делает коллективизм с высокой степенью цифровизации весьма стабильной конфигурацией общества. Индивид практически неспособен конкурировать с государством или корпорацией в технологическом поле: коллектив способен собрать деньги на постройку нового центра обработки данных, инвестировать в передовые алгоритмы и повысить точность принимаемых решений, а у отдельного человека на это нет ни денег, ни компетенций.
Коллективизм подразумевает подчинение интересов индивида требованиям группы окружающих его людей, взамен предлагая их поддержку. Какие требования будут предъявлять коллективы будущего к своим членам и какую поддержку им оказывать? Кто и как будет принимать решения о более достойных поддержки членах общества в ситуациях, где прежние парадигмы устарели? Уже сейчас мы видим, что в одних странах преференции получают ветераны, многодетные матери и люди с особенностями развития, а в других – квиры[37] или мигранты, приезжающие в страну с единственной целью получить пособие по безработице.
В 2022 году ученые из Хэфэйского комплексного национального научного центра предложили искусственный интеллект для считывания эмоций, направленный на определение лояльности членов Коммунистической партии Китая. Система способна интерпретировать электроэнцефалограммы, мимику и электрическую активность кожи людей во время просмотра партийных информационных материалов. Испытуемые входили в специальную кабинку и садились перед экраном, на котором им демонстрировали материалы, пропагандирующие политику и достижения партии.
Система считывала и интерпретировала несколько параметров, а затем присваивала испытуемому баллы лояльности, учитывая эмоциональную реакцию, степень концентрации на материале и согласия с транслируемой пропагандой. Авторы и правительство с помощью этой системы собирались контролировать качество образовательных материалов политической направленности. В ходе испытаний системы такую проверку прошли по меньшей мере 43 члена компартии Китая. Однако идея подверглась критике общественности и мирового научного сообщества: большинство экспертов утверждали, что система будет использоваться для устрашения членов партии.
В мире, где каждый человек (или его цифровой двойник) уже взвешен и измерен, ответ напрашивается сам собой: блага должны распределяться согласно показаниям социального рейтинга, скрытого за умным алгоритмом, или публично отображаемого прямо в паспорте. Что станет с теми, чей рейтинг окажется слишком низким, чтобы соответствовать этим требованиям? Вряд ли они будут низведены до состояния рабов: у них наверняка даже останутся гражданские права и возможность распоряжаться своими телами и сознанием.
Это не безумный сценарий – сегодняшние американские миллениалы, в отличие от своих родителей или дедов, уже не способны купить дом или квартиру из-за роста инфляции и разрыва между доходами самых бедных и самых богатых. А с учетом турбулентности на рынке труда, вызванной внедрением искусственного интеллекта и алгоритмов автоматизации бизнес-процессов, ситуация будет только ухудшаться, так как давая людям доступ к новым ресурсам, технологии в то же время углубляют и усложняют
