Сценарии будущего. Как жить и работать в мире, захваченном нейросетью и роботами - Руслан Геннадьевич Юсуфов
UFO «Doctor, Doctor», альбом «Phenomenon», студия Chrysalis, 1974
Жительнице штата Аризона позвонила плачущая дочь и сказала, что попала в беду, а затем трубку взял мужчина и сообщил, что сделает с девочкой нехорошие вещи, если не получит выкуп. Все обошлось, девочка была в безопасности, просто мошенники сгенерировали ее речь при помощи искусственного интеллекта. Но мать была уверена, что голос и плач – в точности как у ее дочери. Похожая ситуация произошла с мужчиной из штата Огайо, у которого требовали выкуп в размере $5000 за «похищенную» дочь. Хорошо, что его коллега не растерялся и позвонил девочке, чтобы убедиться, что она в школе и с ней в все порядке.
Публикации в социальных сетях предоставляют виртуальным «похитителям» достаточно образцов голоса, чтобы выдать себя за родственника практически любого современного человека. Кроме выкупа они могут требовать совершить диверсию или иное преступление, ведь родитель в состоянии аффекта пойдет на что угодно. Поэтому в США (а потом и по всему миру) подобные шокирующие истории, связанные со злоупотреблениями персональными данными и кражей личности, будут максимально использоваться для усиления контроля за гражданами под видом заботы о национальной безопасности. Ну действительно, почему бы не собрать базу данных голосов всех граждан, чтобы установить у телеком-операторов оборудование для их идентификации? Разумеется, все ради защиты детей.
С одной стороны, защита данных граждан – это вопрос национальной безопасности. С другой стороны, государства реагируют на запрос, появившийся в результате скандалов, связанных с утечками и злоупотреблениями. Наконец, они ощущают все возрастающую конкуренцию со стороны корпораций.
В 2021 году российская компания Xsolla, предоставляющая платежные услуги, уволила сразу 150 сотрудников. Ее генеральный директор и основатель Александр Агапитов разослал работникам письмо, в котором говорилось, что они уволены на основании анализа больших данных об их деятельности. Многие осудили действия компании, расценив это как тайный шпионаж за сотрудниками.
В 2022 году регулирующие органы Великобритании оштрафовали на $9,4 млн американскую компанию Clearview AI, создающую ПО для распознавания лиц. Она собирала изображения людей из Великобритании и других стран в интернете и социальных сетях для глобальной онлайн-базы, которую правоохранительные органы могут использовать для распознавания лиц, что оказалось нарушением закона Великобритании о защите данных.
В США государственным служащим запрещено устанавливать на рабочие устройства TikTok из-за сомнений в политике использования личных данных. Резкий скачок популярности сервиса и недоверие к китайским компаниям привели к тому, что генерального директора видеоплатформы Шоу Ци Чу вызвали на слушание в Конгресс США. Несмотря на то, что конгрессмены показали себя не самыми технически подкованными участниками диалога, TikTok и правда собирает огромное количество данных о пользователях.
Государства встают на путь ужесточения регуляции, и хотя разные страны делают это по-разному, но к зарубежным акторам все относятся более жестко, чем к отечественным.
Еще в 2018 году в ЕС вступил в силу Общий регламент по защите данных (GDPR), направленный прежде всего на предоставление гражданам контроля над собственными персональными данными и упрощение нормативной базы для международных экономических отношений путем унификации регулирования в рамках ЕС. В США, в зависимости от штата, действует несколько различных регуляторных актов, но самые заметные из них были введены в 1998 году. Закон Грэмма – Лича – Блайли требует защиты конфиденциальности данных пользователей от любой финансовой организации, а «Закон о защите конфиденциальности детей в интернете» запрещает собирать персональные данные детей до 13 лет без ведома их родителей.
В Китае с 2021 года действует «Закон о защите персональной информации» (PIPL), направленный на защиту физических лиц, общества и национальной безопасности от вреда, который может быть причинен злоупотреблениями и нарушениями при обработке информации, относящейся к личности человека. Также на территории КНР действует «Закон о безопасности данных» (DSL), требующий локализации данных, собранных иностранными и отечественными организациями о китайских гражданах, и запрещающий их экспорт технологическими компаниями без предварительной «проверки кибербезопасности», процесс которой остается неясен.
Закон, принятый летом 2023 года после массовых беспорядков в Париже, позволяет французской полиции удаленно включать камеры, микрофоны и геолокацию на любых девайсах. Разумеется, он касается не добропорядочных граждан, а только злых подозреваемых и всяких там преступников. Но самое интересное – это «чувствительные профессии», которые исключаются из действия закона, например, члены парламента, принимающие эти самые законы. Являются ли преступниками люди, выходящие протестовать на улицы, пока непонятно.
Если вы читали изданный в 1949 году роман-антиутопию Джорджа Оруэлла «1984», то наверняка помните про двоемыслие: «Война – это мир, свобода – это рабство, незнание – сила». Мне кажется, прогрессивные государства уже близки к реализации первых двух пунктов. А третий успешно реализует генеративный искусственный интеллект в течение ближайших нескольких лет.
Французский министр юстиции, убеждая, что закон будет применяться максимум пару десятков раз в году, добавляет (я не шучу, это практически цитата): «Мы далеки от Оруэлловского тоталитаризма, закон спасет жизни людей». Закручивание гаек всегда происходит во имя общественного блага, и в этом направлении «демократии» будут бежать быстрее «авторитарных режимов», потому что для них общественное благо ценнее – вот такой парадокс.
В Германии набирает обороты националистическая, правопопулистская и евроскептическая (Брексит[34], похоже, был первым звоночком) партия «Альтернатива для Германии». Пока французы жгут автомобили, глава немецкого профсоюза полиции прогнозирует беспорядки, ссылаясь на «преобразования на рынке труда, цифровизацию или интеграционные вызовы». Топ-менеджеры уже открыто заявляют, что их работники не успевают адаптироваться к стремительному развитию искусственного интеллекта, и непонятно, что с этим делать, кроме введения глобальных ограничений на разработку, которые вряд ли будут приняты (и даже в случае принятия все равно найдется способ их обойти).
Кажется, вся эта турбулентность сводится к одному простому тезису: люди хотят кушать регулярно, поэтому недовольны игрищами политиков, забывающими об интересах своих избирателей. Что нас может ожидать в среднесрочной перспективе?
1. Климатические мигранты и обострение проблем мирового голода. Люди поедут из тех мест, где очень жарко и не растет еда, в страны с другой культурой.
2. Потеря рабочих мест самыми незащищенными, за которых придется кому-то заплатить, иначе они выйдут с вилами на улицы. Ну и опыт 2007–2008 годов подсказывает, что когда незащищенные перестают платить по кредитам, может случиться ипотечный кризис, перерастающий в мировой финансовый.
3. Обострение проблем ментального здоровья по целому ряду причин. Есть вероятность, что когда начнутся массовые бесконтрольные манипуляции с применением ИИ, у многих «кукуха» просто не справится.
Государства будут стараться не допустить социальных взрывов по-разному:
1. Очевидный и проверенный временем путь – раздавать
