Сценарии будущего. Как жить и работать в мире, захваченном нейросетью и роботами - Руслан Геннадьевич Юсуфов
Однако если за метавселенными будут стоять корпорации, которые доказали свою непособность держать себя не только в этических, но и правовых рамках, то каким образом наши данные будут использованы против нас? Предположим, Meta сможет повсеместно внедрить собственную метавселенную, но что будет, если Марк Цукерберг сойдет с ума? И не будут ли в этом новом мире приближенные к его владельцу получать больше возможностей для самореализации? Не войдет ли он в так называемый «режим бога», лично принимающего решения за все население метавселенной?
Бизнес-модель подобных компаний построена на продаже пользовательских данных рекламодателям, бизнес-аналитикам и политической разведке. Вспомним громкий скандал с компанией Cambridge Analytica, которая использовала данные Facebook в предвыборной кампании Дональда Трампа в 2016 году. Полученные сведения используют для манипулирования общественностью, воздействия на покупательское поведение, запуска дезинформационных кампаний, а порой и вовсе для подталкивания к экстремизму.
Биометрические, генетические и поведенческие данные позволяют установить, что человек знает и во что верит, его этническую принадлежность, репутацию в отдельных сообществах, особенности отношений в семье, страхи, фобии, триггеры, сексуальные предпочтения и многое другое. Увеличение количества данных о человеке приведет к росту злоупотреблений с более тяжкими последствиями:
1. Появится больше возможностей для идентификации человека – негласной и против его воли, связанной с выражением его интересов или политической позиции.
Например, идентификация участников митинга по остросоциальному вопросу возле посольства иностранного государства может привести к их дальнейшему ограничению в правах – эти люди не получат визу или вид на жительство, подвергнутся дополнительным проверкам на идеологическое соответствие и т. д. Другой пример – в США с 2021 года ведется активная дискуссия о запрете абортов, а в ряде штатов они уже серьезно ограничены. В то же время, более миллиона человек в США используют «женские календари» и аналогичные мобильные приложения. Неизбежно возникает вопрос о том, можно ли данные с таких приложений обернуть против пользователей в рамках гражданских и уголовных дел?
Индийский брокер данных Near Intelligence, с офисами в США и Франции, продал информацию о посетителях 600 клиник компании Planned Parenthood, предоставляющей услуги по прерыванию беременности, группе активистов Veritas Society, выступающих в защиту жизни. В результате пациенты начали получать таргетированную рекламу с дезинформацией о репродуктивном здоровье. Сенатор от демократической партии США Рон Вайден прямо сказал, что такие данные могут использоваться для преследования: «Если брокер данных смог отслеживать сотовые телефоны американцев, чтобы помочь экстремистам распространять дезинформацию среди людей в сотнях центров планирования семьи по всей территории страны, то прокурор с правыми политическими взглядами мог бы использовать эту же информацию, чтобы сажать женщин в тюрьму».
Согласно расследованию The Wall Street Journal, Near Intelligence также поставляла информацию об американцах Министерству обороны и спецслужбам США. Журналисты ссылаются на письмо главного юрисконсульта и директора по конфиденциальности Джея Анджело, направленное генеральному директору компании Аните Мэтьюс, в котором поднимались три проблемы конфиденциальности: «Мы продаем данные геолокации, на которые у нас нет согласия. Мы делимся данными идентификаторов устройств, на что у нас нет согласия. Мы продаем данные за пределы ЕС, на что у нас нет согласия». При этом сообщают, что Near Intelligence располагает данными о более чем миллиарде устройств.
2. Опасен доступ не только к первичным данным о человеке, но и к итогам их обработки, например, к результатам генетических тестов или базе поведенческих паттернов.
В конце 2023 года компания 23andMe подтвердила утечку полученных в результате генетического анализа данных о происхождении 6,9 млн пользователей. Двумя месяцами позже хакер опубликовал на подпольном форуме Hydra данные одного миллиона пользователей еврейского происхождения и 100 тысяч китайского, предлагая их к продаже по стоимости от $1 до $10 за учетную запись. По утверждению хакера, ему удалось похитить 300 терабайт данных компании. Подобные базы людей, принадлежащих к определенной этнической группе, могут использовать радикалы для преследования по причине религиозной или национальной ненависти. Не за горами и первые наследственные споры, связанные с претензиями внезапно возникших и ранее неизвестных наследников.
Другими словами, данные – это товар, на который найдется множество покупателей с самыми разными целями, а риски пользователей или соблюдение требований законодательства превращаются из этического вопроса в экономический, ведь выручка превыше всего.
Под маскировкой популистских нарративов об общественном благе людей могут обязать передавать еще больше данных о себе, причем в контексте таких взаимодействий, которые физические лица не хотели бы афишировать. Например, в начале 2024 года консервативный канадский политик предложил обязать порносайты досконально верифицировать возраст пользователей. Доступ к порносайтам «по паспорту» вряд ли обрадует посещающих их людей, которые хотели бы сохранять хотя бы иллюзию анонимности. А в штате Флорида на рассмотрение был вынесен законопроект, запрещающий детям до 16 лет пользоваться социальными сетями. Практически все подобные законодательные инициативы проталкивают под соусом защиты детей от порнографического или иного вредного контента.
Неизбежно встанет вопрос, как именно будет верифицироваться возраст пользователей? Реализация подобных инициатив практически невозможна без нарушения приватности в той или иной форме. Даже если законодатели действуют из лучших побуждений, в итоге у социальных сетей и сервисов окажется еще больше чувствительной информации о пользователях, стекающейся из разных ручейков: часть они получат от «согласия» пользователя принять cookies, часть – от брокеров данных, а еще часть – из-за требований законодательства.
Как и любой другой вызов, связанные с данными риски неизбежно породят новые предложения и даже бизнес-модели, основанные на анонимизации. При запуске ИИ-ассистента Leo в браузере Brave основной акцент делается на приватность: производитель обещает не записывать чаты с пользователями, не использовать их данные для обучения и оптимизации своих моделей, не сохранять никакие идентификаторы пользователей (например, IP-адреса), а также предпринимает ряд мер для их дополнительной анонимизации.
Рынок услуг по удалению персональных данных или даже полного удаления цифрового следа также постепенно заполняется предложениями. Так, за $9 в месяц пользователь сервиса от Mozilla может рассчитывать на отслеживание раскрытия личной информации брокерам данных и удаление любых раскрытых сведений. В более комплексном решении могут быть заинтересованы публичные лица, которые по тем или иным причинам стали жертвами «культуры отмены», а с неизбежным увеличением количества рисков будет расти спрос и стоимость подобных услуг.
В
