Сценарии будущего. Как жить и работать в мире, захваченном нейросетью и роботами - Руслан Геннадьевич Юсуфов
2032 год – Генеративный ИИ начинает влиять на реальный мир через персонализированные рекомендации.
Гиперкастомизированные практики из виртуальных миров проникают в офлайн-взаимодействия: ИИ направляет поведение пользователей в офлайне, подсказывая нужных людей, товары и услуги. Такой незаметный манипулятивный контроль поведения поднимает вопрос о свободе воли и осознанном выборе человека.
2034 год – Коллективное сознание и общая картина мира находятся в глубоком кризисе.
Каждый живет в своей реальности, сформированной ИИ в соответствии с индивидуальными предпочтениями. Государства, идеологии, другие институты и структуры, ранее объединявшие общество, теряют основу и распадаются. Человеческая цивилизация погружается в новые «темные века» раздробленности цифровой эпохи.
Глава 8
Техноцентризм или антропоцентризм?
Будет ли технологический прогресс нацелен на обеспечение человеческого благополучия или его принесут в жертву развитию технологий?
Эпоха манипуляций на максималках
МАНИПУЛЯЦИЯ. Уже слишком поздно, Они собираются забрать Мою свободу, Ампутировать мой разум.
Six Feet Under «Manipulation», альбом «Warpath», студия Metal Blade, 1997
У каждого из нас есть много идентификаторов: номер паспорта, телефона, электронный адрес – все, что можно связать с нами лично. Также вы оставляете цифровой след, даже если, как настоящий панк и анархист, не нажимаете кнопку «принять cookies». Идентификаторы и модели ваших устройств, IP-адреса, язык и геолокация, разрешение экрана, браузер и операционная система, особенности железа и установленного на нем программного обеспечения все равно фиксируются.
Кроме того, цифровой след формируется из вашего поведения: что вы покупаете, что ищете, что лайкаете, чем интересуетесь, что говорите в микрофон, кого фотографируете, что и кому пишете, с кем общаетесь, вплоть до паттерна набора на клавиатуре и движения мышкой по страницам. Учитываются все ваши платежи за что угодно – от заправки до ресторана, а также покупки алмазов в мобильных играх.
Чтобы осознать масштаб знаний крупных ИТ-компаний о нас, предлагаю простое упражнение. Посмотрите статистику «экранного времени» в своем смартфоне и пару минут поразмышляйте о том, какие выводы вы могли бы сделать о себе на основании следующих вопросов:
• Как выглядит ваш портфель приложений и какую долю занимают разные категории (общение, продуктивность)?
• Какими именно приложениями в каждой из категорий вы пользуетесь?
• На какие приложения вы тратите больше времени?
• В какое время суток вы берете смартфон (и после каких триггеров берете, а после каких – нет)?
• Сколько уведомлений вам присылают те или иные приложения?
• Чем отличаются ваши шаблоны использования смартфона по будням и в выходные?
• В какое время вы вызываете такси, а в какое – листаете новостную ленту?
Добавьте к этому еще тысячу более специфичных вопросов, возможность сравнивать пользователей по полу, возрасту, региону, обогащая ответы данными из внешних агрегаторов, применение моделей искусственного интеллекта, в которые вложены миллионы долларов, – и получите примерное представление о масштабах профилирования.
Агрегаторы данных собирают каждый свою часть информации, а потом обогащают друг друга. Для наглядности представим поведение пользователя с кодовым номером 12345, на самом деле – Ивана Ивановича. Есть много информации, которую можно добывать и связывать с ним: уникальное лицо, особенности потоотделения, кардиограмма… А еще его вегетативная нервная система особым образом расширяет зрачки, когда он смотрит на Машу. Или на черный мерседес. А вот на Петю такой реакции нет, хоть до вечера смотри.
Более того, лицо Ивана Ивановича – это пропуск на работу и оплата «улыбкой» в магазинах, идентификация (и аутентификация) в банке, а также удобный признак, связывающий его номер паспорта со всем этим разрозненным цифровым следом, например, для камеры наружного наблюдения, которая ищет преступников и следит за общественным порядком.
Таким образом, крайне важны не только объемы новых данных (биометрических, генетических, поведенческих), но и возможность связать их с конкретным человеком. Поэтому, когда вы загружаете собственное фото, чтобы нейросеть нарисовала ваш портрет в стиле Ван Гога, Барби или Кена (или что там сегодня актуально выкладывать в сторис), то связываете свою биометрическую информацию со всеми уже накопленными, тщательно собранными и сохраненными данными. И не думайте, что это вас не коснется, потому что «все так делают». Вас это коснется, как и всех.
Исследователи из Индии разработали систему, биометрически идентифицирующую посетителя здания через напольные датчики, которые замеряют структурную вибрацию, создаваемую при ходьбе, а подключенная к ним программа позволяет сопоставить эти данные с ранее полученным биометрическим образцом и уже после семи шагов установить или подтвердить личность с точностью от 93 % до 98 % в зависимости от материала полов. Авторы отмечают возможность скрытной установки датчиков и сложность намеренной имитации чужой походки.
Гарнитура дополненной реальности Vision Pro от компании Apple идентифицирует и аутентифицирует пользователя уже не по пальцу или лицу, а по сетчатке глаза. Зачем нужны имя или номер паспорта, если пользовательский профиль можно привязать к биометрии? Это даст Apple беспрецедентные возможности по продаже и обогащению данных. За любой идентификацией в магазине, банке или полиции подтянется весь профиль человека – за всю его жизнь. Потому что глаза не поменяешь.
Apple получит обратную связь от пользователя в реальном времени и сможет фиксировать изменение вашего поведения после увиденного (рекламы, выступления политика или новой брендовой сумки), причем на уровне вегетативной нервной системы: давление, частота сердечных сокращений, температура тела, реакция зрачков и т. д.
Следующим шагом станет получение доступа к телу (в буквальном смысле) миллионами разработчиков приложений по всему миру. Если вы знаете, как человек реагирует на какие-то стрессоры, то можно формировать их специально для него, чтобы провоцировать реакцию. Начинается эпоха манипуляций на максималках. Это касается и рекламы, и политики, и идеологии.
Искусственный интеллект можно использовать в агрессивных информационных кампаниях, как для обмана конкретного пользователя, так и для манипуляций общественным мнением. Алгоритмы могут создавать видимость популярности того или иного мнения. По уровню качества и незаметности такой способ лучше обычных спам-ботов, так как способен адаптировать сообщения и вести диалог. Искусственный интеллект также способен анализировать нарративы и оценивать вероятный ущерб от них, например, влияние новостей на акции компаний.
Одни модели можно использовать для планирования и осуществления информационных атак, а другие – чтобы таргетировать пользователей согласно их предпочтениям. Например, система оценки публичных скандалов от финансового рейтингового агентства S&P ведет мониторинг постов в соцсетях и СМИ, анализируя финансовые показатели компаний. Если происходит скандал, то система способна предсказать его финансовые последствия. При модификации такое решение может использоваться для предсказания событий, способных нанести наибольший ущерб в будущем.
При всех достижениях искусственного интеллекта социальная сеть Instagram так и не научилась выявлять фейки
