Сценарии будущего. Как жить и работать в мире, захваченном нейросетью и роботами - Руслан Геннадьевич Юсуфов
Motörhead «Smiling Like a Killer», альбом «Inferno», студия SPV/Steamhammer, 2004
За последние пару тысячелетий человечество не особо эволюционировало: страсти все так же бушуют, мы по-прежнему любим одних и ненавидим других. Как удобно, что технологии позволяют еще эффективнее отделять своих от чужих, а правых – от неправых. Последнее десятилетие показало, насколько низок наш уровень критического мышления. Мы подвержены звонкам от фиктивной службы безопасности банка, которая просит взять кредит и перевести его на секретный счет, чтобы якобы защититься от мошенников. Современные информационные атаки и пиар-кампании демонстрируют, насколько легко стало формировать общественное мнение.
Каждое фото, видео, запись голоса и публичное сообщение злоумышленники могут использовать для того, чтобы втереться в доверие к вашим родственникам, друзьям и коллегам. Искусственный интеллект способен в реальном времени генерировать качественные дипфейки, для которых достаточно лишь нескольких фотографий-доноров. Современные инструменты позволяют создать полноценный архив, включая детские фотографии.
Мы дошли до ситуации, когда человеческих возможностей уже не хватает, чтобы отличать правду от лжи. Результаты многочисленных исследований подтверждают, что человек не может надежно определять дипфейки, при этом переоценивая свои способности. Улучшение осведомленности и даже финансовые стимулы не повышают точности выявления дипфейков людьми: они склонны ошибочно принимать их за подлинные видео, а не наоборот.
Все это будет продолжаться и дальше, но в гораздо больших масштабах, потому что злоумышленники тоже будут использовать искусственный интеллект. Например, FraudGPT – бот с ИИ – продается на торговых площадках в даркнете и платформе Telegram с июля 2023 года. Этот инструмент помогает злоумышленникам создавать убедительные электронные письма, способствуя фишинговым атакам и компрометации деловой электронной почты в организациях. Он также может подбирать целевые сервисы и сайты для более эффективного обмана жертв.
WormGPT – это модель ИИ, также запущенная в июле 2023 года и разработанная специально для вредоносных действий. Она может похвастаться рядом функций, включая поддержку неограниченного количества символов в тексте, запоминание переписки в чате и возможности форматирования кода. WormGPT может создать электронное письмо, которое будет не только удивительно убедительным, но и стратегически хитрым, демонстрируя потенциал инструмента для изощренных фишинговых атак. Эта модель похожа на ChatGPT, но без этических ограничений.
Выше уже обсуждали попытку шантажа женщины из Аризоны с подделкой голоса ее дочери. И похоже, надо готовиться к очень реалистичным ужасам социальной инженерии, потому что ни глазам, ни ушам больше верить нельзя. В январе 2024 года гонконгская полиция запустила расследование о хищении 200 млн гонконгских долларов ($25 млн). Мошенники заставили сотрудницу компании совершить 15 банковских транзакций в ходе видеоконференции с дипфейками нескольких старших должностных лиц компании. Таким образом искусственный интеллект уже эффективно используется не только для мелкого мошенничества, но и для полномасштабных ограблений крупных компаний.
Мошенники будут использовать генеративный ИИ для вымогательств и шантажа: звонить бабушкам, чтобы выманить пенсию поддельными голосами их внуков, якобы попавших в беду. Какую реакцию можно ожидать от родителя, получившего ужасающее сообщение, записанное голосом ребенка, который находится в летнем лагере? А какой будет реакция ребенка, если ему позвонят голосом родителя решившие подшутить сверстники? Вероятно, стоит обсудить с членами семьи кодовое слово для «авторизации» по телефону на случай реальных экстренных ситуаций, а потом даже провести семейные учения.
Анонимусы и тролли с 4chan[59] использовали ИИ-генератор голосовых сообщений ElevenLabs для создания жестоких, расистских и трансфобных аудиозаписей голосами актрисы Эммы Уотсон (чтение отрывков из книги Адольфа Гитлера «Майн Кампф»[60]), американского консерватора Бена Шапиро (расистские ремарки в отношении другого политика) и еще нескольких известных личностей. А кто-то ожидал чего-то иного от анонимных пользователей? Какую бы технологию ни дали человечеству, оно использует ее для создания порнографии и разжигания ненависти.
Регуляторы, как обычно, понимают это со значительным опозданием, вводя уголовную ответственность за порно-дипфейки или пытаясь запретить использование сгенерированных голосов в звонках по телефону. Но сдержат ли подобные запреты человека, решившего совершить преступление? Сильно сомневаюсь, что преступник, которому и так грозит уголовное преследование за мошенничество или вымогательство, решит соблюсти требования закона в отношении порно-дипфейков.
Сегодня в мобильном приложении банка и даже на экранах в метро гражданам напоминают: не переходите по сомнительным ссылкам, не сообщайте данные своей карты, не верьте звонящим незнакомцам. Давайте представим, какими могут быть предупреждения и важные объявления в будущем:
• Не верьте аудиовизуальным заявлениям политиков без дополнительного подтверждения аутентичности вашим мозговым чипом.
• Обнаружили порнографию с незаконным использованием вашего лица или части тела? Звоните в полицию нравов!
• Министерство виртуальных дел приглашает выпускников ведущих эдтехов в увлекательное путешествие с доступом в закрытые сегменты интернета, включая YouTube, TikTok и даже «Википедию»!
• За распространение иностранной пропаганды, не внесенной в реестр, предусматривается до 10 лет запрета на использование систем с искусственным интеллектом.
• Московский транспорт приглашает на работу машинистом метапоезда: зарплата от 100 тысяч токенов РосЧатGPT и ежегодная профилактика в санаториях виртуальной реальности с полным погружением.
Возможный сценарий «Низкотехнологичные колонии»
Отказ от цифровизации – Киберколониализм
2025 год – Углубление технологического разрыва между лидерами (США, Китай) и остальными странами.
2027 год – Формирование «низкотехнологичных» зон с ограниченной цифровизацией.
Цифровизация не только приносит новые риски, которые требуют все больших инвестиций в безопасность и устойчивость инфраструктуры, но и фактически становится тупиковой ветвью развития для ряда государств, не способных инвестировать значительные ресурсы в собственные инновационные разработки. Далеко не все попытки некоторых стран снизить зависимость от импортных технологий увенчиваются успехом, поэтому многим приходится обращаться к стандартным решениям технологических лидеров, что делает покупателей зависимыми от метрополий – США и Китая.
2030 год – Рост движений за «цифровой суверенитет».
Отдельные страны, не готовые отдавать политический суверенитет в обмен на технологические решения, пытаются отказаться от прогрессивной цифровизации, но в итоге становятся поставщиками ресурсов для цифровой экономики: редкоземельных металлов для производства графических ускорителей и низкооплачиваемого времени граждан для разметки датасетов. Усиление политического давления со стороны «метрополий», диктующих стандарты и правила, приводит к увеличению экспорта ресурсов и низкоквалифицированного труда из «колоний».
2033 год – Серия глобальных конфликтов из-за борьбы за технологическое и ресурсное доминирование.
В условиях непрозрачности и социального неравенства в колониях развиваются «серые» рынки данных и сомнительные практики эксплуатации цифровой бедноты, на которые метрополии предпочитают закрывать глаза. Усиливается разрыв в уровне развития и качества жизни между метрополиями и колониями, а власть и богатство концентрируются в руках технологических гигантов, что стимулирует протестные движения. Попытки создать альтернативные модели развития и сотрудничества
