Сценарии будущего. Как жить и работать в мире, захваченном нейросетью и роботами - Руслан Геннадьевич Юсуфов
2032 год – Единое глобальное информационное пространство охватывает большую часть цивилизации.
2034 год – Общая объективная реальность становится ключевой ценностью глобального общества.
После синхронизации национальных информационных экосистем, которые обмениваются данными по общим протоколам, ИИ применяют для автоматической сверки фактов между источниками и выявления противоречий. Право на достоверную информацию закрепляют в конституциях и международных соглашениях, а намеренное искажение фактов и создание ложных нарративов преследуют по закону. Человечество учится жить в условиях общего информационного поля, отвергая субъективные миражи.
Миллиарды субъективных реальностей
Все, чего мы добились – неспособность общаться. До некоторых просто невозможно достучаться…
Guns N’Roses «Civil War», альбом «Use Your Illusion II», студия Geffen, 1991
Если не появятся способы фильтровать информацию и отделять правду от лжи, то мы перейдем в мир «постправды 2.0» с таким уровнем дезинформации и манипуляции, что вообще перестанем верить чему-либо. В какой эхо-камере вы находитесь сегодня? Вы уверены, что ваша позиция по любому актуальному вопросу – именно ваша, а не эхо от стен информационного пузыря, в который вас посадили рекомендательные алгоритмы?
Алгоритмы усваивают, что человеку нравится, и поставляют ему контент, в котором дискуссия может быть однобокой, а неприятные пользователю точки зрения не подсвечиваются, если корпорации в этом не заинтересованы. Генеративный искусственный интеллект может значительно ухудшить эту ситуацию: неограниченные объемы качественного контента будут создавать под конкретного человека, его взгляды и вкусы.
К примеру, как будет работать производство и распространение фильмов и сериалов в будущем?
1. Контент будет персонализированным.
Десятки макроаудиторий получат свою версию условного «человека-паука». Для республиканцев он будет хранить и носить огнестрельное оружие, подтверждая святость Второй поправки к Конституции США. Для демократов – курить легализованную марихуану, для феминисток – яростно отстаивать гражданские права женщин, для религиозных людей – руководствоваться словом Божьим, для любителей заговоров – наматывать паутину на вышки 5G. И все это в десятках разных версий одного фильма.
2. Контент будут локализовать сразу в момент производства.
В китайской версии будет играть один актер, в европейской – другой, в американской – третий (с поправкой на требуемый цвет кожи и принадлежность к актуальным меньшинствам). Кроме разных актеров, сделают акцент и на культурные ценности: в Канаде у человека-паука будет нетрадиционная сексуальная ориентация, а в России он станет отцом-патриархом семейства. Кроме того, контент будет производиться сразу на целевых языках – без необходимости дубляжа, идеально синхронизируясь с движениями губ персонажей.
3. Фильм будет выходить сразу для всех возрастных аудиторий.
Несмотря на основную сюжетную линию, контент 6+ будет отличаться от 18+ диалогами, второстепенными персонажами, наличием и детализацией любовных сцен.
Компания Netflix добавила генеративный искусственный интеллект к числу конкурентных рисков в годовом отчете за 2023 год со следующей формулировкой: «Если наши конкуренты получат преимущество за счет использования таких технологий, то это может отрицательно сказаться на нашей способности эффективно конкурировать и результатах нашей деятельности». В 4-м квартале 2023 года количество подписчиков студии перевалило за 260 млн, и необходимо идти в ногу со временем, чтобы не только их удерживать, но и продолжать наращивать пользовательскую базу.
Уже сейчас адаптивная система рекомендаций от Netflix учитывает действия пользователя на сайте в реальном времени для составления наиболее релевантной панели рекомендаций. Новые пользователи Netflix обычно тратят около часа на просмотр возможных вариантов, а действующие рекомендательные системы сокращают это время до 17-ти минут. Контент будет становиться все более гиперкастомизированным, пока каждый из нас не получит свой персональный видеопоток. В зависимости от профиля зрителя, сценарий и видеоряд будут генерировать на лету. Мы получим бесконечные персональные сериалы с учетом обратной связи от зрителя на любую тему. Добро пожаловать в эхо-камеру от Netflix!
Известные актеры перестанут сниматься и начнут лицензировать свой образ. Сама профессия станет менее востребованной, так как для «съемок» нужны будут узнаваемые люди или виртуальные аватары – бренды с миллионами подписчиков. Дорога к славе через Голливуд со временем закроется и для актеров, и для сценаристов. Зато понадобятся креативные директора – для валидации новых идей, продюсеры – для извлечения денег из инвесторов и менеджеры – для запуска и проработки многочисленных субфраншиз.
Появятся люди, живущие в сформированных специально под них информационных пузырях. Их восприимчивость к манипуляциям со стороны заинтересованных лиц и владельцев алгоритмов значительно повысится. В результате общество стремительно атомизируется на фоне усиления информационных пузырей, новых цифровых и социальных разрывов, а также поляризации сторонников и противников повсеместного внедрения ИИ.
Например, крупное СМИ о криптовалютах (100 тысяч подписчиков) со ссылкой на твит трейдера (43,9 тысяч подписчиков), ссылающегося на ChatGPT (обученный на том, что СМИ и трейдеры писали в интернете), заявляет, что «биткоин может подорожать до $5 млн к 2050 году». Вот круг и замкнулся! Мы начинаем принимать финансовые решения, опираясь на авторитетные алгоритмы, в основе которых лежат неавторитетные данные. В ближайшем будущем количество синтетических (созданных не человеком, а алгоритмами) данных вырастет беспрецедентно.
Гиперперсонализированный контент может привести к кластеризации культуры и изменениям в потреблении медиа. Галлюцинации и ошибки искусственного интеллекта могут привести к распространению фактически некорректных новостей и нарративов, усиливая дальнейшую сегментацию и поляризацию общества. Даже сами предпочтения людей изменятся в зависимости от их отношения к искусственному интеллекту. Вместо выбора производителей контента, люди могут сместить фокус в сторону библиотек моделей ИИ. Уже сейчас некоторые отказываются потреблять контент, созданный с минимальным участием человека. Все это, кстати, может сделать пиратство крайне затруднительным. Пиратить придется не контент, а модели для его производства.
Принимаемые искусственным интеллектом решения сильно зависят от того, насколько качественный датасет использовали при его обучении и как он был размечен. В некоторых случаях манипуляция с датасетом может привести к принятию искусственным интеллектом решений, нужных злоумышленнику, но не предусмотренных разработчиком модели. Таким образом можно будет влиять на принятие решений через создание данных, приводящих к неправильным выводам, а также через уязвимости в самом алгоритме.
Уже практически сложился отдельный вид спорта, в котором люди по всему миру соревнуются, пытаясь заставить чат-ботов выдать ответы, выходящие за рамки этических ограничений. Манипулировать принятием решения можно будет, как и прежде, через отсылку к авторитету[41], только таким авторитетом в умах обывателей станет уже не человек, а искусственный интеллект: «ИИ рекомендовал сократить выплаты», «ИИ рекомендовал повысить налоги», «ИИ признал Василия Пупкина виновным во всех смертных грехах», – это снимет ответственность с человека и многим развяжет руки.
Мы можем оказаться в мире с миллиардами субъективных реальностей, где каждый из
