Сценарии будущего. Как жить и работать в мире, захваченном нейросетью и роботами - Руслан Геннадьевич Юсуфов
В отличие от предыдущих поколений цифровых аватаров, за которыми стояли команды маркетологов, сценаристов, аниматоров и копирайтеров, генеративный ИИ позволяет создавать полноценных диалоговых агентов, действующих довольно самостоятельно. Несмотря на зачаточное состояние подобных инструментов, «виртуальные политики» могут драматически изменить подходы к политической коммуникации и однозначно окажутся в фокусе внимания регуляторов:
1. Виртуальный политик – это не человек, а часть информационной кампании, продвигающей те или иные идеи, в отличие от гражданина, который участвует в принятии решений. Ни цифровые аватары, ни диалоговое агенты на основе ИИ пока что не могут являться гражданами ни одной страны.
2. Виртуальные политики не заменяют реальных, но могут быть более эффективным инструментом взаимодействия с определенными аудиториями, представители которых сильно отличаются от рядового избирателя. Казалось бы, цифровые аватары и «виртуальные личности» могут рассчитывать на популярность среди энтузиастов технологий, однако ввиду своей провокационности они также привлекут людей, относящихся к контркультуре.
3. Виртуальные политики могут охватывать гораздо более широкую аудиторию, чем живые, выражая взгляды как современников («виртуальный Жириновский»), так и идеологов прошлого («виртуальный Ленин»). Более того, они априори способны общаться с любой аудиторией: на различных языках, с людьми разных культур, возраста и т. д. Живой политик не может обладать настолько же широкими способностями коммуникации, как его виртуальный двойник.
4. Виртуальный политик не ограничен логистикой и может быть во множестве мест одновременно: давать интервью, выступать на пресс-конференциях, участвовать в дебатах, играть с избирателем в видеоигру и вести диалог на любые темы, в любом месте и в любое время, причем все одновременно.
5. Виртуального политика гораздо сложнее «отменить» и деанонимизировать. Он не может быть замешан в скандалах, связанных с его личной жизнью, которой у него просто нет, в отличие от человека. У него нет адреса и банковской карты, ему сложнее отказать в предоставлении услуг. Его создатель и спонсор может действовать через виртуального посредника, не рискуя собственной репутацией и подставляя под недовольство общественности несуществующую личность.
Все вышеперечисленное позволяет реализовывать ранее невозможные политические сценарии. Учитывая столь мощный потенциал для проведения информационных кампаний и манипуляции общественным мнением, можно ожидать законодательных ограничений на использование диалоговых агентов и цифровых аватаров в политических кампаниях.
Отсутствие репутационных рисков для заинтересованных лиц позволяет использовать виртуального политика как «однодневку» в качестве инструмента для тестирования гипотез в информационном поле. По обратной связи можно замерять и оценивать реакцию общественности на высказанные позиции и мнения, в дальнейшем применяя этот опыт на реальной политической фигуре. При этом можно автоматизировать весь процесс тестирования – от создания и запуска до оценки эффективности политической кампании. Проводя такое быстрое, дешевое и безопасное с репутационной точки зрения тестирование, заинтересованные лица смогут «поднимать на флаг» успешные нарративы и взгляды, избегая тех, которые вызвали негативную реакцию со стороны общественности и политических конкурентов.
Даже на ранних этапах развития этого феномена очевидно, что виртуальных политиков будут использовать для манипуляций общественным мнением. Благодаря особенностям больших языковых моделей, виртуальный политик может апеллировать к сторонникам любых политических взглядов и даже к конкретным личностям. Подобная гиперкастомизация особенно опасна, так как общественность зачастую ожидает от политической фигуры отражения собственных взглядов. Виртуальный политик может склонять людей поддерживать его, давая идеальные обещания, заточенные под «информационные пузыри» конкретной группы людей, и выражая именно те мнения, которых придерживается целевая аудитория.
Таким манипуляциям будут особенно подвержены уязвимые слои населения: пожилые, одинокие и психически нездоровые люди. Способности виртуальных политиков быть повсюду и апеллировать к любой аудитории влекут за собой риски парасоциальных отношений людей с цифровыми аватарами. Часто видя виртуального политика на экране, пользователь может перестать отличать его от реальных людей, относясь к нему, как к живому человеку.
Иностранное политическое влияние тоже будет осуществляться быстрее, дешевле и эффективнее, ведь информационные кампании не потребуют физической инфраструктуры, логистики, найма кадров и документооборота. Достаточно развитый ИИ даже не нужно будет переобучать, чтобы он менял личины: его изначально можно разрабатывать с учетом мимикрии под множество аудиторий. Эффективность политических кампаний виртуальных политиков ограничена только объемом финансирования вычислительных мощностей и входных данных, ведь ИИ фактически превращает инвестиции в компетенции.
Можно прогнозировать скоординированное внедрение нескольких виртуальных политиков для формирования в обществе конкретных нарративов. Тот, кто готов выделить достаточно средств на разработку информационных операций с участием группы виртуальных политиков и инфлюенсеров, сможет в значительной степени контролировать информационное пространство.
При достаточном объеме инвестиций можно запустить десятки или даже сотни цифровых аватаров, которые будут формировать любые нарративы, создавая видимость популярности определенных мнений и взглядов в обществе. Влияние нескольких цифровых лидеров мнений сформирует микросообщества, имеющие отличные друг от друга взгляды, но фактически поддерживающие один и тот же нарратив или потенциально радикальные взгляды и мнения.
Наконец, виртуальные политики могут стать инструментом продвижения олигархических структур, которые не готовы открыто афишировать свои политические интересы. Разработка и популяризация подконтрольных виртуальных политиков может привлечь крупные корпорации и их собственников, которых интересует не столько влияние на политические взгляды избирателей, сколько лоббирование своего бизнеса и формирование у публики запроса и согласия на невыгодные государству решения и законопроекты. Принцип работы такой системы похож на СМИ, которыми владеют корпорации и олигархи, обеспечивая замаскированный источник выгодной собственникам информации, но с одним нюансом: реальный владелец и заказчик будет скрыт, что многим развяжет руки.
Политики уже используют ИИ-системы для анализа соцсетей и выявления предпочтений электората, чтобы оптимизировать предвыборные программы и агитационные кампании. Сколько времени пройдет до активного использования политическими партиями ИИ-систем для выработки своих программ, стратегий и принятия решений? И как скоро появятся полностью виртуальные ИИ-политики, которые будут успешно избираться на высокие посты?
С ростом качества и убедительности агитации, благодаря применению алгоритмов, интерес к искусственному интеллекту будет только расти, особенно в персонализированных коммуникациях с конкретными группами избирателей. Уже проводят первые эксперименты по использованию ИИ для выработки законопроектов: в конце 2023 года бразильский город Порту-Алегри первым в мире принял закон, текст которого был полностью подготовлен ChatGPT. Дальше – больше, но на первых порах ИИ будет только моделировать последствия различных решений, а их принятие все еще останется за человеком.
Не исключено, что следующим шагом станет появление в некоторых странах мира «цифровых партий», в
