Сценарии будущего. Как жить и работать в мире, захваченном нейросетью и роботами - Руслан Геннадьевич Юсуфов
• валюта, счет которой не привязан к персональным данным владельца;
• СМИ без оглашенной редакции.
Будущее криптомечты
У сегодняшних «цифровых поколений» куда больше интереса к управлению своими данными, ведь они с детства живут в цифровом контексте. Когда цифровые аборигены[9] сами станут родителями, у них будет особый запрос на обращение с данными их детей, потому что они выросли в мире, в котором информация имеет ценность и может быть использована злоумышленниками или корпорациями. Для цифровых аборигенов понятия «контроль над данными» и «способность самостоятельно принимать решения» практически эквивалентны: если о тебе знают слишком много, то могут тобой манипулировать. Далеко не все хотят бороться за эту самостоятельность, но связь между данными и решениями уже выстроена в их сознании, даже если явно не вербализирована.
Поколение Альфа[10] получает доступ к технологиям раньше, чем их предшественники: в среднем они приобретают первый смартфон в 9 лет, тогда как представители поколения Z[11] – только в 12 лет. Альфа-дети гораздо чаще просят разрешения у родителей, прежде чем записывать или публиковать контент с их участием. Родители также становятся более осведомленными: 71 % опрошенных заявили, что уже беспокоились о публикации фотографий своих детей в интернете. Поколение Альфа придает больше значения контролю, свободе воли и целенаправленности в своем опыте работы со СМИ, чем их родители (в основном миллениалы[12]).
Этот запрос на персональный контроль в СМИ и технологиях может еще сильнее углубиться с развитием генеративного искусственного интеллекта: во всем мире почти 20 % детей получили доступ к ChatGPT через веб-браузер всего через год с небольшим после запуска.
Запрос на контроль над собственными данными может распространиться на любые технологии: в доступе к ним индивид может сравняться с корпорациями и другими организациями, а присутствие государства как медиатора между акторами станет необязательным для сохранения общественного строя. С развитием технологий общественный договор может стать алгоритмом, причем самоисполняющимся. Роль же государства как регулятора общественного договора перейдет к техническим средствам.
Автоматизация общественных договоров сильно упростит социально-экономические процессы, экономя время и силы людей. Онлайн-сервисы заменят не только привычные прежде вызов такси по телефону через диспетчерскую службу, поход в магазин или голосование на выборах, но даже процесс частного торга – функционалом приложения для поиска лучшей цены.
В отличие от человека, алгоритм не будет преследовать целей, не заложенных в него изначально. Власть машин не эксклюзивна: человек может сделать много разных устройств, изменить алгоритмы и правила или вообще разрушить механизмы. Например, люди просыпаются утром по звонку будильника, но могут изменить время сигнала или отключить будильник и проспать. При этом будильник не захочет разбудить вас пораньше и не будет заставлять неукоснительно следовать его воле.
Пожалуй, в качестве современного примера умеренного техноанархического сообщества можно привести участников экономических отношений на товарной или фондовой бирже. Фьючерс или опцион – автоматический договор на поставку товара. Если условие выполнено, то вы получите товар, а если нет, то автоматически спишется штраф. Повсеместное внедрение технологий, замещающих традиционные институты, будет долгим процессом, требующим масштабной перестройки уже существующих систем взаимоотношений. В мире без привычных нам посредников и регуляторов потребуется гораздо больше осознанности, самостоятельности и разумности.
Несмотря на нейтральный по своей природе характер любой технологии, использование технических средств для анонимизации коммуникаций и финансовых транзакций – это инструмент в руках киберпреступников, скрывающихся от правоохранительных органов и отмывающих украденное через криптовалютные миксеры. В большинстве стран техноанархизм воспринимается государством как нежелательный конкурент или даже угроза традиционным институтам. Это приводит к регулированию и сдерживанию: обязательной сертификации ввозимых и выпускаемых устройств, запретам и ограничениям на оборот криптовалюты, непременной идентификации личности при осуществлении значимых действий и т. д.
Однако быстрое развитие технологий в определенной отрасли способствует техноанархизму. Государство не успевает подчинить эту сферу, и роль регулятора берут на себя технические устройства и алгоритмы, которые и осуществляют социально-экономические процессы. Несмотря на кажущуюся слабость политической воли адептов техноанархизма, можно привести пример их абсолютной победы – глобальная сеть интернет. Когда техническое достижение способно кардинально изменить жизнь людей, удержать его под контролем одного правительства или корпорации невозможно. Более того, интернет не просто меняет жизнь людей – он слишком выгоден для всех участников, чтобы отказываться от него полностью. В Китае, с его развитой и самодостаточной внутренней экосистемой и внедренной с 2003 года системой фильтрации содержимого интернета «Золотой щит», тем не менее есть мостики в глобальную сеть. Да что там, даже в закрытой от всего мира изнутри и снаружи Северной Корее есть несколько точек доступа.
В то же время с развитием алгоритмов и появлением мощного ИИ у машин может появиться более сильный хозяин, чем создавший их человек. В этом случае мы можем стать рабами машины, не заметив и не осознав изменения своих функций и ролей.
Меланж должен течь не переставая
– Матрица повсюду. Она окружает нас. Даже сейчас она рядом с нами. Ты видишь ее, когда смотришь в окно или включаешь телевизор. Ты ощущаешь ее, когда работаешь, идешь в церковь, платишь налоги. Целый мирок, надвинутый на глаза, чтобы спрятать правду.
– Какую?
– Что ты только раб, Нео. Как и все, ты с рождения в цепях. С рождения в тюрьме, которой не почуешь и не коснешься. В темнице для разума.
к/ф «Матрица» (реж. братья Вачовски), студии Warner Bros., Village Roadshow Pictures, Groucho II Film Partnership, Silver Pictures, 2001
Может ли в основе интернета будущего лежать уважение к пользователю, его времени и информации, а не его эксплуатация?
Сомневаюсь, потому что уважение к пользователю неудобно для государств. Пока я пишу эту книгу, мне регулярно приходится разгадывать до пяти (Карл!) капч Google для каждого поискового запроса, потому что я запрашиваю информацию с российских IP-адресов, хотя раньше сомнений в моей человеческой природе не возникало. Именно так безобидное цифровое рабство превращается в цифровую сегрегацию, когда одним для получения информации требуется больше прыжков с бубном, чем другим, а то и вовсе доступ для них ограничен.
В нынешней дискуссии о «хороших» и «варварских» цивилизациях подразумевается, что варварам доступ к информации совершенно не нужен, а может, даже и вреден. И очень удобно, что варвары уже оцифрованы поголовно, иногда целыми народами. Для перехода из касты варваров в «хорошую» цивилизацию могут быть предусмотрены специальные процедуры. К примеру, Европейский союз предлагает выдавать «русским в изгнании» специальные «демократические паспорта». Будет ли у пользователя с таким «правильным» паспортом меньше
