Новые законы робототехники. Апология человеческих знаний в эпоху искусственного интеллекта - Фрэнк Паскуале
С другой стороны, одно решение ведет к другим проблемам. Какова гарантия того, что частные охранные силы не поднимут ставку оплаты своего труда до невиданных высот? Теоретик технологии Даг Рашкоф описал разговор с одним гендиректором, который уже построил подземную бункерную систему. «Как мне сохранить власть над своими охранниками после события?» – спросил его гендиректор, обеспокоенный тем, что его наемники могут в конечном счете взбунтоваться[639]. У Рашкофа ответа не нашлось, поскольку его и нет, если только не представить идиллию в стиле Робинзона Крузо, абсолютно самодостаточную изоляцию (которая станет менее идилличной, как только понадобится современная больница). Полная автоматизация сил создает успокоительную иллюзию: роботы-убийцы никогда не будут саботировать свои обязанности, причем их можно поддерживать в рабочем состоянии без обширных цепочек поставки запасных деталей и программных обновлений.
Родственные фантазии полного автоматического контроля над собственными деньгами (за счет криптовалюты) и собственной безопасностью (за счет сил роботов) скрываются, как ни грустно это признать, за большей частью энтузиазма, который вызывают роботы и ИИ, заменяющие людей в силовых областях деятельности и финансах. Они обещают покончить с гонкой вооружений и конкуренцией за власть, тогда как на самом деле переводят их на другую территорию – хакерства, включающего в себя как криптометоды, так и социально-организованные атаки[640]. Окончательная «победа» в гонке сил или финансов оказывается пирровой, поскольку она предвещает мир настолько простой и настолько хорошо контролируемый, что человеческая свобода, способность к действию и демократия станут в нем останками далекого прошлого.
Телесные сознания и искусственные процессоры информации
В одной недавно вышедшей книге о будущем профессий авторы размышляют о том, что когда-то мы, возможно, будем наблюдать не за людьми на марафоне, а «устраивать гонки роботов (или они сами могут устраивать забеги людей)»[641]. Мысль о машинах, которые устраивают забеги людей так же, как мы сегодня устраиваем лошадиные бега, звучит как предостережение со стороны организации «Люди за этичное обращение с животными», то есть как сценарий, которого в будущем надо во что бы то ни стало избежать и который заставляет нас вести себя лучше уже сегодня. Однако оптимистичная готовность вступить в мир, управляемый машинами, стала своего рода признаком космополитизма бизнес-элит. Релятивистическая открытость множеству возможных будущих – отличительный признак «серьезных» мыслителей. А кто может быть суровей правителей, сделанных из кремния и стали?
Такая картина господства механических роботов берется не из тех описаний далекого будущего, которые можно встретить, к примеру, в романе «Последние и первые люди»[642]. Если приложение уже управляет тысячами водителей Uber, нетрудно представить, как в будущем программисты придумают программу, которая будет направлять двух или более «независимых подрядчиков» в гонке за каким-то особенно выгодным призом[643]. Это мир «кровной заинтересованности в видеоигре», подстегивающий гибких работников, чтобы они боролись за зарплаты и рейтинги, проставляемые неуклонными машинами, которым они не могут бросить вызов и которых не могут изменить[644].
Политико-экономические перемены сегодня в основном возводятся к «технологии» – всеобщей категории, которая не только многое проясняет, но и затемняет. Приложение или карта связывает друг с другом водителя и пассажира, и тем самым транспорт меняется. Поисковая машина – эффективный механизм сканирования сети, поэтому у знания появляется новый медиатор. Каждый шаг кажется очевидным, выступая мандатом верховной программной медиации труда и знания. Однако все эти системы могут критиковаться и оформляться человеческой инициативой. Рабочие могут организоваться и изменить условия труда, что и сделали водители Uber в Нью-Йорке, когда потребовали возможности оспаривать произвольные рейтинги, проставленные пассажирами[645]. Другие водители создают кооперативные платформы, чтобы противостоять власти фирмы[646]. Надо понимать, что эта отрасль – одна из наиболее склонных к автоматизации, поскольку в ней мало тех оснований для профессионализации, которые есть, например, в медицине или образовании. Пространные рассуждения о том, не закончит ли Homo sapiens в роли домашнего питомца роботов, не могут считаться признаком мудрости. Мы можем остановить обесценивание труда и автоматизацию управления. Если мы не сделаем этого, то пойдем по малоприятному пути экспериментов над людьми, на котором работников будут понукать многочисленными автоматизированными стимулами, чтобы определить, какой из них вызывает наиболее продуктивную реакцию.
В романе Иэна Макьюэна «Машины как я» умело отражены опасности таких горизонтов экспериментаторства. Действие романа происходит в воображаемой Британии, в которой одна корпорация в начале 1980-х гг. продает двадцать пять роботов, неотличимых от людей. Быстрое развитие технологии в этом воображаемом мире отчасти обусловлено тем, что власти альтернативной Британии не стали преследовать Алана Тьюринга во время гомофобской охоты на ведьм, из-за которой его жизнь в реальном мире завершилась преждевременно. Рассказчик Чарли покупает одного из двенадцати роботов-Адамов, когда получает наследство. Поскольку «в рекламе его преподносили как компаньона, партнера по интеллектуальным баталиям, друга и личного помощника, который может мыть посуду, заправлять постель и „думать“», он представляется отличной забавой для задумчивого, одинокого, скучающего Чарли, который приглашает соседку (и одновременно объект любовных воздыханий) Миранду помочь запрограммировать личность Адама[647]. Чарли надеется, что робот может стать для них как пары общим проектом.
План развалится, как только Миранда переспит с Адамом. Чарли и Миранда мирятся после насыщенного спора о том, можно ли считать эту интрижку чем-то более серьезным обычных забав с фаллоимитатором. В конце концов, после появления Адама Чарли обычно называл его «он или оно». Однако вскоре паре приходится иметь дело с преданностью Адама Миранде, о которой он сам говорит, а также с его энциклопедическими знаниями о прошлом, особенно о том, как Миранда составила сложный план, чтобы отомстить за изнасилование, жертвой которого стала одна из ее ближайших подруг. Похоже, Адам влюбляется в Миранду, но в то же время он должен сообщать властям любую информацию о серьезном правонарушении, которую он только может обнаружить. Найти решение он не в состоянии. Чарли отмечает, что, когда «два эти побуждения [Адама] стали несовместимы,
