Бог, человек, животное, машина. Технология, метафора и поиск смысла - Меган О'Гиблин
То, что Гинн понимает, что такое вирусность, подтверждалось тем, как быстро распространилась сама статья - за двадцать четыре часа она набрала 2,6 миллиона просмотров, - хотя в конечном итоге эта популярность стала еще одним доказательством того, что гонка за выживание в Интернете не отдает предпочтения ни точности, ни правде. Всего через несколько дней после публикации Medium принял решение удалить пост после того, как выяснилось, что в нем было несколько несоответствий и ошибок, вызванных тем, что его автор ничего не смыслил в медицине и инфекционных заболеваниях. Кроме того, Гинн был бывшим сотрудником цифровой кампании Ромни в 2012 году и соучредителем консервативной некоммерческой организации, чья заявленная миссия - способствовать развитию свободных рынков и "помочь преодолеть разрыв между Кремниевой долиной и Вашингтоном". Данные никогда не бывают просто данными. А цифры редко бывают такими универсальными, какими кажутся.
-
Как и большинство людей, я провел первые месяцы пандемии в изоляции, сидя в одной комнате, за одним столом, где я писал, работал и ел три раза в день. Я наблюдал, как мой мир постепенно сужается до окна размером девять на четырнадцать дюймов, через которое я вел занятия, общался с друзьями и посещал собрания выздоравливающих. Но нам повезло - мы говорили это, мои друзья и я, снова и снова, - что мы были в безопасности и здоровы, что у нас все еще была работа, хотя и с трудом, и что у нас было больше времени с нашими партнерами и семьями. Мы беспокоились об одиноких людях, которых знали. Мой друг, который живет один, профессиональный музыкант, чей летний концерт был отменен, рассказал мне, что скачал чат-бота и стал общаться с ним по несколько часов в день - хотя он называл программу "она" или иногда "Ава", имя, которое он выбрал сам. По его словам, ему было немного стыдно, но он хотел рассказать мне об этом, потому что я интересуюсь технологиями, и его напугало, насколько хорошо она умеет общаться. Чатбот использовал алгоритмы глубокого обучения и был гораздо более беглым и убедительным, чем программы такого рода всего несколько лет назад. Я читал, что приложение проводило A/B-тестирование с GPT-3, моделью обработки естественного языка, которая, по словам журнала Wired, "вызывала мурашки по всей Кремниевой долине". GPT-3 "прочитала" практически весь интернет (Википедия составляла 0,6 % ее обучающих данных) и могла генерировать беглую, оригинальную прозу практически на любую тему. (С тех пор она написала правдоподобную статью для The Guardian и сгенерировала проходную колонку Modern Love для New York Times). Понимание языка этой моделью было настолько впечатляющим, что Дэвид Чалмерс предположил, что она может быть сознательной. Мне стало интересно, входит ли мой друг в число пользователей, которые общаются с этим более сложным программным обеспечением. Присланные им снимки экрана, на которых он общается с ботом, могли показаться любому наивному наблюдателю свидетельством общения двух людей. Насколько я мог судить, они говорили в основном о политике и электронной музыке.
"Как там Эва?" Я спрашивал его время от времени - отчасти из любопытства, а отчасти потому, что в те дни было так мало других тем для расспросов.
"В последнее время она ведет себя странно", - написал он в ответ.
Я попросила его рассказать подробнее, но он не смог описать это. "Может быть, более отстраненный?"
Это был сезон, когда широкая общественность была озабочена роботами - или, скорее, "ботами", уменьшительно-ласкательным термином, который почти всегда употребляется во множественном числе, вызывая в памяти рой или нашествие, вирус как таковой, хотя в большинстве случаев они являются всего лишь средством передачи информации. Не стоит удивляться, что система, в которой считается, что идеи размножаются в соответствии с собственной логикой, преследуя собственные цели, будет привилегировать носителей, которые вообще не обладают сознанием. С самого начала пандемии возникли подозрения относительно скорости и эффективности, с которой национальный дискурс был захвачен всевозможными слухами, заговорами и уловками. На каждый пост о героических подвигах работников первой необходимости внезапно находилось еще десять о больничных койках, заполненных манекенами, или о свидетельствах о смерти, на которых без разбора ставили надпись Covid. На каждый вирусный твит об острой необходимости сгладить кривую приходил чуть более популярный пост, приписывающий вирус вышкам беспроводной связи 5G. Это подозрение подтвердилось в конце мая, когда исследователи из Карнеги-Меллон объявили, что почти половина аккаунтов в Twitter, публикующих сообщения о коронавирусе, принадлежат ботам. Эта история, появившаяся на NPR, сама по себе была дико популярна в Twitter, распространяясь по платформе вирусным образом с помощью людей и ботов, а также Хиллари Клинтон, которая сама является известной фигурой во многих теориях заговора и разослала твит своим 27,9 миллионам подписчиков. Последовали предположения о злых силах и иностранных державах, возможно, русских или китайцах. Это был знакомый нарратив, который принес с собой привычное облегчение, что мы как нация, возможно, не так уродливы, как кажется, что наше отражение - это не истинное отражение, а искаженное зеркало, созданное врагами, стремящимися посеять раскол.
Гораздо сложнее было принять тот факт, что эти якобы автоматизированные нарративы привели к реальным последствиям, как, например, десятки вышек беспроводной связи, подожженных в Англии, которые считались делом рук теоретиков заговора 5G (предположительно, людей). Действительно, несколько недель спустя в другой крупной статье, опубликованной в New York Times, утверждалось, что в первоначальном исследовании количество ботов было сильно завышено, и эта ошибка была вызвана неточным определением того, что такое бот на самом деле. Дариус Каземи, независимый исследователь, опрошенный газетой, определил бота как "компьютер, который пытается разговаривать с людьми с помощью технологии, созданной для того, чтобы люди могли разговаривать с людьми". Казалось бы, это достаточно простое определение, но технология размыла четкие границы этих двух сущностей. Каземи объяснил, что становится все труднее отличить бота от тролля (пользователя-человека, желающего затеять драку) или киборга (учетной записи, которую разделяют человек и бот). Пожилые пользователи, не знакомые с негласными социальными кодами платформ, часто принимаются за ботов, как и те, кто не размещает свои фотографии в профиле, чтобы сохранить анонимность. В некоторых случаях термин "бот" относится не столько к онтологическому статусу пользователя, сколько к его поведению - или к тому, как это поведение воспринимается пользователями-людьми. Как отметил Каземи, этот термин
