Государство строгого режима. Внутри китайской цифровой антиутопии - Джеффри Кейн
Многочисленные исследования, опубликованные в 2018 и 2019 годах Национальным институтом стандартов и технологий при правительстве США и другими исследовательскими институтами, неизменно показывали, что системы искусственного интеллекта предвзято относятся к людям, чья кожа не белого цвета, а также к женщинам. Одно исследование при поддержке государства, опубликованное в 2019 году, показало, что вероятность неправильного распознавания лиц мужчин азиатского и афроамериканского происхождения в сто раз выше, чем белых мужчин, а вероятность неправильной идентификации женщин выше, чем мужчин. Белых мужчин среднего возраста системы ИИ почти всегда распознавали верно.
Что происходило? Разве ИИ не должен был стать сверхинтеллектуальным героем правоохранительной деятельности, спасением от предубеждений и дискриминации, свойственных человеку? Результаты исследований в Соединенных Штатах подчеркивают то, что уже начали понимать ответственные лица: искусственный интеллект является отражением тех, кто его создает. Люди пишут алгоритмы и отбирают для них входные данные, так что алгоритмы наследуют изъяны своих разработчиков. Что еще хуже, мы не совсем понимаем, как полиция собирает данные, насколько они качественны и как эти непрозрачные алгоритмы их обрабатывают. Здесь не хватает системы сдержек и противовесов.
«Ситуация» в Синьцзяне – вина не технологического прогресса, а желания использовать технологии в деспотических целях, без должной сдержанности и осторожности. Именно поэтому невинных людей называют преступниками, обвиняют в несуществующих преступлениях и отправляют в лагеря из-за смехотворных обвинений в вынашивании террористических мыслей.
[ ]
Так или иначе, Запад начал противодействовать внедрению технологий, которые применяются в Синьцзяне.
Департамент полиции Лос-Анджелеса (LAPD) первым отказался от использования PredPol, новаторской программы в области предиктивного полицейского контроля. В июле 2019 года департамент объявил о прекращении этого проекта, изначально предназначенного для выявления районов с повышенной вероятностью совершения преступлений против собственности. Вслед за полицией Лос-Анджелеса от программы отказались и другие полицейские отделения.
«Она не помогала нам раскрывать преступления», – заявила представительница полиции Пало-Альто (штат Калифорния) газете Los Angeles Times.
Но на этом дело не закончилось. Из восемнадцати тысяч полицейских департаментов США шестьдесят все еще использовали PredPol.
Однако все программы слежки в мире не помогли Китаю своевременно выявить вспышку самой разрушительной пандемии за последнее столетие: COVID-19.
31 декабря 2019 года Китай сообщил Всемирной организации здравоохранения (ВОЗ) об учащении случаев пневмонии в Ухане, городе в центральной части страны. Считалось, что эта «пневмония», как ее окрестили в Китае, возникла на грязном, антисанитарном «мокром рынке», где без всякого контроля продавалось сырое мясо – свинина, говядина и птица, – в течение длительного времени и в неподобающих условиях лежащее под открытым небом. Это оказался новый коронавирус COVID-19, который посадил весь мир под замок и приостановил экономическую деятельность почти на весь 2020 год.
Когда COVID-19 достиг Америки и сделал безлюдными центры городов и пляжные курорты, последствия расцвета непрозрачного китайского авторитаризма непосредственно коснулись американской земли. Китай больше не был далеким, маячившим где-то на горизонте полицейским государством, чью культуру и поведение Запад мог игнорировать без каких-либо существенных для себя последствий. Торговля, путешествия и туризм настолько тесно связали Китай с остальным миром, что, казалось, ничто не могло остановить стремительное глобальное распространение COVID-19. Миру пришлось напрямую иметь дело с плохими решениями китайского руководства, которое сажало в тюрьму изобличителей, сливавших плохие новости о происходящем внутри страны, платило целой армии интернет-троллей, чтобы избежать утечек в сети, и не спешило быстро реагировать на вспышку заболевания.
Вместо того чтобы отнестись к пандемии как к глобальной проблеме, китайские дипломаты – «волки-воины», как они сами себя называют, – прибегли к гневной и агрессивной риторике в адрес стран, призвавших провести расследование, чтобы убедиться, что от глаз общественности ничего не скрывают. Китайские государственные СМИ заявили, что Австралия – это «жвачка, прилипшая к подошве китайского ботинка». Посольство Китая во Франции без всяких оснований обвинило французских работников домов престарелых в том, что они «бросают свои посты на ночь… и оставляют постояльцев умирать от голода и болезней».
Консульство США в Гуанчжоу, городе на юго-востоке страны, предупредило, что китайское правительство дискриминирует людей с черным цветом кожи. Власти намеренно пытались создать впечатление, что вирус пришел из Африки, тем самым отвлекая внимание от того факта, что в действительности он возник в Китае. «В рамках этой кампании полиция приказала барам и ресторанам не обслуживать клиентов, похожих на выходцев из Африки», – говорилось в предупреждении. Кроме того, местные власти начали принудительное тестирование на COVID-19 с последующей обязательной самоизоляцией для всех людей, имевших «контакты с африканскими странами», независимо от истории последних поездок или прохождения карантина в прошлом.
Представитель Министерства иностранных дел Чжао Лицзянь, пререкавшийся с иностранными чиновниками и журналистами в твиттере, даже опубликовал серию сообщений, в которых предположил, что COVID-19 в Китай привезли американские солдаты.
«Возможно, американские военные принесли эпидемию в Ухань, – написал он. – Будьте прозрачны! Огласите свои данные! США должны дать нам объяснение!» Теория заговора о том, что во всем виноваты американские войска, быстро обрела популярность в Китае.
COVID-19 представлял опасность не только из-за угрозы самого вируса, но и потому, что правительства, ошеломленные внезапностью его появления, поспешили взять на себя чрезвычайные полномочия по обеспечению социального контроля, от которых никто не сможет заставить их отказаться.
Администрации некоторых государств уже демонстрируют, что вовсе не хотят отказываться от своих новообретенных полномочий, а также собираются использовать данные, полученные в ходе борьбы с COVID-19, для слежки за своими политическими противниками или помощи правоохранительным органам. Многие из чрезвычайных полномочий не сопровождаются положениями о прекращении их действия по истечении определенного срока. Фактически они действуют до тех пор, пока правительство не сочтет нужным их отменить. В марте 2020 года парламент Великобритании без особых раздумий принял 340-страничный закон, наделяющий кабинет министров полномочиями – почти бесконтрольными – изолировать и задерживать людей на неопределенный срок, закрывать аэропорты и порты, а также запрещать массовые собрания и протесты. В том же месяце премьер-министр Израиля Биньямин Нетаньяху разрешил спецслужбам страны следить за гражданами, используя секретные данные мобильных телефонов, что раньше происходило исключительно в рамках борьбы с терроризмом. Премьер-министр Венгрии Виктор Орбан, объявивший в стране чрезвычайное положение, в соответствии с новым законом получил право приостанавливать действие ранее принятых постановлений.
Американские компании тем временем сохраняли интерес к китайским технологиям. В разгар пандемии, 29 апреля 2020 года, агентство Reuters сообщило, что Amazon купила пятнадцать сотен тепловизоров почти за 10 млн долларов у Dahua, китайской фирмы, внесенной правительством США в черный список за нарушения прав человека в Синьцзяне. Amazon нужно было измерять температуру своих сотрудников. Формально компания не нарушила санкции США. Однако Бюро промышленности и безопасности выпустило предупреждение, что «сделки любого характера с организациями, включенными в черный список, являются „тревожным сигналом“», и рекомендовало «американским компаниям проявлять осторожность в отношении таких сделок».
[ ]
Гибель Джорджа Флойда в мае 2020‐го летом того же года вызвала массовые протесты против полицейского насилия в Миннеаполисе, Чикаго, Портленде, Вашингтоне и других городах. Общественную дискуссию о том, как технологии могут помочь справиться с пандемией, еще сильнее обострили споры на тему того, как их задействует полиция.
Американские технологические компании-гиганты столкнулись с негативной общественной реакцией и озабоченностью властей, вызванными тем, что эти технологии дискриминируют меньшинства, а также используются в неблаговидных целях. Один из стартапов в области ИИ, Dataminr, помогал полиции отслеживать сообщения в социальных сетях, касающиеся местонахождения и действий протестующих. Протестующие были встревожены из-за особого доступа компании к потоку Firehose – функции твиттера, которая позволяла Dataminr получать доступ ко всем публичным твитам пользователя, как только он кликал на «Отправить сообщение»[25].
В июне 2020 года генеральный директор IBM Арвинд Кришна написал письмо в Конгресс, в котором заявил, что IBM больше не будет разрабатывать технологии распознавания лиц:
IBM больше не предлагает программное обеспечение общего назначения для распознавания или анализа лиц. IBM выступает решительно против и не оправдывает использование любых технологий, включая технологии распознавания лиц, предлагаемые другими
