Государство строгого режима. Внутри китайской цифровой антиутопии - Джеффри Кейн
Ирфан рассказывал, как в конце 2000‐х годов несколько высокотехнологичных китайских компаний объединились, чтобы создать систему наблюдения нового образца – так называемые IP-камеры, работающие по интернет-протоколу. Эти камеры передавали видео по сети, оставив в прошлом старую систему замкнутого телевидения (CCTV), для которой требовалось локальное записывающее устройство, например видеомагнитофон. Китай быстро освоил эту относительно новую и более эффективную технологию, используя возможности интернета для передачи данных с камер в центры управления.
Ирфан понимал, что происходит нечто важное. До сей поры американские, европейские, японские и тайваньские компании в общем и целом доминировали на рынке камер видеонаблюдения. Но большинство этих титанов «зациклились» на аналоговых устройствах, продавая камеры системы телевидения замкнутого контура (CCTV). Их отпугивала дороговизна IP-камер, которые во всем остальном были значительно эффективнее и при подключении к вайфаю могли обрабатывать поступающие данные в гораздо более высоком качестве и без необходимости осуществлять запись на пленку или компакт-диск.
Отчасти это было обусловлено тем, что в США и других странах люди обычно медленно осваивают новые технологии. Производители камер видеонаблюдения, такие как американская Cisco и шведская Axis, реализовывали свою продукцию через двух американских дистрибьюторов, которые противились переходу на цифровую основу, – для установки камер нового образца у них просто не хватало компетентных сотрудников. Вместо этого производители сосредоточились на аутсорсинге производства в Китае, надеясь сократить расходы.
Но их нишу заняла «Большая двойка» – компании Hikvision и Dahua. В будущем они захватят треть мировой индустрии видеонаблюдения, внеся свою лепту в расцвет полицейского государства в Китае.
«Государственная система слежки, все сервисы которой объединены под общим названием „Скайнет“, была прямиком завязана на нашу телекоммуникационную компанию, – описывал Ирфан то, как камеры видеонаблюдения передавали видеосигнал в управление общественной безопасности. – У бизнеса и властей почти не было разногласий. Мечети и другие места богослужения стали нашими первыми мишенями».
После установки последних камер, которые быстро превращались в огромную сеть наблюдения, Ирфан возвращался в диспетчерский пункт, расположенный в неприметном бетонном строении, где вместе с другими сотрудниками информационного отдела садился перед большими настенными экранами. Семь этажей были заполнены серверным оборудованием и работающими с ним программистами, которые пытались найти способы расположить камеры таким образом, чтобы ловить нарушителей закона, бандитов и других подозреваемых в совершении преступлений.
Но ограбления происходили очень быстро, и преступники ускользали, прежде чем их удавалось задержать.
«Насущный вопрос заключался в том, как быстрее устанавливать их личность нарушителей, – рассказывал Ирфан, – пользуясь операционной системой Unix, тоже разработанной компаниями Dahua и Hikvision, которая обеспечивала питание оборудования и управление им». (Unix – операционная система с открытым исходным кодом и широкими возможностями настройки, позволяющая любой компании разработать собственный вариант системы для решения своих задач.)
Каким был ответ? Искусственный интеллект.
В 2010 и 2011 годах Ирфан с коллегами все больше и больше занимались вопросами обучения ИИ тому, как распознавать лица и поведение, сопоставлять информацию с государственной базой данных и помогать полиции в поиске преступников.
Ирфан видел, как в их центр начало поступать оборудование, предназначенное для работы с ИИ. В 2011 году руководитель Ирфана объявил, что его команду посылают на тренинг, который называется «Безопасный город». «В ходе того тренинга [в пределах Китая] мы должны были научиться пользоваться системами „Безопасного города“. В реальности мы пятнадцать дней пьянствовали и пели под караоке. Организаторы наняли двадцать симпатичных девушек, которые составили нам компанию. По сути, они оказывали эскорт-услуги. Так что мы ничему не научились. На работе мы ловили преступников и испытывали много стресса. А так хотя бы отдохнули и расслабились».
[ ]
На пятнадцатый день тренинга Ирфан получил «сертификат о прохождении курса» и вернулся в офис. Пришло время бороться с преступностью; посмотреть, на что способна новая система «Безопасный город». «Поскольку на тренинге я ничему толком не научился, даже не знаю, почему решил, что теперь смогу побороть преступность», – шутил он.
Вооружившись новейшими технологиями искусственного интеллекта, Ирфан расположился в диспетчерской. К своему ужасу, на экране он увидел убийство владельца близлежащего ресторана. Ирфан ввел команды, чтобы получить крупный план убегающего убийцы.
«Это был решающий момент, – рассказывал он мне. – Проверка всей нашей системы. Мы определяли, кто он такой, с помощью нашей технологии распознавания лиц. Но она была еще недостаточно хороша, чтобы с точностью сопоставить его лицо [с изображениями из базы данных. – Прим. пер.]. Мы передали фотографии в полицию».
К большому удивлению Ирфана, в полиции составили протокол, но больше ничего делать не стали. Убийца скрылся, он так и не понес наказания.
«В другой раз разбили окно моей машины и украли компьютер. Мы предоставили видеозапись, но полиция так и не смогла найти преступника и предъявить обвинения», – рассказывал Ирфан.
Во многих подобных ситуациях ИИ раннего образца не справлялся со своими обязанностями. Все усугубляла еще и халатность полиции.
«Мы поняли, что нельзя полагаться только на программное обеспечение. По-прежнему было важно человеческое участие, – говорил он. – Почему же полиция ничего не делала? Позже я узнал, что у них были другие приоритеты».
Однажды возле офиса Ирфана один из сторонников независимости уйгуров вывесил синий флаг с полумесяцем – символ периодически вспыхивающего сепаратистского движения, которое началось в регионе после окончания холодной войны.
«Разумеется, полиция прибыла незамедлительно», – вспоминал Ирфан.
Извещенные о происходящем расположенными на месте происшествия камерами, полицейские арестовали и увезли диссидента, а также сняли флаг.
Работа Ирфана заключалась в том, чтобы продолжать отлаживать систему, и он знал, как ему нужно действовать: «У нас было оборудование, у нас были камеры, у нас было почти все, что нужно, чтобы дело сдвинулось с мертвой точки. Но мы поняли, что нам не хватает ключевого ингредиента: нам нужно было больше данных».
«В противном случае технология распознавания лиц была бесполезна. ИИ нужна была информация: изображения лиц, социальные сети, сведения об уголовном прошлом, операции с кредитными картами или любые другие данные, извлеченные из какой-либо деятельности или транзакций. Тогда система могла перелопатить всю выданную ей информацию и за считанные секунды обнаружить взаимосвязи, которых не заметил бы человек», – рассказывал Ирфан.
«Почему данных было так мало?» – спросил я его.
«Государственная тайна, – ответил Ирфан. – У властей не хватало информации о собственной стране и ее населении. Поэтому у нас не было качественных данных, нужных для программного обеспечения ИИ. Без хорошей базы данных обо всех гражданах сложно было идентифицировать людей по лицам или установить их прошлое. Использовать ИИ для поимки преступников не получалось. Система работала ужасно».
Команда Ирфана направила запросы в другие офисы компании и правительство. Это не принесло никакого результата.
«У властей не было решения, – пояснил Ирфан. – Его нашли корпорации».
[ ]
В октябре 2010 года в городе Гуанчжоу на юге Китая небольшая команда технологической компании Tencent, созданной в 1998 году и укомплектованной выпускниками Microsoft Research Asia, начала усиленно работать над одним проектом. На него не обратили почти никакого внимания. В конце концов, разрабатываемое приложение, которое называлось Weixin («Микросообщение»), не выглядело особенно новаторским или инновационным. Уже было доступно другое успешное приложение от компании Tencent, мессенджер QQ, и с его помощью любой мог вести переписку на своем персональном компьютере, а также социальная сеть QZone, похожая на Facebook. У QQ было почти 780 млн активных пользователей.
Tencent выпустила новое мобильное приложение через три месяца, 21 января 2011 года. Оно предоставляло своим пользователям базовые возможности: обмен текстовыми сообщениями, а также возможность отправки голосовых сообщений и фотографий. Годом ранее было выпущено ведущее американское приложение той эпохи, WhatsApp,
