Общество контроля. Как сохранить конфиденциальность в эпоху тотальной слежки - Джон Фасман
В начале июня 2019 года я вылетал из биометрического терминала Атланты в Кито, столицу Эквадора. Немногие люди в повседневной жизни непосредственно сталкиваются с системами распознавания лиц, и я хотел посмотреть, как это работает на практике. Я уже зарегистрировался на рейс с помощью телефона, но мне было любопытно посмотреть, насколько эффективны камеры распознавания лиц. На фотографии в паспорте я бородатый и сильно загорелый, а во время того полета был чисто выбрит и, увы, намного бледнее (вот что происходит, когда после странствий по Юго-Восточной Азии вы усаживаетесь за офисный стол в Вашингтоне, округ Колумбия).
В то же время у меня были (и до сих пор остаются) огромные опасения по поводу распознавания лиц. Меня тревожит, что около половины всех американцев – в большинстве своем, конечно, законопослушные люди – хранят свои фотографии в базах данных, доступных для полиции (это в основном фото из паспортов и водительских прав, причем доступ к последним законы разных штатов регулируют по-разному). Меня также беспокоит подмоченная репутация этих технологий, похоже, они отличаются предвзятым отношением к женщинам и небелым лицам. Хотя в данном случае распознавание лиц просто заменяет существующую практику ручной проверки фотографий в паспортах, я опасаюсь последствий акклиматизации. Авиакомпании хотят распространить эту практику на внутренние рейсы. И я подозреваю, что по мере того, как люди будут все более привычно регистрироваться через такие терминалы, технология распознавания лиц станет повсеместной, а это значит, наши лица будут попадать во все большее количество баз данных. Насколько хорошо охраняются эти базы данных? Кто их видит?
Распознавание лиц дает больше пространства для злоупотреблений, чем любая другая технология, описанная в этой книге. И это для постоянного отслеживания людей, которые ничем не провинились и ни в чем не подозреваются. Не будем забывать об автоматическом считывании номерных знаков и отслеживании мобильных телефонов. В конце концов, вы всегда можете поехать на автобусе или оставить телефон дома. Но скрыть лицо не так просто. А правила, регулирующие использование технологий распознавания лиц, в лучшем случае носят временный характер, в худшем – просто отсутствуют. И наказания за их нарушение присуждаются редко.
Поэтому, сдав сумки в багаж, я точно не знал, что хочу сделать – пройти через терминал и задокументировать это как журналист или заявить отказ, выступив против ненадежной и потенциально опасной технологии. В итоге выбирать мне не пришлось.
Когда уже почти подошла моя очередь, система работала неустойчиво. Нарядная блондинка средних лет, стоявшая передо мной, очень долго смотрела в камеру устройства, но оно никак не могло ее сфотографировать. В результате и педантично вежливый сотрудник службы транспортной безопасности, и сама пассажирка начали терять хладнокровие. В итоге он старомодным способом проверил ее, а потом меня и еще множество людей из очереди – приложил билет к сканеру штрихкода, сравнил лицо с тем, что было в паспорте, и махнул: «Проходите». Будь мы персонажами романа, все это выглядело бы чересчур прямолинейно. Реальность не имеет таких нарративных ограничений.
Конечно, если не сработала система распознавания лиц в одном терминале аэропорта, это не значит, что вся технология провальная. Как раз наоборот: она постоянно совершенствуется. На это можно возразить, что мой опыт должен развеять страхи людей: ведь воспаленная фантазия борцов за неприкосновенность частной жизни уже превратила распознавание лиц в шпионскую страшилку, хотя на практике эта технология довольно неуклюжа и периодически дает сбои. Полиция в основном использует ее для того, чтобы сравнивать одни снимки, выполненные при контролируемых обстоятельствах, с другими снимками, выполненными при контролируемых обстоятельствах. «Так что успокойтесь, – говорят нам поборники распознавания лиц. – Эти системы просто улучшают и ускоряют то, что и так уже делают правоохранительные органы».
Это самодовольное и неправильное поведение. Вероятно, сегодня устройства распознавания лиц не смогут отследить каждое наше передвижение. Но эта технология уже вышла из зачаточного состояния, она переживает разгар подросткового возраста, фазу толстолапого щенка. Например, Rekognition, продукт компании Amazon, – это самонастраивающаяся система, которая постоянно совершенствуется за счет машинного обучения. Со временем распознавание лиц станет только эффективнее и дешевле. При отсутствии сильного общественного резонанса оно будет использоваться все чаще, отчего мы рискуем лишиться возможности сохранять анонимность в публичных местах.
Прямо сейчас – и только сейчас! – мы можем мобилизовать свою озабоченность по поводу потенциального вреда этих систем, чтобы снизить их реальный вред. Мы не отделаемся шутками по поводу неуклюжести этих технологий. Пора тщательно обдумать, на что они способны, чего мы от них ожидаем, где хотим использовать и, главное, где не хотим их использовать и какие их функции считаем нежелательными. А затем взяться за дело и разработать соответствующую политику.
* * *
По своей сути понятие распознавание лиц, как его чаще всего используют и понимают обычные люди, относится к серии алгоритмов, которые применяются к цифровому изображению, чтобы обнаруживать, распознавать и идентифицировать человеческие лица. Существует множество специфических патентованных алгоритмов – на рынке США доступно не менее ста, – которые выполняют каждую из этих задач. Анализ и оценка различий между ними выходят за рамки данной книги. Я попытаюсь дать очень простое, общее объяснение того, как обычно работает этот процесс.
Возможно, неврологам, программистам и другим людям, которые лучше меня разбираются в сложных научных и технологических аспектах распознавания лиц, знакомо приведенное ниже описание. Не исключено, они даже сочтут его упрощением. Но я не ученый, и эта книга предназначена для непрофессиональных читателей. Надеюсь, они не станут забегать вперед или скрежетать зубами, но продолжат читать. Я надеюсь, следующий раздел книги послужит полезным руководством по объяснению широкой публике опасности этих технологий.
Первым шагом в распознавании лиц является операция по определению лица в кадре, а первым шагом к тому и другому – обучение. Программисты показывают программе множество изображений и сообщают ей: это именно лица. Затем программа может сделать вывод, что подобные объекты на будущих фотографиях – круглые, с двумя круглыми впадинами, отражающими свет и расположенными над центральным выступом, с другими выступами по бокам и линией или открытым пространством под центральным выступом – по всей вероятности, тоже будут представлять собой лица (видимо, это глаза, нос, уши, рот).
Когда речь идет о современных алгоритмах, использующих глубинное обучение или нейронные сети, даже для их создателей остается загадкой, как именно эти программы приходят к такому выводу, да и
