Общество контроля. Как сохранить конфиденциальность в эпоху тотальной слежки - Джон Фасман
Не все компании, торгующие с полицией, так легко относятся к распознаванию лиц, как Amazon. Компания Axon, ведущий поставщик камер слежения правоохранительным органам, в июне 2019 года приняла решение отказаться от оснащения своих камер функцией распознавания лиц. Ее Совет по этике искусственного интеллекта – внешний консультативный комитет, состоящий из ученых, активистов и сотрудников полиции, – счел, что эту технологию не следует внедрять до тех пор, пока она не будет работать с гораздо большей точностью и одинаковым качеством для всех рас, этносов, полов и других групп идентичности.
Совет также отказался отвечать на вопрос, может ли вообще быть этически оправданной установка системы распознавания лиц на нательных камерах. Его члены заявили: «Ни одна юрисдикция не должна внедрять технологию распознавания лиц, не пройдя через открытые, прозрачные, демократические процессы, с адекватными возможностями для действительно репрезентативного общественного анализа, вклада и возражений». Это разумная и принципиальная позиция. Естественно, гражданские свободы в свободном обществе заслуживают лучшей защиты[136].
Конгресс наконец начал соглашаться – или хотя бы готовится соглашаться. В 2019 и 2020 годах надзорный комитет палаты представителей неоднократно проводил слушания по вопросам распознавания лиц, и члены обеих партий, похоже, склоняются к тому, что эту технологию нужно регулировать. Дьявол, как всегда, в деталях. Конгрессу вряд ли удастся принять основное законодательство до 2021 года: к сожалению, результаты маловероятны из-за приближающихся президентских выборов 2020 года, приоритетов, навязанных COVID-19, и эндемической дисфункции самого Конгресса. Но если вы хотите, чтобы были приняты разумные федеральные правила (реальные пределы длительности хранения биометрических данных, позволяющих идентифицировать личность; строгие ограничения на то, кто и почему может получить доступ к базам данных распознавания лиц, а также реальные штрафы за нарушение этих правил), я посоветовал бы вам не переставая названивать своим представителям в Конгрессе.
В некоторых местах, таких как Сан-Франциско и Сомервилль в штате Массачусетс, решили, что наиболее разумный подход к технологии распознавания лиц – это не регулировать ее, а вообще запретить городским отделам ее использовать. Я всем сердцем поддерживаю эти запреты, хотя и не считаю их единственным способом борьбы с распознаванием лиц. Они вряд ли пройдут везде: большинство мест не такие либеральные, как Сан-Франциско и пригород Бостона с высокообразованным, технически подкованным населением.
Штатный юрист по вопросам технологий и гражданских свобод из ACLU Северной Калифорнии Мэтт Кейгл, который инициировал запрет в Сан-Франциско, утверждает, что распознавание лиц опасно в любом случае, независимо от его точности. Будучи неточной, технология рискует заманить в ловушку невиновных. Но даже абсолютно точное распознавание лиц рискует ограничить свободу выражения политических взглядов и свободу ассоциаций, когда используется без эффективного регулирования в режиме реального времени. Если бы полиция всех отслеживала и вычисляла, некоторые люди не стали бы участвовать в общественных протестах или политических митингах, не пошли бы в мечеть и не согласились бы подвезти подругу в клинику для абортов. Иными словами, вас уже обеспокоило, что Rekognition ошибочно определила непропорционально большое число небелых законодателей. Но широта и точность приложения для распознавания лиц Clearview, о котором я рассказал в прологе, должны беспокоить вас еще больше.
И даже если распознавание лиц будет жестко регулироваться с самого начала, оно, как утверждает Кейгл, уязвимо для размывания цели. Он отметил, что в Закон о прослушивании телефонных разговоров несколько раз вносились поправки, чтобы расширить список преступлений, в связи с которыми правительство может перехватывать сообщения. Некоторые выступают за распознавание лиц в ограниченном наборе обстоятельств, например, таких, которые одобрены Офисом шерифа округа Вашингтон в Орегоне. Но для этого нужна база данных, которую можно легко использовать для массового наблюдения в режиме реального времени. «История слежки, – сказал мне Кейгл, – это история злоупотреблений мощными системами наблюдения, а с появлением распознавания лиц ставки только растут».
Возможно, эта точка зрения покажется вам паникерской. Американская полиция не использует распознавание лиц в реальном времени как часть сложившейся практики. Технология совершенствуется. Если китайская полиция способна найти одного человека в городе с населением 4,3 миллиона человек быстрее, чем вы выпьете чашку кофе – это не означает, что точно так же поступит европейская или американская полиция. Мы такими вещами не занимаемся.
Но эта технология существует. И злоупотребления часто начинаются именно так: мы просто этого не делаем… – пока не сделаем. Например, когда-то было общее понимание, что федеральные полицейские не могут просто требовать удостоверение личности у людей без веской причины или ордера. Но затем агенты иммиграционно-таможенной полиции США начали заходить в рейсовые междугородные автобусы и требовать подтверждения гражданства путешественников (технически они не могут этого делать без обоснованного подозрения, что кто-то нарушил иммиграционные законы, но на практике это случается). Люди узнали, что сотрудники пограничной службы имеют расширенные полномочия в пределах ста миль от границы, то есть на территории, где проживают две трети американцев. Оказалось, что общее понимание на самом деле было просто ожиданием.
Точно так же может распространиться технология распознавания лиц, если не будет ее четкого регулирования. Базы фотографий, при помощи которых полиция пока идентифицирует только законно подозреваемых преступников, могут легко служить для распознавания лиц в режиме реального времени, как только полицейские решат, что им это нужно. Агенты иммиграционно-таможенной полиции могли бы появляться на автобусных и железнодорожных станциях с планшетами, оснащенными системой распознавания лиц, и искать людей без документов. Позднее это стали бы делать другие федеральные агенты, а потом и сотрудники местной полиции, конечно, а почему нарушения иммиграционного законодательства должны иметь более высокий приоритет, чем другие преступления?
Если мы не хотим, чтобы наш мир стал таким, нам нужно организоваться и высказываться прямо сейчас. С этими злоупотреблениями не совладать при помощи каких-либо технологических решений. Солнцезащитные очки, препятствующие распознаванию лиц, круты, но их невозможно перенастроить: они защищают вас, пока вы их носите, но только тогда, когда вы их носите, и только вас, но не ваших сограждан и даже не ваших любимых людей. У нас нет режима обратной перемотки, чтобы что-то изменить. Есть только демократия. Мы можем формировать мир как хотим и не соглашаться на постоянно растущий уровень слежки и снижающийся уровень защиты частной жизни.
Кейд Крокфорд, которая руководит программой «Технологии для свободы» в ACLU штата Массачусетс, назвала запреты на распознавание лиц в Сомервилле и Сан-Франциско гаечным ключом, брошенным в механизм технологического детерминизма. Она возражает против рассказов, что если технологию изобрели, то будут и применять, а вам лучше уйти с дороги. Крокфорд говорит: «Нам решать, считаем
