Общество контроля. Как сохранить конфиденциальность в эпоху тотальной слежки - Джон Фасман
Кроме того, если мы желаем избежать усиления расовой предвзятости, не стоит обучать прогностические алгоритмы на основе преступлений, связанных с наркотиками. Причины те же: в 2016 году из всех арестов, связанных с наркотическими веществами, более 75 % произведены за простое хранение наркотиков – преступление, сильно зависящее от вмешательства полиции. Согласно данным Альянса по борьбе с наркотиками – коалиции, выступающей за разумные законы о наркотиках, – прокуроры вдвое чаще добиваются обязательного минимального наказания для чернокожего, чем для белого, обвиняемого в том же преступлении[170]. Я мог бы перечислять аргументы еще на нескольких сотнях страниц, но вы поняли идею: Америка применяет свои законы о наркотиках расистским образом, и алгоритм, обученный расизму, это увековечит.
Помимо распределения патрулей, полиция использует алгоритмы и для других целей. С помощью такой программы в полицейском управлении Чикаго создали стратегический список субъектов (другое название – горячий список), в который включены предполагаемые участники инцидентов со стрельбой, как жертвы, так и преступники. От прогностических программ, рассмотренных выше, этот алгоритм отличается одним важным аспектом: он фокусируется на людях, а не на географии.
Многое в этом списке окутано тайной. Точный алгоритм недоступен общественности, и он неоднократно корректировался после 2013 года, когда был впервые представлен в пилотной программе. В 2017 году, проиграв долгую судебную тяжбу с «Чикаго сан-таймс», департамент полиции опубликовал в интернете множество данных об арестах и одну версию списка[171]. Он использовал восемь признаков для оценки людей с криминальным прошлым по шкале от 0 баллов (низкий риск) до 500 (чрезвычайно высокий риск). Баллы пересчитываются регулярно – в какие-то периоды (и, возможно, до сих пор) ежедневно.
В числе этих признаков – число случаев, когда либо в человека стреляли, либо он был жертвой избиения или нападения при отягчающих обстоятельствах, когда его арестовывали по обвинению в насильственных преступлениях с применением огнестрельного оружия, за наркотики или принадлежность к банде, возраст, когда он был арестован в последний раз, характер недавней преступной деятельности. Алгоритм не учитывает расу и пол отдельных лиц. Он также не использует географию (то есть адрес подозреваемого), которая в Америке часто служит завуалированным указанием на расовую принадлежность.
Аналитик криминальных данных Джефф Ашер, сотрудничающий с «Нью-Йорк таймс», и исследовательская и правозащитная группа Upturn попытались перепроектировать этот алгоритм и пришли к аналогичным результатам[172]. Они заметили, что решающим фактором, определяющим баллы по шкале SSL, является возраст. Это неудивительно: многочисленные исследования показали, что насильственные преступления совершают, как правило, люди молодого возраста.
Незадолго до публикации этих исследований представитель полицейского управления Чикаго сказал: «В поле нашего зрения попадают люди, набравшие 250 баллов и выше»[173]. Однако, согласно Upturn, по состоянию на 1 августа 2016 года в списке было 280 000 человек с баллами выше 250 – гораздо больше, чем может держать в поле зрения полицейское управление с 13 500 сотрудниками. Что еще более тревожно, по версии Upturn, более 127 524 человек из этого списка никогда не участвовали в перестрелках и не попадали под арест. Как они оказались в списке, неясно.
Полиция заявляла, что данный список – это просто инструмент, он не влияет на решения правоохранительных органов. Однако при этом правоохранители регулярно пиарили аресты людей из SSL. Непрозрачность алгоритма не позволяет понять, как кто-то попадает в этот список, что тревожит еще сильнее – как людей исключают из списка и исключают ли вообще? Кроме того, SSL учитывает аресты, а не обвинительные приговоры, значит, некоторые могут оказаться там за преступления, которых не совершали.
Анализ, проведенный журналистами Яной Куничофф и Патриком Сиером и опубликованный в журнале «Чикаго», показал, что из включенных в список SSL на основе данных чикагского отделения полиции (по всем арестованным за четыре года, с 31 июля 2012 года по 1 августа 2016 года) только 3,5 % ранее участвовали в перестрелках либо как жертва, либо как преступник[174]. Факторами, которые чаще всего приводили к включению в список, были принадлежность к банде и арест за наркотики где-то в течение последних четырех лет.
Адвокаты утверждают, что полиции слишком легко занести человека в базу данных по признаку принадлежности к банде. Попадание в эту базу (которая на 95 % состоит из чернокожих или латиноамериканцев) отражает скорее модель работы полиции, а именно интенсивное присутствие патрулей на юге и западе города, в районах с преобладающим чернокожим и латиноамериканским населением, а не опасность, которую представляют фигуранты списка. Кроме того, упомянутый выше анализ показал, что в Чикаго большинство чернокожих мужчин в возрасте от 20 до 29 лет состояли в списке SSL. Среди испаноязычных мужчин таких было 23 %, а среди белых мужчин – всего 6 %.
Возможно, из-за подобной критики в конце 2019 года городские власти тихо заморозили SSL, а в начале 2020 года, согласно газете «Чикаго трибьюн», окончательно прекратили его использование[175].
Мотивы к созданию этого списка, как и алгоритмов прогнозирования преступности, понятны. Многочисленные исследования показывают, что небольшое число людей ответственно за непропорционально большую долю насилия. Если бы полиция выяснила, кем они были до того, как нарушили закон или стали жертвами, особенно в случае преступлений с применением огнестрельного оружия, можно было бы сохранить жизнь и свободу большему количеству людей.
Этот подход – попытка выявить потенциальных злоумышленников до того, как они будут осуждены и заключены в тюрьму, – коренится в нецифровой полицейской стратегии, известной как вмешательство в рынок наркотиков (DMI). Она была создана Дэвидом Кеннеди, криминологом из колледжа Джона Джея в Нью-Йорке. Стратегия начинается с того, что полиция ведет наблюдение за открытыми рынками наркотиков и возбуждает дела против дилеров. Но вместо того, чтобы их арестовывать, полиция устраивает встречу с их семьями, сотрудниками социальных служб и общественными деятелями. На встрече дилерам предлагают выбор: если остановитесь сейчас, мы поможем вам, продолжите торговать – ваше дело уйдет в суд[176].
Власти
