Николас Карр - Стеклянная клетка. Автоматизация и мы
Каждый фрагмент программного обеспечения содержит подобные скрытые допущения. Поисковые системы и автоматизированные интеллектуальные вопросники весьма популярны в сравнении с разнообразием мнений, строгостью аргументации или качеством выражения мыслей. Как и все аналитические программы, они тяготеют к критериям, поддающимся статистическому анализу, отбрасывая мнения людей, для проверки которых нужен вкус или иные субъективные суждения. Автоматизированные алгоритмы выставления оценок мотивируют школьников и студентов к овладению методиками механического письма. Программы глухи к тональности речи, их не интересуют нюансы знания, и они активно сопротивляются нестандартным творческим оборотам речи. Талантливое нарушение грамматических правил может восхитить читателя, но оно – подлинное проклятье для компьютера. Рекомендующие устройства, предлагающие посмотреть какой-то фильм или познакомиться с потенциальным любовником, потворствуют нашим тривиальным желаниям, а не бросают нам вызов, предлагая что-то новое и неизведанное. Они молчаливо предполагают, что мы предпочитаем обыденность приключениям и предсказуемость капризным поворотам судьбы. Технологии домашней автоматизации, позволяющие программировать освещение, отопление, готовку и развлечения, придают частной жизни привкус тейлоризма.[30] Эти технологии исподволь подталкивают людей к приспособлению под заданные консервативные схемы, делая дом похожим на рабочее место.
Пристрастие к компьютерным программам может искажать как общественно значимые решения, так и личные. Продвигая свои самоуправляющиеся автомобили, Google утверждает, что они позволят резко сократить число дорожно-транспортных происшествий. «Известно ли вам, что дорожные аварии – это причина смерти номер один среди молодых людей? – вопрошал Себастьан Трун в 2011 году. – Понимаете ли вы, что почти все эти аварии являются следствием человеческих ошибок, а машины могут их предотвратить?» [36] Аргумент Труна звучит весьма убедительно. Регулируя правила таких опасных видов деятельности, как вождение автомобиля, общество уже давно отдает приоритет безопасности, и поэтому все одобряют роль, которую технологические новации могут сыграть в снижении риска несчастных случаев и травм. Но даже в этом картина не является такой черно-белой, какой рисует ее Трун. Способность самоуправляющихся автомобилей предотвращать аварии и несчастные случаи – пока вещь чисто гипотетическая. Как мы уже видели, связь между автоматизацией и человеческими ошибками является довольно сложной; взаимодействие человека и машины редко протекает по заранее написанному сценарию. Более того, цели общества тоже отнюдь не однородны. Люди всегда знали, что законы и моральные нормы предполагают некий компромисс между безопасностью и свободой. Мы допускаем, а иногда и поощряем опасные виды деятельности. Полная, насыщенная жизнь – это не полностью упорядоченное и размеренное существование. Даже устанавливая ограничения скорости на дорогах, общество, помимо безопасности, должно учитывать и другие цели дорожного движения.
Эти компромиссы, какими бы трудными и политически спорными они ни были, формируют тип общества. Вопрос заключается в том, хотят ли люди уступить право выбора компаниям, производящим компьютерные программы? Если рассматривать автоматизацию как панацею от всех бед, то исключается всякий иной выбор. Если броситься в объятия самоуправляющихся автомобилей, то тем самым не только ограничится личная свобода и ответственность каждого, но и не получится испробовать другие пути снижения риска аварий – например, повышение квалификации водителей или развитие общественного транспорта.
Стоит отметить, что озабоченность деятелей Кремниевой долины безопасностью движения, при всей ее искренности, была несколько избирательной. Отвлечение внимания водителей от дороги в результате пользования за рулем телефонами и смартфонами стало главным фактором увеличения числа дорожных аварий. В 2012 году, по данным Совета национальной безопасности (National Security Council), пользование телефоном за рулем стало причиной одной четверти всех дорожно-транспортных происшествий на дорогах США [37]. Тем не менее ни Google, ни другие фирмы, занятые разработкой высоких технологий, не сделали ничего для создания программ, которые помешали бы людям, ведущим машину, говорить по телефону, писать сообщения или пользоваться компьютером. Думается, что эту задачу решить легче, чем создать полностью автономный самоуправляющийся автомобиль. Google даже послал своих лоббистов в столицы штатов с тем, чтобы блокировать принятие законов о запрете водителям носить «умные очки» Google и другие отвлекающие оптические устройства. Важный вклад, который компьютерные компании могут внести в благополучие общества, конечно, должен приветствоваться, но нельзя путать интересы каждого человека с интересами компаний.
Если общество не поймет коммерческих, политических, интеллектуальных и этических мотивов, движущих людьми, которые создают компьютерные программы, не осознает ограниченность автоматизированной обработки данных, то люди станут легкой мишенью для самых разнообразных манипуляций. Возникает риск, как говорит Латур, подменить человеческие намерения другими и даже не заметить этой подмены. Чем больше привыкают люди к технологиям, тем выше становится этот риск.
Одно дело, когда человек не замечает в доме водопроводных труб, исчезающих из поля зрения по мере того, как он привыкает к их присутствию и очень хорошо понимает их функции. Так происходит и с большинством технологий, ставших невидимыми в силу своей вездесущности. Их работа, ее смысл и принципы самоочевидны или, по меньшей мере, познаваемы. Эти технологии могут производить некоторые непредусмотренные конструкторами эффекты – например, квартирный водопровод и канализация изменили наши представления о гигиене и приватности естественных отправлений [38], но при этом ни одна из них не имеет скрытого второго дна.
С невидимостью информационных технологий дело обстоит совсем иначе. Компьютерные системы остаются абсолютно непроницаемыми. Программные коды скрыты от глаз, так как во многих случаях являются коммерческой тайной. Но даже если бы была возможность в них заглянуть, то очень немногие поняли бы, что они видят. Программы написаны на языке, неизвестном для большинства. Данные, введенные в алгоритмы, тоже скрыты и хранятся в отдаленных, тщательно охраняемых центрах. Мало кто знает о том, как собирают эти сведения, для чего они используются и кто имеет к ним доступ. Теперь, когда программы и информация находятся в облачных хранилищах, а не на жестких дисках персональных компьютеров, невозможно узнать, когда меняется работа системы. Приложение, которым все пользовались вчера, сегодня, возможно, стало совсем иным.
Современный мир всегда отличался сложностью. Разбитый на специализированные области разных навыков и знаний, опутанный экономическими и иными системами, он сопротивляется любым попыткам познать его как нечто целое. Но теперь происходит невиданное: начинает скрываться сама эта сложность. Она скрадывается простотой, искусственно созданной на экране, маскируется дружественным пользователю интерфейсом. Мы окружены тем, что политолог Лэнгдон Уиннер назвал «скрытой электронной сложностью», представляя ее так: «Отношения и связи, которые некогда были частью повседневного опыта и проявлялись в непосредственных взаимодействиях между людьми и предметами, теперь окутаны покровом абстракции» [39]. Когда непроницаемая и недоступная пониманию технология становится невидимой, люди должны проявить мудрость и настороженность, так как наступил момент, когда цели и намерения автоматизации начинают вытеснять наши желания и направлять действия. Человек перестает понимать, помогают ли ему компьютерные программы, или они им управляют.
Глава девятая
«Любовь… что рядами на землю уложит луг»
Есть одна стихотворная строчка, к которой я то и дело мысленно возвращаюсь. Я вспоминал ее очень часто, когда работал над рукописью этой книги: «Быль – самый сладкий сон, что увидит труд».
Это предпоследняя строчка одного из ранних и самых лучших сонетов Роберта Фроста «Mowing» («Косьба»).[31] Фрост написал его в начале XX века, будучи еще совсем молодым человеком. Он работал фермером, разводил кур и выращивал яблони на маленьком клочке земли, купленном ему отцом в Дерри (Нью-Гемпшир). То был трудный период в жизни Фроста. Не хватало денег, перспективы были более чем туманны. Не доучившись, он бросил два колледжа – в Дартмуте и Гарварде. Фрост попробовал несколько работ, но ни на одной из них не преуспел. Он болел, по ночам его мучили кошмары. Его первенец умер от холеры в возрасте трех лет. Семейная жизнь складывалась трудно. «Жизнь была жестока ко мне, – вспоминал позднее Фрост, – и часто сбивала меня с толка» [1].
