Николас Карр - Стеклянная клетка. Автоматизация и мы
Если мы не проявим разумную настороженность, то автоматизация умственного труда, исказив природу и цель интеллектуального поиска, может подорвать саму основу нашей культуры: стремление познать мир. Алгоритмы прогнозирования могут творить сверхъестественные чудеса в обнаружении корреляций, но они абсолютно слепы и глухи к причинам наблюдаемых признаков и явлений. Но ведь именно раскрытие причин – методичное распутывание проблем, связанных с механизмами того или иного процесса, – расширяет границы человеческого познания. Если мы дойдем до того, что будем считать автоматизированное вычисление вероятностей достаточным средством достижения наших профессиональных и общественных целей, то рискуем потерять или, в лучшем случае, ослабить наше стремление искать объяснения, находить неизведанные пути, ведущие к мудрости и чуду. Зачем все эти хлопоты, если компьютер готов выдать ответ через одну или две миллисекунды?
В эссе «Рационализм в политике», опубликованном в 1947 году, британский философ Майкл Окшотт живо описал современного рационалиста: «В его сознании нет атмосферы, нет смены времен года и колебаний температуры; все его мыслительные процессы изолированы от любых внешних воздействий и протекают в пустоте. …Рационалист не интересуется ни культурой, ни историей; он не оттачивает и не проявляет личную точку зрения. Его мышление примечательно лишь быстротой, с какой он сводит богатство и разнообразие опыта к формуле» [54]. Этими словами Окшотта можно превосходно воспользоваться для описания компьютерного интеллекта: он невероятно практичен и производителен, но при этом полностью лишен любопытства, воображения и связи с окружающим миром.
Глава шестая
Мир и экран
Островок Иглулик, вблизи полуострова Мелвилл на территории района Нунавит в Северной Канаде, ошеломляет своей природой в зимнее время года. Средняя температура воздуха составляет –20 °C. Море покрывается толстым слоем льда, солнце на несколько месяцев уходит за горизонт. Несмотря на эти суровые условия, эскимосские охотники вот уже четыре тысячи лет регулярно покидают свои дома и уходят в зимнюю тьму, чтобы, преодолев много миль по льдам и тундре, отыскать карибу или другую дичь. Способность этих охотников ориентироваться в голых просторах Арктики, где почти нет видимых ориентиров, снежные наносы, постоянно перемещающиеся с места на место, ветер, за ночь заметающий все следы, поражают белых путешественников и ученых. В 1822 году английский исследователь Вильям Эдвард Парри отметил в своем дневнике удивительную точность географических знаний его эскимосского проводника [1]. Экстраординарные следопытские навыки эскимосов не связаны с технологическими достижениями, они не пользовались картами, компасами и другими навигационными инструментами, а ориентировались на местности, опираясь на направления ветров, поведение животных, положение звезд, регулярность приливов и морские течения.
По крайней мере, раньше они ориентировались именно так. На рубеже нового тысячелетия в эскимосской культуре произошли определенные изменения. В 2000 году правительство США сняло для частных лиц ограничения в пользовании системой глобального позиционирования (GPS). Точность работы приборов GPS неуклонно повышалась, но, несмотря на это, цены на них постоянно снижались. Охотники Иглулика уже давно поменяли свои нарты на аэросани, во время охоты стали ориентироваться по электронным картам и компасу. Особенно сильным желание познакомиться с новой техникой было у молодых эскимосов. В прошлом, чтобы стать охотником, приходилось долго учиться у старших искусству находить дорогу в суровых арктических условиях. Тяжелое ученичество продолжалось много лет. Приобретя дешевый GPS-навигатор, молодой эскимос мог теперь избежать трудностей обучения, переложив ответственность за нахождение пути на электронный прибор. Мало того, теперь можно было отправляться на охоту даже в густой туман, что прежде считалось решительно невозможным. Простота, удобство и точность автоматической навигации привели к исчезновению старого искусства.
Однако по мере распространения GPS-навигаторов среди эскимосов стали одновременно учащаться случаи серьезных происшествий на охоте, заканчивавшихся тяжелыми травмами и даже смертью. Причина в том, что люди слепо полагались на спутниковую навигацию. Если приемное устройство выходило из строя или на морозе садились батарейки, то охотник, не имеющий старых навыков ориентации в однообразной снежной пустыне, терялся и замерзал, не найдя дороги домой. Были и другие опасности. Дороги, скрупулезно проложенные на электронных картах, могут привести к опасной прямолинейности. Доверяя инструкции GPS, можно направить скоростные аэросани на тонкий лед, врезаться в торосы или попасть в иную неприятную ситуацию, которую более опытные охотники избегают, почуяв опасность шестым чувством. Некоторые из этих проблем найдут свое решение в результате улучшения конструкции приборов и написания более подробных инструкций пользования ими. Но при всем этом будет безвозвратно утеряно то, что один из эскимосских старейшин называет «мудростью и знанием эскимосского народа» [2].
Антрополог из Университета Карлтона в Оттаве (Carleton University) Клаудио Апорта много лет изучает жизнь эскимосов. Он пишет, что, несмотря на то что спутниковая навигация дает большие преимущества, ее применение уже привело к потере способности ориентации и вообще к ослаблению чувства местности. Охотник на снегоходе, оборудованном GPS-навигатором, все свое внимание обращает на инструкции компьютера, теряя из вида проносящуюся мимо местность. Он передвигается «вслепую», если воспользоваться выражением Апорты [3]. Уникальный талант древнего народа, отточенный тысячелетиями, может быть утрачен за одно-два поколения.
Наш мир – это странное, изменчивое и опасное место, и перемещение по нему требует от любого животного больших умственных и физических усилий. В течение тысячелетий люди придумывали инструменты, облегчавшие тяготы путешествий. История – это ведь и хроника открытий новых способов облегчить передвижение в окружающей среде, изобретений, помогавших не заблудиться, избежать нападения или опасности быть съеденным. Сначала появились простые карты и вехи, затем звездные и морские карты и глобусы, а потом такие инструменты, как лаги, квадранты, астролябии, компасы, октанты и секстанты, телескопы, склянки и хронометры. На побережьях морей установили маяки, в прибрежных водах – буи. Люди начали мостить дороги, устанавливать на них знаки, размечать и нумеровать шоссе и автострады. Все эти изобретения появились давно и для большинства из нас привычны и естественны с самого детства.
GPS и другие средства навигации стали последними дополениями к этому набору инструментов.
Однако эти приборы придали старой истории новый, и весьма тревожный, оборот. Прежние навигационные средства, в особенности доступные простым людям, были именно вспомогательными. Они конструировались, чтобы помочь путешественнику лучше понимать обстановку и видеть окружавший его мир. Старые средства оттачивали чувство направления, предупреждали об опасностях, указывали путь к вехам и другим точкам ориентации; в целом они помогали путешественникам определиться как в знакомой, так и в новой обстановке. Спутниковые навигационные системы способны делать то же самое, но за одним исключением: они не предназначены для улучшения понимания нами окружающей местности и направления движения. Наоборот, навигаторы полностью избавляют от всех этих хлопот. Взяв на себя тонкости ориентации и сведя роль человека к механическому выполнению рутинных команд – повернуть налево через пятьсот ярдов, воспользоваться следующим выходом, идти вправо, сохранять движение вперед, – системы навигации, будь то автомобильные панели, смартфоны или специальные навигаторы, изолируют нас от окружающего мира. Как выразился по этому поводу коллектив ученых Корнельского университета (Cornell University) в статье, напечатанной в 2008 году: «С GPS вам не надо больше знать, где вы находитесь и куда надо двигаться, нет нужды обращать внимания на придорожные ориентиры или спрашивать дорогу у людей на улице. Автоматизация определения маршрута подавляет процесс познания физического мира, которое происходит благодаря самостоятельной ориентации в нем» [4].
Люди радостно приветствовали появление недорогих глобальных систем навигации. Журналист из The New York Times Дэвид Брукс говорил от лица очень многих, когда в колонке «Личное мнение» напечатал статью, озаглавленную «The Outsourced Brain» («Мозговой аутсорсинг»), в которой восхищался навигационной системой, установленной в его автомобиле: «У меня быстро сформировалась романтическая привязанность к GPS. Я полюбил умиротворяющий женский голос, говоривший с легким британским акцентом. Мне было так приятно следовать за проложенными на навигаторе тонкими синими линиями». GPS – богиня Брукса – освободила его от изнурительной необходимости ориентироваться на дороге. Тем не менее, неохотно признаёт Брукс, это избавление, принесенное встроенной в приборную доску музой, недешево ему обошлось: «Через несколько недель до меня стало доходить, что я уже не могу обходиться без этого чарующего голоса. Любая поездка, если она проходила по не очень хорошо знакомому маршруту, стала вызывать у меня оторопь, и я лихорадочно набирал адрес места назначения, чтобы затем безропотно следовать указаниям ангельского голоса. Я понял, что утратил всякие остатки своих географических навыков. Цена удобства, – пишет Брукс – это потеря самостоятельности» [5]. Богиня оказалась еще и коварной сиреной.
