Джарон Ланир - Вы не гаджет. Манифест

Границу между личностью и неличностью можно найти где-то в эмбриональном развитии от зачатия до рождения или в развитии ребенка или подростка. Или эти границы лучше всего определять на философско-генетическом пути развития раннего человека, а может, в истории культуры древних крестьян, ставших современными горожанами. Граница может существовать где-то в континууме между маленькими и большими компьютерами. Может быть, она связана с вашими мыслями; может, способность к самокопанию или сопереживанию делает вас человеком. Вот лишь некоторые из многих предлагаемых способов определения личности. Но ни один из них не кажется мне оптимальным. Границы личности остаются размытыми и неоднородными.

То, что мы не можем точно определить, где должны располагаться границы круга сопереживания, не означает, что мы не в состоянии узнать о нем вообще ничего. А то, что мы можем быть лишь приблизительно моральны, не означает, что вообще не надо стремиться быть моральным. Термин «мораль» обычно используется для описания нашего отношения к другим людям, но в данном случае я применяю его в равной степени и к нам самим.

Доминирующая открытая цифровая культура придает обработке информации роль эмбриона в понимании религиозного права или бактерий в моей доведенной до абсурда фантазии. Это классическая ошибка, но последствия у нее новые. Я опасаюсь, что мы начинаем изменять себя таким образом, чтобы подходить под цифровые модели нас, и меня беспокоит вымывание сопереживания и человечности в ходе этого процесса.

Права эмбриона основаны на экстраполяции, тогда как права нормальной взрослой личности очевидны настолько, насколько вообще возможно, ведь личность говорит сама за себя. Существует множество примеров, когда трудно решить, что делать с верой в личность, поскольку обсуждаемая сущность, возможно, и заслуживает сопереживания, но не способна говорить сама за себя.

Должны ли права животных быть такими же, как права людей? Существуют и особенные опасности, когда некоторые люди слышат голоса, которые не слышат другие, и расширяют свой круг сопереживания. Это как раз те случаи, которые надо оставить людям, близким к конкретной ситуации, если такое вообще возможно. В противном случае мы погубим общую свободу, навязывая друг другу метафизические идеи.

В случае рабства оказалось, что рабы, как только у них появился шанс, не просто смогли говорить за себя, но сделали это очень хорошо. Несомненно, Моисей был личностью. Потомки более поздних рабов, как Мартин Лютер Кинг, демонстрировали необыкновенные красноречие и сопереживание.

Новое веяние в Кремниевой долине выражается в том, что некоторые люди — очень влиятельные люди — верят, будто слышат, как алгоритмы, толпы и другие нечеловеческие, существующие в Сети сущности говорят сами за себя. Однако я таких голосов не слышу и уверен, что те, кто слышит, обманывают себя.

Чтобы помочь вам научиться подвергать сомнению фантазии кибернетических тоталистов, предлагаю дуэль двух мысленных экспериментов.

Первый известен уже давно. Как рассказывает Дэниел Деннет, представьте программу, которая может симулировать нейрон или даже сеть нейронов. (Такие программы существуют давно и стали вполне качественными.) Теперь представьте крошечное беспроводное устройство, которое может посылать сигналы нейронам мозга и получать их. Грубые устройства, напоминающие эти, тоже уже существуют; в прошлом я помогал Джо Розену, реконструктивному пластическому хирургу из Дартмутской медицинской школы, создать подобное устройство — «нервный чип», и это была одна из первых попыток передать сигнал в обход поврежденного участка, используя протезы.

Чтобы начать мысленный эксперимент, наймите нейрохирурга, который вскроет ваш череп. Если это неудобно, проглотите наноробота, который умеет проводить операции на мозге. Замените нерв вашего мозга одним из этих беспроводных устройств. (Даже если бы такие устройства довели до совершенства, сегодня было бы невозможно их соединить. Искусственный нейрон должен был бы задействовать все те же синапсы — в среднем около семи тысяч, — что и удаленный биологический нерв.)

Затем искусственный нейрон соединяется по беспроводной связи с симуляцией нейрона в находящемся неподалеку компьютере. Каждый нейрон обладает уникальными химическими и структурными характеристиками, которые должны быть учтены в программе. Проделайте эту процедуру с остальными нейронами своего мозга. В человеческом мозге от 100 до 200 миллиардов нейронов, так что, если тратить хотя бы по одной секунде на нейрон, процедура займет десятки тысяч лет.

А теперь главный вопрос: после того как процесс завершен, вы все еще разумное существо?

Более того, поскольку за динамику вашего мозга полностью отвечает компьютер, вы можете забыть о физических искусственных нейронах и позволить программам, имитирующим нейроны, соединяться друг с другом. Теперь используется только программное обеспечение. Стал ли компьютер личностью? Если вы верите в разум, находится ли теперь ваш разум в компьютере или, возможно, в программном обеспечении? Этот же вопрос можно задать в отношении души, если вы верите в душу.

Вот второй мысленный эксперимент. Он касается того же вопроса, но с другой стороны. Вместо того чтобы менять программу в компьютере, он меняет его конструкцию.

Для начала представьте замечательную технологию: массив летающих лазерных сканеров, который может измерить траектории градин в грозу. Сканеры отправляют всю информацию о траекториях на ваш компьютер посредством беспроводной связи.

Что можно сделать с этими данными? По счастью, в эксперименте есть замечательный магазин для гиков, Самый Большой Компьютерный Магазин, в котором продают компьютеры разнообразных конфигураций. Проще говоря, в нем есть все возможные компьютеры, за исключением некоторых, на самом деле имеющих очень большое количество логических схем.

Вы приходите в магазин с программой. Продавец выдает вам тележку, и вы начинаете примерять свою программу на разные компьютеры. Иногда вам везет, и программа, которую вы принесли из дома, запускается и разумное время работает без сбоев. Когда это происходит, вы кладете компьютер в тележку.

В качестве программы вы можете использовать даже данные о траекториях градин. Вспомните, что программа — не более чем список цифр; в Самом Большом Магазине Компьютеров должен найтись компьютер, на котором она запустится! Странно, что на каждом компьютере, на котором данные о траекториях градин запускаются как программа, эта программа работает по-разному.

Спустя некоторое время у вас есть несколько миллионов текстовых редакторов, удивительные видеоигры и еще куча программ для подготовки налоговой отчетности — вот вам результат запуска одной программы на компьютерах разной конфигурации. Это требует времени; в реальном мире вселенная, вероятно, не станет поддерживать условия для жизни достаточно долго, чтобы вы успели совершить покупку. Но мы проводим мысленный эксперимент, поэтому не привередничайте.

Дальше все просто. После того как вы заполнили тележку массой компьютеров, на которых запускаются данные о траекториях градин, присядьте в кафетерии магазина. Включите компьютер из первого мысленного эксперимента — тот, что воспроизводит ваш мозг. Теперь переберите все купленные компьютеры и сравните то, что каждый из них делает, с тем, что делает компьютер из первого эксперимента. Продолжайте, пока не найдете компьютер, который обрабатывает данные о траектории града так же, как программа, эквивалентная вашему мозгу.

Как вы узнаете, когда такой компьютер будет найден? Существует бесконечное множество вариантов. По математическим причинам вы никогда не можете быть абсолютно уверены, что именно делает большая программа и не возникнет ли ошибка. Но если вы нашли способ удовлетвориться качеством работы программы, имитирующей нейроны из первого эксперимента, значит, вы уже выбрали метод, с помощью которого примерно оцените большую программу. Или вы можете даже найти в своей тележке компьютер, который интерпретирует движение градин в произвольно заданный отрезок времени в точности так же, как программа активности мозга. Таким образом, динамика градин совпадает с программой мозга более чем в один отдельно взятый момент времени.

После того как вы проделали все это, стала ли гроза разумной? А душа у нее есть?

Альтернатива посыпания волшебной пылью людей — сыпать ее на компьютеры, цифровой улей-мозг, облако, алгоритм или иной кибернетический объект. Тут самое время задать вопрос: какой из вариантов безумнее?