Глубокая утопия. Жизнь и смысл в решенном мире - Ник Бостром
Другие типы метафизических или номологических фактов, которые ограничивают диапазон утопических видений, реализуемых даже в принципе, связаны с условиями личной идентичности или со связью определенных видов опыта и субъективного опыта усилий. Мы вернемся к этим вопросам в последующих лекциях, поэтому сейчас я не буду подробно останавливаться на них.
Что машины не могут сделать за вас
Последний набор ограничений, о которых я хочу поговорить сегодня, - это ограничения на автоматизацию. Они актуальны в нескольких отношениях. Если смотреть на них с одной стороны, то можно сказать, что они ограничивают то, чего мы можем достичь, передав выполнение задач машинам. Если посмотреть с другой стороны, то эти же ограничения определяют, какие задачи нам еще предстоит выполнить. Последнее важно, поскольку мы имеем дело с проблемой цели, о которой говорили Гейтс и Маск. Мы вернемся к этому завтра, но я просто хотел сказать, что пределы автоматизации могут - парадоксальным образом - представлять проблемы для утопического видения в обоих случаях: не позволяя нам разгрузить машины, так что мы должны продолжать нести это бремя сами; или позволяя нам разгрузить машины, так что мы становимся бесполезными и безработными.
Помимо того, что это имеет отношение к данной дилемме, нас также может интересовать вопрос о том, какая работа останется для нас в будущем (если все пойдет хорошо), и сбудется ли предсказание Кейнса о 15-часовой рабочей неделе или, возможно, о каком-то еще более экстремальном состоянии, когда мы вообще не будем работать.
Прежде всего, я хотел бы сделать одно предварительное замечание: люди иногда недооценивают то, что требуется для полной автоматизации работы.
Например, кто-то может посмотреть на диджея и сказать: "У нас уже есть технология, чтобы автоматизировать это. Мы можем запрограммировать трек-лист, который будет играть в течение всего вечера, не требуя вмешательства человека". Сделав такое заявление, а затем заметив, что диджеи-люди все еще работают, можно сделать вывод, что даже когда работа станет автоматизированной, во многих случаях ее по-прежнему будут выполнять люди.
Но почему? Возможно, потому, что клиенты предпочитают услуги человека, когда могут себе это позволить. Или они могут сказать что-то вроде: "Ну, автоматический диджей может справиться с этой работой, но, знаете, это не то же самое. Всегда будет что-то, то уникальное человеческое прикосновение, которое ни одна машина не сможет повторить".
Я думаю, что, хотя эти рассуждения и могут привести к чему-то близкому к правильному выводу, способ, которым они достигаются, слишком поспешен. Мы можем получить больше понимания и построить более точные интуиции (которые пригодятся позже), если замедлимся и рассмотрим вещи немного тщательнее.
Рассмотрим проигрыватель с запрограммированным списком воспроизведения - то, что мы можем легко собрать сегодня. Действительно ли он способен выполнять ту же работу, что и диджей? Ну, не совсем. Хороший клубный диджей, например, использует экспертные знания о музыкальном жанре, чтобы выбрать треки, которые хорошо сочетаются друг с другом и подходят для конкретного случая. Он или она может адаптировать подборку в режиме реального времени, читая толпу и решая, когда нужно завести ее, а когда утихомирить, и когда выпустить бэнгер. Он может расхаживать за своим мигающим оборудованием и выглядеть занятым; он может делать кричалки и объявления. Он будет излучать заразительную позитивную энергию. Он может смешиваться с толпой и появляться на вечеринках. Фирменный диджей, соглашаясь на выступление, дает понять потенциальным гостям, что это будет большая ночь, и таким образом служит маяком для всех, кому нравится данная сцена и кто хочет повеселиться с единомышленниками. Учитывая сравнительные недостатки проигрывателя пластинок во всех этих аспектах, неудивительно, что спрос на диджеев-людей все еще существует. Однако, если эти недостатки не сохранятся и в период технологической зрелости, это ничего не говорит нам о конечных перспективах человеческой занятости.
И очевидно, что многие из этих недостатков будут преодолены с помощью достаточно развитых технологий. Роботизированный диск-жокей сможет выбрать подходящий трек-лист, сможет читать толпу и реагировать на нее соответствующим образом, сможет танцевать и выглядеть занятым. Он также сможет посещать вечеринки, болтать с гостями и даже делать романтические предложения - почему бы и нет? В принципе, он также может приобрести репутацию, которая позволит ему выполнять сигнальную функцию знаменитого диджея.
То же самое можно сказать и о многих других профессиях. Например, психотерапевта. При достижении технологической зрелости виртуальный или роботизированный ИИ-психотерапевт будет обладать превосходной эмпатией, психологической проницательностью и способностью принимать терапевтическую позицию, а также сможет запоминать каждое слово, произнесенное пациентом. Возможно, он научится на миллионах предыдущих встреч и будет точно знать, что работает, а что нет. Таким образом, он будет точно знать, как слушать и как реагировать. Он будет использовать правильный тон голоса, правильное выражение лица, правильный язык тела. Если несовершенства улучшают впечатления пациента, то у него будут именно такие несовершенства - ничего чрезмерно гладкого или сверхъестественного, как это принято изображать в голливудских фильмах. Он просто должен быть действительно очень хорош в роли терапевта.
Я говорю все это для того, чтобы убедиться, что, когда мы пытаемся рассмотреть конечные пределы автоматизации, мы представляем себе правильный случай - тот, в котором мы действительно обладаем полным набором возможностей технологической зрелости. К ним относится способность создавать роботов, обладающих всем набором когнитивных, ручных и презентационных возможностей превосходного человека-практика. И, конечно, они выходят далеко за эти рамки.
Так что давайте спросим: при технологической зрелости есть ли что-то, что не может быть сделано машиной лучше?
Чувство и моральное терпение?
Что касается примеров с терапевтом и диджеем: предположим, что в этих контекстах нам нужно не только внешнее поведение (даже во всех его тонкостях, как я их описал), но и внутренний опыт, который человек-практик испытывал бы при выполнении этих задач. Клиентка может хотеть не только, чтобы ее терапевт выражал сочувствие, но и чтобы терапевт действительно чувствовал сочувствие. Рейвер может хотеть, чтобы диджей действительно наслаждался музыкой, а
