Глубокая утопия. Жизнь и смысл в решенном мире - Ник Бостром
На экране настала очередь его персонажа говорить. Все повернули головы назад, к председательскому концу стола.
- "Вы полагаете, что если бы ThermoRex сказал "Никаких улучшений", мы бы просто оставили все как есть. Я не думаю, что все было так черно-бело".
- "Вы говорите, что мы бы отменили его желания?". Персонаж Кнехта прозвучал удивленно; он явно не ожидал такого парирования.
- "Было бы нарушением просто проигнорировать то, что там написано", - продолжил председатель. "Но существует спектр между игнорированием и беспрекословным следованием любому случайному замечанию. Например, мы могли бы повременить с дальнейшими усовершенствованиями, а затем спросить у ThermoRex, не передумала ли она? Мы могли бы по-другому поставить вопрос. Мы могли бы изучить другие виды усовершенствований, кроме тех, от которых он отказался. Может быть, нашлись бы доброжелатели за пределами Фонда, которые сказали бы Терморексу: "Мы сделаем то, что вы хотите, если вы согласитесь примерить на себя некоторые когнитивные улучшения". Я подозреваю, что мы нашли бы какой-нибудь уважительный, но разумный выход".
- "А как же тогда "необходимость реальных последствий"?", - возразил Кнехт. "Если в конечном счете нет никакой разницы в том, что говорит Терморекс, то вся эта шумиха с предоставлением ему права выбора была пустым фарсом!"
- "Ну, во-первых, не только место назначения имеет значение", - сказал председатель. "Путь, пройденный к нему, тоже имеет значение. Например, даже если ThermoRex в итоге всегда будет улучшен, на одном пути он может идти быстрее, а на другом - провести больше времени на более низком уровне развития, прежде чем продвинуться вперед. Это реальная разница".
"Во-вторых, это не обязательно было бы то же самое предназначение. Существует более одного способа стать полностью реализованной личностью. Даже если мы ограничимся случаями, когда человек становится сверхсуществом, существует множество возможностей - я думаю, больше различных способов стать сверхсуществом, чем способов стать человеком. Ранний выбор Терморекса помог бы определить, в кого из этих возможных сверхсуществ он вырастет".
- "То есть свобода выбора, но только между альтернативами, заранее выбранными как "хорошие"?". Кнехт, казалось, достиг кульминации.
- "Да, возможно".
Тут вмешался Вильфрид, один из других членов Попечительского совета, до этого момента хранивший молчание, и попытался примириться:
- "Возможно, мы так и не смогли до конца понять, что бы мы делали, если бы ThermoRex сказал что-то другое".
Однако Кнехт еще не был готов уступить и выступил вперед, чтобы нанести последний удар:
- "Однако, похоже, здесь все же есть проблема. Даже если мы ограничимся мирами, где Терморекс становится сверхсуществом, таких миров много, и некоторые из них лучше других. Что, если бы ТермоРекс решился пойти по пути, который привел бы его к тому, что он стал бы меньшим сверхсуществом, чем мог бы стать - менее счастливым, менее славным? Вы бы позволили этому случиться? Если да, то как вы совместите это с вашим обязательством и обязанностью делать то, что лучше для Терморекса?"
- "Я хотел бы высказать несколько соображений по этому поводу", - ответил председатель. "Как вы помните, в свое время мы провели несколько дней, обсуждая этот вопрос с приглашенными советниками". (Тут он посмотрел на Уилфрида). "Хотя, как мне кажется, вы не смогли приехать в тот раз". (Тут он посмотрел на Кнехта).
Настоящий председатель с ухмылкой оглядел своих коллег по аудитории. "Свуш, свуш", - прокомментировал один из них.
Председатель на экране продолжал:
"И мы пришли к предварительному выводу, что независимо от того, можно ли определить какую-то объективную иерархию, чтобы можно было проранжировать каждое счастливое сверхсущество и сказать, что вот это "лучше", чем то, или что вот у этого "жизнь лучше", чем у того, вопрос, который был для нас актуален, заключался в следующем: Что лучше для ThermoRex? Лучше для конкретного устройства, которое нам поручили обслуживать. Мы подумали, что это "лучше для" не является одинаковым для всех, а зависит от природы существа, о котором идет речь. Таким образом, лучший способ существования для ThermoRex может отличаться от лучшего способа существования для вас или меня. И даже если бы абсолютное понятие имело смысл, и мы могли бы говорить о "лучшем способе бытия просто", все равно оно могло бы не совпадать с тем, что было бы лучшим способом бытия для Терморекса. И наш долг был сосредоточиться на последнем".
"Мы также подумали, что хотим помочь Терморексу прожить хорошую жизнь, и это должно включать определенные структурные свойства его жизненной траектории. Например, нам казалось правдоподобным, что жизненная траектория, включающая определенную степень самоформирования, при прочих равных условиях лучше, чем та, которая не включает в себя самоформирование. То есть просто жить как можно дольше в каком-то оптимальном состоянии может быть менее желательным, при прочих равных условиях, чем иметь жизненную траекторию, на которой оптимальное (или даже слегка субоптимальное) состояние достигается только после некоторой задержки, но когда оно достигается благодаря собственному выбору и усилиям Терморекса".
"И наконец, что касается нашей роли как членов Попечительского совета во всем этом: Да, мы "стремились к лучшему для ThermoRex". Но такая формулировка не полностью отражает то, как мы представляли себе наши обязательства. Мы не считали себя оптимистами. Мы думали о себе скорее как о родителях, желающих добра, и ставили перед собой цель действовать по отношению к Терморексу и от его имени с той любовью и заботой, с которой идеальный родитель относится к своему ребенку, конечно, в несколько обобщенной и абстрактной форме, поскольку Терморекс сильно отличался от человеческого ребенка, а мы не были его родителями. Но идея заключалась в том, что, когда вы подходите к существу с таким отношением, вы не думаете о том, как оптимизировать некое фиксированное представление о его благе; вы думаете о том, чтобы попытаться ответить на него с наибольшей любовью и заботой, как это проявляется в конкретной ситуации, в которой вы оказались. Так что, если позволите аналогию, можно предположить, что для ребенка было бы лучше, если бы родители всегда настаивали на том, чтобы он ел здоровую пищу; и все же родитель с идеально заботливым и любящим мышлением может позволить ребенку иногда съесть немного мороженого. Мы бы позволили Терморексу съесть хорошее (хотя и не неограниченное) количество мороженого; но, к счастью, как выяснилось, он не был сладкоежкой, и не было ничего такого, чего бы молодой Терморекс хотел, что противоречило бы его долгосрочному процветанию".
- "Я и сам не мог бы сказать лучше", - заключил настоящий председатель, когда пошли титры. "Кнехт, что вы
