Глубокая утопия. Жизнь и смысл в решенном мире - Ник Бостром
Более того, если оптимальная система должна тратить время и ресурсы на подобные "изыски" - например, потому, что задача, которой она посвящена, включает в себя попытку смоделировать возможные инопланетные цивилизации, для которых такие изыски могут быть важны, - не очевидно, что то, как оптимальная система потратит это время и эти ресурсы, будет полностью соответствовать тому, как мы решили бы их потратить, если бы мы не подчинялись требованию, что наша работа должна быть функционально оптимальной, и вместо этого непосредственно преследовали бы цель хорошей жизни. Например, максимально эффективный анализ того, как инопланетная культура может относиться к музыке, вполне может включать когнитивную деятельность, совершенно отличную от той, которой мы занимались бы, если бы на самом деле сами ценили и наслаждались музыкой.
Следовательно, хотя мы и можем стать системами, оптимальными с точки зрения задач, и хотя можно предположить, что некоторые системы, оптимальные с точки зрения задач, сохранят некоторые из способностей и моделей поведения, которые мы сейчас ценим в себе или которые мы независимо хотели бы развить ради улучшения нашего благополучия, далеко не факт, что эти условия действительно существуют, и было бы удивительно, если бы они были в какой-либо степени близки к эвдемонически идеальным. Если оптимальные с точки зрения задач системы сохраняют эвдемоническое функционирование лишь в очень ограниченной степени, то сомнительно, что та дополнительная ценность, которую они могли бы извлечь из обладания особым видом цели-ценности, требующей наличия сырой практической полезности, была бы достаточной для компенсации жертв в других ценностях, которые повлечет за собой трансформация нас в такие системы.
Вторая проблема заключается в том, что путь к превращению в оптимальную систему может быть либо недоступен, либо непривлекателен, даже если сама конечная точка не вызывает возражений. Например, если в технологически развитой цивилизации уже существуют оптимальные системы для выполнения соответствующих задач, то ваша возможность быть практически полезным, предположительно, уже упущена. Нет никакой экономической выгоды в том, чтобы переделывать себя, чтобы стать эффективным в выполнении какой-то инструментальной задачи, когда она уже решается системами, оптимизированными для ее выполнения. Даже если со временем спрос будет расти, создавая потребность в дополнительных системах, оптимальных для выполнения задачи, вам все равно будет неэффективно превращать себя в такую систему, если, что кажется весьма вероятным, существуют более целесообразные способы производства систем, оптимальных для выполнения задачи, - например, копирование существующих систем или, в любом случае, производство большего их количества методами, не ограниченными необходимостью сохранять вашу личную идентичность.
Поэтому, чтобы иметь шансы на оптимальное выполнение задач в период технологической зрелости, вам, вероятно, придется начать трансформацию раньше и продолжать ее на скорости, близкой к максимальной. Вы должны быть одними из первых, кто загрузит систему, а затем принимать дальнейшие улучшения и дополнения почти сразу же, как только они станут доступны. Вам придется безжалостно устранять любые неэффективные возможности. Как только позволят технологии, вам придется удалить все части своего разума, которые не пригодятся для выполнения задач, которым вы собираетесь посвятить себя. Такое стремление к специализированному совершенству повлечет за собой дополнительные жертвы, а также согласие с тем, что существо, которым вы в итоге станете, откажется от многого из того, что имеет ценность в жизни. Мы могли бы сравнить этот случай с человеческим ребенком, которого с раннего младенчества усыпляют и тренируют с максимальной строгостью ради единственной цели - стать лучшим математиком, пианистом или гимнастом - ценой отказа от всех удовольствий нормального детства, и в итоге он становится взрослым вундеркиндом, отстающим во всех областях, кроме своей единственной области, в которой он достиг совершенства. Разница в том, что в случае с биологическим человеком существуют пределы того, насколько далеко можно зайти в таком подходе, прежде чем он станет контрпродуктивным даже на своих собственных условиях (и за пределами которых любая дальнейшая строгость или сужение фокуса приведет к выгоранию, дисфункциональной ригидности, психиатрическим проблемам или бунту, а не к дополнительным достижениям в целевой способности); В то время как с умом, который все чаще становится продуктом инженерии, вполне вероятно, что гораздо более несбалансированная и мономаниакальная сосредоточенность на конкретной задаче будет оставаться наиболее эффективным способом достижения максимально возможного уровня выполнения задачи.
Даже если бы вы использовали самый целеустремленный и бескомпромиссный подход к перестройке себя для достижения оптимальной производительности - такой, который не обращает внимания на качество жизни ни в процессе оптимизации, ни впоследствии, - все равно может оказаться невозможным сохранить конкурентоспособность с машинами, созданными de novo для этой цели. На самом деле, я бы сказал, что, скорее всего, оптимальный вклад, который человек может внести в выполнение практических задач на этапе технологической зрелости, будет заключаться не в улучшении собственных возможностей и последующей самостоятельной работе над этими задачами, а в пожертвовании сначала всех своих финансовых ресурсов, а затем и материи, составляющей его тело и мозг, на создание и эксплуатацию систем, оптимизированных для выполнения поставленных задач. Другими словами, при достижении технологической зрелости ваша наибольшая практическая польза будет заключаться в том, что вы станете сырьем для машин. Не совсем "достоинство труда" пролетариата прошлых лет, но, возможно, вы сможете претендовать на славу, когда ваши атомы будут использованы для формирования сегмента охлаждающей трубы в дата-центре, где работает ИИ, рассчитывающий траектории развертывания горнодобывающего оборудования.
Один из моих друзей - тот, что никогда не скучает, - много лет назад признался мне, что хочет стать протоколом передачи информации. Знаете, как стандарты TCP/IP, на которых работает интернет, или код ДНК, или латинский алфавит. Эффект блокировки может сделать такие протоколы чрезвычайно долговечными. Даже развитой цивилизации будет непросто скоординировать свой выход из локального оптимума глобального неоптимального стандарта. Например, мы по-прежнему используем (якобы) медленную раскладку клавиатуры QWERTY спустя много десятилетий после того, как люди перестали пользоваться механическими печатными машинками; а некоторые
