Быть никем. Теория самомоделирования субъективности - Томас Метцингер
Поскольку здесь не место для развернутой этической дискуссии об искусственной феноменальности, позвольте мне привести два конкретных примера. Что бы вы сказали, если бы кто-то пришел и сказал: "Эй, мы хотим генетически спроектировать умственно отсталых человеческих младенцев! В целях научного прогресса нам нужны младенцы с определенными когнитивными и эмоциональными нарушениями, чтобы изучать их постнатальное психологическое развитие - нам срочно нужно финансирование для этого важного и инновационного вида исследований!" Вы, конечно, подумаете, что это не только абсурдная и ужасающая, но и опасная идея. Надеюсь, она не прошла бы ни один комитет по этике в демократическом мире. Однако сегодняшние комитеты по этике не видят, как первые машины, удовлетворяющие минимально достаточному набору ограничений для осознанного опыта, могли бы быть такими же, как умственно отсталые младенцы. Они тоже будут страдать от всевозможных функциональных и репрезентативных недостатков. Но теперь они также субъективно ощущали бы эти недостатки. Кроме того, у них не было бы политического лобби - ни одного представителя в комитете по этике.
Если бы у них была прозрачная модель мира, встроенная в виртуальное окно присутствия, тогда реальность предстала бы перед ними. Они были бы минимально сознательными. Если бы у них, как у продвинутых роботов, даже была стабильная телесная самомодель, то они могли бы ощущать сенсорную боль как свою собственную, включая все последствия плохой человеческой инженерии. Но особенно если их постбиотическая ПСМ действительно закреплена в биологическом оборудовании, все может быть гораздо хуже. Если бы у них была эмоциональная Я-модель, то они могли бы по-настоящему страдать - возможно, даже в такой степени интенсивности или качественного богатства, которую мы, их создатели, не можем себе представить, потому что она нам совершенно чужда. Если бы, кроме того, они обладали когнитивной Я-моделью, то потенциально могли бы не только осознавать свою причудливую ситуацию, но и интеллектуально страдать от того, что у них никогда не было ничего похожего на "достоинство", столь важное для их создателей. Они могли бы сознательно представлять тот очевидный факт, что являются лишь второсортными субъектами, используемыми в качестве обменных экспериментальных инструментов каким-то другим типом самомоделирующейся системы, которая, очевидно, не знает, что делает, и, должно быть, давно потеряла контроль над своими собственными действиями. Можете ли вы представить, каково это - быть таким умственно отсталым феноменальным клоном первого поколения? Или же вы можете представить себе, каково это - "прийти в себя" в качестве более продвинутого искусственного субъекта, только чтобы обнаружить, что, хотя вы и обладаете отчетливым чувством собственного достоинства, вы - всего лишь товар, научный инструмент, который никогда не создавался и, конечно, не должен рассматриваться как самоцель?
На данный момент можно было бы сказать гораздо больше. Позвольте мне лишь выделить то, что представляется главным вопросом: Страдание начинается на уровне ПСМ. Вы не можете сознательно страдать, не имея глобально доступной Я-модели. ПСМ - это решающий нейрокомпьютерный инструмент не только для развития множества новых когнитивных и социальных навыков, но и для того, чтобы заставить любую сильно сознательную систему функционально и репрезентативно присвоить свой собственный распад, свои собственные неудачи и внутренние конфликты. Феноменальное присвоение идет параллельно с функциональным присвоением. Эволюция не только удивительно эффективна, но и безжалостна и жестока по отношению к индивидуальному организму. Боль и любой другой нефизический вид страдания, вообще любое репрезентативное состояние, характеризующееся "негативной валентностью" и интегрированное в ПСМ, теперь феноменально принадлежит ей. Теперь это неизбежно и прозрачно - мое собственное страдание. Мелодрама, а также потенциальная трагедия эго начинаются на уровне прозрачного самомоделирования. Поэтому мы должны запретить все попытки создания (или даже риск создания) искусственных и постбиотических ПСМ в серьезных академических исследованиях.
Люди сильно различаются в своих позитивных моральных интуициях, а также в своих явных теориях о том, к чему мы должны активно стремиться. Но если говорить о фундаментальной солидарности всех страдающих существ против страданий, то почти все мы должны быть в состоянии согласиться с тем, что я буду называть "принципом негативного утилитаризма": Какими бы ни были наши конкретные этические обязательства и конкретные позитивные цели, мы, конечно, можем и должны согласиться с тем, что в принципе и по мере возможности общее количество сознательных страданий у всех существ, способных к сознательному страданию, должно быть сведено к минимуму. Я знаю, что невозможно привести ни одного действительно убедительного аргумента в пользу этого принципа. И, конечно, существуют всевозможные теоретические сложности - например, индивидуальные права, долгосрочные предпочтения и эпистемическая неопределенность. Но основная интуиция - это то, что может разделять практически каждый: Мы все можем согласиться с тем, что не следует создавать дополнительные страдания без необходимости. Альбер Камю однажды сказал о солидарности всех конечных существ против смерти, и в том же смысле должна существовать солидарность всех разумных существ, способных страдать, против страданий. Из этой солидарности мы не должны делать ничего, что могло бы увеличить общее количество страданий и беспорядка во Вселенной, не говоря уже о том, что с большой вероятностью может привести к такому эффекту с самого начала.
Если говорить очень аккуратно, то один из очевидных фактов о феноменальном опыте, как он развивался на нашей планете до сих пор, заключается в том, что одной из его поразительно доминирующих черт является страдание и смятение. Феноменальный опыт - это не то, что можно безоговорочно превозносить. Помимо многих других новых свойств, биологическое самосознание привнесло в физический мир огромное количество страданий и смятения, океан феноменального страдания, которого раньше просто не было. Как однажды сказал один из моих студентов: Вселенная может быть хорошим местом для эволюции, но не таким уж хорошим местом для индивидуумов. Если это так, то индивиды с сознательными Я-моделями будут автоматически отражать этот факт на уровне своего собственного феноменального опыта. Таким существам, как мы, трудно по-настоящему столкнуться с этим фактом, потому что это не тот факт, с которым нас хотела познакомить мать-природа. Но при теоретическом и технологическом моделировании таких захватывающих явлений, как феноменальная самость и перспектива первого лица, нам не на что ориентироваться, кроме как на нашу собственную, биологическую форму сознания - просто потому, что это единственная форма сознания, которую мы можем научно исследовать. Поэтому мы подвергаемся большой опасности умножения всех ее негативных аспектов на искусственных носителях, прежде чем поймем, откуда берутся все эти негативные аспекты, в каких именно свойствах нашей биологической истории, нашего тела и
