Наше постчеловеческое будущее: Последствия биотехнологической революции - Фукуяма Фрэнсис
Аналогично многие исследователи в области искусственного интеллекта обходят вопрос о сознании путем фактической подмены темы. Они предполагают, что мозг есть просто органический компьютер большой сложности, который можно идентифицировать внешними характеристиками. Известный тест Тьюринга утверждает, что если машина может выполнять познавательные задачи, такие как поддержание беседы так, чтобы внешне это нельзя было отличить от тех же действий, совершаемых человеком, то внутренне она тоже от человека отличаться не будет. Почему это должно быть адекватным тестом ментальности человека — загадка, поскольку машина точно не будет иметь никакого субъективного осознания своих действий, как и связанных с ними чувств(Критика этого подхода содержится у Сирла в его загадке "Китайская комната", где поднимается вопрос, можно ли сказать, что компьютер понимает китайский язык лучше, чем не говорящий по-китайски человек, сидящий в запертой комнате и получающий инструкции, как обрабатывать ряд символов китайского языка. См. Searle (1997), р. 11. — Примеч. автора.). Это не мешает таким авторам, как Ганс Моравец[301] и Рей Курцвайль[302], предсказывать, что машины, достигнув должного уровня сложности, получат и такие человеческие свойства, как сознание[303]. Если они правы, то это будет иметь серьезные последствия для нашей концепции человеческого достоинства, поскольку будет логически доказано, что люди суть не более чем сложные машины, которые можно делать из кремния и транзисторов не хуже, чем из углерода и нейронов.
Вероятность, что это случится, кажется весьма далекой, и не столько потому что машины никогда не смогут иметь разум, равный человеческому (я подозреваю, что в этом отношении они подойдут к нему весьма близко), но потому что невозможно вообразить, будто они обретут человеческие эмоции. Это в научной фантастике андроид, робот или компьютер вдруг начинают испытывать страх, надежду и даже половое влечение, но никто еще и близко не подошел к объяснению, как такое может случиться. Проблема здесь не только в том, что никто еще не понял, что представляют собой эмоции (как и сознание) онтологически; никто не понял, почему они начали существовать в биологии человека.
Конечно, есть функциональные причины для существования таких эмоций, как боль и удовольствие. Если бы секс не был нам приятен, мы бы не стали размножаться, а если бы мы не испытывали боль от огня, мы бы то и дело обжигались. Но в современном течении науки о познании считается, что конкретная субъективная форма, принимаемая эмоциями, не является необходимой для их функций. Вполне возможно, например, построить робота, у которого датчики в пальцах будут соединены с актуатором, убирающим руку робота от огня. Робот сможет предотвратить сгорание пальцев без всякого чувства боли и будет способен принимать решения, какие цели преследовать и каких действий избегать, путем математической обработки входных сигналов от разных датчиков. Тест Тьюринга скажет нам, что он по своему поведению — человек, но на самом деле этот робот будет лишен самого важного свойства человека — чувств. Конкретная субъективная форма, которую принимают эмоции, в современной биологии и теории познания рассматривается всего лишь как эпифеномен функций, на которых они основаны: нет никаких объективных причин, чтобы именно такая их форма должна была быть выбрана в процессе эволюционной истории[304].
Как указывает Роберт Райт, это ведет к весьма парадоксальному выводу; то, что наиболее важно для нас как для людей, не имеет явной цели в материальной схеме вещей, которые делают нас людьми[305]. Ибо только человека отличает гамма эмоций, которые порождают цели, назначение, стремления, желания, страхи, отвращения человека, и потому они — источники человеческих ценностей. Хотя многие включили бы разум человека и его способность к нравственному выбору в список наиболее важных отличительных его свойств, я бы возразил, что полная гамма человеческих эмоций важна по крайней мере столь же, если не больше.
Политолог-теоретик Роберт Мак-Ши демонстрирует важность эмоций человека для нашего исходящего из здравого смысла понимания того, что значит быть человеком, предлагая выполнить следующий мысленный эксперимент[306]. Допустим, что вы на необитаемом острове встречаете два создания, каждое из которых обладает умственными способностями человека и потому способно вести разговор. Первое имеет внешний облик льва, но эмоции человека, второе — внешний вид человека, но эмоциональные характеристики льва. С каким из них вам будет уютнее, с кем из них вы скорее подружитесь или вступите в какие-то моральные взаимоотношения? Ответ, как предполагают бесчисленные детские книжки, симпатизирующие львам, будет лев, поскольку видоспецифичные человеческие эмоции важнее для нашего ощущения человечности, чем разум или внешний вид. Холодно-аналитичный мистер Спок в телевизионном сериале "Звездный путь" иногда кажется приятнее эмоционального мистера Скотта только потому, что мы подозреваем, что глубоко под его рациональной внешностью кроется человеческое чувство. И наверняка много можно найти в этом сериале женских персонажей, надеющихся добиться от него большего, чем реакции робота.
С другой стороны, мистера Спока, лишенного на самом деле любых эмоций, мы бы сочли психопатом или чудовищем. Если бы он сулил нам выгоду, мы могли бы принять ее, но не испытывали бы благодарности, поскольку знали бы, что это с его стороны результат рационального расчета, а не добрая воля. Если бы мы его объегорили, то не чувствовали бы вины, поскольку знаем, что он не способен испытывать чувства гнева или обиды за предательство. И если бы обстоятельства заставили нас убить его ради собственного спасения или пожертвовать его жизнью, будь он заложником, мы бы жалели не более чем при потере любого ценного имущества, автомобиля или телепортатора[307]. Даже если бы мы захотели сотрудничать с этим мистером Споком, мы бы не считали его существом, действующим под влиянием морали, и не думали бы, что ему полагается такое же уважение, как людям. Компьютерные фанаты в лабораториях AI, которые считают сами себя всего лишь более сложными компьютерными программами и хотят загрузить себя в компьютер, должны поостеречься, ибо всем будет безразлично, если их потом выключат навеки.
Так что есть много такого, что проходит совместно под рубрикой сознания и что помогает определить специфичность, а потому и достоинство человека, но что тем не менее не может в данный момент быть полностью истолковано наукой. Недостаточно сказать, что у каких-то животных есть сознание, или культура, или язык, поскольку их сознание не сочетает человеческий разум, человеческий язык, человеческий нравственный выбор и человеческие эмоции таким образом, что они способны порождать человеческую политику, человеческое искусство или человеческую религию. Все предтечи человека в этих человеческих свойствах, существовавшие в процессе эволюции, и все материальные причины и условия их возникновения вместе составляют существенно меньше, чем человек в целом. Джеред Дайамонд в книге "Третий шимпанзе" замечает тот факт, что геномы человека и шимпанзе перекрываются более чем на 98 %, а это подразумевает, что разница между этими двумя видами относительно несущественна[308]. Но для возникающей сложной системы малое различие может повести к огромным качественным изменениям. Это как сказать, что нет существенной разницы между льдом и водой, поскольку они различаются только температурой в один градус.
