Игорь Горячев - Полдень 23 век. Возвращение Тойво

Дэниел Деннет в начале двадцать первого века выдал, к примеру, такой перл «технократической» мысли, который некогда меня позабавил: «Человеческое сознание само есть огромный комплекс мемов[18] (точнее, действий мемов в мозгу), что лучше всего можно представить себе как работу некоей «фон-неймановской» виртуальной машины, реализованной в параллельной архитектуре мозга, который не был спроектирован в расчете на такую работу».

— Что, что?! Как, простите? — спросил я. — Который не был спроектирован…

— …в расчете на такую работу, — закончил Нехожин, улыбаясь. — То есть, Деннет утверждает, что сознание является просто побочным продуктом работы компьютера некого особого типа. Тогда вообще модным было считать, — особенно этим страдали специалисты в области ЭйАй (Искусственного Интеллекта), — что мозг — это просто очень сложный биокомпьютер и «сознание» — это некое «возникающее» свойство такого компьютера. Многие были уверены, что с наличием более мощных компьютеров и внедрением в практику новых теорий, например теории нейронных сетей, компьютеры вот-вот спонтанно обретут сознание. Велись даже серьезные дискуссии по поводу того, будет ли морально выключать такой «сознательный» компьютер и надо ли будет предоставлять ему некие «гражданские» права для полноправного участия в жизни общества.

Хотя уже в то время некоторые исследователи интуитивно чувствовали что, мысль, эмоция, а тем более сознание и самосознание человека имеют иной, «нематериальный» характер, в отличие от так называемых «материальных» процессов и несводимы к ним. Но они никак не могли перешагнуть некий «психологический барьер» и допустить, что могут существовать два различных вида бытия: например материальное и ментальное, несводимые друг к другу. Хотя именно это допущение открывало дорогу к истинному видению многомерности человека и универсума, но оно же указывало на пределы «традиционной науки», лишало ее так сказать предмета исследования. В самом деле, как можно изучать «нематериальную» мысль?[19]

Нехожин помолчал некоторое время, скрестив руки на груди и вытянув ноги.

— Ну а теперь, — продолжил он, — в свете вышесказанного, зададимся вопросом, может ли компьютер или даже Искусственный Интеллект, обладать сознанием, «мыслить» или иметь эмоции? И можно ли загрузить, например, «сознание» человека в компьютер, как об этом мечтали «кибермодернисты»? Другими словам, может ли человек искусственно создать некую компьютерную систему, которая будет воспроизводить эту многомерную структуру информационных уровней Ноокосма и воспринимать подобно мозгу вибрации этих уровней и, кроме того, «осознавать» их? Я уже не говорю об обретении компьютером «пси-индивидуальности», то есть души…

Компьютерная система любой сложности может лишь более или менее удачно имитировать высшую нервную деятельность человека: «мышление», эмоции, даже наличие «самосознания», но никогда она не будет на самом деле мыслить, чувствовать и сознавать. Машина останется машиной, просто ее можно сделать очень похожей на человека.

Кстати, именно это на самом деле доказывает знаменитый тест Тьюринга, гласящий что «если машина может выполнять интеллектуальные задачи, например поддержание беседы так, чтобы внешне это нельзя будет отличить от тех же действий, совершаемых человеком, то внутренне она тоже от человека отличаться не будет». Почему Тьюринг сделал такой забавный вывод, остается загадкой. На самом деле этот тест говорит лишь о том, что мы можем создать машину, которая сумеет лишь более или менее удачно подражать «высшей нервной деятельности» человека и не более того.

В конце двадцатого века один исследователь писал не без юмора: «…Если бы все больше и больше клеток вашего мозга заменялись интегральными микросхемами, запрограммированными так, чтобы их характеристики входа-выхода были идентичны заменяемому элементу, вы по всей вероятности сохранили бы способность говорить точно так же, как и сейчас, за исключением того, что постепенно перестали бы что-либо иметь под этим в виду. То, что мы, сторонние наблюдатели, все еще принимали бы за слова, для вас стало бы просто некоторым шумом, который заставляют вас издавать ваши микросхемы».

История с Массачусетской Машиной действительно страшная и Бромберг, пожалуй, и в самом деле слишком усердствует, высмеивая ее создателей за «переполох, который они устроили со всем этим минированием, колючей проволокой и прочими «судорожными телодвижениями», как он выражается. Но испуг их был вполне оправдан, потому что Массачусетская Машина слишком хорошо начала имитировать разум, причем нечеловеческий. Более того, она за те четыре минуты, которые ей удалось проработать, видоизменила свою программу и почти успела наладить конвейерную сборку киборгов во всепланетном масштабе, переключив на себя энергетические ресурсы почти всей Северной Америки и на глазах у ошеломленных исследователей начала зарождаться и набирать силу новая, нечеловеческая цивилизация Земли. Интересно, что создатели этой Машины испугались именно того, за что сами так долго ратовали. Как говориться, за что боролись, на то и напоролись. Ведь по сути ЭмЭм начала реализовывать их собственный идеал. Ее незадачливые создатели в эти четыре минуты ясно осознали, что людям в мире киборгов не будет места. Либо они, либо мы. Такова была альтернатива. Если бы Машину не смогли остановить, можно предположить, что последствия для человечества были бы весьма плачевными. Возможно, сейчас мы жили бы уже на планете киборгов. А людей как «существ низшего толка» она бы в лучшем случае согнала в резервации, а в худшем распорядилась бы уничтожить, следуя своей нечеловеческой логике, за ненадобностью. Недаром Мировой Совет наложил строжайший запрет на дальнейшие разработки в этой области.

И все же, несмотря на все это, ума и сознания у Массачусетской Машины отнюдь не прибавилось. Железо осталось железом.

— Да, Ростислав, — сказал я, — абсурдность киборгизации человечества сейчас представляется вполне очевидной, чего не скажешь о генетике. Когда сестры Наталья и Хосико Фуками начали эксперименты с фукамизацией и растормаживанием гипоталамуса, а Освальд Амудсен сделал прорыв в генетике, многим тогда казалось, что человечество обрело новую «панацею».

— Но ведь и генетика, Максим, имеет дело с самым внешним, поверхностным уровнем человека, с его физическим телом. Не гены определяют его «высшую нервную деятельность». Гены являются только самым внешним, материальным выражением сложнейшего взаимодействия этой многомерной структуры человека, которую упускает из виду традиционная наука. Меняя один ген, в нашей попытке «улучшить» человека или избавить его от какой-то болезни, мы затрагиваем бесчисленные многоуровневые связи сложнейшего творения сверхразумного Ноокосма и, на самом деле, всегда меняем «что-то еще», о чем мы в данный момент понятия не имеем, и что может «аукнуться» нам лишь много лет спустя, в каком-нибудь пятом поколении. Что и произошло в случае с фукамизацией и растормаживанием гипоталамуса? Как говорил Эдуард О. Вильсон: «В наследственности, как в окружающей среде, нельзя сделать что-то одно. Когда ген меняется в результате мутации или заменяется другим, очень вероятно возникновение побочных и, быть может, неприятных эффектов».