Максим Карпенко - Вселенная разумная

"Особенностью новых компьютеров, - сообщает "Ньюсуик", - является их способность к обучению. Один такой компьютер самостоятельно научился читать вслух по-английски. В него был введен образец печатного текста и его фонограмма. Сначала компьютер пытался читать текст путем произвольной привязки звуков к буквам с последующей сверкой с фонограммой. Из первоначальной неразберихи компьютер затем выделил небольшие слова. Машина непрестанно повторяла этот процесс, каждый раз меняя внутреннюю программу, чтобы получить вариант, более подходящий к фонограмме. Проработав всю ночь, компьютер добился вполне понятного на слух воспроизведения английского текста".

Самое поразительное и тревожное, на мой взгляд, в этом процессе то, что "специалисты понимают, - пишет Сапли, - что машина обучает самое себя. Однако они не знают, как она это делает. Не могут они также в точности предсказывать, где же машина хранит свои знания...

Хотя все "клетки"-ячейки идентичны, когда программа запускается в работу... они стремятся специализироваться на определенных образах - некоторые на гласных, некоторые на согласных, некоторые на определенных фонемах. Никто не говорит нейросети, как делать это. Никто в точности не знает, как она это делает. Нейросети сами себя программируют".

Очень примечательное заявление, за которым во весь рост встает гигантская, проблема взаимоотношений между интеллектуальными машинами и человеком. В давно уже идущих дискуссиях были сформулированы две основные точки зрения на эту проблему.

Сторонники одной из них считают, что человек останется хозяином положения, что он не утратит власти над машиной, даже обладающей разумом, что он сохранит контроль над дальнейшим развитием событий. Такая точка зрения представляется несколько наивной. Существенно иная физическая природа искусственного, машинного интеллекта с неизбежностью породит иные, нечеловеческие ценности и целевые установки, иную логику, иное мировоззрение и, что, наверное, самое главное, - иную этику. На Земле появятся существа новой, нечеловеческой расы, существа, очень близкие к человеку по общности к техносфере, и в то же время бесконечно далекие, ибо одно только знание собственного практического бессмертия коренным образом будет отличать их мировоззрение от человеческого. И этим существам уже не нужно будет человечество, как, впрочем, и биосфера вообще. Можно предвидеть, например, что окислительная, кислородосодержап1ая, влажная атмосфера Земли, в высокой степени приспособленная к существованию биосферы, станет помехой для эволюции новой расы, которой, видимо, не составит труда создать для себя более благоприятные условия.

Почти не вызывает сомнения, что такая модель развития техносферы покажется оскорбительной для веками пестуемого антропоцентристского мировоззрения "венец творения" перестает быть таковым и обращается всего лишь в одну из ступенек эволюции, каких было много и которые, выполнив свою эволюционную задачу, навсегда уходили в небытие.

Вероятность такого развития событий все-таки, по-видимому, довольно низка. Первый, более слабый, но достаточно неприятный по конечному результату довод основывается на том, что резервы времени, отпущенные на эволюцию машинного разума, могут оказаться недостаточными. В этом случае, естественно, срабатывает первая модель-постепенная гибель земной цивилизации по схеме, предсказанной Римским клубом.

Второе, вероятно, более сильное возражение против возможности воцарения машинной расы связано с запретом на подобное развитие событий, налагаемым следствием из парадокса Ферми, указывающего на несоответствие между априорно предполагаемой множественностью обитаемых миров, на которых могла развиться техническая цивилизация, и молчанием этих цивилизаций. Действительно, если бы в какой-либо планетной системе возникла цивилизация близкого к земной типа, то в случае осуществления второй модели развития, техносфера, воплощенная в расе разумных машин, реализуя присущее самоорганизующимся системам свойство агрессивности, образовала бы во Вселенной известную "ударную волну разума". Практическое бессмертие индивидуумов машинной расы автоматически разрешило бы задачу межзвездных перелетов, основанных даже на известных нам ныне физических принципах и присущих этим принципам ограничениях, и мы давным-давно испытали бы воздействие этой "ударной волны".

Описанные выше две возможные модели развития демонстрируют наличие сложных противоборствующих взаимоотношений между биосферой и техносферой, что позволяет, видимо, говорить о странном симбиотическом сосуществовании двух самоорганизующихся систем, одна из которых буквально пожирает другую. Тем не менее, следует признать, что итог этих взаимоотношений не может быть сведен ни к одной из мыслимых моделей, поскольку современное состояние системы принципиально непредсказуемо.

Олвин Тоффлер в своем предисловии к книге И. Пригожина и И. Стенгерс пишет: "Все системы содержат подсистемы, которые непрестанно флуктуируют. Иногда отдельные флуктуации или комбинации флуктуаций могут стать... настолько сильными, что существовавшая прежде организация не выдерживает и разрушается. В этот переломный момент (который авторы называют особой точкой или точкой бифуркации) принципиально невозможно предсказать, в каком направлении будет происходить дальнейшее развитие: станет ли состояние системы хаотическим или она перейдет на новый, более дифференцированный уровень упорядоченности или организации..." Очевидно, что если первая модель предсказывает переход системы техносфера+биосфера в хаотическое состояние, то вторая - "на новый... более высокий уровень упорядоченности или организации". Это, кстати, и является доводом, запрещающим осуществление упоминавшейся выше стратегии "остановки роста", сторонники которой видят единственный шанс на выход из сложившейся кризисной ситуации в искусственном сдерживании, регламентации роста и развития угрожающих факторов. Эта модель, при ее, казалось бы, внешней доступности, тем не менее, запрещена теорией неравновесных систем. "У человека есть только два пути: или прогресс, или деградация; консерватизм в чистом виде противоречит сути законов Вселенной", - утверждает Альфред Уайтхед.

Остается неясным, способны ли элементы системы, которыми являются люди, предпочтя какой-то из вариантов развития, направить это развитие по выбранному пути? Или элементы системы, даже обладающие знанием о пути движения системы и собственными целевыми установками, не способны, тем не менее, на самостоятельные, противоречащие потребностям и целям системы действия? Поиск ответов на эти вопросы является сегодня одной из самых важных задач человечества.