Станислав Лем - Молох (сборник)

Китайская комната Сёрла, как и моя puzzle, ничего не предопределяет, ничего не обещает, ничего не предетерминирует, ничего не «решает» раз и навсегда. Еще добавлю (это также слегка относится к делу), что на особом месте в моей библиотеке находится книга 1924 года издания, написанная немецким ДОКТОРОМ (но не медицины), который математически, химически и физически доказал в ней полную невозможность космических полетов и даже получения ракетой ускорения, способного преодолеть гравитацию, чтобы она смогла выйти на околоземную орбиту. Это очень хорошее доказательство, «проведенное исключительно формальными средствами». О нем стоит помнить оппонентам искусственного интеллекта. Основным упреком против моего сведения «тайны китайской комнаты» к головоломке типа PUZZLE является чрезмерное упрощение дела. Ну, сейчас я его усложню. Не картина находится на аверсе PUZZLE’а, а те строки, произнесенные Отелло, где говорится о том, как он задушил Дездемону. Складывающий кусочки ничего об этом не знает. Он получает два пакета других кусочков в качестве «вопросов» и в качестве «ответов на вопросы». Всё это он видит только произвольно рассыпанными фрагментами картона и должен сложить из них целое благодаря тому, что их зубчики, зарубки и вырезы взаимооднозначно подходят друг другу. После переворачивания составленного видно, что вопросы были такими: «Почему Отелло душит Дездемону?» и «У него были на это какие-то основания?», а ответы соответственно: «Душит по причине ревности» и «Он был введен в заблуждение Яго». Целостность текста, вопросов и ответов должна быть составлена из АНГЛИЙСКИХ фраз, а складывающий их китаец, который ни слова по-английски не знает, благодаря чисто формальному процессу (составлению головоломки) получает сборный текст, сборные вопросы и адекватные ответы на них. Ранее Сёрл несколько вскружил голову тем, кому он описывал свой эксперимент, что это «китайщина» и т. п. Сейчас видно, что в принципе возможно при чисто формальном подходе (тоже складываются куски по их ФОРМЕ, а не по их смыслу) проведение эксперимента. Однако вместе с тем видно, на этот раз уже очень явно, что китаец в «английской комнате» действительно НИЧЕГО не понимает. Итак, КТО же понимает тексты в ОБОИХ случаях, в случае Сёрла и в моем? Конечно, тот, кто весь эксперимент — как первый, так и второй — выдумал, составил и запрограммировал. «Понимание» не находится ни в какой из комнат, ни в той «китайской» с англичанином, ни в «английской» с китайцем, программы же в обоих случаях отличаются друг от друга тем, что в одном случае знаки одного китайского письма ФОРМАЛЬНО приспосабливаются к знакам другого китайского письма, а в моем случае ФОРМАЛЬНО приспосабливаются формы вырезок картона. Разница несущественна, потому что существенным является исключительно поведение складывающего, который и здесь и там ничего не понимает из текста, и не важно, видит ли он текст и не понимает его, не зная китайского, или же не видит текст (китаец), потому что если бы он его видел, ТО ТОЖЕ БЫ НЕ понял, если уж он должен соединять формы, а не символы. Короче говоря, эксперимент вводит нас в заблуждение, при этом Хофштадтер в своей книге ТОЖЕ так считает, но зря усложнил объяснения. Не в том загвоздка, что китайское письмо несравненно труднее было бы приспосабливать к китайскому (НАПИСАННЫЕ буквы для невежды могут восприниматься графически как очень разные, например, латинская буква «f» формально тождественна «F»), но загвоздка в том, что работа всегда асемантично формальна. Следовательно, «понимание» в самих текстах не участвует вообще и a fortiori[119] нет и речи о присутствующем «сознании». Возможен ли искусственный интеллект, покажет будущее. С обсуждаемым «reductio ad absurdum[120]» это будущее НЕ ИМЕЕТ НИЧЕГО ОБЩЕГО.

Выращивание информации?[121]

1

Идея, приведенная в заголовке, посетила меня в ранних 60-х годах, когда я принялся за написание «Суммы технологии» и в связи с этим изучал литературу, посвященную дарвиновской естественной эволюции. Мысль о том, что сама эволюция представляет собой особый способ «выращивания информации», заключенной в генах как матрицах-проектах развития древа Линнея и обеспечивающей саму «суть» или «движущую силу» эволюции, через какое-то время превратилась в моей голове в некую «противоположность». В процессе эволюции может сохраниться только то, что (как организмы определенного вида) ВЫЖИВАЕТ (в «борьбе за существование», которая не обязательно должна быть кровавой битвой), а я подумал, что если бы удалось вместо правила «выживает лучше приспособленное к окружающей среде» ввести правило «выживает то, что точнее ВЫРАЖАЕТ окружающую среду», мы оказались бы на пороге автоматизации познания (эпистемы) тех процессов, которые на протяжении четырех миллиардов лет привели к существованию целой биосферы во главе с человеком. Эта идея захватила меня так, что я включил это «выращивание информации» на правах особого раздела в «Сумму технологии», которую писал в то время. Но затем, когда дело дошло до обновления этой книги, меня охватили различные сомнения относительно возможности осуществления такого «выращивания», и эти сомнения я отразил в следующем издании. Ведь действительно, не все, что представляется как будущие достижения, будет осуществлено даже в перспективе грядущих веков, а то и тысячелетий. В самом деле, естественная эволюция как «выращивание информации о строительстве живых организмов» началась и, без сомнения, действует, имея изначально такой движущий фактор, с которым никоим образом НИЧТО другое справиться не может. Ведь сохраниться и тем самым выжить может только то, что не гибнет; любое несовершенство в проявлениях жизни попадает под гильотину; сегодня мы знаем, что по крайней мере 99 % всех видов, произведенных за миллиарды лет эволюцией, безвозвратно погибли. Эти гекатомбы свидетельствуют о «жестокости» отбора как селекции — что не имеет сил сохраниться, должно погибнуть. Однако какой фактор мог бы запустить движущую силу в этом выдуманном мною «выращивании информации», которому мы должны быть обязаны — хотя бы в очень отдаленном будущем — плодоношению в виде открытий, изобретений или теорий эмпирического характера? То, что смогла сформировать дарвиновская эволюция, возникало сотни тысяч лет под жестоким давлением окружающих условий и межвидовой конкуренции. Что же, однако, могло бы заменить это давление с целью получения активной силы познания?

Сегодня ситуация не такая, какой была тридцать с небольшим лет назад. Уже в то время возникшие компьютеры расплодились, разрослись, их «видовая специализация» шла при этом параллельно с рождением языков программирования. В последнее время из компьютеров как изолированных единиц начали создаваться многочисленные соединения в виде сетей, которые, без сомнения, в грядущие годы будут все гуще оплетать планету. Однако, хотя информационные потоки и ускоряются, и расширяются, все же нет и речи о том, чтобы в какой-либо «имитации нервной сети», которая разрастается в глобальном масштабе, мог блеснуть суверенитет чего-то наподобие сознания. Иначе говоря, компьютеры не являются ни нейронами, ни их эквивалентами, каналы сети не являются аксонами или дендритами: все это вместе взятое остается в абсолютной пассивности, в молчании и в зависимости от людей, которые в отдельные компьютерные единицы, а через них — в глубь сети, вводят программы и управляют ими согласно человеческим желаниям и представлениям. Таким образом, это не ведет к какой-либо форме «выращивания информации», не правда ли? Разумеется, каждый пользователь сети был бы захвачен врасплох и непомерно удивлен, если бы оказалось, что мировая сеть сама, без активных действий отправителей-людей «имеет что-либо для извещения». Эта идея, возможно, хороша для Фантастики (Science Fiction), но каждый, кто даже незначительно соприкоснулся с информатикой и перерабатывающей информацию динамикой сети, хорошо знает, что сеть с ним «не заговорит», «не взбунтуется», что она «не станет суверенной» никоим образом — ни таким, который мы могли бы себе вообразить, ни таким, который выходит за пределы нашего воображения. И потому еще раз: следует ли похоронить эту концепцию «выращивания информации» на свалке хлама, на которой покоятся различные флогистоны?

2

Я бы сказал, что спешить с такими похоронами не стоит. Разумеется, основное направление развития информационных технологий СЕГОДНЯ не ставит своей целью появление какой-либо формы «автоматизации познания» для создания «эпистемических процессоров», которые что-нибудь смогли бы придумать «по собственной инициативе» или под давлением «исследовательской познавательной программы». Совсем не следует считать помощь, какую очень широко предоставляет компьютер и компьютеризация отдельным отраслям знаний, «познавательным информационным плацдармом», поскольку все то, что могут нам дать компьютеры, благодаря своей вычислительной мощности и благодаря цифровой или аналоговой методике моделирования процессов Природы (сегодня можно моделировать будущее космоса, отдаленное от нас, скажем, на миллиарды лет, при предположении, что основы космологии сегодняшнего дня являются ОСНОВОПОЛАГАЮЩИМИ) как процессов, данные о которых мы, люди, вводим в программы, и тем самым от качества входных данных, от программ, от результативности их исполнения, от теорий, господствующих над всем тем, что МЫ САМИ, а не компьютеры, создали, зависит эффективность получаемых решений либо в виде моделей определенных состояний, либо как результата такой «имитологической» (как я писал в 1963 году), а теперь — моделирующей работы-игры, в процессе которой возникает, например, проект нового самолета, здания, ракеты, приводной системы, оружия, молекулярных соединений, наследственных генов и т. п. И следовательно, компьютеры — это наши инструменты, а ведь мы не ждем от инструментов творческой результативности, поэтому где здесь должно было возникнуть место для какого-либо «выращивания информации», при котором жатва означала бы получение таких знаний о различных явлениях мира реального или только построенного математически, которых мы не ожидали. Это можно выразить лучше: компьютеры любой мощности — это творения, рожденные окружением, состоящим из ЛЮДЕЙ: проектировщиков, фон Нейманов, Тьюрингов, Шеннонов. Это окружение создало компьютеры, это люди окружения управляют ими в их архитектуре (hardware) и процессуальном программировании (software), и в определенном смысле все это происходит, в сравнении с естественной эволюцией, наоборот! В процессе эволюции вначале возникли зародыши жизни на едва остывшей Земле, в еще бескислородной атмосфере, и огромным общим трудом этих зародышей жизни была преобразована поверхность Земли, ее океаны и ее атмосфера до такой степени, что около восьмиста миллионов лет назад, в кембрии, дошло до настоящего взрыва размножения видов. Следовательно, жизнь повлияла на окружение, сделала его системой различных НИШ, зато с компьютерами было наоборот: «сами они не размножались», ни какая-либо искра «собственной МОТИВАЦИИ поведения» в них не вспыхнула. Медленно и отчетливо я стараюсь показать эту фундаментальную разницу, поскольку сегодня нет недостатка в желающих уподобить мозг компьютеру, сети типа Интернета — нейронным сетям, возникшим в организмах и т. д. Таким образом, видно, что до сих пор дорога к «выращиванию информации» вела не туда.