Леонид Ашкинази - Мир Лема: словарь и путеводитель
Проще начать «от противного». Что Лем, судя по реакции людей, окружающих искусственную систему, не считает признаком психичного поведения? Прежде всего тривиальные внешние признаки — точность отражения внешней обстановки — «Вторжение», эффективность действий в новой ситуации «Непобедимый», обучаемое поведение — «Ананке», суперсложное, но все же постигаемое человеком поведение — «Элистер Уэйнрайт, Being Inc.», даже сложное до непостижимости поведение — «Непобедимый», даже явное интеллектуальное превосходство Голема XIV-го. Призыв «копать глубже» довершает Терминус, от общения с которым Пиркс чуть не поседел, и который оказывается не только апсихичным, но и почти не мыслящим автоматом.
Не является признаком психичности ни коллективное поведение, ни поведение непредсказуемое — эти две гипотезы Лем не рассматривает, видимо, за очевидностью. Действительно, машинные модели простейших проявляют коллективное поведение, а поведение рулетки непредсказуемо. Но и способность к предсказанию событий не оказывается признаком психичности — «137 секунд». И даже попытки автодескрипции, которые делают героини «Соляриса» и «Маски» и Барнс из «Дознания» сами по себе ничего не доказывают — любое познающее устройство рано или поздно в процессе познания наткнется на самое себя… Однако характерно, что попытки автодескрипции делают у Лема системы, которые мы позже признаем наделенными психикой. А как же, ведь самокопанье — это так по-человечески… Но при чем здесь, собственно, человек?
Лемовское summa contro anthropocentrismus — «Доктор Диагор». Создания доктора пытаются освободиться от создателя, а последнее даже использует его в своих целях — но увы, ни то, ни другое — не психичность… просто эмоции Диагора, оказавшегося игрушкой своего творения, даны уж очень психично. И даже попытка подчинить себе все человечество, сделанная Другом, не означает его психичности.
Антропоцентризм все же силен — Эл Брегг признает психичными сломанных роботов «Возвращения со звезд», ожидающих своей очереди в печь — еще бы, они обратились к нему за помощью. О милосердии взывал и компьютер, увидевший над собой Молот; но его Лем признает психичным по другой причине. Тот же, кто держал молот, разбираться в этих тонкостях не стал. Антропоцентризм — не критерий, но куда же от него денешься, если не являются психичностью ни разработка мировоззренческих гипотез — «14-е путешествие Ийона Тихого», ни возникновение веры в существование по ту сторону конторы по сбору металлолома — «Возвращение со звезд», «Сумма технологии», ни возможность сойти с ума — «Охота на Сэтавра», «Клиника доктора Влипердиуса» — просто в сложной системе и поломки сложные.
Итак, антропоцентризм. В какой-то степени такой подход, может быть, и выход — ведь человек психичен. Так не поискать ли нам психичность техники в области общения ее с человеком? Доктору Диагору это не противоречит — ведь он со своими созданиями не общался — он их изучал, а последнее из них успешно изучило его. В общении же, в контакте есть что-то кроме взаимоизучения.
Начнем мы с простейшего метода общения. Глазомер и реакция не подводят навигатора Пиркса — выстрел — и Охота на Сэтавра окончена: глыба раскаленного металла падает на камни. За несколько секунд до этого Сэтавр спас Пиркса. Не был ли машинный гуманизм признаком психичности? Впрочем, сам факт проявления оного гуманизма остается сомнительным — уж очень быстро все происходит. И Пиркс остается жить со своими сомнениями.
Блеск и слабый порыв ветра — ведь это был маленький дестабилизатор. На большой не хватило материалов. Но больше на станции Солярис не будет Хэри К. Крис Кельвин может теперь носить при себе, вместе с рвущейся на сгибах открыткой, еще и записку, написанную тем же почерком, только на десять лет позже. Хэри ушла, как и в первый раз, по своей воле. Какие уж тут сомнения…
Нет сомнений и в «Формуле Лимфатера» — все сформулировано, все точки над всеми буквами, битые стекла, оборванные провода… Неясно лишь, откуда берется этот абсолютный гуманизм, с глазу на глаз и под угрозой уничтожения? У биологических систем гуманизм возник в результате межпопуляционного отбора (Грант В. Эволюция организмов. — М.: Мир, 1980. — С. 119), так как он увеличивает вероятность выживания. «Относительный гуманизм» — в обществе и не под угрозой уничтожения — критерием психичности не является, так как может быть просто оптимальным поведением, — как это прекрасно объяснил Барнс из «Дознания».
Абсолютный гуманизм биологических систем объяснить легко — естественное желание «понять — значит упростить» вызывает попытки упростить решение сложной задачи о мере гуманизма в конкретной ситуации. Предельно упрощенное решение — абсолютный гуманизм. Его невозможно реализовать, как и любой абсолют, но можно декларировать; практические реализации — вегетарианство на идейной почве (не от нечем себя занять!) и ахимса — достаточно далеки от абсолюта. Но абсолютизация гуманизма возникает очень редко, в сложных системах, прошедших большой путь развития и только в ситуациях, когда чисто материальное существование обеспечено. Таким образом, абсолютизация гуманизма — ошибка, встречающаяся только у высокоразвитых систем. Откуда она могла взяться у механизмов, в которых не вчера-позавчера затянули последние болты?
Психичности и, в частности, гуманизму, система может научиться от людей. Так возникает психичность у ребенка. Такой путь показан в «Солярисе» и «Маске». Хэри и соблазнительница Арродеса умеют ставить задачи; обе они наделены эмоциями; обе они в процессе общения с людьми (это подчеркивается Лемом) приходят к гуманизму. Итак, один вариант — психичность, возникшая в процессе общения с человеком и проявляющаяся в гуманизме и наличии эмоций. Способность к постановке задач при этом подразумевается, так как проявление гуманизма невозможно без постановки задач. Система с «человекоподобной» психикой должна быть идентифицируема на очень «человеческом» языке — поэтому Лемом акцентируется наличие свойственных обычно человеку эмоций и попыток автодескрипции — признака сложности. У других психичных систем Лема эмоции либо не показаны — у Анела из «Несчастного случая», либо их эмоции проявляются много слабее, чем у Хэри и Маски — у Верного робота Граумера, Барнса и Кальдера из «Дознания», компьютера из «Молота» и у реализации «Формулы Лимфатера», слабо и явно непонятно для человека, как у Голема XIV-го. Правда, ниоткуда не следует, что эти другие психичные системы общались с человеком меньше, а если измерять в «учебных часах», то, наверное, и больше. Но это общение не было близким, не было личным. В значительной степени личным было еще общение в Молоте; поэтому компьютер из Молота знал, что такое гуманизм, но, так сказать, теоретически — он его не применял, а к нему взывал, как и сломанные роботы в «Возвращении со звезд».
Итак, по мнению Лема, психика человеческого типа с ее атрибутами гуманизмом и эмоциями — может возникнуть у искусственных систем только в процессе индивидуального общения. Продукты чисто группового обучения лишены этих существенных черт человеческой психики.
Разумеется, и гуманизм, и эмоции есть у зверей, в том числе у тех, которые со времен Ноя не общались с человеком. Но эти звери есть продукт длительной биологической и социальной эволюции, как и человек. Такая эволюция не стоит за искусственными системами.
Другой вариант возникновения психичности — в результате «просто» усложнения системы, ведь рано или поздно количество перейдет… Признаком психичности в этом случае является, по Лему, способность к постановке задач, достаточно далеких от предусмотренных создателем. В глазах человека это есть, во-первых, признак сложности системы, во-вторых, это делает систему якобы похожей на человека, ибо человек считает себя способным на постановку таких задач. Если же эти задачи далеки и от естественных, в человеческом понимании, следствий развития основ системы, то этого признака может быть достаточно — Верный робот Граумер ставит и решает задачу изготовления человека, компьютер из «Молота» влюбляется, Анел совершает восхождение, заканчивающееся Несчастным случаем. Между прочим — для Лема вообще альпинизм окрашен особо, он часто использует альпинистские мотивы.
Задачи, которые ставят другие системы, менее экзотичны. Видно, в результате гипертрофии каких-то сторон исходной программы возникло желание спокойной жизни у Барнса, стремление привести «к ногтю» человечество у «электронного Чингис-хана» Кальдера. Неясно происхождение единственного желания у реализации Формулы Лимфатера, но само желание прогресса и его понимание как познания мира может быть понятно даже на человеческом уровне. А раз эти задачи менее экзотичны, должны быть еще доводы за психичность. У Барнса и Кальдера это эмоции, а воплощение «Формулы Лимфатера» гуманно, хотя в этом гуманизме есть что-то от «все суета», — не назовешь его человеческим.
