Леонид Ашкинази - Мир Лема - словарь и путеводитель
Итак, по мнению Лема, психика человеческого типа с ее атрибутами — гуманизмом и эмоциями — может возникнуть у искусственных систем только в процессе индивидуального общения. Продукты чисто группового обучения лишены этих существенных черт человеческой психики.
Разумеется, и гуманизм, и эмоции есть у зверей, в том числе у тех, которые со времен Ноя не общались с человеком. Но эти звери есть продукт длительной биологической и социальной эволюции, как и человек. Такая эволюция не стоит за искусственными системами.
Другой вариант возникновения психичности — в результате "просто" усложнения системы, ведь рано или поздно количество перейдет… Признаком психичности в этом случае является, по Лему, способность к постановке задач, достаточно далеких от предусмотренных создателем. В глазах человека это есть, во-первых, признак сложности системы, во-вторых, это делает систему якобы похожей на человека, ибо человек считает себя способным на постановку таких задач. Если же эти задачи далеки и от естественных, в человеческом понимании, следствий развития основ системы, то этого признака может быть достаточно — Верный робот Граумер ставит и решает задачу изготовления человека, компьютер из "Молота" влюбляется, Анел совершает восхождение, заканчивающееся Несчастным случаем. Между прочим — для Лема вообще альпинизм окрашен особо, он часто использует альпинистские мотивы.
Задачи, которые ставят другие системы, менее экзотичны. Видно, в результате гипертрофии каких-то сторон исходной программы возникло желание спокойной жизни у Барнса, стремление привести "к ногтю" человечество у "электронного Чингис-хана" Кальдера. Неясно происхождение единственного желания у реализации Формулы Лимфатера, но само желание прогресса и его понимание как познания мира может быть понятно даже на человеческом уровне. А раз эти задачи менее экзотичны, должны быть еще доводы за психичность. У Барнса и Кальдера это эмоции, а воплощение "Формулы Лимфатера" гуманно, хотя в этом гуманизме есть что-то от "все суета", — не назовешь его человеческим.
С Хэри можно поговорить "по-человечески", и даже наводящей ужас машине-убийце из "Маски" монах говорит: "Ты — сестра моя". Не может Пиркс, кстати, не страдающий ксенофобией, говорить "по-человечески" с Барнсом, хотя тот и сложен "до автодескрипции", черные ящики для окружающих — Граумер, Анел и Кальдер. А чем кончается разговор "по-человечески" в "Молоте" и "Формуле Лимфатера"? Просто это хоть и психика, но другая. Первую человек "чувствует нутром", вторую "вынужден признать".
По мнению Лема, неизведанное ждет нас не только среди звезд. Его мнение о втором типе психичности созвучно мнению некоторых специалистов по вычислительной технике, полагающих, что возникновения у сверхсистем качественно новых свойств мы можем просто не заметить — уж очень это будет — в нашем понимании — ни на что (то есть попросту на нас) не похоже.
О проявлениях психичности мы поговорили, что Лем понимает под психичностью, обсудили, а что же такое психичность — определения не дали. А вот что такое стол, мы почему-то знаем. Определение дать можем. Столов мы этих на своем веку тысячи передвигали, да и стульев тоже. В этом и дело — мы изучили много однотипных объектов и объектов близких, но других. Вот мы и выделили — стол. А что такое психичность? Хороши бы мы были, если бы знали во всем мире только один стол и один нестол и пытались понять, чем стол от нестола отличается. Но если объектов все-таки мало? Не стоит ли подумать, что вообще может быть сделано из пяти кусков дерева? Как вообще может проявляться человек? И обязательно ли из пяти? И только ли у человека может быть психика?
… Вот этим Лем и занимается. А понять, что такое психичность, хотелось бы.
Первобытный человек одушевлял природу — дерево или ветер были для него живыми и психичными — они могли быть добрыми и злыми; убивая зверя или срывая плод, он просил у них прощения. Позже понятие психичности сузилось, еще недавно за убийство раба — говорящего орудия — лишь платили штраф. Свободные граждане, настоящие греки — это же совсем другое дело… Понятие психичности и по сей день расширилось не везде. Правда, из недочеловеков уже не делают мыло, но в качестве говорящих, а еще лучше — молчащих — орудий их используют на доброй трети планеты. Законопослушные, добропорядочные граждане — это же совсем другое дело…
Герои Лема даже не платят штрафов, они орудуют молотком, лазером, плавильной печью и малым дестабилизатором, но разве суть проблемы от этого меняется?
Выносимое нашим предком, персонажами Лема и нами решение о психичности определяет и действия, и моральную ответственность за них. Только после признания психичности становится возможен контакт с представителями другой цивилизации — "Солярис", "Эдем", без признания ее контакт невозможен — "Непобедимый", "Друг". Признание апсихичности снимает вопрос о возмездии за гибель товарищей — "Непобедимый", и вообще в корне меняет отношение к социальной системе, даже если элементы системы наделены психикой, как то обнаружил Ийон Тихий в своих 11-ом и 13-ом Путешествиях.
Оказывается, в ходе слияния элементов в систему она может не усложняться, а упрощаться. Действительно, закон Менделеева-Клапейрона проще законов движения молекулы в газе, а психология Государя Макиавелли проще психологии Ромео и Джульетты.
Только после признания психичности объекта наших действий возникает ответственность. Как, никто из вас не хочет слетать на "Солярис" и поменяться местами с Крисом, заменить Пиркса в "Охоте на Сэтавра" или Брегга из "Возвращения со звезд" в деловой поездке на завод по переработке металлолома?
Странно, не правда ли? Так что понять, что такое психичность, действительно хотелось бы.
5. Пиджак как наручники, или Этикосфера вокруг нас
Как было бы хорошо, если бы можно было исключить зло из человеческого обихода. На этом простая часть вопроса до обидного быстро кончается и начинаются более сложные — что есть зло, возможно ли его исключить, какой ценой и каковы будут последствия. Первую сложную часть вопроса можно сильно упростить, ограничив себя рассмотрением простого насилия. Казалось бы, в этом случае можно построить надлежащую систему.
"Кроме того, уже в пеленки им вкладывали напоминайки, внедрявшие в умы уважение к ближним. Если бы и нашелся кто-нибудь, кто захотел бы обидеть ближнего хотя бы по переписке, укорялка тут же принялась бы его отговаривать, а подушечка-думка — нашептывать сквозь сон, чтобы он это дело бросил. Если же он, допустим, упорно стоял на своем… Напишет он, например, анонимку, а чернила разольются, почтовый ящик порвет письмо, в крайнем же случае предохранитель последней линии добросердечия заботливо разобьет адресату очки"." — Воспитание Цифруши
"— Я прошу вас оказать мне любезность, ударив меня по щеке. Вы убедитесь, как действует этикосфера, а после мы обсудим этот эксперимент… Я, пожалуй, встану и вас попрошу о том же, так будет удобнее… Я решил ударить его, раз уж ему так хотелось, и мы встали друг против друга. Я замахнулся — в меру, потому что не хотел свалить его с ног, — и застыл с отведенной в сторону рукой. Что-то меня держало. Это был рукав пиджака. Он стал жестким, словно жестяная труба. Я попытался согнуть руку хотя бы в локте и с величайшим трудом наполовину сумел это сделать". — Осмотр на месте
Но и в этом случае возникает несколько проблем. Первая — как отличить "просто насилие" от "закономерного насилия"? Казалось бы, можно воспользоваться тем, что палач, исполняющий законный приговор, не испытывает тех эмоций, которые испытывает бандит, и различие эмоционального фона должно повлечь различие физиологической реакции организма. Но положить это различие в основу дифференцирующей системы не удастся, потому что многие злодеи — причем, как кажется, наиболее страшные злодеи — уверены в благости своего злодеяния.
"— Я бы не поручился! — возразил я. — Особенно, когда уже известна нужная формула: запечатленные в структуре материи заповеди теряют силу, если убийца верит в благость своего поступка. К тому же вера и неверие — не то же самое, что взаимоисключающие логические категории. Можно верить отчасти, временами, сильнее, слабее… и где-нибудь на этом пути в конце концов перепрыгнуть шустринный барьер… Люзанец мрачно посмотрел на меня. — Действительно, такой порог есть. Не буду обманывать. Только он выше, чем вы полагаете. Гораздо выше. Поэтому штурмуют его напрасно…" — Осмотр на месте
Можно, конечно, запретить любое насилие вообще, но тогда придется передать "силовые функции" какой-то автоматической системе, роботам.
