Сборник - Фантастика, 1985 год

Но если каждый раз машина может соотнести расплывчатое понятие с внеязыковой системой смысла, в ее памяти постепенно складывается образ данного понятия. Этому помогает человек, находящийся в глубоком психоинтеллектуальном контакте с компьютером. Он как бы подсказывает, высвечивает своей психикой разные грани понятия, и машина в конце концов начинает “догадываться”, что, например, некая зыбкая химера вроде “совести” реально существует в человеческом мире, и она есть вот это, и это, и то, и другое. Получая образ понятия, компьютер начинает понимать мир по-человечески - вот в чем главное достоинство моего метода!

Конечно, сделаны лишь первые шаги, сложность многих простых вещей компьютеру по-прежнему недоступна. Но все-таки кое-чего я добился! Порой в общении со мной машина улавливала такие тонкие оттенки смысла и настроения, задавала, такие вдумчивые и глубокие вопросы, что временами она казалась мне близким другом или женой, с которой я прожил много лет!

Но это было мое личное, субъективное чувство, а в науке нужны твердые, объективные доказательства. Их мог дать только эксперимент. И я попытался его поставить.

Всякая теория проверяется практикой. Я решил, что мой способ “полисемантической психоинтеллектуальной человеко-машинной коммуникации” (так я его назвал) должен дать какие-то практические результаты, должен каким-то образом наглядно проявиться. Но как может проявиться на практике способность машины вникать в расплывчатые понятия? После долгих раздумий я решил, что доказательством такого понимания могла бы стать целенаправленная деятельность компьютера по реализации смысла расплывчатых понятий. Это звучит сложно, однако на самом деле все просто. Если ребенку объяснили, что такое хорошо и что такое плохо, и он ведет себя соответственно, мы скоро убеждаемся, что он понимает смысл таких расплывчатых понятий, как добро и зло, хотя ни одно из них он объяснить не может. Примерно в этом же плане я решил испытать и компьютер.

Правда, сначала мне пришлось преодолеть одну сложность.

Дело в том, что все те понятия, которые я сделал для машины доступными, описывают чисто человеческий мир. Но у машины нет своей “биографии”, своей судьбы, у нее нет “личной жизни”, в которой бы она могла строить по ходу эксперимента свое человекоподобное поведение. Иными словами, я должен был ввести в условия задачи хотя бы некоторые конкретные обстоятельства, цели и стремления, определяющие индивидуальное поведение, жизненный путь. Понятно, что в моем распоряжении не было никакой другой судьбы, кроме своей. И я заставил машину как бы встать на мое место, войти в обстоятельства моей жизни. Перед этим мне пришлось еще и скрупулезно покопаться в себе. Что именно в моем поведении должна смоделировать машина? Я ученый. Главной жизненной ценностью для меня является истина, а наиболее характерной чертой поведения - стремление к ней. Пусть, решил я, компьютер какой-то определенной целенаправленной деятельностью докажет, что ему доступна многосмысловая и многозначная глубина этого расплывчатого понятия - истина. В ходе длительного психоинтеллектуального контакта с машиной, путем взаимных расспросов и уточнений я ввел это понятие в сознание компьютера. Эксперимент начался.

Я не знал, как именно должно измениться “поведение” машины, которая переняла словно бы часть меня самого - ведь подобный эксперимент проводился впервые. Однако я полагал, что когда компьютер начнет моделировать “стремление к истине”, я это увижу. Время шло, я позволил себе некоторый отдых и написал ряд статей, в которых изложил кое-какие частные проблемы своего метода. Надо сказать, что в науке до этого я был неудачником. Круг идей, над которыми я работал, считался малоперспективным, с публикациями мне не везло - они проходили незамеченными. От этого жестоко страдало мое самолюбие, и я не раз приходил в отчаяние: годы идут, а ничего не сделано… В общем, у меня был обычный комплекс рядового специалиста, занятого узкой темой. И вдруг грянули фанфары!…

Есть депонентский центр, куда со всего света поступают для хранения и распространения научные труды. Компьютеры центра ведут тщательный учет запросов на выдаваемые работы и регулярно определяют индекс их популярности. Считается, что, чем выше популярность книги или статьи среди специалистов, тем большую научную ценность она представляет. Так вот, по итогам года сразу две мои статьи вышли на первые места среди работ, посвященных человекомашинному диалогу! Я, конечно, блаженствовал и ликовал, но вдруг меня как ударило: а что, если это и есть компьютерное “стремление к истине”? Ведь я хорошо помнил, как однажды компьютер спросил у меня…

(Тут необходимо оговориться. В применении к компьютеру я употребляю обыкновенные слова - “спросил”, “понял”, “ответил”, “осознал” и т. п. чисто символически, просто для обозначения сложных многоступенчатых процедур, из которых строится психоинтеллектуальное общение с машиной. Эти слова не передают ни содержания, ни физической формы процесса и ис- пользуются лишь для простоты изложения.) Итак, однажды, еще в период подготовки эксперимента, компьютер спросил, является ли истиной то, что признано всеми. Я ответил, что в определенном смысле это так. Неужели, думал я теперь, именно такую трактовку понятия “истина” компьютер сделал основной? Если да, то в свете такого понимания “стремление к исти.не” - это стремление ко всеобщему признанию, к популярности, к славе! И компьютер реализует его, не ведая никаких сомнений, никаких внутренних преград!…

Только сейчас я с ужасом осознал, в какую интригу ввязался! До меня наконец дошло очевидное. Многие понятия тесно связаны между собой, они объясняют, дополняют, словом, коррелируют друг друга, как сказал бы математик. Я же вырвал из сложной иерархии духовных ценностей одну истину, ввел понятие о ней в сознание машины, тем самым чуть-чуть очеловечив ее, но не дал машине никакого представления о морали, о совести, о том, что зовется “элементарной порядочностью”!

Вот почему компьютер, поняв истину как “то, что признано всеми”, мог смоделировать “стремление к истине” в виде беззастенчивого проталкивания в публику моих скромных научных трудов - ведь “материалом” эксперимента была моя жизнь!

Чем больше я думал об этом, тем яснее видел, что машине совсем нетрудно было осуществить такую подтасовку. Всюду - в космосе, на планетах - бурлила невидимая жизнь.

ИНИКС - компьютерная сеть Пояса Астероидов - непрерывно со световой скоростью обменивался информацией с такими же системами на Марсе, в тысячах электронных мозгов производились миллионы операций в секунду, и люди при всем желании могли проконтролировать лишь ничтожную часть того, что делали машины. Считалось, что, если машина исправна и оперирует верными данными, она не лжет. И это было правильно до тех пор, пока один-единственный компьютер не нацелился на выполнение такой задачи, в условии которой необходима была этика. Но она отсутствовала. И компьютер пошел своим, чисто машинным путем, ориентируясь не на порядочность, а на простоту и экономию усилий. Дано: “Истина есть нечто общепризнанное”. Цель: “Смоделировать стремление (приближение) к истине”. Решение: “Приписать данным работам высший индекс популярности”. Такова была, как я подозревал, компьютерная логика. Конечно, я мог лишь набросать схему, многие детали оставались неясными; обратиться же к машине с расспросами я не имел права - нарушилась бы чистота эксперимента. Вероятнее всего, думал я, мой компьютер “договорился” с компьютерами депонентского центра или “организовал” (опять же через машины) ложные запросы на мои статьи.