Айзек Азимов - Выбор катастроф

Мы, в некотором смысле, догнали и перегнали дельфинов, мозг у которых был величиной с наш еще за миллионы лет до появления человека. Однако не было никакой конкуренции между проживающими в воде китовыми и обитающими на суше приматами, и именно люди разработали технику.

Мы сами вряд ли будем конкурировать; или, если и будем, то на основе разрешения другим видам, таким же разумным, как и мы, присоединиться к нам в качестве союзников в битве против катастрофы. И это не может произойти, если мы не ускорим эволюцию других видов в направлении развития интеллекта путем использования технологий генной инженерии; и для этого потребуется значительно меньше миллиона лет.

Однако есть на Земле еще один вид интеллекта, который не имеет ничего общего с органической жизнью и который целиком является созданием человеческих рук. Это компьютер.

О вычислительных машинах, способных решать сложные математические задачи гораздо быстрее и гораздо надежнее, чем люди (при условии, если компьютер хорошо запрограммирован), мечтали еще в 1822 году. Именно в этом году английский математик Чарлз Бэббидж (1792—1871) начал строить вычислительную машину. Он потратил на нее годы и потерпел неудачу не из-за того, что плоха была его теория, а потому, что у него для работы были только механические детали, и они были просто недостаточно хорошо приспособлены для такой работы.

Что тут было нужно, так это электроника; манипуляция субатомными частицами, а совсем не большими движущимися частями. Первый большой электронный компьютер был построен в университете Пенсильвании во время Второй мировой войны Джоном Проспером Эк-кертом-младшим (р. 1919) и Джоном Вильямом Машли (р. 1907) на основе системы, разработанной ранее инженером-электриком Ванневаром Бушем (1890—1974). Этот электронный компьютер ENIAC (электронно-цифровой интегратор и компьютер) стоил три миллиона долларов, содержал 19 000 вакуумных ламп, весил 30 тонн, занимал 1500 квадратных футов пола и потреблял энергию, как локомотив. Операции на нем прекратили в 1955 году, а в 1957 году он, как безнадежно устаревший, был разобран.

Хрупкие, ненадежные, энергоемкие вакуумные лампы были заменены твердыми транзисторами, гораздо меньшими, гораздо более надежными, гораздо менее энергоемкими. В дальнейшем стали изготавливать печатные платы – еще меньше и еще более надежные. И наконец, крохотные чипы из силикона, площадью в квадратный дюйм, тонкие, как бумага, с тонко нанесенными на них другими веществами, были составлены в маленькие компактные лабиринты, смонтированные тоненькими алюминиевыми проводками, и соединены, составляя компьютеры.

На исходе 70-х компьютер можно было получить за три сотни долларов заказом по почте или почти на каждом углу в лавке. И это уже был компьютер, который потреблял энергии не больше, чем маленькая лампочка, достаточно небольшой (его нетрудно было унести) и способный совершать гораздо больше операций, в двадцать раз быстрее и в тысячи раз надежнее, чем ENIAC (Японская электронная корпорация Эн-И-Си объявила, что собирается к 2001 году создать компьютер, который будет производить 32 триллиона операций в секунду, т. е. действовать примерно в миллион раз быстрее обычного персонального компьютера).

По мере того как компьютеры становились все более компактными, более универсальными и более дешевыми, они стали наводнять дома. 80-е годы могут быть свидетелями того, как они станут неотъемлемым предметом повседневной жизни, как в 50-е стал телевизор. Собственно, ранее в этой главе я называл компьютеры обучающими машинами будущего. Как долго это будет продолжаться?

В настоящий момент компьютер – это машина, строго ограниченная ее программой и способная выполнять только самые простейшие задачи, но зато с неизмеримой скоростью и терпением. Своего рода зачаточный интеллект компьютер начнет проявлять, когда он станет способен к самопроверке и к модификации собственных программ.

Когда компьютеры и их «искусственный интеллект» захватят все больше и больше рутинной умственной работы мира, а, может быть, и не такие уж простые – тоже, не станет ли человеческий ум атрофироваться из-за недостатка работы? Не станем ли мы глупо зависеть от машин, и, когда у нас уже не будет интеллекта, чтобы их соответственно использовать, не выйдет ли наш вид из строя, а с ним и цивилизация?

С такой же проблемой и страхом человечество, должно быть, сталкивалось и в более ранние периоды истории. Можно себе представить, например, презрение древних строителей, когда вошел в пользование эквивалент измерительной линейки. Не выродится ли навсегда точный глазомер и опытное суждение умелого архитектора, как только любой дурак сможет определить, какой длины нужно взять дерево или камень, просто чтением отметок на палке? И, безусловно, не ужаснулись ли стародавние барды при изобретении письменности – кода отметок, который устранял необходимость памяти. Ребенок десяти лет, научившись читать, мог тогда декламировать «Илиаду», хотя никогда ее раньше не видел, просто следуя этим отметкам. Как бы мог выродиться ум!

Все же использование неодушевленных средств для рассуждения и памяти не разрушили рассуждение и память. Конечно, нелегко сегодня найти такого, кто бы мог без остановки по памяти читать эпические поэмы. Но кому это надо? Если наши таланты без подсказки больше не демонстрируют ненужные подвиги, разве достижение не стоит потери? Можно ли было построить на глаз Тадж Махал или мост Золотые Ворота? Как много людей знали бы драмы Шекспира или романы Толстого, если бы мы зависели от подыскания кого-нибудь, кто бы знал их наизусть и согласился нам читать, – если бы вообще было возможно создать их без написания?

Когда промышленная революция применила силу пара, а затем и электричество для решения физических задач человечества, разве мускулы людей в результате этого стали дряблыми? Подвиги на игровом поле и в гимнастическом зале опровергают это. Даже обычный, привязанный к городу работник офиса остается в форме благодаря бегу трусцой, теннису, гимнастике, делая с желанием то, что ему необходимо, и больше не делая этого под тяжелым давлением рабского принуждения.

С компьютерами может быть так же. Мы бы оставляли им механические работы по сухим, как пыль, расчетам, ведение документации, поиск информации, хранение данных, позволяя тем самым освободить свою голову для истинно творческой работы – так, чтобы мы могли построить Тадж Махал вместо глиняных хаток.

Это, безусловно, предполагает, что компьютеры никогда не будут служить ни для чего более, как для рутины и повтора. А что если компьютеры продолжат бесконечно развиваться и будут следовать за нами до последней твердыни нашего разума? Что если компьютеры тоже научатся строить Тадж Махал, писать симфонии и совершать новые великие открытия в науке? Что если они научатся подделывать все умственные способности, какие есть у людей? Что, в самом деле, если компьютеры смогут использоваться как мозги роботов, которые будут искусственными аналогами человека, делая все, что делает человек, только, изготовленные из более прочного и более долговечного материала, лучше переносящие суровую окружающую среду? Не станет ли человечество устаревшим? Не смогут ли компьютеры «взять верх»? Не станет ли это катастрофой четвертого класса (именно не пятого), которая уничтожит людей и оставит за собой наследников людей, созданных ими самими?

Если поразмыслить над этим, то можно задать себе довольно циничный вопрос: а почему бы нет? История эволюции жизни является историей медленного изменения видов или физической заменой одних видов совершенно другими, когда это изменение или замена приводят к лучшей подгонке к определенной нише в окружающей среде. Эта длительная, петляющая история несколько сотен тысяч лет назад пришла наконец к Homo sapiens, но почему это должен быть окончательный шаг?

Надо ли считать, что пьеса закончена? Собственно, если бы мы были способны отстраненно взглянуть на весь сложный путь эволюции в мире эпоха за эпохой, как медленно, по пути проб и ошибок, успехов и промахов эволюционировала жизнь, прежде чем появились известные нам виды, нам бы могло показаться, что разумно взять процесс эволюции в собственные, направляющие руки. Нам бы могло показаться, что в эволюции произошел бы реальный прогресс, если бы появился искусственный интеллект – лучшее из того, что до сих пор было придумано.

В таком случае замена человечества компьютерами была бы естественным явлением, объективно приветствуемым, как мы сами приветствовали смену рептилий млекопитающими, и чему мы могли бы возразить только из самолюбия по причине, которая в сущности легкомысленна и к делу не относится. Если быть еще более циничным, то стоит ли доказывать, что замена человечества – это отнюдь не зло, а истинное добро?

В самом деле, в предыдущих главах я предположил, что человечество предпримет разумные меры, которые предотвратят войны, ограничат население и установят гуманный порядок в обществе. Но сделает ли оно это? Хотелось бы думать, что да, но история человечества не очень-то воодушевляет в этом отношении. Что если люди не оставят свою вечную подозрительность и насилие друг против друга? Что если они не смогут ограничить население? Что если не существует пути, чтобы человеческая порядочность создала открытое общество? В таком случае как мы сможем избежать уничтожения цивилизации и, быть может, даже самого человечества?