Артур Кларк - Черты будущего
Сегодня нас вдохновляют на решение этой проблемы успехи нового научно-технического направления — бионики, которая открыла широкие перспективы применения биологии в технике. В области биоэлектрического управления разработана система активного протеза руки, приборов, позволяющих осуществлять управление работой рентгеновского аппарата с помощью сигналов, идущих непосредственно от сердца. Подобного рода техника в будущем, безусловно, займет одно из ведущих мест. Во многих странах мира уже в течение нескольких лет проводятся эксперименты по использованию образований из нервных тканей в качестве логических или переключающих элементов. Ученые добились значительных успехов и в применении отдельных органов и даже всего организма в целом в качестве узлов и блоков сложных технических систем. Поэтому не лишена рациональной основы мысль о том, что не просто живой, а деятельный мозг в нужных случаях действительно можно будет непосредственно подсоединять к самым различным устройствам.
В последних главах своей книги Кларк подпадает под влияние распространенных среди западных ученых предрассудков об угрозе подчинения человека «мыслящим» машинам. На помощь ему приходят использованные другими авторами доводы, новые и новейшие аргументы и даже исторические аналогии. Кларк отмечает, что с того момента, когда человекообразная обезьяна стала применять орудия, она обрекла себя на вымирание.
Современные достижения физиологии высшей нервной деятельности и микрофизиологии и исследования, связанные с развитием кибернетики, которые дали нам универсальные информационные системы и программно-управляемые машины, позволили совершенно по-новому подойти к изучению мозга. Первые успехи в работах по сравнительному анализу мозга и машин вызвали большую шумиху, которая, однако, быстро спала. Ученые принялись за действительный анализ возможностей воссоздания на машинах качеств центральной нервной системы. Недавно обсуждение вопросов о возможностях машин возобновилось с новой силой. Причины этого понятны. Более чем за пятнадцать лет своего развития и кибернетика и физиология шагнули далеко вперед, и, что не менее важно, в одном общем направлении — в направлении более конкретного и детального изучения основных принципов регулирования, контроля, управления и связи.
При этом следует отметить, что мозг выполняет сегодня неизмеримо более сложные задачи управления и регулирования, чем любая кибернетическая машина. Более того, он в совершенстве и с легкостью осуществляет функции, которые в настоящее время совсем или почти совсем не выполняются автоматами. Сюда относятся решение задач без предварительного программирования, распознавание сложных зрительных образов и многое другое.
Аналогия между работой кибернетических машин и деятельностью живых организмов позволила найти путь к решению автоматического управления такими процессами. Этот путь заключается в построении обучающихся машин, которые могут накапливать опыт и в соответствии с ним в будущем самостоятельно принимать решения. Правда, методы учебы у современных обучающихся машин пока еще не поднялись выше уровня дрессировки животных. Но дело не в этом. Развитие исследований в области обучающихся машин сделало вопрос о возможности построения «думающих» машин актуальной проблемой техники сегодняшнего и тем более завтрашнего дня.
Уже сейчас машина физически сильнее, памятливее и быстрее человека. И недалек тот час, когда человеку будут служить машины, снабженные мощными логическими средствами. Все доводы против таких перспектив несостоятельны. Современная машина обладает, пусть пока в зачаточной форме, аналогом памяти, фантазии, цели, логики; быстро приспосабливается к различным средам и условиям работы; сама формирует нужные качества поведения в изменившихся условиях обстановки; интерпретирует в поведении символы своего управляющего устройства.
Все эти достижения современной науки и техники сегодняшнего дня позволили известному советскому ученому академику А. Н. Колмогорову совершенно серьезно поставить вопросы:
«…Могут ли машины воспроизводить себе подобных и может ли в процессе такого самовоспроизведения происходить прогрессивная эволюция, приводящая к созданию машин, существенно более совершенных, чем исходные?
Могут ли машины испытывать эмоции? Могут ли машины хотеть чего-либо и сами ставить перед собой новые задачи, не поставленные перед ними их конструкторами?
Иногда пытаются обосновать отрицательный ответ на подобные вопросы при помощи:
а) ограничительного определения понятия „машина“;
б) идеалистического толкования понятия „мышление“, при котором легко доказывается неспособность к мышлению не только машин, но и человека…
Однако важно отчетливо понимать, что в рамках материалистического мировоззрения не существует никаких состоятельных принципиальных аргументов против положительного ответа на наши вопросы.
Принципиальная возможность создания полноценных искусственных систем, построенных полностью на дискретных (цифровых) механизмах переработки информации и управления, не противоречит принципам материалистической диалектики…»[1]
Несколько лет назад на страницах целого ряда наших журналов были подняты вопросы о возможности создания «думающих» машин. Эта дискуссия была начата и не закончена.
Пока еще ни у нас, ни за рубежом не создано ни одной действительно думающей машины или хотя бы в самых общих чертах чем-нибудь похожей на мозг человека. Дело не в габаритах, не в потребляемой энергии, не в количестве деталей и связей между ними. Отличие современных кибернетических и электронных вычислительных машин, получивших с легкой руки писателей-фантастов и журналистов определение «думающие», от мозга человека заключается прежде всего в их возможностях.
«Думающие» машины сегодняшнего дня могут очень многое. Но это «очень многое» слишком мало пока еще в сравнении с тем, что может делать мозг человека. Однако прогресс науки и техники требует непрерывного расширения этих возможностей, и поэтому вопрос о создании машин, действительно близких по своим возможностям к человеческому мозгу, поставлен со всей остротой на повестку дня современной науки и техники.
И сегодня на этом пути уже достигнуты определенные результаты. Мы имеем машины, которые учатся классифицировать самые разнообразные данные, например по геофизическим параметрам пласта определять его продуктивность, или могут научиться читать рукописные буквы; машины, которые автоматически разлагают сложную цель на цепочку простых подцелей и совершенствуются в этой способности. Имеются самонастраивающиеся устройства оптимизации. Вся эта техника строится в тесной связи с исследованиями по изучению аналогичных механизмов животных и в значительной степени воспроизводит вскрытые физиологией принципы. Можно не сомневаться, что уже через несколько десятков лет здесь будут достигнуты большие результаты. Они не только не сулят никакой угрозы человеку, но и чрезвычайно необходимы (уже в настоящее время четко сформулирован ряд практически интересных и важных задач, которые могут быть решены только на базе такого рода техники).
Конечно, нет спора, машины сегодняшнего дня неизмеримо «глупее» человека, но и нет сомнения в том, что когда-нибудь (может быть, не так скоро, как это предсказывает Кларк) люди научатся делать любые машины. И машина будет иметь тогда столько самостоятельности, сколько захочет дать ей ее творец человек.
Человек сможет сделать любую материальную систему, допускаемую законами природы. Специфика машин не абсолютна, она зависит от знаний и воли ее создателя.
Особенно важно, что ученые уже сегодня получили возможность придать управляющему комплексу «свободу действия» для автоматического поиска эффективных и даже оптимальных решений. На основе такой «свободы действия» управление совершенствуется в процессе эксплуатации систем. В настоящее время в этом направлении делаются только первые шаги, и можно говорить лишь о принципиальных возможностях создания такого рода систем.
Интересно, что все эти исследования не указывают (даже в самой отдаленной перспективе) на угрожающую возможность «выхода из повиновения умных машин». Это совершенно надуманные проблемы. Возможности машины ограничены целью, которую поставил перед собой человек при ее создании.
Изготовляя «умные» машины для выполнения определенных задач, человек стремится по возможности освободиться от необходимости давать машине детальные указания и пытается автоматизировать процессы обработки информации на машинах, предоставляя им свободу в отыскании различных решений.
Однако опасения, что машина может пойти в этом поиске не по желаемому пути, вполне обоснованны. По-видимому, при конструировании машин с самостоятельным широким набором действий (когда это будет возможно) необходимо будет принимать предварительные меры, предупреждающие нежелательные реакции автоматов. Можно с уверенностью сказать, что люди найдут эффективные и абсолютно безопасные средства использования самых совершенных машин.
