Даглас Хофштадтер - Глаз разума
Утверждение, что машина не способна ошибаться, довольно интересно. На это хочется ответить: “Но разве они становятся от этого хуже?” Но давайте отнесемся к нему с большей симпатией и попробуем выяснить, что же оно на самом деле означает. Мне кажется, эта критика может быть объяснена с точки зрения игры-имитации. Утверждается, что экзаменатор сможет отличить машину от человека, просто задав обоим несколько арифметических задач. Машина будет безошибочна, благодаря своей мертвой аккуратности. Ответ на это прост. Машина, запрограммированная для подобной игры, не будет пытаться давать правильные ответы на арифметические вопросы. Она будет иногда нарочно ошибаться с тем, чтобы сбить экзаменатора с толку. Вероятно, механической неполадкой был бы вызван неверный тип ошибочных ответов. Мы еще не рассмотрели достаточно внимательно этот критический аргумент, но у нас нет места, чтобы углубляться в него еще больше. Мне кажется, что он зависит от неразличения между двумя типами ошибок. Мы можем называть их “ошибки функционирования” и “ошибки интерпретации”. Ошибки функционирования зависят от механических или электрических неполадок, из-за которых машина ведет себя не так, как хотели программисты. В философских дискуссиях подобные ошибки обычно не принимаются в расчет, и обсуждаются “абстрактные машины”. Эти абстрактные машины являются скорее математической фикцией, чем физическими объектами. Они по определению не способны на ошибки функционирования. В этом смысле мы можем правдиво сказать, что “машины никогда не делают ошибок”. Ошибки интерпретации могут возникнуть только тогда, когда выходным данным машины придается некое значение. Например, машина может выдать высказывание на английском языке или математическое уравнение. Когда высказывание ложно, мы говорим, что машина допустила ошибку интерпретации. У нас нет причины утверждать, что машина не может допустить подобную ошибку. Она может быть запрограммирована так, что будет все время печатать “0 = 1” — или, используя не такой крайний пример, она может иметь какой-нибудь метод для нахождения выводов путем научной индукции. Мы можем ожидать, что этот метод иногда приводит к ошибочным результатам.
Утверждение, что машина не может являться предметом своих собственных мыслей, можно опровергнуть, только доказав, что машина имеет какие-либо мысли с каким-либо предметным содержанием. Тем не менее, “предметное содержание машинных операций” в действительности имеет значение, по крайней мере для людей, имеющих с ним дело. Скажем, если машина пыталась найти решение уравнения x2 − 40x − 11 = 0, соблазнительно представить это уравнение как часть предметного содержания машины в данный момент. В этом смысле машина несомненно может являться собственным предметным содержанием. Ее можно использовать, чтобы помочь составлять программы для нее же или чтобы предсказать эффект изменения в ее структуре. Наблюдая за результатами своего поведения, она может менять собственные программы с тем, чтобы более эффективно добиться поставленной цели. Все это не утопические мечтания, но возможности ближайшего будущего.
Критицизм, утверждающий, что у машины не может быть разнообразного поведения, по сути дела утверждает лишь то, что у нее не может быть большого объема памяти. До недавнего времени объем даже в 1000 знаков был редкостью.
Аргументы, которые мы здесь рассматриваем, часто лишь завуалированные формы аргумента от сознания. Как правило, человек, утверждающий, что машина способна сделать одну из этих вещей, и описывающий соответствующий метод, не производит большого впечатления. Считается, что метод (каким бы он ни был, поскольку он все равно будет механическим) всегда слишком прост. (Сравните со скобками в отрывке из речи Джефферсона, приведенной выше.)
6. Аргумент леди Лавлейс. Об Аналитической Машине Баббиджа нам лучше всего известно из мемуаров леди Лавлейс. Она пишет: “Аналитическая машина не претендует на создание чего-либо нового. Он может делать лишь то, что мы умеем ей приказать” (выделено автором). Хартри цитирует это высказывание и добавляет: “Из этого не следует, что невозможно сконструировать электронное оборудование, которое “думало бы само по себе”. Говоря языком биологии, в такое устройство был бы встроен некий условный рефлекс, который мог бы служить базой для “обучения”. Возможно ли подобное в принципе — это захватывающе интересный вопрос, который возникает в некоторых недавних исследованиях. Однако мне кажется, что машины, создаваемые или проектируемые во времена леди Лавлейс, этой особенностью не обладали.”
Здесь я полностью согласен с Хартри. Надо заметить, что он не утверждает, что рассматриваемая машина этой особенностью не обладала. Он лишь замечает, что имевшаяся у леди Лавлейс информация не позволяла ей предположить, что данная машина могла иметь эту особенность. Вполне возможно, что на самом деле она ее имела. Представьте себе, что некая дискретная машина этой способностью обладает. Аналитическая Машина была универсальным цифровым компьютером, поэтому, обладая достаточным объемом памяти и скоростью и будучи соответствующим образом запрограммированной, она могла бы уподобиться упомянутой машине. Вероятно, этот аргумент не пришел в голову ни леди Лавлейс, ни самому Баббиджу. Так или иначе, они не были обязаны заявлять все, что только возможно.
Этот вопрос снова будет рассмотрен нами, когда мы будем говорить об обучающихся машинах.
Сторонники леди Лавлейс утверждают, что “машина никогда не сможет создать ничего действительно нового”. Это высказывание можно парировать поговоркой “Под солнцем нет ничего нового.” Кто может с уверенностью утверждать, что “оригинальная работа” проделанная им, не является на самом деле ростком, выросшим из семечка обучения, или результатом следования общеизвестным принципам? Улучшенный вариант аргумента утверждает, что машина “не способна нас удивить”. Это утверждение является прямым вызовом, и на него можно прямо ответить. Машины удивляют меня очень часто. Это происходит потому, что я не делаю расчетов относительно того, что от них можно ожидать, а если и делаю, то торопливо и недостаточно аккуратно. Например, я говорю себе: “Наверное, напряжение здесь такое же, как и там; предположим пока, что так и есть”. Естественно, я часто ошибаюсь, и результат бывает для меня сюрпризом, поскольку к концу эксперимента я уже успеваю забыть о своих предположениях. Это признание делает меня уязвимым для критики моей небрежности, но не может служить основанием для сомнения в том, что я испытываю искреннее удивление.
Я не ожидаю, что мой ответ заставит критиков замолчать. Вероятно, они скажут, что мое удивление вызвано неким творческим актом с моей стороны, и что машина здесь совершенно ни при чем. Это возражение уводит нас в сторону от аргумента “от удивления” и возвращает к “аргументу от сознания”. Эту линию аргументации мы уже должны считать закрытой, но, пожалуй, стоит заметить, что для восприятия чего-либо как удивительного, будь это человек, книга, компьютер или что-нибудь иное, обязательно потребуется “творческое мысленное действие”.
Мнение о том, что машины не способны нас удивлять, обязано своим возникновением ошибочному убеждению, которое особенно свойственно философам и математикам. Это предположение, что едва некий факт становится нам известным, то в тот же момент становятся автоматически ясны и все его последствия. Во многих условиях это предположение полезно, но мы слишком легко забываем, что оно ложно. Естественным следствием этого является убеждение, что в вычислении результатов, вытекающих из неких данных и общих принципов, нет никакой особой заслуги.
7. Аргумент от непрерывности нервной системы. Разумеется, нервная система не является машиной дискретных состояний. Малейшая ошибка в интенсивности нервного импульса в одном из нейронов может вызвать значительную разницу в выходящем импульсе. Имея это в виду, можно утверждать, что невозможно имитировать поведение нервной системы с помощью какой-либо дискретной машины.
Безусловно, дискретная машина отличается от непрерывной. Но если мы будем соблюдать условия игры-имитации, экзаменатору не удастся получить от этой разницы никакой выгоды. Ситуация станет понятнее, если мы рассмотрим некоторые непрерывные машины попроще. Для этой цели отлично подойдет дифференциальный анализатор. (Дифференциальный анализатор — это недискретная машина, используемая для некоторых вычислений.) Некоторые из них дают ответы в напечатанной форме и, таким образом, годятся для нашей игры. Цифровой компьютер не сможет предсказать, какие ответы на определенные вопросы будет выдавать дифференциальный анализатор, но сам сможет решить задачу правильно. Например, если попросить его определить значение числа пи (около 3,1416), он может сделать выбор между 3,12, 3,13, 3,14, 3,15 и 3,16 с вероятностью, скажем, 0,05, 0,15, 0,55, 0,19 и 0,06. В этих условиях экзаменатору было бы очень трудно отличить дифференциальный анализатор от цифрового компьютера.