Даглас Хофштадтер - ГЕДЕЛЬ, ЭШЕР, БАХ: эта бесконечная гирлянда

Рис. 109. Мозг рационален, разум может не быть таковым. (Рисунок автора.)

Этот тип различения между уровнями дает нам новые аргументы в споре с Лукасом. Он основывает свои рассуждения на идее, что Гёделева Теорема по определению приложима к машинам. На самом деле, Лукас делает еще более выразительное заявление:

Теорема. Гёделя должна быть приложима к кибернетическим машинам, поскольку сама суть таких машин — в том, что они являются воплощениями формальных систем.[56]

Как мы видели, это верно на низшем уровне — уровне аппаратуры; но поскольку могут существовать и высшие уровни, это не является последним словом в данном вопросе. Лукас создает впечатление, что в имитирующих разум машинах, которые он обсуждает, имеется только один уровень, где происходит манипуляция символами. Например, Правило Отделения (называемое в его статье «Модус Поненс») было бы встроено в аппаратуру и было бы неизменной чертой подобной машины. Он идет еще дальше и сообщает, что если бы Модус Поненс не был непоколебимым столпом этих машин и его иногда можно было бы обойти, то:

Система перестала бы быть формальной логической системой, и подобная машина с трудом могла бы быть названа моделью разума.[57]

Необходимо учитывать, что многие программы, разрабатываемые специалистами по Искусственному Интеллекту, сильно отличаются от программ с жесткими правилами и наборами аксиом — программ, занятых поисками численно-теоретических истин. И все же они безусловно задуманы как «модели разума». На их высшем — «неформальном» — уровне может идти манипуляция символами, создание аналогий, забывание идей, перепутывание понятий, стирание различий и. т. д. Но это не противоречит тому, что все эта деятельность зависит от безошибочного функционирования лежащей в их основе аппаратуры, так же как мозг зависит от правильного функционирования его нейронов. Так что программы ИИ все еще являются «конкретными воплощениями формальных систем» — но они вовсе не те машины, к которым применимо преобразованное Лукасом доказательство Гёделя. Аргументы Лукаса приложимы только к их низшему уровню — уровню, на котором их интеллект, каким бы он ни был, не находится.

Лукас также показывает свой сверхупрощенный взгляд на то, как возможно представить мыслительные процессы на компьютере, когда он пишет о непротиворечивости:

Если бы мы в действительности являлись противоречивыми машинами, мы были бы довольны собственной противоречивостью и не моргнув глазом утверждали бы обе части противоречивого высказывания. Более того, мы вообще могли бы утверждать все, что угодно — но этого не происходит. Легко показать что в противоречивой формальной системе любое высказывание доказуемо.[58]

Это последнее предложение показывает, что Лукас считает, что Исчисление Высказываний должно быть по необходимости встроено в любую формальную систему, которая способна на рассуждения. В частности, он имеет в виду теорему <<Р Λ ~Р>эQ>. Исчисления Высказываний, явно придерживаясь ошибочного мнения, что это — неотъемлемая черта механизированных рассуждений. Однако вполне вероятно, что процессы логической мысли возникнут как следствие работы программ ИИ, вместо того, чтобы быть предварительно запрограммированными. Это именно то, что происходит с людьми! Нет причин полагать, что Исчисление Высказываний, с его жесткими правилами и довольно глупым определением непротиворечивости, которое из этих правил вытекает, возникнет в результате действия такой программы.

Теперь мы можем подвести итоги нашему обсуждению различия между уровнями и дать последнюю, наиболее сильную версию Тезиса Черчй-Тюринга.

ТЕЗИС ЧЁРЧА-ТЮРИНГА ВЕРСИЯ ИИ: Любые мыслительные процессы могут быть симулированы при помощи компьютерной программы, написанной на языке, равномощном Флупу (то есть языке, на котором возможно запрограммировать все частично-рекурсивные функции).

Нужно заметить, что на практике многие специалисты по ИИ верят в идею, родственную тезису Ч-Т, я называю ее Тезисом ИИ.

ТЕЗИС ИИ: По мере того, как машинный разум прогрессирует, механизм, на котором он основан, постепенно становится все ближе к механизму, на котором основан человеческий разум. Иными словами, любой разум — лишь вариация одной и той же темы, чтобы создать настоящий разум, работники ИИ должны подойти как можно ближе к низшим уровням, к механизмам мозга, если они хотят, чтобы машины обладали теми же возможностями, что и мы.

Вернемся к Крабу и к вопросу о том, совместима ли с реальностью его разрешающая процедура, устанавливающая теоремность (представленная в виде фильтра музыкальной красоты). На самом деле, из событий Диалога мы не можем с уверенностью заключить, является ли дар Краба способностью отличать теоремы от не-теорем, или же способностью отличать истинные высказывания от ложных. Разумеется, во многих случаях это одно и то же, но Теорема Геделя показывает, что так бывает не всегда. Однако это не так уж важно, поскольку, если вы принимаете Версию ИИ Тезиса Ч-Т, ни одна из этих альтернатив невозможна. Утверждение, что ни в какой формальной системе не существует разрешающей процедуры, способной отличать теоремы от не-теорем называется Теоремой Черна. Утверждение, что ни в какой формальной  системе не существует разрешающей процедуры для Истины ТТЧ — если таковая существует, в чем легко начать сомневаться после рассмотрения всех разветвлений ТТЧ, — следует из Теоремы Тарского (опубликованной в 1933 году, хотя Тарский был знаком с подобными идеями значительно раньше).

Доказательства этих двух важных результатов метаматематики весьма схожи. Оба вытекают из автореферентных построений. Давайте сначала рассмотрим вопрос о разрешающей процедуре для теоремности ТТЧ. Если бы существовал некий способ, при помощи которого можно было бы сказать, принадлежит ли данная формула X к классу «теорем» или «не-теорем», то, согласно Стандартной Версии Тезиса Ч-Т, должна была бы существовать некая конечная программа Флупа (общерекурсивная функция), которая могла бы проделать то же самое, когда входными данными является Гёделев номер формулы X. Важно помнить, что любое свойство, которое может быть проверено при помощи конечной программы Флупа, представимо в ТТЧ. Но, как мы вскоре увидим, это было бы источником проблем, поскольку если теоремность — представимое свойство, то Гёделева формула G становится так же порочна, как и парадокс Эпименида.

Все зависит от того, что утверждает G: «G — не теорема ТТЧ». Предположим, что G была бы теоремой. Тогда, поскольку теоремность, по предположению, представима, то формула ТТЧ, утверждающая «G — теорема ТТЧ», была бы теоремой ТТЧ. Но эта формула — не что иное как ~G, отрицание G; выходит, что ТТЧ непоследовательна. Предположим теперь, что G — теорема. Тогда опять, поскольку мы предполагаем, что теоремы представимы, формула, утверждающая «G — не теорема» являлась бы теоремой ТТЧ. Но эта формула — не что иное, как G; мы снова получаем парадокс. В отличие от ранее описанной ситуации, этот парадокс не имеет решения. Проблема заключается в начальном предположении, что свойство теоремности представлено некоей формулой ТТЧ; следовательно, нам придется отказаться от этого предположения. Это заставляет нас признать, что не существует программы Флупа, способной отличить Гёделевы номера теорем от Гёделевых номеров не-теорем. Наконец, если мы принимаем Версию ИИ Тезиса Ч-Т, мы должны пойти еще дальше и заключить, что не существует такого метода, при помощи которого люди могут отличать теоремы от не-теорем (и это включает методы, основанные на восприятии красоты). Сторонники Версии Коллективных Процессов все еще могут полагать, что Крабьи способности возможны; но из всех версий именно эту труднее всего подтвердить фактами.

Теперь давайте рассмотрим результат Тарского. Тарский хотел выяснить, существует ли способ выразить в ТТЧ понятие теоретико-численной истины. То, что теоремность можно выразить (но не представить), мы уже видели; Тарский задался аналогичным вопросом в приложении к понятию истины. Точнее, он хотел определить, есть ли формула ТТЧ с единственной свободной переменной а, которая может быть интерпретирована как:

«Формула, чей Гёделев номер — а, выражает истину.»

Предположим, вместе с Тарским, что такая формула существует. Для краткости назовем ее ISTIN{a}. Теперь используем метод диагонализации и построем высказывание, утверждающее о себе самом, что оно ложно. Для этого мы точно повторим метод Гёделя, начиная с «дяди»: