Даглас Хофштадтер - Глаз разума
СЭНДИ: Сомневаюсь. Дело в том, что сейчас никто не работает над этой проблемой. Правда, существует программа под названием “Пэрри”; ее авторы утверждают, что она уже прошла элементарную версию теста Тьюринга. В серии заочных интервью Пэрри удалось одурачить нескольких психиатров, которым было сказано, что они говорят либо с компьютером, либо с пациентом-параноиком. В предыдущей версии этого же теста психиатрам просто показали запись коротких интервью и попросили определить, в каких из них участвовал человек-параноик, а в каких — компьютер.
ПАТ: То есть у них не было возможности задавать вопросы? Это большой недостаток, противоречащий самому духу теста Тьюринга. Представь себе, что кто-то пытается определить, какого я пола, лишь прочитав несколько моих замечаний. Это очень трудно! Я рада, что первую версию улучшили.
КРИС: Как им удалось заставить компьютер разговаривать как параноика?
СЭНДИ: Я не говорила, что компьютер в действительности разговаривал, как параноик — просто некоторые психиатры в необычных обстоятельствах так подумали. В этом варианте теста Тьюринга мне не понравилось то, как Пэрри работает. “Он”, как называли эту программу, внезапно ударялся в самозащиту, уходил от неприятных тем и вообще контролировал беседу, так что “его” невозможно было по-настоящему спрашивать. В этом смысле подражать параноику гораздо легче, чем нормальному человеку.
ПАТ: Да ну? Это напомнило мне об одной шутке — какого человека легче всего имитировать на компьютере.
КРИС: И какого же?
ПАТ: Кататоника — он сидит и ничего не делает день за днем. Даже я могла бы написать компьютерную программу для этого!
СЭНДИ: Интересно, что Пэрри не создавал собственных фраз — он был снабжен обширным репертуаром готовых высказываний, из которых просто выбирал наиболее подходящие к “сказанной” ему в данный момент фразе.
ПАТ: Удивительно! Но это было бы невозможным в более крупном масштабе, правда?
СЭНДИ: Да, конечно. Чтобы компьютер мог отвечать нормально на все возможные высказывания в беседе, пришлось бы занести в его память поистине астрономическое, невообразимо огромное число предложений. И чтобы извлекать их из памяти, нужно было бы снабдить каждую сложным индексом. Те люди, которые считают, что программа, снабженная набором фраз, которые она вытаскивает из памяти подобно пластинкам в музыкальном автомате, сможет пройти тест Тьюринга, не понимают, о чем они говорят. Забавно то, что именно такой тип нереализуемых программ противники искусственного интеллекта используют как аргумент против теста Тьюринга. Они хотят, чтобы вместо действительно разумной машины вы вообразили себе гигантского неуклюжего робота, который монотонно повторяет законсервированные фразы. Предполагается, что его механический уровень остается очевидным даже тогда, когда он выполняет задачи, традиционно требующие интеллектуальной гибкости. Тогда критики заявляют: “Вот видите, это всего лишь машина — механическое приспособление, не обладающее никаким разумом”. Что до меня, то я вижу ситуацию как раз наоборот. Если бы мне показали машину, способную делать то же, что и я, — я имею в виду тест Тьюринга — то я не почувствовала бы, что меня оскорбляют или мне угрожают. Наоборот, я присоединилась бы к философу Рэймонду Смолляну и воскликнула бы: “Как прекрасны машины!”
КРИС: Если бы в качестве теста Тьюринга тебе разрешили задать всего лишь один вопрос, каким бы он был?
СЭНДИ: Гм…
ПАТ: А как насчет “Если бы в качестве теста Тьюринга тебе разрешили задать всего лишь один вопрос, каким бы он был?”?
Размышления
Многих людей отталкивает в тесте Тьюринга необходимое условие, чтобы экзаменуемые находились в комнате отдельно от экзаменатора, так, чтобы тот имел дело лишь со словесными ответами. Для салонной игры такое правило в самый раз, но как может настоящее научное исследование включать в себя сознательную попытку спрятать некие факты от наблюдателей? Пряча кандидатов на разумность в “черные ящики” и оставляя как свидетельство лишь ограниченный спектр внешнего поведения (в данном случае, словесную продукцию в напечатанной форме), тест Тьюринга на первый взгляд догматически придерживается некоей формы бихевиоризма, или (хуже) операционализма, или (и того хуже) верификационизма. (Эти три кузена “изма” — ужасные пугала недавнего прошлого. Говорят, что философы науки с ними расправились и похоронили их — но что это за кошмарный звук, от которого кровь стынет в жилах? Неужели они зашевелились в своих могилах? Надо было пронзить их сердца осиновым колом!) Не является ли тест Тьюринга, по словам Джона Сирла, чем-то вроде “операционалистского фокуса”?
Действительно, тест Тьюринга довольно категорично определяет, что в интеллекте важнее всего. Тьюринг утверждает, что важно вовсе не то, какой тип серого вещества имеется у кандидата в голове (и есть ли эта голова вообще) и не то, как он выглядит и пахнет, но то, способен ли он на разумное поведение. Предложенная Тьюрингом для тестирования игра-имитация не представляет из себя нечто “святое” — это просто ловко выбранная проверка общей разумности. Тьюринг был готов предположить, что любой субъект, прошедший тест Тьюринга, одержав победу в игре-имитации, с необходимостью должен быть способен вести себя разумно в неопределенно большом количестве других ситуаций. Если бы он выбрал в качестве лакмусовой бумажки способность поставить мат чемпиону мира по шахматам, мы могли бы с полным правом возражать против такой проверки. Сейчас кажется вполне вероятным, что такую машину возможно создать — но она не будет уметь делать ничего другого. Если бы он выбрал в качестве проверки способность украсть Британские Королевские Драгоценности без сообщников и без применения силы, или способность разрешить арабо-израильский конфликт без кровопролития, немногие стали бы возражать, что разум здесь “сведен” к поведению или “операционно определен” в терминах поведения. (Хотя, без сомнения, какой-нибудь философ тотчас принялся бы выдумывать весьма сложный и совершенно невероятный сценарий, согласно которому некий полный идиот случайно завладел Британскими Королевскими Драгоценностями, выдержав тест и таким образом опровергая его значимость в качестве проверки на общую разумность. Разумеется, настоящему операционалисту пришлось бы признать, что, согласно его критериям, этот удачливый дурачок по-настоящему умен, поскольку он выдержал определенный экзамен — несомненно, именно поэтому настоящие операционалисты так редко встречаются.)
Тест Тьюринга имеет определенное преимущество по сравнению с воровством королевских драгоценностей или улаживанием арабо-израильского конфликта. Дело в том, что подобные тесты невозможно повторить (если пройти их успешно один раз); они слишком трудны (многие весьма разумные люди в прошлом не смогли сделать этого); их слишком трудно судить объективно. Подобно хорошему пари, тест Тьюринга очень соблазнителен; он выглядит справедливым, трудным, но возможным, и объективным в принятии окончательного решения. Этот тест напоминает пари и в другом смысле. Он мотивирован желанием Тьюринга прекратить бесконечные бесплодные препирательства, заявив: “Либо докажите, либо замолчите!” Тьюринг говорит нам: “Вместо того, чтобы спорить о конечной природе и сущности разума, почему бы нам не договориться, что любой, кто сможет пройти этот тест, наверняка разумен, и затем задаться вопросом, как сконструировать машину, которая сможет его пройти?” По иронии судьбы, Тьюрингу не удалось остановить этот вечный спор — он лишь направил его по иному руслу.
Можно ли критиковать тест Тьюринга за его идеологию “черного ящика”? Во-первых, как замечает Хофштадтер в своем диалоге, мы обращаемся друг с другом, как с черными ящиками — наше убеждение в том, что другие люди разумны, основано на наблюдении над их поведением, которое кажется нам разумным. Во-вторых, идеология “черного ящика” является общей для любого научного исследования. Мы узнаем нечто о молекуле ДНК, наблюдая, как она отвечает на разного рода стимулы, точно так же, как мы узнаем новое о раке, землетрясениях и инфляции. Когда мы исследуем макроскопические объекты, иногда бывает полезным “заглянуть” в черный ящик. Для этого мы применяем к его поверхности “открывающий” зонд (например, скальпель); затем фотоны отражаются от открывшихся внутренностей и попадают к нам в глаза. Все это лишь еще один эксперимент с черным ящиком. Мы должны, как говорит Хофштадтер, поставить перед собой следующую проблему: “Какой зонд будет самым подходящим для поисков ответа на интересующий нас вопрос?” Если мы хотим узнать, разумно ли некое существо, вряд ли нам удастся найти более прямой и красноречивый “зонд”, чем повседневные вопросы, которые мы задаем друг другу. “Бихевиоризм” Тьюринга заключается лишь в том, что он попытался включить это почти общее место в полезный эксперимент лабораторного типа.
