Чарльз Флауэрс - 10 ЗАПОВЕДЕЙ НЕСТАБИЛЬНОСТИ. ЗАМЕЧАТЕЛЬНЫЕ ИДЕИ XX ВЕКА
Несмотря на все сложности с определением сознания и разумности, мысль о возможности создания «думающей» машины всегда оставалась заветной мечтой конструкторов ЭВМ. Сенсацией 1954 года (вызвавшей большой ажиотаж не только среди специалистов, но и среди инвесторов) стало создание устройства Персептрон, фотодетекторы которого могли различать отдельные буквы, составляющие слова текста, в качестве подлежащей переработке информации. Это стало важным этапом в развитии компьютеров, однако никто не рискнет утверждать, что Персептрон научился «читать» или «понимать» текст в действительности.
Персептрон во многом не оправдал возлагавшихся на него надежд, но с него началось интенсивное развитие целого семейства компьютеров, приведшее в конечном счете к созданию многих современных устройств, умеющих не только сканировать печатный текст и читать его вслух, но и распознавать звуки, складывать из них слова и даже частично «понимать» человеческую речь. Многие достижения в этой области впечатляют, но любой из нас, кто имел дело с любой, даже самой современной программой распознавания голоса и пытался что-то надиктовать с ее помощью, мог лично убедиться в причудливости возникающих ошибок, невольно заставляющих вспомнить мысленный эксперимент Сирла с китайской комнатой. Иногда из-за забавных и странных опечаток и ошибок возникает даже ощущение, что компьютеры обладают каким-то особым чувством юмора, однако очевидно, что они действительно не понимают смысла расшифровываемой речи и печатаемых фраз. Точность регистрации и распечатки устной речи самых лучших программ сегодня достигает 80%, однако необходимо учесть, что они пока не могут различать голоса отдельных людей.
Весьма забавный подход к проблеме и исследованию искусственного интеллекта был развит в 60-х годах станфордским психиатром Кеннетом Колби, специалистом по параноидальным расстройствам психики. Одна из созданных им компьютерных моделей (программ, имитирующих поведение отдельной личности) соответствовала параноику, страдающему манией преследования, условно именуемому Пэрри. Он играет на скачках, боится мафии и постоянно переводит разговор на эту тему, примером чего может служить приводимый ниже отрывок беседы «Пэрри» с «психиатром» (реплики компьютера набраны курсивом):
Психиатр. Вы боитесь преступного мира?
Пэрри. Мафия - самые страшные гангстеры.
Психиатр. Вы связаны с ними?
Пэрри. Видите ли, они меня знают.
Психиатр. Откуда они вас знают?
Пэрри. Они следят за мной.
Психиатр. Почему?
Пэрри. Хотят сочинить что-то обо мне, чтобы меня посадили.
Психиатр. Что они имеют против вас?
Пэрри. Они хотят со мной покончить.
Психиатр. Почему?
Пэрри. У меня есть против них кое-какие улики.
И так далее. Легко заметить, что каждый ответ Пэрри «запускается» каким-то словом предыдущего вопроса, но имеет собственную, личную и не вполне нормальную направленность. Если вы регулярно ездите в нью-йоркской электричке и привыкли краем уха слышать бесконечные и бестолковые разговоры по мобильным телефонам, то вам придет в голову, что такая программа вполне способна пройти тест Тьюринга на разумность. Пока ни одна ЭВМ не способна «выдавать себя за человека» в заочном диалоге со специалистами, однако программы постоянно совершенствуются и обрастают различными реалистическими деталями, так что можно не сомневаться, что рано или поздно такая ЭВМ будет создана.
В связи с проблемой разумности ЭВМ особо следует рассмотреть длительное и постоянно приковывающее внимание общественности соревнование между человеком и компьютером на шахматной доске. Сенсационная победа компьютера ДипБлю над чемпионом мира Гарри Кас-паровым в 1997 году (счет 2:1, при трех ничьих) вовсе не означает, что этот компьютер проскочил тест Тьюринга. Машина запрограммирована на угадывание возможных ходов противника и оценку позиции (т. е. сравнение недостатков и преимуществ построений фигур). Эти расчеты или функции весьма сложны, но они остаются всего лишь расчетами, так что мы вновь имеем дело с каким-то «китайским справочником», где даны подробные инструкции относительно конкретных ответов в конкретных ситуациях. Шахматы при таком подходе перестают быть свободным соревнованием интеллектов и изобретательности, а превращаются в состязание инструкций, записанных на непонятном языке. Компьютер вновь получает способность «говорить», а вовсе не «мыслить»! Машина ДипБлю умеет очень хорошо «говорить на шахматном языке», не задумываясь о смысле происходящего. (В качестве иллюстрации сложности проблемы следует отметить, что победа компьютера над гроссмейстером действительно еще не означает «понимания» идей шахматной игры, поскольку существуют позиции (которые правильно разыгрывают даже малоквалифицированные шахматисты), «недоступные» стратегии ЭВМ. Примеры таких позиций и анализ проблемы понимания (наряду с многими другими, затрагиваемыми выше) подробно рассматриваются в книге Р. Пенроуза «Большое, малое и человеческий разум», М., «Мир», 2004. – Прим. перев)
В более простые игры, поддающиеся более строгому расчету, машины научились играть значительно раньше: например, компьютер обыграл чемпиона мира по триктраку (нарды) еще 20 лет назад. Многие другие достижения в компьютерной технике, которые часто приводятся в качестве примеров проявления искусственного интеллекта, также являются всего лишь удачно составленными наборами инструкций, т. е. «китайскими справочниками», позволяющими «говорить без понимания». Машины прекрасно говорят на простых языках кредитных карточек (т. е. считывают номера и цифры, а также легко определяют фальшивые карты), фармацевтических рецептов (считывают названия, проверяют сроки годности лекарств и даже сверяют назначения врача с медицинскими справочниками) и т. п., но все это не делает их разумными.
Судьба самого Тьюринга, человека исключительно одаренного и одновременно очень болезненного и противоречивого, оказалась крайне трагической. Он открыто объявил себя гомосексуалистом, что не только уголовно преследовалось в послевоенной Англии, но и вызывало у спецслужб сомнения в его лояльности и благонадежности, вследствие чего он провел год за тюремной решеткой и был подвергнут принудительному «органотерапевтическому» лечению, которое должно было вернуть ему нормальную сексуальную ориентацию. К несчастью, лечение было экспериментальным и включало в себе инъекции новых, непроверенных препаратов, что привело к нарушениям психики и импотенции.
Через год после курса лечения Тьюринга нашли мертвым в собственном доме, после чего официальной версией его гибели стало самоубийство (перед смертью он съел яблоко, начиненное цианистым калием), но многие его друзья намекали на убийство, организованное секретными службами собственной страны. (Необычность судьбы и дарования Тьюринга легли в основу сюжета многих кинофильмов и книг (не говоря уже о знаменитой истории захвата системы «Энигма»). В связи с упоминаемым гомосексуализмом Тьюринга интересно, что в исходных вариантах теста Тьюринга критерием «разумности» собеседника выступала способность определить пол, т. е. машина должна была научиться отличать мужчин от женщин в ходе заочной беседы, что явно усложняло задачу. – Прим. перев)
Возможно, когда-нибудь компьютеры действительно станут настолько разумными, что займутся писанием романов и драм о собственной жизни, и тогда мы поймем, о чем они действительно думают и что чувствуют. С другой стороны, понимание принципов работы ЭВМ уже сейчас позволяет нам по-новому взглянуть на многие проблемы, относящиеся к нашему собственному сознанию, так как изучение механизмов вычислительных операций в компьютерах дает нам некоторое представление о процессах мышления в мозгу человека.
Выше уже упоминалось, что философский дуализм Декарта диктовал ему разделение ума и сознания. На самом деле, эта идея является традиционной, и очень многие мыслители прошлого тоже рассматривали мозг и мышление раздельно. Средневековые ученые полагали, что в мозгу просто обитает микроскопическое человекоподобное существо, называемое гомункулюсом, которое и ответственно за возникновение новых мыслей. Эта идея кажется наивной, однако и в двадцатом веке многие философы доказывали, что сознание обусловлено не физическим состоянием мозга, а чем-то иным, возможно, даже находящимся вне мозга. Гильберт Райли издевательски называл такие идеи представлением о «призраке в машине», перефразируя известную формулу «бог из машины». (Проблема возникновения новых идей и мыслей является одной из основных в истории философии и восходит еще к Сократу, который объяснял афинянам, что мысли подсказывает ему некий «демонион», дух внутри головы. В науке эта проблема усложняется наличием явного «эффекта одновременности» возникновения новых теорий (включая самые великие), ярким примером чего являются многолетние судебные разбирательства между гениальными математиками Ньютоном и Лейбницем. -Прим. перев)
