Георгий Далидович - Заметки об искусственном интеллекте

Георгий Далидович

Заметки об искусственном интеллекте

Имитационные игры — быть или казаться?

В современном понимании главным для всех направлений развития искусственного интеллекта является его способность извлекать информацию из окружающей среды и использовать ее для "самообучения", по сути дела перепрограммирования, с целью выбора оптимальной стратегии действий. Этот вопрос был разобран в нашей предыдущей статье. Важно отметить, что "окружающей средой" для искусственного интеллекта является то, что он может воспринимать с помощью своих рецепторов-сенсоров, поэтому, в зависимости от типа задач и назначения, ей может являться как обычная реальность, так и некоторая абстрактная среда с формализованными правилами поведения и законами.

Можно выделить несколько основных направлений современных разработок систем искусственного интеллекта. Среди них широко известны программы, предназначенные для ведения абстрактных игр — в частности, для игры в шахматы. Крупным успехом этого направления явилась победа компьютера IBM "Deep Blue", обыгравшего чемпиона мира Гарри Каспарова в 1997 году. Очевидно, что "окружающая среда" для "Deep Blue" ограничена 64 клетками шахматной доски. Однако на этом поле он достиг превосходных результатов.

Практически более важными являются машины, берущие на себя интеллектуальные функции человека-оператора при управлении сложными системами. Подобных систем достаточно много: это и военные разработки, включающие в себя прогнозирование действий противника, сравнительную оценку важности и опасности целей и наведения оружия; комплексы управления сложными производствами и энергетическими системами; исследовательские аппараты для дальнего космоса, где непосредственное управление наземным оператором становится неэффективным ввиду значительной временной задержки сигнала; программы прогнозирования и выбора стратегии действий в экономических и социальных системах — например, "идеальный брокер", играющий на бирже, — и многие другие.

Но человеческое сознание обычно в большей мере поражают не сложные, действительно по-своему интеллектуальные системы, а устройства для имитации внешнего вида и действий человека, хотя они пока еще являются скорее игрушками, чем прототипами реальных машин.

Вообще, машинная имитация действий, свойственных исключительно человеку, имеет многовековую историю, начиная со средневекового "шахматного автомата", где рукой манекена двигал игрок, спрятанный под столиком и наблюдавший за доской через систему зеркал.

Последние достижения "киберимитаторов" человека выглядят впечатляюще и затрагивают почти все виды специфической человеческой деятельности — от ее глубинных творческих проявлений до чисто внешних. В качестве примера можно привести программу EMI, "написавшую" 42-ю симфонию Моцарта в соавторстве с Дэвидом Коупом (David Cope), исполненную в концертном зале Университета Калифорнии в Санта-Круз. (Напомню, что последняя (41-я) симфония была написана Моцартом более 200 лет назад.) По крайней мере, никто из экспертов не мог абсолютно уверенно сказать, что "это — не Моцарт". На ежегодной встрече Американской ассоциации ученых, работающих в области искусственного интеллекта, в Орландо (Флорида) всеобщее внимание привлек к себе неожиданный участник — Office Boy 2000. Это цилиндрическое устройство на колесиках прогуливалось по холлу отеля и приставало к "коллегам" с многочисленными вопросами, суетилось и выражало свои эмоции беспорядочными восклицаниями. Однако по внешнему виду, его, конечно, нельзя было спутать с прочими участниками.

Результатом одной из наиболее известных программ имитации внешности и мимики человека явилась зеленоволосая девушка с экзотическим именем Ананова (Ananova — это не фамилия, ударение на "о"). Хотя, конечно, она не "вникает" в содержание зачитываемых сообщений, а действует по заложенному сценарию.

Очевидно, что недалек тот момент, когда автономное и ориентирующееся в окружающей среде лучше, чем Office Boy, более реалистичное, чем Ananova, и не только комбинирующее фрагменты, как EMI, а способное к реальному творчеству существо встретится вам если не на улице, то по крайней мере на какой-нибудь выставке.

Граница между "кажущимися" интеллектуальными системами и устройствами или существами, реально являющимися таковыми, размыта и неопределенна. Попытку определить, что здесь что, наверное, можно осуществить только в реальном взаимодействии "испытуемого" с внешней средой или хотя бы одним единственным человеком.

В 1950 году английский математик Тьюринг определил условия имитационной игры, позволяющей выяснить, является или нет автоматическое устройство искусственным интеллектом, по его способности пройти "тест Тьюринга".

Представьте себе оператора-экспериментатора, соединенного двумя терминалами с машиной и другим человеком. Причем наш экспериментатор не знает, кто из них есть тестируемый искусственный интеллект, а кто — человек. Его "человеческий" партнер должен по возможности честно отвечать на вопросы, задаваемые оператором, а машина имеет право и обязана "обманывать", стараясь доказать, что именно она и есть человек. Если ей это удается, то ее следует признать достаточно развитым искусственным интеллектом. За прошедшие десятилетия этот тест ставился неоднократно во многих исследовательских центрах. Машине удавалось достичь успеха только в случае жестко ограниченных областей и тематик "допросов". Сейчас это выглядит несколько наивным, но в 60-е годы подобные эксперименты являлись поводом для многих спекуляций и сенсационных заявлений.

Надо сказать, что Тьюринг описывает свой тест применительно к конкретной "бумажной" машине, основа концепции которой была сформулирована еще в 30-е годы. Тогда это был лишь абстрактный "мысленный эксперимент". Развитие технологии делает его предположения об устройстве, способном не только выполнять последовательность операций, записанных на бумажной ленте, но и вносить на нее новые записи, то есть перепрограммироваться и, таким образом, "самообучаться", наивными технологически, но не примитивными концептуально. Собственно, принцип действия "Машины Тьюринга", работающей "по правилам", лег в основу создания алгоритмических языков, да и самого понятия алгоритма. А концепция Всемирной Машины Тьюринга, способной использовать записи любой другой машины Тьюринга, определила принципы совместимости и взаимодействия электронных устройств. Главным ограничением Машины являлось то, что она могла находиться только в конечном количестве логических состояний в "Мире Тьюринга", причем занимать не более одного из них в каждый отдельный момент времени.

Тьюринг полагал, что машина будет способна когда-нибудь расширить свой "Мир Тьюринга", состоящий из взаимоисключающих и однозначных событий, до отражения реальности и выиграть имитационную игру и, соответственно, будет признана "разумной". В своих работах он перечислил девять возможных аргументов против возможности признания машины "разумной" и если не опроверг, то по крайней мере остроумно прокомментировал их.

1. Способность к мышлению есть функция бессмертной души человека. Так как компьютеры не имеют души, компьютеры не могут думать.

Возражение. По причине собственного всемогущества, Бог может наделить компьютер душой, если Он того пожелает. Так же, как мы выращиваем своих детей для размещения душ, данных Богом, мы можем, выполняя его волю, создавать мыслящие компьютеры.

2. Ужасно, если бы механизмы могли бы сравняться с нами в способности к мышлению!

Возражение (комментарий). Это действительно было бы очень плохо (для нас)!

3. Формальная логика неопровержимо доказывает, что невозможно создать компьютер, который смог бы найти ответ на любой вопрос.

Возражение. А возможно ли найти человека, который смог бы ответить на любой вопрос? Компьютеры — не глупее, чем мы. Хотя никто не может дать ответы на все вопросы, почему бы не наделить машину способностью к самовоспроизводству и созданию в последующих поколениях все более совершенных устройств, так чтоб приближение к истине становилось сколь угодно более точным?

4. Хотя компьютеры и могут производить мысли или суждения, они не могут ощущать того, что произвели. Они не могут испытывать удовольствия от успеха, сожаления о своих ошибках и разочарования, когда не получают желаемого.

Возражение. Единственный способ убедиться, имеет ли компьютер чувства, заключается в том, чтобы стать им. Более практичен был бы эксперимент по созданию компьютера, способного поэтапно объяснить ход своих рассуждений, побуждений и указывать на препятствия, которые приходится преодолевать, — а также анализировать эмоционально насыщенную информацию — например, поэзию. Очевидно, что такая машина уже не сможет просто "казаться" мыслящей. Ей придется быть таковой.