Марвин Мински - Выбор по Тьюрингу

– Простите. Я отвлекся, это со мной бывает. Пожалуй, я выпью с тобой пива, Бен.

Пока Бен заказывал пиво, Брайан попытался привести в порядок свои мысли и чувства. Капитан – совсем не Ким, которая к этому времени, вероятно, растолстела, постарела, вышла замуж и родила пятерых детей. Надо о ней забыть. При этой мысли он улыбнулся и сделал глубокий вдох. Начать жизнь заново, забыть о прошлом. Он повернулся к Шелли.

– Я не знаю, с чего начать. Пожалуй, с того, что мне может понадобиться помощь в одной разработке, за которую я скоро возьмусь. Вы мне не расскажете о своей работе? Чем вы сейчас занимаетесь?

– В подробностях рассказать не могу, потому что все, над чем я работаю, засекречено. Но программа в целом открыта, и о ней рассказать нетрудно. Она была предпринята потому, что у современных военных самолетов слишком велика скорость – скорость реакции пилота уже недостаточна, и к тому же приборы стали слишком сложными. Если бы пилоту приходилось самому следить за всеми электронными системами, у него совсем не осталось бы времени управлять самолетом. Чтобы помочь пилоту, постоянно разрабатываются и совершенствуются экспертные системы, которые берут на себя как можно больше его функций. Это очень интересная работа.

Голос у нее был низкий, с едва заметной хрипотцой. Говорила она уверенно, сидя прямо на краешке стула и держа руки на коленях. Если кто и испытывал смущение, то не она, а Брайан. Своего будущего помощника он представлял себе несколько иначе.

– А вы когда-нибудь занимались искусственным интеллектом? – спросил он.

– В общем, нет. Если не считать частью такой работы разработку экспертных систем. Но я слежу за тем, что делается в этой области, потому что кое-что из этого я могу использовать у себя.

– Это даже к лучшему. Я предпочитаю вас учить, а не переучивать. Вам говорили, в чем будет состоять работа?

– Нет. Я знаю только, что это что-то важное и имеет отношение к искусственному интеллекту. Мистер Беникоф говорил еще, что здесь замешан промышленный шпионаж. Он стремился в первую очередь дать мне понять, с чем я могу здесь столкнуться в смысле собственной безопасности. Он дал мне прочесть копию своего доклада о том нераскрытом преступлении. И еще сказал, что с тех пор на вас было совершено еще несколько покушений и что, если я буду работать здесь, это связано с некоторым риском. Он хотел убедиться, что я отдаю себе в этом отчет, прежде чем вообще предложил мне эту работу.

– Я рад, что он это сделал. Потому что есть большая вероятность, что вам будет грозить физическая опасность.

На ее лице, до сих пор хранившем строгое выражение, впервые появилась улыбка.

– Офицер военно-воздушных сил должен быть в любой момент готов к бою. Когда я родилась, Израиль все еще представлял собой вооруженный лагерь. Мои отец и мать воевали, как и все остальные. Когда мне было шесть лет, наша семья эмигрировала в Америку, так что мне повезло – я выросла в мирной стране. Но мне хотелось бы думать, что их мужество и стойкость отчасти передались и мне.

– Наверняка передались, – сказал Брайан, улыбнувшись в ответ. Шелли начинала ему нравиться, и ее уверенность в себе тоже. Но он еще не решил, хочет ли вообще работать с женщиной, как бы высока ни была ее квалификация. Ему по-прежнему мешали воспоминания о Ким. Но если Шелли годится на то, чтобы разрабатывать экспертные системы для авиации, вполне возможно, что от нее будет толк. А то, что она никогда не занималась искусственным интеллектом, говорило только в ее пользу. У некоторых ученых рано или поздно появляются шоры на глазах: они считают, что их подход к проблеме – единственно возможный, даже если доказано, что он неверен. Придется просто постараться забыть о том, что она женщина. Он повернулся к Бену:

– Могу я кое-что рассказать Шелли о том, что делаю? Она имеет право знать, о чем идет речь, прежде чем примет решение.

– Капитан имеет допуск к совершенно секретным материалам, – сказал Бен. – Ответственность я беру на себя. Можешь рассказать ей все, что считаешь нужным.

– Ну хорошо. Шелли, я занимаюсь разработкой искусственного интеллекта. Но не такой программы, какие называют искусственным интеллектом сейчас. Это будет действительно полноценный, эффективный, самостоятельный и работоспособный искусственный разум.

– Но как вы сможете создать машину, обладающую разумом, если не знаете в точности, что такое разум?

– Построив такую машину, которая удовлетворит критерию Тьюринга. Вы, конечно, знаете, что это такое. Одного человека сажают за один терминал, другого за другой, и они общаются между собой. Можно задавать бесконечное множество вопросов и получать на них ответы, пока человек за одним терминалом не убедится, что за другим тоже сидит человек. И вы должны знать, что в истории искусственного интеллекта известно множество программ, которые не прошли этого испытания.

– Но это же просто фокус, чтобы убедить кого-то, что машина наделена индивидуальностью. Он все равно не дает определения разума.

– Верно, но как раз это и имел в виду Тьюринг. Нет никакой необходимости в таком определении, оно нам вообще не нужно. Нельзя дать определения предмету, определять можно только слова. Мы считаем, что человек разумен, если видим, что он способен хорошо решать задачи, или обучаться новым навыкам, или делать то, что делают другие люди. В конце концов, единственный критерий, по которому мы считаем других людей разумными, – это то, что они ведут себя как разумные люди.

– Но разве не может нечто обладать интеллектом и в то же время думать совершенно не так, как человек? Например, дельфин или слон?

– Конечно – и можете называть их разумными, если хотите. Но для меня слово «разум» – это просто способ обозначать все те вещи, которые я хотел бы уметь делать лучше и которые, как я надеюсь, сможет делать наш будущий искусственный интеллект. Трудность в другом – я пока еще не знаю, что это должны быть за вещи. А смысл тех двух терминалов всего лишь в том, что не имеет значения, как выглядит это нечто, лишь бы оно отвечало на все вопросы, которые ему задают, и отвечало так, чтобы его ответы нельзя было отличить от ответов человека. Простите за длинную лекцию и за то, что я рассказываю вам вещи, которые вы уже знаете. Но я хочу создать искусственный интеллект, который пройдет это испытание. И я задаю вам вопрос – согласны ли вы помочь?

Впервые за все время разговора на лице Шелли появились признаки волнения, и она стала больше похожа на женщину, чем на офицера. Она слушала Брайана с широко раскрытыми глазами, подперев подбородок рукой и недоверчиво качая головой.

– Я понимаю, что вы говорите, хотя все это звучит абсолютно невероятно и в то же время страшно интересно. Вы хотите сказать, что создаете машину, которую я сочла бы разумной?