Элиезер Юдковский - Гарри Поттер и методы рационального мышления

На самом деле, сказал Гарри, во многом именно из-за этого и существуют правительства — тебе может быть лучше, если ты у кого-то украдёшь, как и любому из заключённых по отдельности будет лучше, если он предаст другого заключённого. Но если так будет думать каждый, в стране наступит анархия и всем будет хуже, как и в случае, если предательство совершат оба узника. Поэтому люди и позволяют правительствам собой управлять, поэтому Пожиратели Смерти и позволяли Тёмному Лорду иметь над собой власть.

(Драко снова попросил Гарри остановиться. Драко всегда считал само собой разумеющимся, что честолюбивые волшебники стремятся к власти потому, что хотят власти, а прочие люди позволяют над собой властвовать потому, что они пугливые пуффендуйчики. Поразмыслив, Драко решил, что так всё и есть, но точка зрения Гарри весьма занимательна, даже если и не верна.)

Но, продолжил Гарри, страх перед наказанием от третьих лиц — не единственный способ разрешить дилемму заключённого.

Предположим, сказал Гарри, что ты играешь в эту игру с точной волшебной копией самого себя.

Драко сказал, что если бы существовало два Драко, то ни один из них, несомненно, не пожелал бы зла другому, не говоря уже о том, что ни один Малфой не захочет прослыть предателем.

Гарри снова кивнул, заметив, что это ещё одно решение дилеммы заключённого: люди могут выбрать молчание либо потому, что хорошо друг к другу относятся, либо из благородных побуждений, либо из-за желания не портить себе репутацию. На самом деле, объяснил Гарри, классическую дилемму заключённого соорудить не так просто — в реальной жизни людям обычно или не наплевать на других людей, или они заботятся об общественном мнении, или боятся наказания Тёмного Лорда. Словом, их беспокоит не только срок заключения. Но если взять копию человека абсолютно эгоистичного...

(в качестве примера они использовали Панси Паркинсон)

…тогда обе Панси будут беспокоиться только о том, что случится с ней самой, а не с другой Панси.

Учитывая, что больше Панси ничего не заботит... и что Тёмного Лорда нет... и что Панси плевать на репутацию... и что у Панси либо отсутствует благородство, либо она не считает себя ничем обязанной другому заключённому... каким тогда будет самый рациональный поступок с точки зрения Панси — молчать или предать?

Некоторые, сказал Гарри, утверждают, будто самый рациональный поступок для Панси — предать свою копию, но Гарри, плюс некто по имени Дуглас Хофштадтер, считают иначе. Ведь если Панси предаст — не из-за какой-нибудь случайности, а целенаправленно, потому что считает это разумным, — тогда и другая Панси сделает точно так же. Две идентичных копии не могут прийти к разным выводам. Поэтому Панси делает выбор между миром, где обе Панси решат молчать, и миром, где обе Панси предадут, и ей будет лучше, если обе Панси будут молчать. К тому же, если бы Гарри думал, что «рациональные» люди и в самом деле предают в дилемме заключённого, он бы и пальцем не пошевелил, чтобы распространять подобную «рациональность», потому что стране или заговору, в котором полно таких «рациональных» людей, суждено распасться. Своим врагам нужно рассказывать о подобной «рациональности».

Это прозвучало убедительно тогда, но сейчас у Драко появилась мысль, что...

— Ты сказал, — начал Драко, — что рациональное решение дилеммы заключённого — молчать. Но тебе же выгодно, чтобы я так думал, правда?

И если Гарри удастся одурачить Драко, то Гарри потом скажет: «Ха-ха, снова тебя предал!» — и посмеётся над ним, и будет прав.

— На наших уроках я никогда не лгу, — серьёзно ответил Гарри. — Но вынужден напомнить: я не говорил, что ты обязан без раздумий выбирать молчание. Не в классической дилемме заключённого вроде этой. Я сказал, что когда ты делаешь выбор, не следует думать, что ты решаешь только за себя, или что ты решаешь за всех. Нужно думать, что ты решаешь за всех тех, кто достаточно похож на тебя, чтобы скорее всего сделать такой же выбор по таким же причинам. А также — что ты решаешь, какие предположения будут делать те, кто тебя достаточно хорошо знает, чтобы правильно предсказывать твои поступки. Тогда тебе никогда не придётся сожалеть о том, что ты рационален, из-за правильных предположений, которые делают другие люди — напомни когда-нибудь рассказать про Парадокс Ньюкома. Итак, вот какой вопрос ты себе должен задать, Драко: достаточно ли мы схожи, чтобы сделать одинаковый выбор, каким бы он ни был, по схожим причинам? И знаем ли мы друг друга достаточно хорошо, чтобы делать правильные предсказания — смогу ли я предсказать, поможешь ты или предашь, и сможешь ли ты предсказать, что я решил сделать то, что, по моему предположению, будешь делать ты, так как я знаю, что ты можешь предсказать это моё решение?

...И Драко не мог не подумать, что, раз он с трудом понимает даже половину всего этого, ответ, очевидно, «Нет».

— Да, — сказал Драко.

Воцарилась тишина.

— Понятно, — разочарованно протянул Гарри. — Ну ладно. Похоже, придётся найти какой-нибудь другой способ.

Драко и не думал, что это сработает.

Драко и Гарри обговорили этот вопрос вдоль и поперёк. Оба давно согласились, что сделанное на поле боя не считается предательством в реальной жизни — хотя Драко и был немного зол за то, что Гарри сделал в кабинете профессора Квиррелла, о чём и сказал.

Но если они не могли рассчитывать на честь или дружбу, оставался вопрос — как заставить армии работать вместе и победить Солнечных, несмотря на все попытки Грейнджер внести смуту в их ряды? С текущими правилами было невыгодно позволять Солнечным убивать солдат другой армии — это только поднимет планку, которую надо будет преодолеть самим — но вот красть попадания друг у друга, вместо того чтобы действовать сообща, как одна армия, а то и под шумок убивать солдат союзника — было выгодно...

* * *

Гермиона возвращалась в спальню Когтеврана, полностью погружённая в свои мысли. Её голова была забита войной, предательствами и другими неподобающими для девочки её возраста вещами. Поэтому в какой-то момент, завернув за угол, она врезалась в кого-то из взрослых.

— Простите, — на автомате сказала Гермиона. После чего подняла глаза и взвизгнула от неожиданности.

— Не беспокойтесь, мисс Грейнджер, — на лице ДИРЕКТОРА ХОГВАРТСА сияла жизнерадостная улыбка, в уголках глаз поблёскивали весёлые искорки. — Вы полностью прощены.

Гермиона не могла отвести взгляд от доброго лица самого могущественного волшебника в мире, верховного чародея Визенгамота и председателя Международной Конфедерации Магов, который давно сошёл с ума от тягот борьбы с Тёмным Лордом. В её голове всплывали эти и другие многочисленные факты, но ей всё никак не удавалось произнести хоть что-то, кроме нескольких нечленораздельных звуков.