Бог, человек, животное, машина. Технология, метафора и поиск смысла - Меган О'Гиблин
Именно Книга Иова окончательно поставила меня на грань сомнений. Эту книгу часто хвалят за ее литературные качества, но когда вас заставляют читать ее буквально, трудно не заметить ее фундаментальную жестокость. Бог обрушивает на Иова все несчастья: Воры крадут его скот и казнят слуг. Буря обрушивает крышу дома, где пировали его дети, и убивает их всех. Когда Иов все еще скорбит, Бог вызывает у него ужасные нарывы по всей коже. Друзья Иова настаивают на том, что он совершил нечто, заслуживающее такого наказания - правосудие Бога совершенно, говорят они, он не совершает ошибок, - но Иов утверждает, что он невиновен. Гуманист во мне не мог не видеть в нем героя. На протяжении всей кровавой каторги Ветхого Завета он один задает вопрос, который кажется очевидным современному читателю: Какова цель Бога? Является ли его воля истинно доброй? Действительно ли справедливо его правосудие? Иов берет на себя роль прокурора, требуя, чтобы Бог ответил за себя. Бог послушно предстает перед судом, но лишь для того, чтобы унизить Иова демонстрацией божественного превосходства: Где ты был, когда я закладывал основание земли? гремит он, а затем задает целый ряд вопросов, на которые не может ответить ни один человек. Знаешь ли ты время, когда рожают горные козы? Входил ли ты в хранилища снега? Входили ли вы в морские источники или ходили ли по глубинам? Вопросы продолжаются и продолжаются, рисуя огромную и причудливую вселенную, управляемую законами, которые далеко не подвластны человеческому пониманию. Иов настолько ошеломлен, что, кажется, на мгновение сомневается в собственной невиновности и, возможно, в своей способности рассуждать. "Поэтому я объявил то, чего не понимал", - говорит он, - "вещи слишком удивительные для меня, которых я не знал".
Но все это было явной ложью. Причина его несчастий не была непостижимой. Она содержится в предисловии к книге, написанном на чистом английском языке. Сатана поспорил, что Иов откажется от своей веры, если будет достаточно сильно страдать, и Бог, будучи хорошим спортсменом, принял ставку. Именно этому Богу - божеству, готовому играть в игры со своими подданными, казалось бы, ради собственного развлечения, - Кальвин настаивал, что мы должны повиноваться, "не спрашивая причины". В какой-то момент поневоле задумываешься, может ли разум, столь далекий от человеческой природы, действительно заботиться о наших интересах.
-
В 1964 году Норберт Винер опубликовал "Бог и Голем, Инк.", тонкую и чрезвычайно странную книгу о том, как новые технологии поднимают вопросы, которые по сути являются религиозными. Один из таких вопросов возник в области машинного обучения, того вида ИИ, который "учится или, как кажется, учится", как выразился Винер, на основе своего опыта в мире. Винер писал в то время, когда компьютеры только начинали играть в игры против своих создателей-людей. Большинство этих машин играли в шашки, а некоторые были обучены игре в шахматы, хотя и не очень хорошо. Но уже тогда Винер видел проблески того, чем эти машины могут стать в один прекрасный день. Один из таких компьютеров, играющих в шашки, известный как машина Сэмюэля, на короткое время смог победить своего изобретателя. В конце концов инженер разгадал стратегию компьютера и смог вернуть себе преимущество, но это поставило вопрос о том, может ли машина перехитрить инженера, который ее создал. По мнению Винера, это был неявный теологический вопрос. В иудео-христианской традиции принято считать, что создатель всегда сложнее и могущественнее своего творения.
Но Винер отметил, что из этого правила есть исключения - одно из них произошло в Книге Иова. Он имел в виду предисловие к книге, где Бог заключает с сатаной пари за душу Иова. "Согласно ортодоксальным иудейским и христианским взглядам, дьявол - одно из созданий Бога..." пишет Винер. "Такая игра на первый взгляд кажется жалким неравным состязанием. Играть в игру со всемогущим и всеведущим Богом - это поступок глупца". Но он утверждает, что поражение Сатаны ни в коем случае не было неизбежным или предопределенным.
Конфликт между Богом и Дьяволом - это реальный конфликт, и Бог не так уж и всемогущ. Он фактически вовлечен в конфликт со своим созданием, в котором вполне может проиграть. И все же его творение создано им по его собственной свободной воле и, казалось бы, должно получать все свои возможности действия от самого Бога. Может ли Бог играть со своим созданием в значимую игру? Может ли любой творец, даже ограниченный, играть в значительную игру со своим собственным созданием?
Для Винера ответ был положительным - по крайней мере, когда речь шла о машинном обучении. Эти модели были запрограммированы не на оптимальные ходы, а на очень ограниченное понимание игры и ее правил. Машина делала различные ходы без долгих раздумий, а затем записывала результат каждого из них в свою память. Каждому из этих прошлых решений присваивался определенный вес в зависимости от его полезности - способствовало ли оно победе, - и этот "опыт" предыдущих результатов использовался для постоянного совершенствования стратегии. Другими словами, он учился во многом так же, как и люди, - методом проб и ошибок. В некоторых случаях, отметил Винер, эти решения машины казались интуитивными и даже демонстрировали "сверхъестественную ловкость". Со временем стало очевидно, что машина развила новые способности, которые не могли быть объяснены ее конструкцией. "Создавая машины, с которыми он играет в игры, изобретатель присваивает себе функцию ограниченного творца..." заключил Винер. "Это особенно верно в случае игровых машин, которые учатся на опыте". Алан Тьюринг высказал практически ту же мысль в 1951 году: "Представляется вероятным, что, начав использовать метод машинного мышления, он не займет много времени, чтобы превзойти наши слабые способности".
В 1994 году компьютерная программа обыграла чемпиона мира по шашкам. Два года спустя Deep Blue обыграла Гарри Каспарова в шахматы. В 2011 году компьютер Watson от IBM выиграл в "Jeopardy!", практически уничтожив двух многолетних чемпионов шоу. Но ни одна из этих побед не подготовила никого к тому, что произошло в 2016 году в Сеуле. Той весной на шестом этаже отеля Four Seasons собрались сотни людей, чтобы посмотреть, как Ли Седоль, один из ведущих чемпионов мира по игре в го, играет с AlphaGo, алгоритмом, созданным компанией DeepMind, принадлежащей Google. Го - древняя китайская настольная игра,
