Глубокая утопия. Жизнь и смысл в решенном мире - Ник Бостром
И Элон Маск в интервью CNBC:
"Как найти смысл жизни, если искусственный интеллект может сделать вашу работу лучше, чем вы сами? Если я буду думать об этом слишком много, то, честно говоря, это будет удручающе и демотивирующе. Потому что я вложил много крови, пота и слез в создание компаний, а потом я думаю: "А должен ли я этим заниматься?". Потому что если я жертвую временем с друзьями и семьей, которое я бы предпочел, то в конечном итоге все эти вещи может сделать ИИ. Имеет ли это смысл? Не знаю. В какой-то степени мне приходится сознательно отстраняться от неверия, чтобы оставаться мотивированным".
Может быть, в каком-то смысле беспокойство о цели - это проблема роскоши? Если так, то можно ожидать, что утопическое процветание увеличит ее распространенность. Но в любом случае, как мы увидим, проблема гораздо глубже, чем просто избыток денег и материальных благ.
Некоторые из моих друзей любят, чтобы существовала модель воздействия - история о том, почему из всех вещей, над которыми можно было бы работать, то, что они предлагают сделать, окажется самым влиятельным и полезным. Они стремятся к наибольшей ожидаемой полезности.
Если бы я попытался написать такую историю для наших сегодняшних событий, она могла бы выглядеть следующим образом. Наша цивилизация, похоже, приближается к критической точке, учитывая грядущее развитие сверхразума. Это означает, что в какой-то момент кто-то из нас или все мы можем оказаться перед выбором, какого будущего мы хотим, причем варианты будут включать в себя очень разные траектории, некоторые из которых приведут нас в радикально незнакомые места. Такой выбор может иметь серьезные последствия. Но, возможно, некоторые из этих выборов должны быть сделаны под давлением времени, потому что мир отказывается ждать, или потому что мы сами с каждой неделей становимся все безумнее, или потому что промедление означает опережение со стороны более решительных игроков, или потому что мы не хотим останавливаться, опасаясь, что потом никогда не сможем начать двигаться снова. Или, возможно, не существует дискретного времени, когда эти решения принимаются, а вместо этого они принимаются и будут приниматься постепенно с течением времени, но таким образом, что более ранние частичные решения ограничивают диапазон более поздних возможных исходов. В любом случае, может оказаться полезным, если вы направите себя в позитивное русло скорее раньше, чем позже. И если в действительности существует отдельный период решающих обсуждений, было бы полезно подготовить к нему подходящий материал - ну, знаете, снабдить участников обсуждений некоторыми соответствующими концепциями и идеями и помочь им настроиться на нужный лад.
Делайте с этой "историей влияния" что хотите. Еще одно возможное объяснение того, почему я читаю эти лекции, заключается в том, что я согласился на это давным-давно, в момент слабости.
Позвольте мне сказать, чем не является этот цикл лекций. Это не попытка "обосновать" что-то. Напротив, это исследование. При изучении такой глубокой и сложной темы, как та, что находится перед нами, хочется привлечь внимание к множеству соображений, проследить различные направления мысли, приложить руку к конкурирующим оценочным концепциям, позволяя ощутить притяжение каждой мысли и каждой склонности как можно острее и сочувственнее. Не стоит преждевременно отвергать естественную перспективу, даже ту, от которой в итоге придется отказаться. Ведь ценность мнения в подобном вопросе зависит от того, насколько великодушно человек позволил альтернативам играть со своей душой.
Стены из сосисок
Сначала рассмотрим самый простой вид утопии: утопию материального изобилия.
Примером этой утопической концепции является миф о Кокейне, или Стране изобилия. Он был важной частью средневекового воображения и часто находил отражение в народном искусстве и письменности, а также в устной традиции:
"Целый день ничего не делается,
Любой человек - старый, молодой, слабый или сильный.
Там никто не испытывает дефицита;
Стены сделаны из сосисок".
Кокейн - это, по сути, мечта средневекового крестьянина. В стране Кокейн нет изнурительного труда под палящим солнцем или в ночную стужу. Нет черствого хлеба, нет лишений. Вместо этого, как нам говорят, вареная рыба выпрыгивает из воды, чтобы приземлиться у ног человека; зажаренные свиньи ходят с ножами в спине, готовые к разделке; сыры сыплются с неба. По земле текут реки вина. Здесь вечная весна, прекрасная и мягкая погода. Вы зарабатываете деньги, пока спите. Сексуальные табу были ослаблены - мы находим описания монахинь, перевернутых вверх ногами и показывающих свою нижнюю часть. Болезней и старения больше нет. Непрерывные пиры, много танцев и музыки, а также много времени для отдыха и расслабления.
Подобные фантазии встречаются и во многих других традиционных обществах. Например, в классической древности Гесиод писал о счастливых жителях воображаемого ранее Золотого века:
"И жили они как боги, ни о чем не заботясь,
Ничего общего с тяжелой работой или горем,
И жалкой старости для них не существовало.
От пальцев до пальцев ног они никогда не старели,
И наступили хорошие времена. А когда они умерли
Казалось, что сон просто сгреб их.
У них было все хорошо. Земля приносила им плоды.
Все свое, и много чего еще. Веселый народ..."
Во многих отношениях мы сейчас живем в Золотом веке, или в Кокейне, или в Авалоне, Счастливом охотничьем угодье, Земле предков, Острове блаженных, Цветущем персиковом источнике, Большой скале Конфетной горы. "Мы" здесь, конечно, не включает в себя те сотни миллионов людей, которые до сих пор живут в крайней нищете, а также подавляющее большинство сельскохозяйственных и диких животных. Но если мы используем термин "мы" для обозначения людей в этой комнате (мы, счастливые немногие), то, кажется, будет справедливо сказать, что с нашими переполненными холодильниками и круглосуточными службами доставки мы на самом деле достигли довольно хорошего приближения к жареным свиньям, разгуливающим по улицам, и вареным рыбам, прыгающим к нашим ногам. Мы также добились вечной весны - по крайней мере, в наших кондиционированных зданиях и транспортных средствах. Фонтан молодости еще предстоит найти, но болезни значительно сократились, а продолжительность жизни увеличилась. Кроме того, я знаю, что если кто-то хочет посмотреть на женские попки, в том числе на попки явных монахинь, то поиск в Интернете не разочарует.
Тем не менее, мы по-прежнему много работаем. Наша работа в целом менее изнурительна, чем у средневековых крестьян, но все же немного удивительно, что мы продолжаем работать столько часов, сколько работаем.
Предсказание Кейнса
Это утопическое видение Кокейна предвосхищает концепцию прогресса, которую мы находим в современной экономике. В последней идеал выражается более абстрактным лексиконом "производительности", "дохода" и "потребления", а
