На краю пропасти. Экзистенциальный риск и будущее человечества - Тоби Орд
Моя книга не сводится к хорошо известным историям об опасностях изменения климата и ядерной войны. Именно эти риски впервые показали нам, что мы можем уничтожить самих себя, но ими дело не ограничивается. Появляются новые риски, например связанные с биотехнологиями и продвинутым искусственным интеллектом, и вполне возможно, что в грядущем столетии они будут представлять гораздо большую опасность для человечества.
Наконец, эта книга далека от пессимизма. В ней не говорится, что кульминацией текущего витка истории непременно станет наша гибель. Ее никак не назвать нравоучительной историей о нашей технологической гордыне и последующем крахе. Вовсе нет. Главная ее мысль заключается в том, что риски для нашего будущего действительно существуют, но у нас есть возможность изменить ситуацию с помощью верных решений. Я полагаю, что мы в силах справиться с задачей – что, делая правильный выбор, мы можем отойти от края пропасти и со временем обеспечить себе поразительно светлое будущее, где нас ждет немыслимое прежде изобилие, к которому мы придем, внедрив еще не предложенные инновации. Именно моим глубоким оптимизмом относительно будущего человечества и объясняется мое стремление написать эту книгу. У нас огромный потенциал. Нам очень многое нужно защитить.
Часть первая
Ставки
Глава 1
На краю пропасти
Возможно, это типичная последовательность, через которую проходят многие миры. Молодая планета безмятежно обращается вокруг своей звезды; медленно развивается жизнь; на планете появляются, калейдоскопически сменяя друг друга, разнообразные существа; возникает разум, который, как минимум до определенного момента, крайне способствует выживанию; затем совершенствуются технологии. Разумных существ осеняет, что существуют законы природы, что эти законы можно открыть путем эксперимента и что знание этих законов позволяет как спасать, так и отнимать жизнь, причем в беспрецедентных масштабах. Наука – осознают эти существа – дает невероятное могущество. Они мигом создают инструменты для изменения миров. Некоторые планетарные цивилизации способны спланировать будущее, определиться с тем, что можно сделать и чего делать нельзя, поэтому спокойно проходят период невзгод. Другие, менее благоразумные или менее везучие, исчезают.
Карл Саган[9]
Мы живем в период, исключительно важный для будущего человечества. Чтобы понять почему, нам нужно сделать шаг назад и окинуть взглядом всю человеческую историю: понять, как мы добрались до этой точки и куда можем пойти дальше.
Основное внимание мы уделим растущей мощи человечества, которое может как улучшить свое положение, так и нанести себе вред. Мы увидим, как ключевые переходные моменты в человеческой истории сделали нас могущественнее и позволили нам добиться необычайных успехов. Если нам удастся избежать катастрофы, можно осторожно надеяться, что прогресс продолжится: сознательное человечество ждет поразительно светлое будущее. Но растущая мощь ведет также к новому переходному моменту, ничуть не менее значительному, чем предыдущие, и это переход к нашему времени опасностей.
Что было раньше
Лишь небольшая часть истории человечества уже рассказана, поскольку лишь небольшая ее часть вообще может быть рассказана. Наш вид Homo sapiens появился в саваннах Африки 200 тысяч лет назад[10]. На протяжении почти непредставимого времени мы переживали огромную любовь и дружбу, страдали от тягот и печалей, исследовали, творили и размышляли о своем месте во Вселенной. И все же, задумываясь о великих достижениях человечества, мы, как правило, вспоминаем исключительно о делах, записанных на глине, папирусе и бумаге, но этим записям не более 5000 лет. Мы редко думаем о человеке, который около 70 тысяч лет назад первым ступил на землю странного нового мира в Австралии; о человеке, который раньше всех стал называть и изучать растения и животных всех мест, куда мы добирались; о рассказах, песнях и стихах, сложенных на заре человечества[11]. Между тем эти достижения были реальными и выдающимися.
Мы знаем, что даже до появления сельского хозяйства и зарождения цивилизации человечество оказывало значительное влияние на мир. Применяя простые, но в то же время революционные технологии мореходства, шитья одежды и разведения огня, мы преодолевали большие расстояния, чем любое млекопитающее до нас. Мы лучше приспосабливались к новой среде и в итоге расселились по всему земному шару[12].
Рисунок 1.1. Как мы заселяли мир. Стрелками обозначены сухопутные и морские пути, которыми, как мы полагаем сегодня, следовали наши предки, а цифры говорят, сколько лет назад люди добрались до каждого из регионов[13].
Что делало человечество исключительным даже на столь ранних этапах? Люди не были ни крупнее, ни сильнее, ни крепче других видов. Нас отличали не физические, а умственные характеристики – интеллект, творческие способности и речь[14].
И все же, даже обладая этими уникальными умственными способностями, один в пустыне человек не добился бы ничего особенного. Возможно, он сумел бы выжить, компенсируя недостаток физической силы интеллектом, но вряд ли занял бы господствующее положение. С точки зрения экологии примечателен не человек, а человечество.
Способность отдельного человека к кооперации с десятками других людей из его окружения оказалась уникальной в среде крупных животных. Она позволила нам сформировать нечто большее, чем мы сами. По мере того как наш язык становился все более выразительным и абстрактным, мы научились группироваться с максимальной пользой, объединяя наши знания, идеи и планы.
Особенно важно, что мы могли сотрудничать друг с другом, преодолевая время, а не только пространство. Если бы каждому поколению приходилось учиться всему заново, то нам никогда не удалось бы создать даже такое техническое новшество, как железная лопата. Однако мы учились у предков, внедряли собственные небольшие инновации и передавали опыт детям. Мы сотрудничали не с десятками, а с десятками тысяч человек, связывая поколения, сохраняя и развивая идеи на протяжении времен. Мало-помалу объем наших знаний рос, а культура развивалась[15].
В долгой истории человечества было несколько переходных периодов: занятия человека менялись, в результате чего его влияние росло гораздо быстрее, что сказывалось на всех последующих событиях. Я опишу три важных перехода[16].
Первым стала неолитическая революция[17]. Около 10 тысяч лет назад люди, жившие в Плодородном полумесяце на Ближнем Востоке, начали культивировать дикую пшеницу, ячмень, чечевицу и горох, чтобы
