Глубокая утопия. Жизнь и смысл в решенном мире - Ник Бостром
Хорошо, допустим, у нас есть большая куча ресурсов. Что мы можем с ними сделать?
В настоящее время наши возможности весьма ограничены. Многое мы просто не умеем делать. Например, мы не можем создать панацею, хотя ее производство, предположительно, не потребовало бы много ресурсов, если бы мы только знали как. Кроме того, нам приходится искать компромисс между различными вещами, которые мы умеем делать, - бюджетные ограничения заставляют нас выбирать несколько вещей из длинного списка желаемого.
Но вопрос, который я хочу рассмотреть, заключается в том, что в конечном счете будет осуществимо, если мы предположим, что все пойдет как по маслу. Здесь пригодится концепция технологической зрелости.
Технологическая зрелость: Состояние, при котором существует набор возможностей, обеспечивающих уровень контроля над природой, близкий к максимальному, который может быть достигнут в течение всего времени.
В состоянии технологической зрелости наша цивилизация будет иметь доступ к набору чрезвычайно мощных технологий. Мы не знаем точно, что это за технологии, поскольку могут существовать технологии, о которых мы еще не думали или не представляли, что они могут быть реализованы в нашей вселенной.
Однако что мы можем сделать, так это установить нижнюю границу. Возможности, доступные на этапе технологической зрелости, будут включать в себя, по крайней мере, те, которые обеспечиваются технологиями, которые - хотя в настоящее время у нас может не хватать инструментов или ноу-хау для их создания - мы имеем веские основания считать физически возможными и достижимыми на определенном пути развития. (Мы часто можем получить доказательства того, что та или иная технология в конечном счете осуществима, проведя анализ первых принципов, составив дорожную карту или проведя моделирование, или найдя доказательства существования в биологическом мире).
На втором раздаточном материале я перечислил несколько таких, в конечном счете, осуществимых технологий, которые я рекомендую вам изучить.
ПАМЯТКА 2. НЕКОТОРЫЕ ВОЗМОЖНОСТИ НА УРОВНЕ ТЕХНОЛОГИЧЕСКОЙ ЗРЕЛОСТИ
Производство и робототехника
Высокопроизводительное производство с атомарной точностью
Распределенные робототехнические системы различных масштабов, в том числе с молекулярными исполнительными механизмами
Искусственный интеллект
Машинный сверхинтеллект, значительно превосходящий человеческие способности во всех когнитивных областях
Точная мотивация искусственного интеллекта
Транспорт и аэрокосмическая промышленность
Зонды фон Неймана (самовоспроизводящиеся машины для колонизации космоса, способные перемещаться со скоростью, значительно превышающей скорость света)
Космическая среда обитания (например, терраформирование подходящих планет или свободно плавающие платформы, такие как цилиндры О'Нила)
Сферы Дайсона (для сбора энергии звезд)
Виртуальная реальность и вычисления
Реалистичные симуляции (реальности, которые для обитателей человеческого уровня неотличимы от физической реальности, или богатые мультимодальные альтернативные фантастические миры)
Произвольные сенсорные входы
Компьютерное оборудование достаточной производительности, чтобы земные ресурсы позволили реализовать огромное количество быстрых суперинтеллектов и симуляторов предков
Медицина и биология
Лекарства от всех болезней
Обращение старения вспять
Реанимация крионических пациентов
Полный контроль над генетикой и воспроизводством
Перепроектирование организмов и экосистем
Инженерия разума
Когнитивное совершенствование
Точный контроль гедонистических состояний, мотивации, настроения, личности, концентрации внимания и т.д.
Высокоскоростные соединения мозг-компьютер
Многие формы биологического редактирования мозга
Цифровые разумы, обладающие сознанием, во многих разновидностях
Загрузка биологических мозгов в компьютеры
Датчики и безопасность
Повсеместный мелкозернистый мониторинг и интерпретация мультисенсорных данных в режиме реального времени
Безошибочное воспроизведение критически важных систем управления роботами и ИИ
Согласованные полицейские боты и автоматическое соблюдение договоров
Мы видим, что набор возможностей, доступных в период технологической зрелости, довольно внушителен.
Кто-то может возразить, что идея технологической зрелости плохо продумана, на том основании, что не существует максимального набора технологических возможностей. Как бы далеко мы ни зашли, подумает такой человек, мы всегда можем пойти дальше. Единственные пределы - это пределы нашего творчества и воображения.
Я настроен скептически. Ну, может быть, всегда будет оставаться место для некоторого прогресса, в некоторых все более редких подполях. Но я думаю, что наступит время, после которого любой такой прогресс будет становиться все меньше и меньше, и все менее значительным. Технологическая зрелость не требует, чтобы мы разработали буквально все возможности, которые только возможны; только то, что мы "приблизились" к этой точке.
В любом случае, для нашего исследования не так важно, существует ли максимум. Важно, что существует нижняя граница, которая очень высока и включает в себя по крайней мере возможности, перечисленные в раздаточном материале.
Координация
Существует некоторая неопределенность в отношении возможностей для прогнозирования и стратегических целей на этапе технологической зрелости. Хотя мы можем быть уверены, что как наступательные, так и оборонительные военные технологии будут значительно превосходить нынешние возможности, неясно, как будет выглядеть баланс между наступлением и обороной в результате. Ведь это зависит от относительной степени совершенствования различных возможностей, а это не то, что мы можем определить, установив нижние пределы того, на что способна технологически зрелая цивилизация.
Эти неопределенности потенциально очень важны для того, как будет развиваться будущее. Однако, поскольку наша тема - утопия, они не должны нас здесь волновать. Мы не пытаемся предсказать, что произойдет. Скорее, мы исследуем то, что, как мы можем надеяться, произойдет, если все пойдет хорошо. И мы, конечно, можем надеяться, что даже если окажется, что Вселенная такова, что, например, баланс нападения-обороны или баланс созидания-разрушения неблагоприятен - так что при технологической зрелости гораздо легче нападать и разрушать, чем защищаться, защищать и строить, - негативные результаты все же будут предотвращены. Они могут быть предотвращены нетехнологическими средствами или средствами, которые, во всяком случае, не являются полностью технологическими, такими как моральный прогресс или прогресс в области кооперативных институтов и систем управления.
Технологический прогресс может помочь нам решить многие проблемы координации, которые мучают современные общества. Улучшенное наблюдение может облегчить предотвращение некоторых видов преступлений; детекторы лжи могут помочь в искоренении социально вредного обмана; "договорные боты" могут позволить странам более надежно выполнять обязательства по пактам о ненападении и так далее.
Однако не исключено, что технологический прогресс сделает некоторые проблемы координации более трудноразрешимыми. Системы защищенной связи и репутации могут быть полезны преступным синдикатам; технологии борьбы с беспорядками или автоматизированные средства пропаганды и цензуры могут блокировать неоптимальные политические системы и так далее.
Технологии, которые помогают координации на одном уровне, могут мешать координации на другом уровне. Например, некоторые методы пропаганды и информационные системы могут облегчать координацию внутри групп и затруднять ее между ними. Каждая секта или страна называет взгляды своих противников "дезинформацией" и применяет социальные или правовые механизмы для подавления инакомыслия и обеспечения того, чтобы все дружно маршировали против обозначенного внешнего врага. Такие меры могут усилить координацию на местах, но при этом затруднить достижение глобального мира, гармонии и взаимопонимания.
Достижения в области координации могут
