Сценарии будущего. Как жить и работать в мире, захваченном нейросетью и роботами - Руслан Геннадьевич Юсуфов
К опасениям ученых присоединяются религиозные и гуманитарные лидеры. Ежегодное послание Папы Римского от 1 января 2024 года полностью посвящено искусственному интеллекту и социальным последствиям его внедрения с учетом таких человеческих ценностей, как сострадание, милосердие и прощение. В нем перечислялось, пожалуй, все многообразие гуманитарных вопросов, порожденных технологиями: извлечение данных из цифровых следов, контроль над мыслительными и межличностными привычками людей в коммерческих и политических целях, ограничение свободы выбора, проблемы «галлюцинаций» ИИ, вызовы для образования и международного права и, разумеется, использование технологий в военных целях.
Ватикан отдельно подчеркивает риск попадания под «диктатуру технологий», которая приведет к запредельному неравенству и скоплению знаний и богатства в руках немногих. Кроме очевидно гуманитарного призыва Папы Римского рассматривать научно-технический прогресс как путь к миру, в послании явно прослеживается желание Ватикана присутствовать за столом, где принимаются решения в области технологий, – прямо скажем, не самой первой компетенции любой церкви.
Риски для человека и человечества вызывают необходимость антропоцентричного и превентивного регулирования, чтобы этические и нормативно-правовые вопросы решались еще до появления релевантных им технологий, а сам прогресс, нацеленный на благополучие людей, мог замедляться и ограничиваться. В антропоцентричном обществе все изобретения направлены прежде всего на улучшение условий жизни людей и их развитие, а разработка любой инновации опирается на человека и общество, руководствуясь идеями гуманизма.
Все технические замыслы и нововведения до их публичного релиза должны проходить многоэтапную апробацию, тестируясь на безопасность и соответствие гуманистическим принципам. Если есть сомнения в человекоцентричности инновации или продукта, то он никогда не будет выпущен, невзирая на экономическую целесообразность, прагматизм и эффективность. Да, в таком обществе технологии внедряются дольше, а научно-технический прогресс замедляется, зато возникает меньше рисков и непредвиденностей в долгосрочном периоде.
Антропоцентризм через запреты, аудиты и бесконечные этические комитеты ограничивает инновации как самое простое решение управления рисками: нет инноваций – нет рисков. Замедление или остановка технического прогресса могут привести к стагнации с последующим кризисом человечества. Даже для поддержания текущего уровня благополучия необходимо развивать промышленность, экономику и фундаментальную науку, а последствия отказа от развития могут быть опаснее тех вызовов, которые создает техноцентризм. Пытаясь снизить риски применения технологий, антропоцентристы ограничат и возможности прогресса, которые могут повысить качество жизни и обеспечить благополучие человека.
Кроме того, из-за двойного характера сквозных технологий торможение прогресса означает проигрыш в гонке вооружений, угрозу государственному суверенитету и возможную вассализацию по отношению к технологическим лидерам. Вероятно, большинство из них должны декларировать и применять антропоцентричный подход к подрывным инновациям наряду с введением определенных наднациональных ограничений, по аналогии с нынешними запретами на разработку и применение некоторых видов оружия или вмешательство в геном человека, евгенику и селекцию.
Наконец, антропоцентризм также неоправданно дискриминирует альтернативные пути развития: ставя человека превыше всего, он сводит роль окружающей среды и нечеловеческих существ к инструментальным средствам.
Возможный сценарий «Техноэнвайронментализм»
Индивидуализм – Антропоцентризм
2025 год – Транснациональные корпорации вносят принципы ESG в процесс разработки и внедрения технологий.
2026 год – Искусственный интеллект применяют для оптимизации использования ресурсов и сокращения отходов.
2027 год – Доступ к интернету признан базовым правом человека и обеспечивается повсеместно.
Гражданское общество контролирует развитие и внедрение технологий для защиты прав человека, а их ответственная разработка стала частью политики ESG транснациональных корпораций. С ростом спроса формируются новые прибыльные направления бизнеса и популярные специальности: исследование этики ИИ, аудит систем по сбору и хранению данных, оценка ущерба от некорректного внедрения технологий.
2028 год – Блокчейн обеспечивает прозрачность цепочек поставок и происхождения продуктов.
2029 год – Технологии виртуальной реальности устраняют барьеры и неравенство в образовании на глобальном уровне.
2030 год – ИИ играет ключевую роль в городском планировании с учетом устойчивого развития.
Появляются международные и децентрализованные институты для поиска консенсуса между участниками-индивидами и идеологами нового порядка, которые проводят сбор средств и дальнейшее лоббирование максимально ответственного использования технологий. Технологии становятся движущей силой устойчивого развития и социальной справедливости. Целенаправленное регулирование и ESG-политика корпораций обеспечивают применение инноваций на благо человека и планеты. Хотя разработка и внедрение технологий стали медленнее и дороже, зато замедление технологического прогресса окупается меньшими затратами на управление непредсказуемыми рисками.
2031 год – Нейроинтерфейсы «мозг-компьютер» расширяют возможности людей с ограниченными возможностями.
2032 год – Доминирование полностью автономных электромобилей приводит к значительному сокращению дорожно-транспортных происшествий.
Запрос общества на устойчивость стимулирует восстановление экосистем и снижает загрязнение окружающей среды до минимума, а фокус на благополучии человека позволяет победить множество болезней, благодаря 3D-печати органов и регенеративной медицине. Персонализированная медицина на основе ИИ и геномики становится нормой. Государства предотвращают большинство конфликтов благодаря глобальному сотрудничеству на основе предиктивного ИИ. С помощью кооперации общество преодолевает ключевой экзистенциальный вызов: ИИ становится не конкурентом, а дополнением человеческого интеллекта. Формируются главные ценности общества: личное развитие и реализация потенциала человека.
Глава 9
Прозрачность или анонимность?
Как будет обеспечиваться доверие: тотальной прозрачностью всех процессов для каждого стейкхолдера (все будут знать все обо всех) или альтернативной технологической инфраструктурой общества, построенной на принципах конфиденциальности и обеспечивающей доверие при сохранении анонимности?
Игра на раздевание с незнакомцами
Сейчас ты меня видишь, а сейчас – нет. Разрушаю стены, я выхожу. Не заключенный, я – свободный человек.
Iron Maiden «The Prisoner», альбом «The Number of the Beast», студия EMI, 1982
Опыт Facebook доказывает, что можно быть ценным для общества, но при этом совершенно антиутопическим инструментом. Компания переименовалась в Meta и сделала ставку на метавселенную по двум причинам:
1. Смена бренда – отличный PR-ход, чтобы отвлечь внимание от реальных проблем с безответственной эксплуатацией и торговлей персональными данными пользователей, вторжением в их личное пространство, многочисленными правовыми и этическими нарушениями и вопиющим пренебрежением элементарным человеческим достоинством.
2. Сеть стремительно теряет молодых пользователей, уступая
