Сценарии будущего. Как жить и работать в мире, захваченном нейросетью и роботами - Руслан Геннадьевич Юсуфов
Откроются возможности протезирования, ранней диагностики и лечения различных форм паралича, заболеваний периферической и центральной нервной системы. Возможно, даже появятся устройства, которые позволят осваивать различные знания и навыки, записанные на специальных чипах, в том числе на базе ИИ-моделей. В общем, думать мы будем быстрее, но не все, а только некоторые. Интересно, какого процента внедренных устройств и функций будет достаточно, чтобы называть себя киборгом?
Дешевеющие нейроимпланты и повсеместное проникновение искусственного интеллекта позволят одному человеку собственными усилиями обеспечивать целую компанию, масштабы которой зависят только от принятых им решений и его собственного желания – такой управленец сможет контролировать десятки и сотни рабочих мест, включая автономные. С учетом подрывного потенциала подобных технологий (и нашей готовности купить все, что продает Илон Маск) возникает несколько вопросов:
1. А что, если «доступ 24/7» станет буквальным: к менеджеру по работе с клиентами можно будет подключиться прямо в мозг и спросить, где обещанная доходность по портфелю ценных бумаг?
2. А что, если корпорации будут обеспечивать сотрудников подобными устройствами? Устроился на работу – получил чип с нужными навыками, уволился – поглупел обратно.
3. А что, если богатые корпорации смогут нанимать аугментированных людей, а бедные – нет? Как развивать бизнес, если конкуренты опережают на уровне когнитивных способностей?
4. А раз человек с нейроинтерфейсом по когнитивным способностям будет значительно отличаться от обычного, то как правильно подбирать обслуживающий персонал к разным категориям?
5. Наконец, какое сопровождение нужно «обычному» человеку, чтобы его не обманул человек на нейромаксималках?
Пэтри Фридман – идеолог плавучих и пустынных городов-полисов, помимо способности финансово очаровывать Питера Тиля, имеет еще ряд крайне характерных увлечений: криптоэнтузиаст, биохакер, сторонник экспериментальных медицинских методов вроде генного редактирования, а также участник трансгуманистической организации «Humanity+». Это преемница созданной в 1998 году философами Ником Бостромом[75] и Дэвидом Пирсом[76] Всемирной трансгуманистической ассоциации, боровшейся за:
• признание трансгуманизма легитимным предметом научных исследований и государственной политики;
• этичное использование технологий для расширения человеческих возможностей;
• равный доступ людей к таким технологиям.
Еще в интервью 2006 года Бостром отмечал: «Одно дело, если мы говорим о взрослых, компетентных гражданах, решающих, как распорядиться своими телами, другое – если о модификации детей или отборе эмбрионов, тогда возникают этические вопросы. Еще ряд таких вопросов касается доступа. Если некоторые технологии окажутся слишком дорогими (что очень вероятно), то какие механизмы должны обеспечить справедливость?» Бостром также предлагал задаться вопросом, должны ли технологии улучшения человека (если будет доказана их эффективность) входить в пакет лечения, предлагаемый Национальной службой здравоохранения Великобритании.
Также некоторые люди сталкиваются с проблемами принятия организмом вживленных элементов: от отторжения имплантов до фантомных болей. Так что на физиологическом уровне завтрашние коллаборации человеческого организма с компьютерными устройствами будут иметь как позитивные, так и негативные последствия. Можно ли вмешаться в процессы заживления, чтобы облегчить интеграцию? Придется ли проводить для этого специальную генную терапию?
Расширение человеческих возможностей породит и множество вопросов, связанных с контролем за оборотом технологий, ответственностью производителя и безопасностью человека. Получив высокотехнологичный протез, он должен иметь право на ремонт и техническое обслуживание. Если выпускающий протезы стартап прогорел, то устройство может превратиться в бесполезную железку. Проблема заброшенного разработчиками программного и аппаратного обеспечения получила название «abandonware». Но если речь о «заброшенном» органе тела, то для пользователя, возможно, было бы лучше никогда не иметь такого протеза. Кто в таком случае поможет потребителю, и какую ответственность должен нести производитель?
К тому же технологии подвергаются взлому, и новое поколение устройств не станет исключением. Если человек внедрил нейроимплант в голову или чип бесконтактной оплаты – в руку, то это угрожает безопасности не только его данных или финансов, но и самой жизни. Например, некоторые кардиостимуляторы можно взломать, получив контроль над сердечным ритмом человека. В 2018 году исследователи продемонстрировали подобную уязвимость на конференции Black Hat[77] в Лас-Вегасе.
Когда речь идет о контроле не только над информацией, но и над телом, вопросы кибербезопасности становятся еще критичнее. Уже сегодня злоумышленники блокируют функционирование промышленных предприятий или больниц, требуя выкуп за восстановление доступа. Возможен ли в будущем захват имплантированных конечностей с подобными целями? Просто представьте ощущения человека, которому хакеры заблокировали имплант и требуют выкуп.
С распространением блокчейна и криптовалют хакеры начали использовать компьютерные вирусы для захвата чужих компьютеров, чтобы использовать их для майнинга. Какими новыми способами злоумышленники смогут использовать части вашего тела? Кто и как будет обеспечивать безопасность людей нового вида? Понадобятся ли для них специальные условия, как например, для людей с кардиостимуляторами, которых не проверяют рамками металлодетектора в аэропорту?
Очевидно, что военные будут активно использовать эти технологии, а если появятся солдаты нового поколения, то должно появиться и специальное оружие для них. Таким солдатом может стать не только киборг со встроенными в предплечья пулеметами, но и оператор дрона, способный видеть в инфракрасном спектре, и десантник с нейроимплантом для анализа баллистики. Здесь тоже возникают вопросы:
• Как регулировать доступ к конфиденциальной информации после выхода на пенсию или увольнения?
• Если при выходе на пенсию у сотрудника силовых структур забирают табельное оружие, то будут ли удалять нейроимплант из головы?
• С какими новыми вызовами столкнутся правоохранительные органы в поиске преступников, когда появится возможность изменять голос, походку, внешность и запах?
Идея повсеместной слежки всегда вызывала напряжение в обществе, поэтому:
• Следует ли встраивать в импланты функционал для отслеживания геолокации?
• К чему может привести такой контроль, а к чему – его отсутствие?
Интересные перспективы у неинвазивных[78] нейроинтерфейсов. В начале 2024 года стартап Prophetic представил модель Morpheus-1, которая обрабатывает активность мозга и генерирует звуковые волны, способные формировать осознанные сновидения. Подобные проекты направлены на расширение сознания людей, порождая множество антиутопических сценариев злоупотребления, самый очевидный из которых связан с интегрированными прямо в сны рекламным спамом или пропагандой.
Присутствие в организме различных протезов и нейроимлантов повлияет не только на качество, но и на продолжительность жизни. Интегрированные с технологиями люди смогут вести активный образ жизни дольше обычных. А значит, заработают больше ресурсов и накопят больше знаний и опыта. Какие социальные кризисы грядут в обществе, где богачи смогут жить до 300 лет, а бедняки умрут к 70?
Но если не научиться поддерживать нейроны в работоспособном состоянии, то несмотря на хорошую физическую форму, люди по-прежнему будут подвержены
