Симулятор безумия. Как Четвертая промышленная революция превратит Homo Sapiens в Homo Servus? - Вадим Юрьевич Панов
Без privacy мы беззащитны
«Кажется, что никакая информация не является слишком личной или слишком приватной, чтобы её нельзя было отслеживать, монетизировать и агрегировать, чтобы получить исчерпывающий обзор всей вашей жизни. Итог всего этого – то, что вы больше не клиент, вы – продукт»[25]. (Tim Cook, Apple’s СЕО)
Высказывание Тима Кука, который очень много внимания уделяет обеспечению сетевой безопасности пользователей продукции Apple, абсолютно точно определяет происходящее сейчас, когда люди объявлены «новой нефтью». Мы интересны в коммерческом смысле огромному количеству государственных организаций и частных компаний. Им важно знать, что мы ищем в Сети, что смотрим, какой контент покупаем, как и какие приложения используем. Заинтересованные компании щедро платят за эти сведения. Причём настолько щедро, что, к примеру, производитель «умных» телевизоров Vizio в 2021 году заработал на продаже полученной со своих устройств информации вдвое больше, чем на продаже самой продукции. И этот пример не является исключением, производители электроники официально продают информацию о нас. Их техника следит за нами и докладывает о происходящем.
Поэтому возникает вопрос: мы купили эту плоскую штуку на стену или добровольно подключились к следящей системе? Это наша собственность или наш надзиратель? А если второе, то почему мы должны платить за возможность оказаться внутри всемирного аналога телевизионного шоу Джона де Моля?
Ответа нет.
Зато есть ответ на вопрос: как долго это будет продолжаться?
До тех пор пока мы будем представлять коммерческий интерес.
* * *
В 1948 году Джордж Оруэлл описал мир тотальной слежки, трагедию людей, вынужденных жить под постоянным надзором, прячущих мысли и поступки от всевидящего ока. В XXI веке мы относимся к непрерывному наблюдению с холодным равнодушием, а большинство из нас просто об этом не задумывается. И правильно делает, поскольку изменить мы ничего не можем, а точнее – не хотим, поскольку для выхода из-под надзора придётся отказаться от привычного комфорта, обеспеченного современными цифровыми технологиями. Что же касается постоянной тотальной слежки, то в ней нет никакого смысла – достаточно хранить информацию, которую мы сами выкладываем в Сеть, и при необходимости использовать.
Гениальность современной системы массового контроля – именно гениальность! – благодаря которой тотальный надзор Big Brother Оруэлла кажется театральной самодеятельностью, заключается в абсолютной добровольности происходящего. Никто никого ни к чему не принуждает, никто никому ничем не угрожает. Никакого официального надзора со стороны государства, только частная инициатива и знание человеческой психологии. Знание и применение этого знания в инструментах Четвёртой революции. Нам предложили цифровой мир безграничного общения с кем угодно и на какие угодно темы, и мы не удержались. Мы захотели общаться – и пришли в социальные сети; нам захотелось похвастаться достижениями, вот и рассказываем, где были и чего добились; мы захотели комфортной жизни, и загружаем в Сеть конфиденциальную информацию, которую приходится использовать в повседневности: данные о наших финансах, здоровье и перемещениях. Нам так понравилось комфортное существование в объятиях технологий Четвёртой революции, что мы не заметили, как оказались в мире вынужденной честности. Мы растеряли свои тайны и оказались беззащитны, а значит, будем вынуждены принять любые навязанные нам правила.
Какими бы жёсткими они ни оказались, мы их примем. Ведь они знают о нас всё. А значит – мы зависимы.
Голоса в голове
Нет никаких сомнений в том, что одними платформами по работе с массивами частных медицинских данных IT-гиганты не ограничатся. Здравоохранение будущего, основанное на использовании инструментов Четвёртой революции, будет связано с цифровыми технологиями так же плотно, как с химией и биологией. Исследования, разработка, миниатюрные устройства – как внешние, так и вживлённые в организм, стремительно наступающая эра нанотехнологий, которая перевернёт многие привычные представления… Современный мир уже шагнул в Четвёртую революцию, и медицина будет оцифрована настолько, насколько это возможно, и даже чуть больше. Поэтому в интересе, который IT-гиганты проявляют к здравоохранению, нет ничего удивительного: они отчётливо видят будущее, приобретают стартапы и активно финансируют перспективные разработки как собственные, так и сторонние, чтобы однажды занять лидирующие позиции и в этой отрасли.
Наложить лапу и над звёздное небо над нашими головами, и на то, что внутри нас.
Серьёзные исследования ведёт для Google компания DeepMind Health – подразделение известного разработчика искусственного интеллекта компании DeepMind. Среди объектов их внимания – интереснейшая программа, предсказывающая структуру белка, которая может дать мощный толчок развитию биохимии и биотехнологий. Многие эксперты называют эту разработку революцией в медицине. Кроме того, Google владеет патентами на «умный» искусственный хрусталик, однако о перспективах применения этой технологии мы поговорим в другой главе.
А вот компания Apple, помимо всего прочего, работает над системой мониторинга психического здоровья[26] человека с использованием полученной со смартфона информации. Эта замечательная программа будет анализировать нашу подвижность, режим сна, частоту сердечных сокращений, дыхание и даже выражение лица, пытаясь определить наше состояние на основе собственного понимания человеческой адекватности и опыта, накопленного миллионами других смартфонов. И ещё, возможно, программа будет постоянно анализировать наши разговоры – что и как мы говорим, ведь по связности и содержанию речи можно сделать массу интересных выводов, в том числе о нашем психическом здоровье. И если смартфон отыщет у нас признаки депрессии, точнее, признаки того, что он считает депрессией, то посоветует обратиться к врачу. Или посоветует врачу обратить на нас пристальное внимание. А может, не врачу, а государственной программе наблюдения за психическим здоровьем граждан – самообучающемуся ИИ, призванному контролировать наши эмоции с благородной целью предотвращения семейного насилия, акций mass shooting и других проявлений агрессии. При этом ИИ, например, получит право блокировать ваш электромобиль или мотоцикл (если по каким-то причинам вы не пользуетесь общественным или беспилотным транспортом) в том случае, если решит, что эмоциональное состояние не позволяет вам сесть за руль. Если такие блокировки будут частыми, например два раза в неделю, ИИ приостановит действие вашей водительской лицензии и потребует пройти полный курс психотерапии. И ещё, разумеется, ИИ поделится своими сомнениями относительно вас с сетевым роботом службы безопасности, потому что внешние признаки надвигающейся депрессии несложно спутать с беспокойством начинающего преступника или террориста-смертника. После такого предупреждения вас тщательно проверят: изучат круг знакомств, записи в социальных сетях, случайные и неслучайные пересечения с подозрительными людьми, случайное и неслучайное пребывание на местах преступлений или неподалёку от них. Хорошая новость: если вы окажетесь честным человеком, просто со слегка расшатанными нервами, робот службы безопасности потеряет к вам интерес. Плохая же новость заключается в том, что система запомнит ваше временное пребывание в
