Экспонента. Как быстрое развитие технологий меняет бизнес, политику и общество - Азим Ажар
Самое страшное, что экспоненциальное развитие дронов продолжается, а потому предсказать, какой станет технология через некоторое время, довольно сложно. Управляемые человеком беспилотники — первый шаг к созданию «автономных систем». И армии, и вооруженные группировки все активнее интересуются оружием, которое позволяет поражать врага, не нанося ущерба населению. Не следует думать, что автономность бинарна (есть или нет); она подразумевает непрерывный спектр промежуточных вариантов. Реактивная ракета Tomahawk находится на вооружении США уже больше тридцати лет. Она способна ориентироваться на местности даже без GPS и обеспечивает точность удара в пределах метра[435]. Ракета является автономной лишь отчасти: человек все же нужен, чтобы «сообщить» компьютеру, когда и куда наносить удар. Однако возможны полностью автономные дроны. Разработанные в Израиле дроны Harpy и Harop часто относятся к категории автономного оружия. Harpy использует электромагнитные датчики для поиска заранее заданных целей, а созданный на его базе Harop для обнаружения цели применяет визуальные и инфракрасные датчики.
Развитие технологий распознавания лиц и компьютерного зрения будет способствовать усовершенствованию существующих видов вооружения. Модель, доступная в широкой продаже и даже не предназначенная для использования в военных целях, Skydio R1, оснащена самыми современными приборами компьютерного зрения и способна самостоятельно распознавать и отслеживать перемещения владельца: 13 камер осуществляют сбор и нанесение данных на карту, планируют маршрут и ищут возможности обойти препятствия[436]. Такой дрон стоит меньше 2500 долларов. Подобные модели с высокой степенью автономности получают все более широкое распространение. В 2017 году Международный институт по изучению проблем мира в Стокгольме проанализировал 154 системы вооружения с функцией автоматического целеуказания и пришел к выводу, что более одной трети из них способны распознавать цель и атаковать без участия человека[437].
В ближайшем будущем автономные системы смогут вести военные действия и осуществлять тысячи сложных и хорошо скоординированных операций быстрее и с большей гибкостью, чем это делают люди. Задержки в коммуникации, пока неизбежные в силу того, что дронам приходится обмениваться информацией через командные центры с участием человека, останутся в прошлом. Полностью синхронизированные и оборудованные датчиками и компьютерами беспилотники смогут поддерживать коммуникации без задержек[438]. Нельзя исключать, что появится полностью автономное вооружение, способное принимать решения о том, когда, кого и как атаковать. Человеку нужно будет лишь очертить зону военных действий, обозначить цели, предоставить данные об особенностях врага и задать общие правила действий, а машины сами будут жать на спусковой крючок и решать, враг ли в поле зрения и лучше ли уничтожить его или просто благородно вывести из строя.
Тут и фантастику читать не требуется — и так ясно, что пока все это выглядит как неудачно сконструированная антиутопия. Все нынешние нормы и правила ведения войны базируются на предположении о том, что человек полностью контролирует происходящее. Международный уголовный суд расследует обвинения в военных преступлениях, выдвинутых против отдельных лиц, прежде всего политиков и военачальников[439]. Решения Нюрнбергского трибунала подтвердили, что человек несет ответственность за совершенные действия и что виновными в военных преступлениях могут признаваться отдельные лица. Юристы утверждают, что пока нет полной ясности относительно того, как суды должны трактовать преступления, совершенные с использованием автономных или полуавтономных средств вооружения. Как было сказано в одной газетной статье на эту тему, наблюдается так называемый «разрыв зоны ответственности»[440]. Очевидно, что ответственность несут люди, но кто именно? Инженеры или программисты? Генералы или политики? А если машины полностью автономны и не получали указаний на проведение конкретных боевых операций? Женевской конвенции для автономных средств вооружения не существует, и ясных ответов на такие вопросы нет.
В экспоненциальном мире порядка пока нет. Возникают все новые типы участников возможных конфликтов, а у них появляются новые средства вооружения, за счет которых удается существенно увеличить поверхность атаки. Война становится относительно недорогой затеей и с финансовой точки зрения, и в смысле человеческих жертв. В отличие от полковника Раза и его эскадрильи, отправленной на задание на территорию Ирака, злонамеренная информационная кампания в СМИ, имеющая целью задеть жителей враждебного государства, не предполагает никакого риска для военных. А результаты могут быть самыми неожиданными — от распространения безобидной в целом, но ложной информации до тщательно спланированной кампании по дезинформации аудитории; от кибератак на инфраструктуру водоснабжения или электросети до сброса взрывчатки с помощью дронов. И все это может предшествовать полномасштабным военным действиям.
С другой стороны, весь наш политический порядок тяготеет к нестабильности: сложно предугадать, какое влияние окажет на военную сферу тенденция к локализации мирового сообщества, но уже ясно, что результат вряд ли будет исключительно мирным. При наличии новых технологий эта тенденция может превратить экспоненциальную эпоху в непрекращающийся конфликт, когда даже незначительные разногласия будут быстро принимать катастрофический характер. Относительно небольшие по размаху кибератаки, которыми можно позлить противника; масштабные долгосрочные кампании по дезинформации, имеющие серьезный разрушительный потенциал; скоординированные действия в киберсреде — все это становится частью единой системы. Граждане, бизнес, политики и армии — все теперь рискуют оказаться на передовой.
Что можно предпринять, чтобы избежать дробления мира и не допустить постоянных конфликтов с использованием новейших технологий? С момента публикации в 1651 году работы Томаса Гоббса «Левиафан» ученые нередко утверждали, что первостепенная задача государства — защита граждан от насилия. Если государство не в силах предотвратить нападения на граждан с помощью новейшего оружия экспоненциальной эпохи, оно не выполняет своего главнейшего обязательства. Так что именно государственные институты должны найти способ предотвратить эскалацию конфликтов.
Для этого существует три основных подхода. Во-первых, государства должны усилить свою защиту
