Виктор Пелевин - Ананасная вода для прекрасной дамы

Военные потребовали от проектировщиков решить сразу обе проблемы — защитить систему от перехвата и разгрузить операторов от кошмара "Wikileaks syndrome". На неформальном уровне смысл задания формулировался несколько шире: снять с военных персональную ответственность и обезопасить Пентагон от медийного эха информационных утечек.

Несмотря на кажущуюся невыполнимость и даже абсурдность такого заказа, решение было найдено. Надо признать, что оно было в высшей степени необычным, остроумным и эффективным.

Пентагон сделал ставку на секретную программу "F.D.O.M.", находившуюся в разработке с середины девяностых годов прошлого века.

Название "Freedom Liberator", под которым стала известна новая боевая система (большинство СМИ и блоггеров называют ее именно так), на самом деле просто забавное тавтологическое сокращение — при желании в нем можно услышать даже некоторый антиамериканский сарказм. Это не официальное имя. Полностью она называется "Free D.O.M. multipurpose airborne unmanned fighting vehicle "Liberator" [9].

Аббревиатура "Free D.O.M." или "F. D.O.M." расшифровывается как "Free Digital Operational Matrix" [10], и это одно из тех не очень осмысленных, но зато броско звучащих названий, которые так любят пиарщики американского ВПК (часто даже в ущерб здравому смыслу: например, установленную на бомбардировщиках B—1B систему "F.I.D.L." — "Fully Integrated Data Link" — они долгое время пытались назвать "F.I.D.E.L.", заменив "data link" на "data exchange link").

Чтобы обезопасить дрон от перехвата и исключить личную ответственность операторов, решено было доверить принятие всех боевых решений бортовому вычислительному комплексу. В этом и заключалась главная отличительная черта системы "Free D.O.M.".

Было доказано, что при ее боевом применении вероятность появления случайных жертв примерно вдвое ниже, чем при живом операторе, поэтому ее использование было безусловно оправданным с гуманитарной точки зрения. А если гражданские лица все же попадали в число пострадавших, ответственность оказывалась настолько размытой, что ткнуть пальцем в кого-то одного становилось невозможно.

Слово "Free" не имело идеологической нагрузки и означало, что у системы не было принудительного алгоритма работы — он каждый раз свободно выбирался в зависимости от характера входной информации. Дело в том, что "Free D.O.M." была не вычислительной машиной в традиционном смысле, а так называемой "нейронной сетью" — компьютером, устроенным по биологическому шаблону.

Нейронная сеть отличается от обычного компьютера тем, что у нее нет центрального процессора и блока памяти, а сохраняемая в ней информация сосредоточена в связях, как в человеческом мозгу. Кроме того, она работает по несколько другим принципам, чем компьютер. Желающие понять вопрос глубоко могут обратиться к специальной литературе, мы же коснемся его только на самом поверхностном уровне.

Каждый, наверное, сталкивался в интернете с просьбой ввести в специальное окошко комбинацию цифр, состоящих из странных линий и пятнышек. Это делается, чтобы отсечь программы-боты — ни одна из них не в состоянии распознать в этих пятнах и штрихах требуемый код.

Только человек способен увидеть за разноцветными хаотическими закорючками сквозящую в них идею числа — и для этого ему даже не надо быть Платоном, такой тест без труда пройдет десятилетний ребенок. А компьютер может научиться узнавать цифры только в каком-то строго определенном типе пятен — но стоит чуть изменить их форму или цвет, и машина окажется бессильной.

Так вот, нейронные сети системы "F. D.O.M." могли решать подобные задачи практически как человек, и это, конечно, было настоящей революцией. Дело было не в какой-то одной умной программе — эффект достигался свободным динамическим взаимодействием множества отдельных модулей и контуров, точное число которых не было известно даже разработчикам.

Специалист по нейронным сетям сказал бы, что "Free D.O.M." обрабатывала информацию на основе анализа "иерархических инвариантных репрезентаций". На практике это означало, что система различала фигурку человека с АК-47 там, где обычный компьютер увидел бы просто бессмысленный белый шум.

Кроме того, система была автоассоциативной — она могла воспроизводить информационные последовательности на основе неполных данных. Другими словами, чтобы опознать тот же самый АК-47, ей достаточно было увидеть торчащую над плечом повстанца мушку. Она умела узнавать даже целые последовательности действий и строила прогнозы — например, увидев, как повстанец снимает АК-47 с плеча, она делала вывод, что тот собирается стрелять.

Такая система, конечно, не могла работать без какого-то аналога человеческого опыта. И этот опыт у нее был, причем весьма обширный. Распределенная память системы хранила информационные слепки всех правильных решений, принятых множеством живых операторов за все время боевого использования управляемых дронов. Поэтому по сути "F.D.O.M." воспроизводила наиболее вероятное в каждом случае действие высокообученных военных профессионалов.

"Матрицей" систему назвали вовсе не в память о знаменитом фильме. "F.D.O.M." состояла из нескольких параллельных нейронных сетей, каждая из которых как бы дублировала отдельного человека. Решение принималось только в случае консенсуса между независимыми сетями.

Это был, если так можно выразиться, аналог целого зала с живыми, невероятно зоркими и опытными операторами, каждый из которых независимо оценивал имеющуюся информацию и принимал свое решение, и большинство операторов должно было согласиться друг с другом, что беднягу с АК-47 надо отправить на тот свет. Только потом "Freedom Liberator" открывал огонь на поражение.

Именно поэтому удалось так драматически уменьшить число коллатеральных жертв — и одновременно с этим поднять боевую эффективность системы.

Вопрос с "Wikileaks syndrome", таким образом, был решен — поскольку у системы отсутствовал живой оператор, некому было бояться ответственности за ошибку или вырвавшуюся в горячке боя неполиткорректность. Однако на смену одной проблеме тут же пришла другая.

Дело в том, что раньше в случае гражданских жертв можно было предъявить негодующей общественности какой-нибудь разъяснительный документ — например, расшифровку переговоров оператора с его непосредственным командиром. После этого становились понятны причины трагедии. Обыкновенно оставалась и видеозапись, где было видно, что телекамеру на плече журналиста или бревно на спине рабочего действительно можно принять за гранатомет или портативную ракету "земля-воздух". Словом, человеческую ошибку всегда можно было смягчить, показав ее неумышленность.

Новая система управления не давала такой возможности. И, хоть вероятность того, что "Freedom Liberator" откроет стрельбу по человеку с бревном на плече, стала значительно меньше, информационная чернота происходящего оказалась крайне неблагоприятным пиар-фактором. И Пентагон дал инженерам дополнительное задание — сделать работу системы открытой для внешнего наблюдателя, в удобной и наглядной форме демонстрируя, как именно принималось то или иное решение. Причем ясно это должно было быть не только специалисту, но и любому налогоплательщику.

Именно при выполнении этого заказа и проявились во всем блеске возможности системы.

Поскольку "Free D.O.M." воспроизводила механизмы работы человеческого мозга, отчет о ее работе нетрудно было представить в понятной человеку форме. Проблема заключалась в выборе этой формы. И у инженеров Кремниевой долины родилась поистине гениальная мысль.

Они рассуждали примерно так: если система состоит из параллельных нейронных сетей, каждая из которых имитирует отдельного человека, почему бы не представить отчет о ее работе в виде диалога нескольких виртуальных персонажей, каждый из которых объяснял бы общественности свою точку зрения?

Любой из этих персонажей был просто репрезентацией боевого канала обработки информации. Но, затратив совсем немного машинных ресурсов, ничего не стоило придать ему человеческий вид и перевести язык его внутренних кодов в человеческую речь.

Можно было даже оформить весь отчет в виде симпатичного мультика вроде "Симпсонов". Это практически не отражалось на работе системы — по сравнению с боевыми вычислениями, которыми она занималась, такая антропоморфизация была детской игрой. Нейронной сети, способной имитировать действия боевых пилотов, ничего не стоило заодно смоделировать и ток-шоу.

Проблема "человеческого опыта" была и в этом случае решена просто и элегантно: в систему загрузили архив всех американских телевизионных ток-шоу — то есть всех вообще. Используя свои базовые алгоритмы, "F.D.O.M." могла выбирать из огромного богатства уже произнесенных реплик, и даже модифицировать их, создавая потрясающий эффект живого человеческого присутствия. На пике нагрузки это отнимало не больше двух процентов общей мощности системы, которая имела запас около десяти процентов.