Новые темные века - Джеймс Брайдл

нечто странное(30). На одном из кадров он увидел себя и свою жену за столиком в ресторане, улыбающимися в камеру. Но такой фотографии никогда не было. Однажды за обедом его отец долго удерживал кнопку съемки, в результате чего возникла целая серия почти одинаковых изображений. Смит загрузил два из них, чтобы жена могла выбрать, какое ей больше нравится. На одном из кадров улыбался он, а его жена – нет; на другом улыбалась его жена, а он – нет. Из этих двух изображений, снятых с интервалом в несколько секунд, алгоритмы сортировки фотографий Google создали третье – композицию, на которой обе модели вышли «лучше» и улыбаются. Алгоритм был частью пакета программного обеспечения «AutoAwesome» (позднее его переименовали в «Assistant», то есть «Помощник»), который менял настройки загружаемых изображений, чтобы сделать их «круче» за счет, например, особых фильтров, анимации и прочего. В этом же случае возникла фотография, которой никогда не было, алгоритм переписал историю.

В обработке фотографий нет ничего нового – сколько существуют камеры, столько существует и ретушь, но здесь личные воспоминания менялись автоматически и незаметно. Из этого можно извлечь урок: пусть не сразу, но нам открылось, что образы всегда являются ложными, это искусственные снимки моментов, которые никогда не существовали как сингулярности, а теперь оказываются извлеченными из многомерного потока времени. Ненадежные документы, составленные из обрывков того, что сняла камера и на что мы обратили внимание. Это артефакты не мира и опыта, а процесса записи, которая заведомо ложная и не может приблизиться к тому, что есть на самом деле. Только когда эти процессы захвата и хранения овеществляются в технологии, мы можем осознать их ложность и отчужденность от реальности. Из того, что снится машинам, мы можем сделать важный вывод: не машины переписывают историю, а сама история не может быть надежно передана единым повествованием, следовательно, и будущее тоже. Фотографии, возникшие из векторов искусственного интеллекта, представляют собой не строгую фиксацию, а постоянное переосмысление, постоянно меняющийся набор возможностей того, что уже было или только будет. Облако возможностей, случайное и туманное, лучше отражает реальность, чем любое материальное утверждение. И это облако – главное, что показывают нам технологии.

То, как машины проливают свет на человеческое бессознательное, возможно, лучше всего иллюстрирует еще один странный результат исследования машинного обучения Google. Программа «DeepDream» была разработана, чтобы прояснить внутреннюю работу непостижимых нейронных сетей. Чтобы Сеть научилась распознавать объекты, в нее были загружены миллионы помеченных ярлыками изображений вещей: деревьев, машин, животных, домов. Чтобы классифицировать новые изображения, система фильтровала, растягивала, рвала и сжимала их: это дерево, машина, животное, дом. При этом «DeepDream» полностью изменила процесс: загрузив изображение в Сеть и активировав нейроны, обученные видеть определенные объекты, она спрашивала не о том, что это за изображение, а о том, что Сеть хочет в нем увидеть. Этот процесс похож на то, как мы ищем в облаках знакомые очертания: зрительная кора головного мозга, отчаянно нуждаясь в стимуляции, собирает из визуального шума осмысленные паттерны.

Инженер «DeepDream» Александр Мордвинцев создал пробный вариант программы в два часа ночи, когда проснулся от кошмарного сна(31). Первым он загрузил в систему изображение котенка, сидящего на пне, а в результате получился страшный монстр: гибрид кота и собаки с множеством глаз и влажными носами вместо лап. Когда в 2012 году инженеры Google впервые прогнали 10 миллионов случайных видео на YouTube через необученную классифицирующую нейросеть, первой программа научилась видеть без подсказки кошачью морду – тотемное животное Интернета(32). Таким образом, Сеть Мордвинцева нафантазировала то, о чем привыкла думать, – кошек и собак. Дальнейшие итерации создали адские пейзажи, словно с полотен Босха: нескончаемая архитектура, арки, пагоды, мосты и башни в бесконечных фрактальных прогрессиях, в зависимости от активированных нейронов. Но есть одна константа, раз за разом повторяющаяся в творениях «DeepDream», – это изображение глаза: глаза собаки, глаза кошки, глаза человека; вездесущее око, наблюдающее за самой Сетью. Глаз, который парит в небе «DeepDream», напоминает всевидящее око антиутопической пропаганды – собственное бессознательное «мышление» Google, состоящее из наших воспоминаний и действий, обрабатываемых путем постоянного анализа и отслеживаемых для корпоративной прибыли и частного шпионажа. «DeepDream» по своей сути – параноидальная машина, потому что возникает из параноидального мира.

Между тем, когда программу не заставляют визуализировать свои сны, чтобы мы могли их увидеть, она продолжает неведомые нам изыскания.

Самым большим желанием Вальтера Беньямина в «Задаче переводчика» было получение «чистого языка», смеси всех языков. Именно этот обобщенный язык является инструментом переводчика, потому что раскрывает не смысл, а образ мышления оригинала. После активации нейронной Сети Google Translate в 2016 году исследователи поняли, что система способна создавать переводы не только в языковых парах, но охватывать все языки, то есть переводить, даже если никогда не видела прямого перевода с языка на язык. Например, Сеть, обученная на примерах в парах японский – английский и английский – корейский, способна генерировать японско-корейские переводы в обход английского языка(33). Это называется «нулевым» переводом и подразумевает наличие «межъязыкового» представления, то есть внутреннего метаязыка, включающего общие понятия на разных языках. Это, по сути, тот самый «чистый язык» Беньямина – бессмысленный метаязык программы. Визуализируя архитектуру Сети и ее векторы в виде цветных пятен и линий, можно увидеть сгруппированные вместе предложения на нескольких языках. Результатом является семантическое представление, которое Сеть развила самостоятельно, а не получила в готовом виде. Однако подробностей мы не узнаем; нам удалось подглядеть, что происходит в «пространстве бесконечного веселья», но попасть туда нам не суждено.

Более того, в 2016 году исследователи из Google Brain решили проверить, могут ли нейронные сети хранить секреты(34). В основе лежала идея соперничества, присущая проектированию нейронных сетей. Эта идея, несомненно, понравилась бы Фридриху Хайеку. И «AlphaGo», и генератор спальных комнат Facebook были обучены по принципу конкуренции, то есть состояли не из одного компонента, генерировавшего новые ходы или места, а из двух соревнующихся компонентов, которые постоянно пытались превзойти друг друга и таким образом совершенствовались.

Доводя идею конкуренции до логического завершения, исследователи создали три сети, названные в традициях криптографических экспериментов Алисой, Бобом и Евой. Перед ними стояла задача научиться шифровать информацию. Алиса и Боб знали ключ шифрования, который не был известен Еве. Алиса выполняла некоторую операцию со строкой текста, а затем отправляла ее Бобу и Еве. Если Боб мог расшифровать сообщение, оценка Алисы увеличивалась, но если то же удавалось Еве, счет Алисы уменьшался. За тысячи итераций Алиса и Боб научились общаться так, чтобы Ева не могла расшифровывать их сообщения. Они