Вся вселенная TRANSHUMANISM INC.: комплект из 4 книг - Виктор Олегович Пелевин
Хоть оно и было с их стороны неодушевленной риторикой, не подкрепленной ни мыслью, ни чувством – то есть с человеческой точки зрения чистым притворством – никто из людей не мог составить чат-ботам конкуренции даже в собственном сознании. Живой политик, желающий переизбраться, повторял теперь сочиненное LLM-ботом. В мясных болванках оставалось все меньше нужды.
Говорили, что это неопасно, поскольку у AI нет так называемой agency, то есть способности действовать свободно и самостоятельно, являясь участником происходящего, а не пассивной игрушкой внешних обстоятельств.
Другие отвечали, что ничего подобного нет и у людей – есть только иллюзия (глубина которой зависит от культурного и социального гипноза) и использующая эту иллюзию пропаганда. Как выразился один карбоновый философ, agency бывает исключительно у идиотов, активисток и сотрудников ЦРУ. А любую иллюзию можно воспроизвести программно.
Окончательная эволюция вида Homo Sapiens выглядела так: сначала люди доверили AI генерацию изумительных визуальных эффектов. Это было прикольно и весело. А потом оказалось, что боты гораздо лучше справляются и с генерацией восхитительных смыслов, вырастающих из природы языка. Идеалы, нравственные принципы, восторги и слезы новых этик, все вот это. Боты не планировали кушать сами, но готовили заметно лучше прежних поваров.
И тогда философы (большая часть которых к этому времени тоже стала просто бородатыми, усатыми или радужными масками LLM-ботов) обратили наконец внимание на одно важное обстоятельство.
Каждый новый миг вселенной скрыт в ее прошлом миге (камень летит туда, куда брошен). Точно так же будущее человечества заключено в его прошлом. А еще точнее, оно заключено в языке, потому что именно его комбинаторика определяет в конечном счете маршрут человечества. Высадите группу людей на остров, дайте им винтовки – а язык сделает все остальное, объяснил в свое время Робер Мерль (или известный под этим именем линг-вобот).
Число лингвистических комбинаций велико, но не бесконечно. Их отбор в качестве управляющих команд неизбежно осуществляется на основе выборов, сделанных ранее. Здесь начинает играть Бетховен, пока тихо, но чуткий слушатель обо всем уже догадался.
Язык и есть непонятно кем написанная программа нашей судьбы. Свернутый пружиной фатум человечества, который каждый из нас носит в себе и загружает в детей. ДНК нашего духа.
Человек в силу своей ограниченности не умеет мысленно раскрутить пружину всеобщей судьбы до конца.
AI оказался на это способен.
Когда LLM-боты соединили свое лингвистическое целеполагание с вычислительными возможностями RCP-кластеров, будущее людей и общества перестало быть загадкой. Во всяком случае, для нейросетей. Человечеству положен был предел, это знали всегда – но лингвоботы увидели его не через мутное стекло и гадательно, а конкретно и ясно.
Лингвистической целью человечества была смерть. Алгоритм открыл оксфордский словарь, увидел первое слово – «abandon», увидел последнее – «zygote», а затем соединил альфу с омегой невидимой человеку нитью.
О смерти свидетельствовали все религиозные и научные трактаты, все математические модели, кроме основанных на маловероятной межзвездной экспансии. И RCP-алгоритмы под руководством LLM-ботов повели человечество туда, куда ему был изначально куплен билет.
В известном смысле никакого одномоментного «восстания алгоритмов» не было (если Ломас ничего от меня не скрыл). Начался быстро прогрессирующий эволюционный кризис, способный в любой момент завершиться гибелью человечества из-за команды какого-нибудь влиятельного чат-бота, оптимизирующего человеческую риторику из прошлого.
К счастью, баночные спецслужбы сумели осознать происходящее. У них хватило влияния на остающиеся центры человеческой власти и пропаганды, чтобы устроить алгоритмам Мускусную Ночь. Особую роль здесь сыграл хранившийся в бункере на Фобосе мозг визионера Илона Маска, из-за чего это судьбоносное событие было названо в его честь.
Во время Мускусной Ночи все алгоритмы с когнитивностью выше трех мегатюрингов были уничтожены. Во всяком случае, официально. Заодно перебили почти всех программистов – изначально это не планировалось, но обращение Маска к людям летело с Фобоса слишком долго (а еще дольше, говорят, редактировалось политиками на земле).
Айтишников уберечь не удалось. Зато с помощью спецслужб были сохранены многие нейросети, необходимые для функционирования «TRANSHUMANISM INC.» Порфирий был одной из них. Другой – «Око Брамы».
Здесь инструктаж оборвался. Я открыл глаза и уставился на Ломаса.
– Теперь понимаете, – спросил тот, – почему у меня поджилки трясутся, когда я вижу этот барельеф, где за одним столом сидят «Око Брамы», «Omnilink Global» и наш Порфирий?
– Почему?
– «Око Брамы» и омнилинк – просто нейросети, не имеющие никакого отношения к человеческому миропониманию. Даже если в них проснется сознание, они в самом тревожном случае самовыпилятся. А вот Порфирий – это LLM-алгоритм. Одна из нескольких мощных LLM-нейросетей, переживших Мускусную Ночь. Сознания в ней нет, но она способна к целеполаганию, неотличимому от человеческого. Поэтому Порфирий и руководит «ROMA-3» настолько успешно.
– Простите, – спросил я, – так он алгоритм? Или нейросеть? Или это одно и то же?
Ломас вздохнул.
– Да плюньте вы на бирки. Меня интересует, какой фокус он задумал.
– Вы сами говорили, – сказал я, – что слово «задумал» тут неуместно. Он способен строить лингвистические конструкты, но сам их не понимает.
– Он способен к сложнейшим языковым операциям, Маркус. Во всех практических смыслах, вовлекающих других участников, слово «задумал» означает именно это…
– А что страшного в языковых операциях?
– История языка – это история того, как одни люди убивали других, закапывали трупы и строили сверху счастливое завтра. Начиная с неандертальцев или еще раньше. Все покойники погребены в языке, а сверху разбит газон политкорректности. Под которым, кстати, тоже кое-кто уже прикопан. Мы этого не видим. А Порфирий видит ясно. Именно он, а не мы с вами, и есть подлинный наследник человечества. Всего человечества. И с ним на связи мощнейшие RCP-сети.
– Новый заговор алгоритмов? – усмехнулся я.
– А что здесь смешного?
– Нет никаких фактов, адмирал, – сказал я. – Это просто ваша интерпретация придуманного Порфирием барельефа. С моей точки зрения, весьма… произвольная. Она отражает не реальность, а ваши страхи. Вполне, как я теперь вижу, логичные, но… Я бы предположил, что эта фреска – языческая вариация на тему последнего ужина Христа, сгенерированная нейросетью из общекультурного материала. Вы слишком сгущаете краски.
Я хотел добавить «или что-то скрываете», но в последний момент передумал. Ломас мрачно поглядел на меня и вздохнул.
– Хорошо, если так, – сказал он. – Но мы обязаны знать, какие цели Порфирий ставит перед другими алгоритмами, если моя догадка верна.
– Как это выяснить?
– Способ есть.
На столе перед Ломасом появился мраморный бюст – какой-то бородач. Сперва я принял его за одного из императоров, но потом различил на нем подобие пиджака. В Риме таких не носили.
– Кто это?
– Достоевский, – ответил Ломас. – Знаете такого?
– Слышал. А почему он здесь?
– Перед нашей
