История твоего «Я». Вся правда о deepfake - Андрей Владимирович Курпатов
Представьте себе, что мы с вами заперты в комнате с книгой, в которой содержатся инструкции о том, как нам реагировать на те или иные входные данные. Книга написана на понятном нам языке, а вот входные данные будут поступать на китайском, который мы, по условиям данного мысленного эксперимента, мы не знаем (в моём случае так и есть).
Итак, через специальное окошко, наподобие почтового ящика, в нашу комнату подают карточки с китайскими иероглифами. Мы берём инструкцию, сопоставляем эти иероглифы с другими иероглифами, и отправляем, то, что у нас получилось, обратно.
Поскольку мы не понимаем китайский язык, для нас эти иероглифы – сущая тарабарщина. Мы просто выполняем механическую работу – сопоставление символов по правилам. Однако снаружи комнаты люди, получающие от нас ответы, скорее всего, будут думать, что мы всё понимаем, потому что наши ответы кажутся им вполне осмысленными – спасибо хорошо составленным инструкциям!
Сёрль сравнивает свою «китайскую комнату» с искусственным интеллектом: мол, он именно таков – нам может казаться, что он думает, хотя на самом деле он лишь следует алгоритмам, а суть сообщений ему неясна, у него нет, так скажем, их внутреннего понимания.
Честно говоря, никто не знает, понимает что-то искусственный интеллект или нет, потому что если и «понимает», то точно как-то совсем иначе, нежели мы, а как именно – мы и сами не можем понять. Впрочем, сейчас это и неважно. Важно, что в мысленном эксперименте Джона Сёрля с нашей «китайской комнатой» общается какой-то гипотетический человек, думающий на китайском и понимающий китайский.
Но как мы выяснили в первой главе, правда состоит в том, что и наш «китайский» собеседник сидит в ровно такой же комнате: наше почтовое окошко не ведёт в некий внешний мир, но лишь в другую точно такую же комнату.
Человек в этой комнате тоже получает сообщения на непонятном ему языке, точно так же пользуется инструкцией, чтобы подобрать правильный ответ, и точно так же отправляет его обратно. Но самое важное, что этот человек – это тоже мы.
Да, судите сами: нам приходят какие-то сигналы и извне – от внешнего мира (карточки с иероглифами), и изнутри – от наших биологических настроек (инструкции к этим иероглифам), – одно складывается с другим, и мы производим некое действие.
Ощущаем ли, что действуем осознанно, находясь в своих китайских комнатах? Вполне. Понимаем ли мы на самом деле, что происходит? Нет. Мы даже не броуновское тело, мы движение броуновского тела, находящегося под воздействием внутренних и внешних обстоятельств.
• Внутренние обстоятельства пыльцы или глины Роберта Броуна – её состав, консистенция, масса и т. д.
• Внешние обстоятельства – температура жидкости, в которой оно находится под микроскопом исследователя, то есть активность движения молекул в ней.
• Как результат – итоговый наблюдаемый вектор движения броуновской частицы.
В нашем случае внешние обстоятельства – условия среды, внутренние – наши собственные биологические настройки, а наша жизнь – результирующий вектор. То, как мы объясняем себе свои реакции, – это просто способ поддержать реноме «голого короля», и эта способность появляется у нас не раньше, чем система породит наше «социальное я».
В этой главе мы как раз пытались понять, откуда и как у нас возникло это новое, теперь уже «социальное я».
Как мы выяснили, общий механизм возникновения этой иллюзии ничем не отличается от «физического я» – лишь средой, в которой он реализуется. Если иллюзия «физического я» формируется у нас в физическом мире, то эффект «социального я» – в мире, соответственно, социальном.
Социальный мир – это вовсе не мир других людей, а мир эйдосов, то есть сущностей, которые мы усматриваем, интерпретируя отношения между людьми, которые – сами по себе – являются гипотетическими. Да и сами люди являются для нас не руками и ногами с головой и туловищем, а точно такими же сущностями, которые мы в них усматриваем, а точнее – которые мы в них вносим.
Для облегчения процесса приобщения ребёнка к социальному миру эйдосов человечество пользуется словами – знаками, которые обозначают эти сущности, а точнее предполагают их. Мы обозначаем собственные состояния, ощущения, а они – только эффекты, возникающие в нас самих.
Так что сами по себе все эти сущности – лишь призраки нашего внутреннего галлюциноза, они не существуют в объективной реальности. Это такая кажимость – текучая, неверифицируемая, но почти зримо нами ощущаемая.
Эти призраки обязаны своим появлением тому, что люди ведут себя так, словно бы они реальны. Что-то кажется нам столом только потому, что мы рассматриваем его как «стол». Всё дело в функциях – в том, как мы используем это нечто.
«Столом» для нас может быть и пенёк на лесной опушке, когда мы устраиваем пикник, и пластиковая коробка, когда ребёнок высаживает за ней на «обед» своих кукол, и большой подоконник, который я сейчас использую для работы над этим текстом.
Никаких «столов» самих по себе не существует, но при определённых обстоятельствах – когда мы садимся за стол, пусть даже лишь мысленно, – он становится «столом», он обретает для нас сущность «стола», «стольность».
И так с любой вещью, любым предметом, любой идей, теорией и даже переживанием или социальной ролью – их не существует как таковых, они обитают как призраки в платоновском «занебесье», которого нет и которое мы выводим лишь гипотетически, чтобы хоть как-то со всем этим разобраться.
Таков общий для всех нас мир интеллектуальной функции – МИФ, – который и есть, и которого в тот же самый момент нет, но к которому мы получаем доступ, осваивая язык. В результате, впрочем, этот доступ окажется лишь иллюзией, но благодаря ему мы создадим свой собственный МИФ, который начнём ощущать как подлинный и реальный мир.
Мы заражаем друг друга этими сущностями, формируя общий для нас культурный «социокод». Он очень похож на генетической код; более того, и у генетического кода, и у социокода, казалось бы, есть физические носители – гены и тексты.
Однако думать так было бы ошибкой – тексты не самовоспроизводятся (если не считать таковыми большие лингвистические модели, лежащие в основе искусственного интеллекта). Генетический код производит белки, которые создают что-то фактическое, существующее уже само по себе. Тексты же в лучшем случае влияют на наш индивидуальный МИФ, и всё, что они создают, создаётся в нём же.
Так что
