Бог, человек, животное, машина. Технология, метафора и поиск смысла - Meghan O'Gieblyn

Анимизм был заложен в конструкцию. Невозможно погладить предмет и обратиться к нему вербально, не считая его в каком-то смысле разумным. Мы способны приписывать жизнь объектам, которые гораздо менее убедительны. Дэвид Юм однажды заметил, что "человечество имеет универсальную тенденцию представлять себе все существа подобными себе", и эту поговорку мы подтверждаем каждый раз, когда пинаем неисправный прибор или нарекаем машину человеческим именем. "Наш мозг не может провести различие между взаимодействием с людьми и взаимодействием с устройствами", - пишет Клиффорд Насс, профессор коммуникативистики из Стэнфорда, автор книг о привязанности людей к технологиям. Мы "защищаем" чувства компьютера, чувствуем себя польщенными, когда нам нахамили, и даже делаем одолжения технике, которая была с нами "мила"".

По мере того как искусственный интеллект становится все более социальным, этих ошибок становится все труднее избежать. Несколькими месяцами ранее я прочитал в журнале Wired статью, в которой одна женщина призналась, что получает садистское удовольствие, крича на Alexa, персонифицированного домашнего помощника. Она обзывала машину, когда та включала не ту радиостанцию, закатывала глаза, когда Alexa не реагировала на ее команды. Иногда, когда робот неправильно понимал вопрос, они с мужем объединялись и ругали его вместе - своего рода извращенный ритуал, объединяющий их против общего врага. Все это преподносилось как доброе американское веселье. "Я купила этого проклятого робота, - писала автор, - чтобы он выполнял мои прихоти, потому что у него нет сердца, нет мозга, нет родителей, он не ест и не осуждает меня, и ему все равно".

Однажды женщина поняла, что ее малыш наблюдает за тем, как она выплескивает свою словесную ярость. Она забеспокоилась, что ее поведение по отношению к роботу влияет на ее ребенка. Затем она задумалась о том, как это отражается на ее собственной психике, так сказать, на ее душе. Что это значит, спросила она, что она привыкла небрежно относиться к этому существу?

Это было ее слово: "дегуманизация". Ранее в статье она назвала его роботом. Где-то в процессе сомнений в своем отношении к устройству, в процессе сомнений в собственной человечности, она решила, пусть и подсознательно, наделить его личностью.

-

Не так-то просто определить, где именно начинается и заканчивается жизнь. Наши официальные таксономии - это попытки навязать структуру континууму, который на самом деле полон неоднозначностей. Как и нейронные сети, системы восприятия нашего мозга зависят от обоснованных предположений. Любое восприятие - это метафора, как сказал Витгенштейн, мы никогда не видим просто так, мы всегда "видим как". Всякий раз, когда мы встречаем объект, мы сразу же делаем вывод о том, что это за вещь, сравнивая ее с нашим запасом ранее существовавших моделей. И, как оказалось, одна из самых старых и надежных моделей - это человек. Антрополог Стюарт Гатри утверждает, что наша склонность к антропоморфизму - это эволюционная стратегия. Все перцептивные догадки приносят свои плоды в плане выживания (эволюция использует положительное и отрицательное подкрепление). Если вы идете по лесу и замечаете большую темную массу, предположить, что это медведь, будет выгоднее с точки зрения выживания, чем предположить, что это валун. Еще безопаснее предположить, что это другой человек, который может быть более опасен, особенно если у него есть оружие. Одушевленные вещи важнее для нашего выживания, чем неодушевленные, а другие люди - самые важные из всех. Таким образом, естественный отбор поощряет тех, кто, столкнувшись с неопределенным объектом, "делает большую ставку", предполагая, что этот объект не только живой, но и человеческий. Все мы унаследовали эту схему восприятия, и наша склонность переоценивать объекты, наделяя их личностью, является ее досадным побочным эффектом. Мы постоянно, навязчиво, очаровываем мир жизнью, которой он не обладает.

Гатри выдвигает гипотезу, что именно эта привычка видеть наш образ повсюду в мире природы и породила идею Бога. Ранние цивилизации полагали, что природные явления несут на себе следы человеческого вмешательства. Землетрясения происходили потому, что боги гневались. Голод и засуха были свидетельством того, что боги наказывали их. Поскольку человеческое общение носит символический характер, люди быстро стали рассматривать мир как систему знаков, как будто некое высшее существо стремилось передать информацию через природные события. Даже подозрение в том, что мир упорядочен или спроектирован, говорит об этом более широком импульсе видеть человеческий замысел и человеческую цель в каждой последней причуде "творения".

Очевидно, нашему солипсизму нет конца. Наше самосозерцание настолько глубоко, что мы спроецировали свой образ на пустой небесный свод и назвали его божественным. Но эта теория, если она верна, предполагает более глубокую истину: метафоры - это улица с двусторонним движением. Не так-то просто отличить область-источник от области-мишени, запомнить, какой объект является оригиналом, а какой - его подобием. Логика может течь в любом направлении. Веками мы говорили, что созданы по образу и подобию Бога, хотя на самом деле мы создали его по своему образу и подобию.

-

Как только мы начали создавать компьютеры, мы увидели, что в них отражается наш образ. Именно Уоррен Маккалох и Уолтер Питтс, пара кибернетиков, которые стали пионерами нейронных сетей, придумали вычислительную теорию разума. В начале 1940-х годов они утверждали, что человеческий разум на нейронном уровне функционирует подобно машине Тьюринга - раннему цифровому компьютеру. Обе машины манипулируют символами в соответствии с заранее установленными правилами. Обе используют петли обратной связи. То, что нейрон либо срабатывал, либо не срабатывал, можно представить как своего рода двоичный код, выполняющий логические предложения. Например, если два нейрона, A и B, должны оба сработать, чтобы сработал третий нейрон, C, это может соответствовать предложению "Если A и B оба истинны, то C истинно". Эта метафора давала возможность представить психику, давно изгнанную из лаборатории, в более строгих научных терминах, как механизм, подчиняющийся законам классической физики. В своей работе 1943 года Маккаллох и Питтс предложили первую вычислительную модель искусственной нейронной сети, основываясь на своей убежденности в том, что математические операции могут реализовать психические функции. Вскоре после публикации статьи Маккалох объявил, что мозг "вычисляет мысли так же, как электронные компьютеры вычисляют числа".

Маккалох и сам прекрасно понимал ограниченность метафоры. В своих работах он признавал, что вычисления - это идеализация разума, а не зеркало его воплощенной реальности. Он искал метафору, "настолько общую", как он выражался, что "любая схема,