Бог, человек, животное, машина. Технология, метафора и поиск смысла - Meghan O'Gieblyn
-
"Есть два типа мифов о сотворении мира, - пишет историк технологий Джордж Дайсон в своей книге "Собор Тьюринга", - те, в которых жизнь возникает из грязи, и те, в которых жизнь падает с неба". История современных компьютеров, утверждает Дайсон, опирается на обе эти традиции: "Компьютеры возникли из грязи, а код упал с неба". Этот дуализм, питающий некоторые из самых амбициозных технологических начинаний, очевиден в попытках вызвать у машин эмерджентный интеллект. Как големы были вылеплены из грязи и оживлены с помощью магического заклинания, так и роботы, созданные из материальных частей, будут населены божественным дыханием - абстрактными математическими схемами, которые составляют большую часть нашего мира и способны заставить системы ожить. Хотя эти мистические нотки не должны дискредитировать эмерджентность как таковую - это достаточно полезный способ описания сложных систем, таких как пчелиные ульи и климат, - идея о том, что сознание может возникнуть из машин, кажется формой принятия желаемого за действительное, хотя бы потому, что цифровые технологии были построены на предположении, что сознание не играет никакой роли в процессе развития интеллекта. Точно так же, как несколько причудливо верить в то, что наука может объяснить сознание, когда сама современная наука была основана на исключении разума, трудно поверить, что технологии, созданные специально для того, чтобы исключить понятие сознательного субъекта, могут прийти к развитию внутренней жизни.
На самом деле, отвергая эмерджентизм как чистую магию, вы игнорируете конкретные способы, которыми он отличается от этого фольклора - даже если он поверхностно удовлетворяет то же самое желание. Загляните под мистическую поверхность, и станет ясно, что эмерджентизм зачастую не так уж сильно отличается от самых редуктивных форм материализма, особенно когда речь заходит о человеческом сознании. Растительный интеллект называют формой "бездумного овладения", и большинство эмерджентистов считают людей такими же бездумными. Мы не являемся рациональными агентами, а представляем собой оболочку конкурирующих систем, лишенных какого-либо единства или способности к управлению. Мински однажды описал разум как "своего рода запутанную бюрократию", части которой остаются в неведении относительно друг друга. Он описал акт принятия решения о глотке чая в следующих терминах: "Ваши агенты ГРАСПИНГА хотят удержать чашку. Ваши агенты БАЛАНСИРОВАНИЯ хотят, чтобы чай не расплескался. Ваши агенты ТРЕВОГИ хотят, чтобы вы выпили чай. Ваши агенты ДВИЖЕНИЯ хотят донести чашку до ваших губ". Как интеллект пчелиного улья или автомобильной пробки кроется в схемах этих инертных, пересекающихся частей, так и человеческое сознание - это всего лишь абстрактные отношения, возникающие в этих системах: как только вы доберетесь до самого низкого уровня интеллекта, вы неизбежно обнаружите, как выразился Мински, агентов, которые "вообще не могут думать". В этой модели нет места тому, что мы обычно считаем внутренним опытом или самостью. Как утверждает историк науки Джессика Рискин, эмерджентные теории разума в конечном итоге отвергают то, что они должны объяснить. "Придя... к уровню этих тупых, основополагающих агентов, можно потерять всякое представление об интеллекте как свойстве разума".
Даже Брукс, с его нуминозными амбициями оживить роботов, называл сознание "дешевым трюком", иллюзией, которая существует только в глазах смотрящего. "Очень легко, - писал он об одном из своих роботов-насекомых, - наблюдателю системы приписать более сложную внутреннюю структуру, чем существует на самом деле". Герберту казалось, что он занимается такими вещами, как планирование пути и построение карты, хотя на самом деле это было не так". Даже самостоятельность, которую иногда демонстрировал Ког, можно было назвать самостоятельностью только потому, что человек-наблюдатель был готов воспринимать ее как таковую. Не иначе, когда речь шла о человеческих существах, сознание которых заключалось исключительно в их наблюдаемых действиях в мире. В конечном итоге он, как и Тьюринг, пытался не создать машины с разумом или душой, а доказать, что для того, чтобы машина вела себя убедительно по-человечески, ничего подобного не нужно.
Искусственный интеллект и разумные растения критикуют за антропоморфизм, но эти возражения неверно понимают суть метафоры. Сторонники децентрализованного интеллекта не столько заинтересованы в проецировании человеческих качеств на нечеловеческие объекты, сколько в реконфигурации человеческого интеллекта через призму этих неодушевленных систем. Как Брукс утверждал, что мы "чрезмерно антропоморфизируем людей... которые, в конце концов, всего лишь машины", так и сторонники сознания растений настаивают на том, что их цель - отказаться от представления о том, что человеческая субъективность является чем-то особенным. Эколог Моника Гальяно, прославившаяся своими экспериментами по изучению "поведения" растений, отмечает, что, хотя ее критики регулярно упрекают ее в антропоморфизации растений, ее намерения прямо противоположны. "Я заинтересована в фитоморфизации человека", - пишет она. "Я хочу, чтобы люди стали больше похожи на растения".
Такие устремления неизбежно требуют расширения определений терминов, которые обычно понимаются более узко. Если "интеллект" означает абстрактное мышление, то было бы глупо думать, что растения им занимаются. Но если он означает просто способность решать проблемы или адаптироваться к определенной среде, то трудно сказать, что растения не способны к интеллекту. Если "сознание" означает самосознание в самом сильном смысле этого слова, то никто не станет утверждать, что машины обладают такой способностью. Но если сознание - это просто осознание окружающей обстановки или, как это уже давно делается в искусственном интеллекте, способность вести себя так, что это кажется преднамеренным и намеренным, тогда становится сложнее настаивать на том, что это явление присуще только человеку и другим животным. Хотя эти переопределения призваны быть более широкими и всеобъемлющими, они радикально меняют наше понимание этих качеств, когда они применяются к нам самим. Это рискованная онтологическая сделка, предполагающая, что если мы хотим видеть себя единым
