Бог, человек, животное, машина. Технология, метафора и поиск смысла - Meghan O'Gieblyn
Так получилось, что я подготовился к разговору об эмерджентности в ИИ. Я читал из эссе о "воплощенном интеллекте", теории робототехники, разработанной в Массачусетском технологическом институте в 1990-х годах, когда Родни Брукс руководил Лабораторией медиа. До появления Брукса большинство форм искусственного интеллекта создавались как огромные развоплощенные мозги, поскольку ученые считали, что тело не играет никакой роли в человеческом познании. В результате эти машины преуспевали в самых абстрактных формах интеллекта - вычислениях, шахматах - но терпели поражение, когда дело доходило до тех видов деятельности, которые дети находят легкими: речь и зрение, различение чашки и карандаша. Когда машинам дали тела и научили их взаимодействовать с окружающей средой, они делали это мучительно медленно и неуклюже, поскольку были вынуждены постоянно соотносить каждую новую встречу со своей внутренней моделью мира.
Откровением Брукса стало то, что именно централизованная обработка данных - так сказать, "мозги" компьютеров - тормозила их работу. Наблюдая за тем, как один из этих роботов неуклюже перемещается по комнате, он понял, что таракан мог бы выполнить ту же задачу с большей скоростью и ловкостью, несмотря на то что ему требовалась меньшая вычислительная мощность. Брукс начал создавать машины по образцу насекомых. Он использовал совершенно новую систему вычислений, которую назвал "архитектурой субсуммирования", - форму распределенного интеллекта, подобную той, что существует в пчелиных ульях и лесах. Вместо центрального процессора его машины были оснащены несколькими различными модулями, каждый из которых имел свои собственные датчики, камеры и исполнительные механизмы и минимально взаимодействовал с остальными. Вместо того чтобы быть заранее запрограммированными на целостную картину мира, они учились на лету, напрямую взаимодействуя с окружающей средой. Один из них, Герберт, научился бродить по лаборатории и воровать пустые банки из-под газировки из чужих офисов. Другой, Чингиз, смог ориентироваться на пересеченной местности без какой-либо памяти или внутренней карты. Брукс посчитал, что эти успехи означают, что для интеллекта не нужен единый, знающий субъект. Он был убежден, что эти простые способности роботов будут развиваться, пока не сформируется нечто, очень похожее на человеческий интеллект. "Мышление и сознание не нужно будет программировать", - писал он. "Они появятся сами".
На протяжении всего моего выступления аудитория казалась внимательной и заинтересованной. Но когда мы перешли к вопросам и ответам, стало ясно, что слушатели с гораздо большим энтузиазмом относятся к эмерджентности в биологических системах, чем к перспективам эмерджентного ИИ. Одна женщина, профессор ботаники, вслух размышляла о том, как странно, что мы считаем природу инертной, в то время как она так часто проявляет себя в этих сложных системах. Разве "самоорганизация" не является своего рода агентством и интеллектом? Другой слушатель отметил, что преобладание самоорганизующихся эмерджентных систем наводит на мысль, что на базовом уровне реальности существует некий числовой порядок - золотое сечение или божественное уравнение, - который проявляется в многочисленных закономерностях природы: в стадах, стаях и школах рыб, в кристаллах льда и фрактальной организации снежинок. Мы все были частью одной сети. Многие комментарии перекликались с предпосылками глубокой экологии и объектно-ориентированной онтологии: идеей о том, что пора наконец отказаться от современного рационализма и его привилегированного положения человеческого субъекта; что человеческая исключительность - это своего рода раковая опухоль, которая привела к нашему нынешнему экологическому кризису. Время от времени я вступал в дискуссию, чтобы прокомментировать, как эти же идеи применимы к машинному интеллекту, но каждый раз мне казалось, что я впустил в комнату холодный сквозняк, развеявший кумбайю. Когда я упомянул, что интернет, пробки и фондовый рынок также можно считать формами распределенного интеллекта, меня встретила комната, полная пустых взглядов.
Последний вопрос поступил от человека, который долго говорил о "цереброцентризме", иллюзии, что человеческий мозг имеет некоторое преимущество перед другими системами интеллекта. Это привело к еще более длинному отступлению о Гегеле. В конце концов он перешел к постановке своего вопроса, который оказался скорее вызовом. По его словам, он хотел узнать, как нам, писателям, удается примирить выводы наших исследований с тем фактом, что писательство требует от нас позиции превосходства, предполагающей ложные различия между людьми и другими разумными системами. Не повторяем ли мы, анализируя и критикуя мир, предпосылки этой философии с ее ложной дихотомией субъекта и объекта?
Я взглянул на двух других женщин, которые прилагали лишь минимальные усилия, чтобы скрыть свое раздражение. Очевидно, они не собирались забрасывать наживку. Я повернулась к мужчине и сказала что-то язвительно-прагматичное - что он предложил в качестве альтернативы? У нас у всех есть работа и сроки, нам нужно есть, - по крайней мере, это помогло снять напряжение. Я уже мог предположить, что именно на этот комментарий все будут жаловаться в приватной беседе позже тем же вечером. Но его вопрос был всего лишь самой экстремальной формулировкой позиции, о которой говорили весь вечер, - идеи о том, что космологическая гармония требует отказа от давних представлений о том, что значит быть человеком, или отказа от них. Я, конечно, согласился с тем, что мы часто переоценивали свои силы и придавали слишком большое значение своей уникальности. Но сваливать всю историю разочарований на человеческий эгоизм казалось слишком простым и, возможно, даже противоречащим тому, чего пытались достичь эти новые теоретические рамки. Дискурс слишком часто приходил к странному выводу, что для того, чтобы вновь представить мир разумным и живым, необходимо отказаться от этих качеств в нас самих.
-
Когда речь идет о биологических системах, таких как леса и стаи, эмерджентное поведение, которое кажется единым и разумным, может существовать без централизованной системы управления, такой как мозг. Но эта теория была применена и к самому мозгу, как способ объяснить человеческое сознание. Хотя большинство людей склонны считать мозг центральным процессором организма, сам этот орган не имеет центрального управления. Философы и нейроученые часто указывают на то, что наша вера в единое внутреннее "я" - иллюзия, как однажды выразился Ричард Докинз, что мы "единица, а не колония", - не имеет под собой никакой основы в реальной архитектуре мозга. Вместо этого существуют лишь миллионы бессознательных частей, которые, подобно пчелиной колонии, сговорились между собой, чтобы создать "систему", обладающую разумом. Эмерджентизм часто подразумевает, что сознание находится не только в голове; оно возникает из сложных отношений, существующих во всем теле, а также из взаимодействий между телом и окружающей средой.
Брукс и его команда из Массачусетского технологического института, по сути, пытались воссоздать условия эволюции
