Метазоа. Зарождение разума в животном мире - Питер Годфри-Смит
Следствия
Предположим, что мы на верном пути и идеи, изложенные здесь, пусть неполны, но, насколько возможно, истинны. Что это значит в приложении к другим вопросам, актуальным сегодня? Каковы будут следствия? Я проанализирую два.
В предыдущих главах я писал, что многие считают пчел и мух, например, крошечными летающими роботами, а вовсе не субъектами опыта. Читатель может удивиться, отчего я недоволен этими роботами и почему списываю их со счета. Ведь пусть у современных роботов опыта быть не может, но кто его знает, что сулит нам будущее?
Здесь мы касаемся темы искусственного интеллекта (ИИ) – разнообразных систем, где якобы должен существовать разум, размещенный не в теле – обычным манером, – но реализованный в алгоритмах компьютерной программы. Я имею в виду попытки создать так называемый сильный ИИ – компьютерные программы, способные не просто вести себя или решать проблемы так, как мог бы это делать некто, наделенный разумом, но программы, которые, будучи запущены, должны стать разумом. Если разум способен существовать в виде алгоритмов программного обеспечения, можно рассчитывать, что однажды мы сумеем загрузить какие-то из них, возможно те, где будет закодирован наш собственный разум, в информационное «облако». Нам по-прежнему нужны будут материальные носители, но разум сможет перемещаться с одного компьютера на другой, как перемещается информация в современных облачных технологиях. Наши мысли и опыт, ныне существующие в ограниченном пространстве тел, после загрузки будут порхать с машины на машину.
Если идеи, изложенные в этой книге, верны, создать разум, задав машине последовательность операций, невозможно, какими бы сложными и отточенными ни были эти алгоритмы. Подход, который я отстаиваю, до некоторой степени противоречит концепциям, лежащим в основе подобных проектов ИИ.
Эти проекты опираются на представление, будто разум наличествует в виде паттернов активности и взаимных связей. Обычно эти паттерны существуют в мозге, но считается, что их можно запустить и на других физических устройствах. Я, в общем, не спорю с мыслью, что разум существует в виде паттернов активности, но эти паттерны гораздо менее «мобильны», чем порой предполагается, – они неотделимы от конкретного вида физической и биологической основы.
Против идеи сильного ИИ часто выдвигают следующее возражение: в компьютерных программах можно изобразить паттерны взаимодействия, наблюдаемые в мозге, но это не то же самое, как если бы эти паттерны существовали в компьютере. Они всего лишь закодированы, записаны, но этого недостаточно. Это важное возражение, однако защитники ИИ, как правило, просто отмахиваются от него. Тем не менее есть такая связанная с работой мозга активность, которая действительно может существовать в компьютере, причем добиться этого несложно. Предположим, что мозг – всего лишь коммутируемая сеть передачи сигналов, где нейрон А активизирует нейроны В и С, нейрон С влияет на D, E и F и так далее и, кроме этого, ничего больше не происходит. Тогда, если какая-то деталь компьютера будет играть роль нейрона А (включающего В и С), другая – выполнять функции нейрона В и так далее, у вас будет все, что нужно, – все паттерны активности мозга присутствуют в машине, а не просто воспроизводятся ею. Но ведь это еще не все, что делают нейроны – и мозг тоже. Возражение, суть которого в том, что программы ИИ просто воспроизводят то, что делает мозг, но не делают того, что он делает, становится еще актуальнее, когда речь идет о крупномасштабных динамических свойствах мозга. Они тоже должны реально существовать в компьютере. Недостаточно составить пару уравнений, описывающих, что эти ритмы и волны (и так далее) делают, и скормить эти уравнения машине. Вся эта активность должна присутствовать в машине на самом деле.
Если наша цель – разум вообще, а не конкретно человеческий разум, тогда эти паттерны не обязаны быть точь-в-точь такими же, как в нашем мозге, достаточно будет простого сходства. Но задумайтесь, сколько всего нужно, чтобы запустить подобные процессы в машине. Подумайте об активности, которая дает начало ритмам и полям, о притоках и оттоках ионов (заряженных частиц) через клеточные мембраны, в сумме вызывающих синхронную осцилляцию в отдельных областях мозга. Даже если забыть о полях, существование системы, в которой наблюдается нечто подобное динамическим паттернам мозга, но которая не была бы подобна мозгу и в других отношениях, представляется сомнительным.
Здесь настал подходящий момент обдумать смысл той разновидности материализма, которую я описываю в своей книге. В вашей голове непрерывно роятся осознанные мысли. Неужели все дело в мозге? Посмотрите, это же просто серый ком. Разве этого может быть достаточно? И тут кто-то говорит: «Нет, нет, дело не в самом этом объекте, дело в активности внутри мозга, а ее вы увидеть не можете». Вы спрашиваете: «Какой активности?» И вам отвечают: «Это обмен сигналами и коммутация, очень запутанная и сложная». Предполагается, что вы скажете: «Ну хорошо» – и подумаете, что объяснение имеет смысл. Но разве оно что-то меняет? Затем перед вами вырисовывается общая картина: кроме межклеточных связей, есть еще ритмы, поля, паттерны электрической активности, модулируемые посредством ощущений. И тут, по крайней мере для меня, все вдруг меняется. Вот такая активность действительно может быть мной, моими мыслями и опытом, моей памятью о прошлом и фантазиями о будущем. В это уже не так трудно поверить.
Современные компьютеры наделены какой-то долей разума, ничтожной крупицей того, что происходит внутри нас. Компьютеры могут создавать иллюзию агентности и субъективности, причем весьма убедительную. Но, если взять устройство, соединяющее в единое целое быстрые, надежные процессоры и вместительное хранилище информации, и снабдить его всей энергией, какая ему требуется, оно все равно будет кардинально отличаться от мозга и от живого организма, как бы мы это устройство ни программировали. Возможно, в будущем искусственные системы станут собирать из других материалов, и они смогут выполнять операции, какие сегодня подвластны только живому мозгу. В результате на свет появится своего рода искусственная жизнь или по крайней мере нечто, похожее на нее больше, чем современные системы искусственного интеллекта. Проблема не в искусственности, не в том, что ИИ создан человеком, а не эволюцией. Проблема в том, что внутри ИИ должны происходить совершенно определенные, «правильные» процессы.
Из всей проблематики ИИ больше всего возражений у меня вызывают сценарии «загрузки»{269}. Представление, будто загруженная
