Мичио Каку - Физика будущего
В этом смысле хищники по уровню сознания стоят выше, чем их жертвы. Хищникам приходится кое-что планировать заранее: подыскивать место для логова, планировать засаду, выслеживать, предугадывать действия добычи. Добыче же, как правило, достаточно просто убегать, и побыстрее, так что ее сознание следует оценивать ниже.
Далее, приматы способны импровизировать, составляя планы на ближайшее будущее. Если показать человекообразной обезьяне банан, который находится рядом, но вне пределов досягаемости, она может изобрести какой-нибудь способ достать банан; к примеру, воспользоваться палкой. Так что, имея перед собой конкретную цель (достать пищу), приматы планируют ближайшее будущее так, чтобы достичь этой цели.
Однако в целом животные не обладают развитым чувством отдаленного прошлого или будущего. Очевидно, в животном Царстве не бывает завтрашнего дня. Нет никаких свидетельств того, что животные могут планировать будущее на несколько дней вперед. (В преддверии зимы многие животные запасают пищу, но такое поведение запрограммировано генетически: гены заставляют их реагировать на снижение температуры усиленными поисками еды.)
Зато человек обладает прекрасно развитым чувством будущего и постоянно составляет планы. В голове каждый из нас непрерывно моделирует будущую реальность. Мы способны составлять планы, которые простираются далеко за пределы нашей собственной жизни. Более того, мы оцениваем других людей по их способности верно предугадать развитие ситуации и сформулировать конкретную стратегию поведения на этот случай. Умение предсказать будущее, взвесить возможные последствия и сформулировать конкретные цели с учетом всех обстоятельств — важная часть способности к лидерству.
Иными словами, эта форма сознания включает в себя предвидение будущего, т. е. создание многочисленных моделей, аппроксимирующих будущие события. Для этого необходимо великолепное владение принципами здравого смысла и законами природы. Вы должны постоянно задавать себе вопрос: «Что будет, если?..» Не важно, что вы планируете сделать — ограбить банк или избраться в президенты; чтобы спланировать задуманное, вам все равно придется строить в голове многочисленные модели возможного будущего.
Все данные указывают на то, что на Земле этим искусством овладел пока только человек.
В этом можно убедиться, в частности, при анализе психологических профилей. Специалисты часто сравнивают психологические профили взрослых с их же профилями, полученными, когда они были детьми. Затем задается вопрос: какое качество в профиле ребенка могло указать на будущий успешный брак, успешную карьеру, богатство и т. п.? Если исключить из картины социоэкономические факторы, обнаруживается, что нередко в профиле одна характеристика выделяется среди остальных: способность откладывать удовольствие. Согласно многолетним исследованиям Уолтера Мишеля (Walter Mischel) из Колумбийского университета и многих других ученых, дети, способные воздержаться от немедленного получения удовольствия (к примеру, не съесть сразу же полученную палочку пастилы) и дождаться обещанной более высокой награды (скажем, двух палочек пастилы вместо одной), позже стабильно добиваются более высоких результатов едва ли не во всех мыслимых областях жизни: в учебе, в любви и в карьере.
Следует заметить, что способность отложить удовольствие указывает на более высокий уровень самоанализа и сознания. Такие дети умеют моделировать будущее и способны понять, что это будущее обещает больше. Для того чтобы видеть возможные последствия собственных действий, требуется более высокий уровень сознания.
Таким образом, исследователи ИИ должны стремиться к созданию робота, обладающего всеми тремя рассмотренными качествами. Первое труднодостижимо, поскольку роботы могут воспринимать окружающий мир, но не способны разобраться в нем. Самоанализ — более простая цель. А вот для планирования будущего необходим здравый смысл, интуитивное понимание, что возможно и что невозможно, а также конкретные стратегии достижения конкретных целей.
Мы видим, что здравый смысл — необходимая предпосылка для высшего уровня сознания. Чтобы робот мог моделировать реальность и предугадывать будущее, он должен сначала освоить миллионы закономерностей окружающего мира, составляющие так называемый житейский здравый смысл. Но одного этого недостаточно. Здравый смысл — это всего лишь «правила игры», а вовсе не законы стратегии и планирования.
Мы получили шкалу, по которой можно оценить всех существующих на настоящий момент роботов.
Ясно, что Deep Blue, машина-шахматист, окажется на этой шкале очень низко. Она, конечно, может выиграть у чемпиона мира по шахматам — и только. Она способна моделировать реальность, но лишь в рамках шахматных правил. Моделировать какую бы то ни было иную реальность она не в состоянии. То же можно сказать о большинстве крупнейших компьютеров мира. Они великолепно моделируют один из аспектов реальности — к примеру, атомный взрыв, обтекание воздухом летательного аппарата или погоду. Эти компьютеры просчитывают сложнейшие модели гораздо лучше человека. Но при этом они очень одномерны, а потому не имеют шансов на выживание в реальном мире.
Сегодня исследователи ИИ не представляют, как можно воспроизвести в роботе процессы мышления. Большинство ученых просто поднимает руки и говорит, что как-нибудь громадные сети компьютеров сами выдадут «системные эффекты», так же как иногда из хаоса спонтанно возникает порядок. Если же прямо спросить, как именно эти системные эффекты приведут к возникновению сознания, большинство пожимает плечами и закатывает глаза.
Мы не знаем, как сделать робота, который обладал бы сознанием, но вообразить робота, который превзошел бы нас, мы в состоянии. Для оценки уровня сознания воспользуемся всем уже сказанным.
Такой робот должен великолепно проявлять себя в третьем качестве: он сможет гораздо лучше, чем мы, производить сложнейшие расчеты и моделирование будущего; он сможет рассмотреть больше вариантов, под разными углами, более подробно и глубоко. Его модели будут более точными, чем наши, потому что он будет лучше владеть здравым смыслом и законами природы, а потому лучше видеть закономерности. Он научится замечать проблемы, которые человек мог бы недооценить или просто не заметить. Более того, он научится ставить перед собой собственные цели. Если роботы поставят себе цель, в частности, помогать роду человеческому, все в порядке. Но если однажды окажется, что человечество мешает достижению какой-то их цели, последствия могут быть весьма неприятными.
Все это порождает следующий вопрос: что станет с человечеством, если будет реализован второй сценарий?
Когда роботы превзойдут людей
В одном сценарии нас, ничтожных человечков, просто отодвинут в сторону как пережиток эволюции. Более приспособленные виды развиваются и сменяют менее приспособленные — это закон эволюции. Возможно, существование человечества на этом закончится и последние люди будут доживать свой век в зоопарках под любопытными взглядами наших творений-роботов. Возможно, такова наша судьба: дать жизнь суперроботам, которые затем будут относиться к нам как к чудовищно примитивной и не слишком существенной главе своей эволюции. Может быть, в этом и состоит наша историческая роль — породить тех, кто сменит нас на пути эволюции. В этом сценарии нашей задачей будет побыстрее уйти с пути разумных роботов.
Дуглас Хофштадтер признался мне, что, возможно, таков естественный порядок вещей, но мы должны относиться к этим сверхразумным роботам как к собственным детям — ведь они и впрямь наши дети в каком-то смысле. Если человек может заботиться о своих детях, сказал он мне, то почему он не может так же заботиться и о разумных роботах, которые тоже являются нашими детьми?
Ганс Моравек представляет, как может чувствовать себя человек, которого обошли и оставили далеко позади роботы: «…жизнь может показаться бессмысленной, если нам суждено будет провести ее за глупым разглядыванием нашего сверхразумного потомства, в то время как они будут пытаться растолковать нам свои все более впечатляющие достижения упрощенным языком, чтобы мы могли понять».
Если настанет наконец судьбоносный день, когда роботы обойдут нас разумом, мы не только перестанем быть самыми разумными существами на Земле; наши создания смогут изготовить собственные копии и даже улучшить их, так что «дети» будут умнее «родителей». Эта армия самовоспроизводящихся роботов положит начало бесконечному ряду будущих поколений, причем каждое следующее будет умнее предыдущего. А поскольку теоретически роботы смогут создавать следующие поколения очень быстро, со временем этот процесс вплотную подойдет к экспоненциальному взрыву, и бесчисленные роботы в своем ненасытном стремлении к разумности начнут истощать ресурсы планеты.
