Мичио Каку - Физика будущего
На постепенное восхождение роботов по эволюционной лестнице разума уйдет много десятилетий тяжкой работы, поэтому появление разумных роботов не станет внезапным. Человечество невозможно будет захватить врасплох и сразу же загнать в зоопарки, как зверей. Сознание, в моем понимании, — это скорее процесс, ход которого можно оценивать, а не внезапное эволюционное событие, и восхождение роботов по шкале сознания будет идти медленно и постепенно и займет не один десяток лет. В конце концов, на развитие человеческого сознания у матери-природы ушли миллионы лет. Так что для человека не станет неожиданностью, когда Интернет внезапно «проснется» или роботы ни с того ни с сего начнут самостоятельно планировать собственное будущее.
Именно такой подход предпочитал писатель-фантаст Айзек Азимов. В его произведениях каждому роботу еще на заводе намертво встраивали в сознание три непреложных закона, не позволявших им выйти из-под контроля. Цель знаменитых трех законов робототехники, придуманных им, состояла в том, чтобы не дать роботам нанести вред человеку или себе самим. (Если очень коротко, эти три закона гласят, что робот не может нанести вред человеку, что он должен повиноваться человеку и что он должен заботиться о себе, именно в этом порядке.)
(Даже азимовские законы не избавляют от проблем в тех случаях, когда ситуация порождает противоречие между тремя законами. Представьте, к примеру, что кому-то удалось создать благожелательного робота. Что произойдет, если человечество вдруг сделает губительный выбор и поставит под угрозу собственное существование? Дружественный робот может решить, что необходимо взять под контроль правительство и не дать человеку нанести себе вред. Именно с этой проблемой столкнулся Уилл Смит в кинофильме «Я, робот», когда центральный компьютер решил, что для спасения человечества «некоторыми людьми необходимо пожертвовать, а от некоторых свобод отказаться». Чтобы не позволить роботам поработить человечество и спасти его, некоторые предлагают дополнить законы робототехники еще одним, нулевым законом: робот не может нанести вред человечеству или поработить его.)
Однако многие ученые склоняются к варианту так называемого «дружественного ИИ», при котором подразумевается, что человек с самого начала сделает роботов доброжелательными созданиями. Поскольку именно мы — создатели роботов и именно мы будем их разрабатывать, ничто не помешает нам сделать так, чтобы роботы с самого начала занимались только полезными и добрыми делами.
Понятие «дружественный ИИ» или «дружественный сверхразум» ввел в обращение Элиезер Юдковский (Eliezer Yudkowsky), один из основателей Института сингулярности по искусственному интеллекту. Дружественный ИИ несколько отличается от законов Азимова, которые предполагается навязывать роботам, возможно против их воли. (Более того, законы Азимова, привнесенные в сознание роботов извне, могут побудить их поступить наоборот и заняться поиском хитрых путей их обхода.) В дружественном ИИ, напротив, ничто не мешает роботам убивать и безобразничать. Здесь нет законов, насаждающих искусственную мораль. Скорее можно сказать, что эти роботы с самого начала придуманы так, что для них естественным является желание помогать людям, а не губить их. Они сами выбирают путь добра.
Такой подход породил новое направление, получившее название «социальной робототехники». Его цель — наделить роботов качествами, которые помогут им безболезненно войти в человеческое общество. Ученые компании Hanson Robotics, к примеру, утверждают, что единственная задача их исследований — разработка роботов, которые «эволюционируют в социально разумные существа, способные любить и достойные места в расширенной человеческой семье».
Проблема с подобными подходами в том, что больше всего — и намного! — денег в разработки по искусственному интеллекту вкладывают военные, и роботы, создаваемые по их заказам, специально предназначены для выслеживания и убийства людей. Несложно вообразить себе будущих роботов-солдат, задачей которых будет распознавать солдат противника (людей) и уничтожать их с безошибочной эффективностью. При этом придется принимать чрезвычайные, невообразимые меры, чтобы гарантировать, что военные роботы не обернутся против своих хозяев. К примеру, беспилотный роботизированный самолет Predator управляется дистанционно, так что все его действия постоянно контролируют люди, но когда-нибудь самолеты-беспилотники, вероятно, станут автономными и получат возможность самостоятельно выбирать и поражать цели. Сбой в системе управления такого автономного самолета может вызвать катастрофические последствия.
В будущем, однако, все большая доля финансирования в разработку роботов будет поступать из гражданского коммерческого сектора, особенно в Японии, где назначение роботов — помогать, а не разрушать. Если такая тенденция сохранится, дружественный ИИ действительно может стать реальностью. В этом сценарии в робототехнике со временем возьмут верх потребительский сектор и рыночные силы, так что вкладывать деньги в дружественный ИИ станет чрезвычайно выгодно.
Слиться с роботами
В дополнение к дружественному ИИ существует и другой вариант: слиться со своими созданиями. Вместо того чтобы просто ждать, пока роботы превзойдут нас в интеллекте и мощи, нам следует улучшать себя и становиться сверхлюдьми. Я считаю, что будущее будет двигаться по обоим этим путям, т. е. человек будет создавать дружественный ИИ и одновременно совершенствоваться.
Этот вариант исследовал, в частности, Родни Брукс (Rodney Brooks), бывший директор знаменитой Лаборатории искусственного интеллекта МТИ. Он всегда был бунтарем, сражался с общепринятыми, но косными представлениями и вносил в эту область свежие идеи. Когда он только пришел в робототехнику, там безраздельно господствовал подход «сверху вниз». В результате в робототехнике наблюдался застой. Брукс вызвал немало удивленных взглядов, когда призвал к созданию армии насекомоподобных роботов, которые обучались бы на основе подхода «снизу вверх», т. е. натыкаясь на препятствия. Он не хотел делать еще одного тупого неуклюжего робота, которому требовалось бы несколько часов, чтобы пересечь комнату. Вместо этого он придумал проворных «инсектоидов», которые почти не требуют предварительного программирования, но быстро учатся передвигаться и ориентироваться среди препятствий методом проб и ошибок. Он предвидит наступление дня, когда его роботы и подобные им будут исследовать Солнечную систему, натыкаясь в пути на всевозможные препятствия. Эта идея, высказанная Бруксом в очерке «Быстрые, дешевые и себе на уме», на первый взгляд кажется странной и даже нелепой, но со временем такой подход привел к раскрытию целого спектра новых путей развития. В частности, одним из побочных результатов его идеи стали марсианские роверы, которые уже много лет бороздят поверхность Красной планеты[10]. Стоит ли удивляться, что Брукс был также президентом компании iRobot, продающей сегодня всюду напоминающие жуков роботизированные пылесосы.
Брукс считает, что одна из проблем ИИ состоит в том, что исследователи, как правило, хватаются за новые веяния и работают в рамках текущей парадигмы, вместо того чтобы думать по-новому и искать новые пути. Он вспоминает, к примеру: «В детстве у меня была книга, в которой мозг описывался как телефонный коммутатор. Еще более ранние книги описывали мозг как гидродинамическую систему или паровой двигатель.
Затем, в 1960-е, мозг стал цифровым компьютером. В 1980-е — цифровым компьютером с параллельной шиной. Вероятно, сейчас можно отыскать детскую книжку, где говорится, что мозг очень напоминает Всемирную паутину…»
Так, некоторые историки отмечают, что на психоанализ Зигмунда Фрейда повлияло появление парового двигателя и конкретно паровоза. Вообще, возникновение в Европе сети железных дорог в середине — конце XIX в. серьезно сказалось на мышлении интеллектуалов. По Фрейду, в сознании человека существуют потоки энергии, которые непрерывно конкурируют с другими потоками, и все это напоминает движение пара в паровозных паропроводах. А тот факт, что подавление этих энергетических потоков может вызывать неврозы, аналогичен тому, что паровой двигатель при закупорке клапана может взорваться.
Марвин Мински признался мне, что существует еще одна парадигма, которая уже много лет уводит исследователей ИИ в сторону и затрудняет развитие. Дело в том, что многие исследователи искусственного интеллекта пришли в эту область из физики и испытывают чувство, известное как «зависть физиков», — желание отыскать единственный принцип, лежащий в основе всякого разума. В физике ученые вслед за Эйнштейном стремятся представить физическую Вселенную в виде нескольких обобщающих уравнений и, возможно, отыскать короткое уравнение, которое объединило бы всю Вселенную единственной универсальной и понятной идеей. Мински считает, что «зависть физиков» побуждает исследователей ИИ искать универсальную базовую формулу и для сознания, — а на самом деле единой формулы или единого принципа не существует! Мински по крайней мере в этом убежден. Эволюция случайным образом объединила в один клубок множество самых разных структур и технологий, которые мы сегодня называем сознанием. Разберите мозг на составные части, и вы найдете набор слабо связанных между собой мини-мозгов, каждый из которых предназначен для выполнения конкретной задачи. Мински называет это «союзом сознаний» и говорит, что на самом деле человеческое сознание — это сумма множества отдельных алгоритмов и техник, которые случайно возникли и были подхвачены эволюцией и которые природа за миллионы лет объединила в единую систему.
