Искусственный интеллект – надежды и опасения - Джон Брокман
Как общество собирается справляться со все ускоряющейся ликвидацией множества привычных профессий и нарастающей технологической безработицей? Кое-кто утверждает, что беспокоиться не о чем: мол, ничего страшного не происходит, ведь одновременно появляются новые рабочие места, которых раньше попросту не было; но, как указывает Гребер, эти новые рабочие места не обязательно окажутся прибыльными, а сами занятия – уважаемыми. Понадобилось целое столетие после первой промышленной революции, чтобы большинство людей ощутили улучшение. Эта революция стала возможной только потому, что правительства того времени безжалостно отстаивали права собственности в ущерб трудовым интересам, а большинство людей (женщины поголовно) не имело права голоса. В нынешних демократических обществах население вряд ли готово мириться со столь драматическими потрясениями и верить обещаниям, что «в конце концов» все станет лучше.
Даже радужные перспективы, которые рисует власть, зависят от радикальной перестройки образования и «пожизненного» обучения. Промышленная революция действительно спровоцировала грандиозные социальные перемены, в том числе переход к всеобщему образованию. Но этого не случится до тех пор, пока мы сами не осуществим такой переход, а здесь все упирается в вопросы власти, свободы действий и контроля. Задумайтесь – что ждет, скажем, сорокалетнего таксиста или водителя грузовика в эпоху автономных транспортных средств?
Рассматривается, конечно, концепция универсального базового дохода, который позволит гражданам развивать свои навыки, переобучаться новым профессиям и в целом подготовиться к «достойной» жизни. Однако рыночная экономика, в которой все определяется растущим потребительским спросом, может отторгнуть это нововведение. Кроме того, почти общепризнано, что осмысленная работа необходима для того, чтобы человек осознавал свое достоинство и ощущал удовлетворение. Значит, другая возможность состоит в том, что огромные средства, полученные за счет повышения производительности труда благодаря автоматизации, можно направить на создание рабочих мест в отраслях, по-прежнему требующих человеческого труда и творчества – например, в искусстве, музыке, социальной работе и других общественно полезных занятиях. В конечном счете признание одних рабочих мест достойными и прибыльными, а других – мнимыми, будет, по сути, личным делом каждого и станет варьироваться от общества к обществу и меняться с течением времени.
* * *
До сих пор я рассуждал о практических последствиях развития и внедрения ИИ. Как ученого меня беспокоит потенциальная потеря понимания. Сегодня мы накапливаем данные с невероятной скоростью. В моей лаборатории, к примеру, эксперименты генерируют более терабайта данных в сутки. Эти данные накапливаются, анализируются и обрабатываются, благодаря чему их удается свести к интерпретируемому результату. Но за всеми процедурами анализа данных стоит наша уверенность в том, что нам известна суть происходящего. Мы знаем, что именно делают программы, поскольку это мы разрабатывали алгоритмы, лежащие в их основе. Так что итоги компьютерной деятельности выглядят для нас интеллектуально постижимыми.
Новые программы машинного обучения сильно отличаются от своих предшественниц. Распознавая шаблоны посредством глубинных нейронных сетей, они делают некие выводы, логическую цепочку которых мы не в состоянии выявить. Когда они раскрывают некие отношения, мы не понимаем этого, в отличие от ситуаций, когда сами выводим подобные отношения в рамках базового теоретического контекста. Поскольку наборы данных разрастаются, мы уже не в силах анализировать их – даже с помощью компьютеров; скорее, мы склонны целиком полагаться на компьютеры в проведении анализа. Поэтому, если кто-то спросит, откуда мы то-то и то-то узнали, ответ будет простым: машина проанализировала данные и вывела заключение.
Однажды компьютер вполне может предложить нам совершенно новый результат – например, математическую теорему, чье доказательство или даже обоснование никто из людей не сможет понять. Это философское отличие от привычного нам способа заниматься наукой. По крайней мере, от привычного для нас; могут возразить, что мы до сих пор не знаем, как наш собственный мозг делает умозаключения, а потому эти новые способы, не исключено, просто имитируют глубинные человеческие рассуждения. Тем не менее потенциальная потеря понимания вызывает беспокойство.
Несмотря на замечательные достижения в области вычислительной техники, ажиотаж вокруг ОИИ – общего искусственного интеллекта, способного мыслить как человек и, возможно, обрести сознание – представляется мне научной фантастикой, отчасти потому, что мы не понимаем устройства человеческого мозга на таком уровне детализации. Мы не ведаем, что такое сознание, и не в силах научно объяснить даже относительно простые явления – к примеру, как именно запоминаем телефонные номера. Одна эта элементарная ситуация порождает множество вопросов. Откуда мы знаем, что перед нами число? Как мы увязываем число с конкретным человеком, именем, лицом и прочими признаками? Перечисленные, казалось бы, тривиальные вопросы затрагивают все – от познания и памяти верхнего уровня до способов хранения информации в клетках и взаимодействия нейронов.
Более того, это лишь одна из множества задач, с которыми наш мозг справляется без особых затруднений. Машины, без сомнения, смогут выдавать еще более поразительные результаты, но они вряд ли сумеют составить конкуренцию человеческой мысли, человеческому творчеству и ви́дению. Эрик Шмидт, бывший председатель совета директоров компании Google, сказал в недавнем интервью в лондонском Музее науки, что даже робот, умеющий убирать со стола, мыть посуду и ставить ее на полки, станет настоящим прорывом в области ИИ. Объем вычислений, который понадобится при обсчете телесных движений, необходимых для перебрасывания мяча или занятий слаломом, поистине колоссален. Мозг же легко их проделывает, а также позволяет нам заниматься математикой и музыкой и изобретать такие игры, как шахматы и го (а не просто в них играть). Мы склонны недооценивать сложность и креативность человеческого мозга и его удивительные возможности.
Чтобы ИИ достиг большего человекоподобия, требуется тесное взаимодействие исследователей и практиков машинного обучения и нейробиологов. Это уже происходит. Некоторые передовые представители современного сообщества практиков машинного обучения – Джеффри Хинтон, Зубин Гахрамани и Демис Хассабис[147] – получили образование в сфере когнитивной нейробиологии и хотя бы отчасти обязаны своими успехами стремлению смоделировать поведение человеческого мозга в алгоритмах. Да и сама нейробиология активно развивается. Разработаны разнообразные инструменты наблюдения за нейронами, вдобавок позволяющие генетически ими манипулировать и отслеживать происходящее на входе в режиме реального времени. В нескольких странах реализуются исследовательские программы, направленные на изучение функционирования мозга. Достижения в области ИИ и нейробиологии, кажется, идут рука об руку и подстегивают друг друга.
Многие ученые-эволюционисты и такие философы, как Дэниел Деннет[148], отмечают, что человеческий мозг представляет собой плод миллиардов лет эволюции. Человеческий интеллект – вовсе не особенность, какой мы его считаем, а
