Как учится машина. Революция в области нейронных сетей и глубокого обучения - Ян Лекун
Поэтому, когда мы учимся водить машину, мы сосредотачиваемся на рулевом колесе, дороге, рычаге переключения передач… Мы представляем все возможные сценарии. После нескольких десятков часов практики мы легко выполняем все эти задачи. Задача стала подсознательной, почти автоматической. Сознание могло быть следствием этого преднамеренного механизма настройки единой схемы моделирования мира. Возможно, это следствие ограниченных возможностей нашей черепной коробки, а не отражение нашего высшего интеллекта. Если бы у нас было достаточно префронтальных нейронов для одновременного моделирования нескольких независимых моделей мира, возможно, нам не понадобилось бы сознание в том виде, в каком мы его себе представляем.
Я не сомневаюсь, что интеллектуальные машины будущего будут обладать некоторой формой сознания. Возможно, в отличие от нас, они даже смогут сосредоточиться на нескольких задачах одновременно.
Роль языка в формировании мышления
Для людей язык настолько важен, что его даже можно счесть синонимом интеллекта. Мы соотносим слова с понятиями, мы управляем ими, чтобы рассуждать, – все это приводит нас к мысли, что интеллект не может существовать без языка.
А как насчет бонобо, шимпанзе, горилл и орангутангов, всех наших братьев – человекообразных обезьян? Похоже, у них нет такой развитой системы общения, как человеческие языки. Они не дают имен понятиям. Тем не менее они развивают символические представления и абстрактные рассуждения. В любом случае их модель мира несравненно сложнее, чем у наших лучших систем ИИ.
Если интеллект наших братьев-приматов не связан с языком, значит ли это то, что значительная часть нашего интеллекта также не связана с ним?
На мой взгляд, слишком тесная связь мышления и рассуждений с управлением символами и логикой является основной ошибкой классического ИИ (если не брать во внимание то небольшое значение, которое этот подход придавал обучению).
Напротив, мне кажется, что интеллект животных и большая часть человеческого интеллекта основан на моделировании, аналогии и воображении ситуации с использованием нашей модели мира. Это весьма далеко от логических рассуждений и языка.
Будут ли у машин эмоции?
Я не сомневаюсь, что однажды у автономных интеллектуальных машин появятся эмоции. В Главе 9 я предложил архитектуру, в которой поведение системы определяется минимизацией объективной функции. Данная целевая функция вычисляет затраты, которая измеряет степень «мгновенной неудовлетворенности» машины. Когда машина исправляет действие, повлекшее за собой высокие затраты, разве это не приравнивается к стремлению избежать чувство боли или дискомфорта?
Когда компонент, измеряющий заряд батареи робота, сигнализирует о нехватке питания и заставляет машину искать розетку, разве это не приравнивается к чувству голода?
Архитектура действующего модуля включает в себя модель мира и анализ. Эта модель предвидит, как изменится мир. Анализ предвосхищает результат целевой функции, модуля, который измеряет неудовлетворенность машины. Если, благодаря своей модели мира, робот предугадывает падение и повреждение, то анализ как бы предвидит «боль», рассчитываемую с помощью целевой функции. В этом случае робот попытается спланировать такую траекторию, чтобы избежать этого неприятного результата. Разве это не похоже на чувство страха?
Когда машина избегает действия, потому что в конечном итоге это действие приведет к высоким энергетическим затратам, или когда она выполняет действие, потому что оно позволяет избежать лишних затрат, разве это уже не признак проявления эмоций?
Когда компонент целевой функции, вычисляющий «голод», приводит к высоким затратам, он запускает поиск «пищи». В более общем плане поведение является результатом «неудовлетворенных» компонентов целевого модуля. Сложное поведение является результатом планирования действий, которое сводит к минимуму ожидаемые затраты с учетом используемой модели мира. Если вас ущипнуть за руку, то боль возникает мгновенно. Стоимость, рассчитанная с помощью вашего целевого модуля, отражает ваше текущее состояние. Когда кто-то хочет вас ущипнуть, ваш критический модуль предугадывает боль и заставляет вас защищать руку. Иначе говоря, эмоции – это ожидание затрат, рассчитанных критическим модулем.
Я прекрасно понимаю, что все мои примеры могут показаться слишком поверхностными. Эмоции – настолько важная часть человеческой натуры, что никто не хочет сводить их к простому вычислению математической функции. Мы так же не решаемся сводить человеческое поведение к минимизации целевой функции. Но я лишь формулирую гипотезу об общей архитектуре интеллектуальных систем, не отрицая богатства или сложности целевой функции и модели мира.
Захотят ли роботы захватить мир?
Нет.
Наш страх перед роботом, желающим захватить власть, – это проецирование особенностей человеческой природы на машины. Для большинства из нас единственным взаимодействием с разумными существами является общение с другими людьми. Именно этот факт заставляет нас путать интеллект и человеческую природу. Это ошибка: есть и другие формы интеллекта, хотя бы в животном мире, – и я говорю уже не только о языке.
Такие животные, как бонобо, шимпанзе, павианы и некоторые другие приматы, имеют в своих группах сложную, часто иерархическую социальную организацию. Выживание (или комфорт) каждого человека зависит от его способности влиять (доминирование является лишь формой влияния) на других представителей своего вида. Тот факт, что мы социальные животные, объясняет, почему мы связываем стремление к господству с интеллектом.
Но давайте рассмотрим несоциальный вид обезьян, например, орангутанов. Они сравнимы с людьми по интеллекту: их мозг всего вдвое меньше нашего. Но живут они поодиночке и избегают соседства с другими особями. Их социальное взаимодействие ограничивается отношениями матери и ребенка в течение двух лет и территориальными конфликтами. В результате эволюция не выстроила в них стремление доминировать над ближним: без социальной структуры нет никакой пользы для доминирования. Таким образом, можно быть умным, не стремясь к господству.
Вы понимаете, к чему я веду…
Кроме того, даже у людей стремление к доминированию не связано с интеллектом. Тут скорее дело в тестостероне! Самые умные из нас не всегда стремятся стать лидерами. У нас есть яркие примеры этого на международной политической арене… Да и я, например, возглавляю лабораторию, большинство сотрудников которой намного талантливее, чем я. Однако они не стремятся занять мое место. Напротив! Лучших ученых часто приглашают на руководящие должности, но многие из них отказываются. Я их понимаю: они предпочитают напрямую заниматься исследованиями.
Помимо стремления к доминированию, многие из наших побуждений и эмоций были заложены в нас эволюцией для выживания нашего вида (или наших генов!). Они включают любопытство, стремление к исследованиям, конкурентоспособность, подчинение, желание контакта с другими людьми, любовь, ненависть, хищничество, наши предпочтения по
