Искусственный интеллект – надежды и опасения - Джон Брокман
С учетом сказанного выше не должно удивлять, что эти правила масштабирования позволили машинам повысить свою эффективность до уровня, сопоставимого с эффективностью соответствующих биологических систем. Нейронные сети создавались изначально для моделирования работы человеческого мозга. От этой цели отказались, поскольку модели превратились в математические абстракции, совершенно не связанные с реальным функционированием нейронов. Зато наметилась своего рода конвергенция, этакая проективная биология (а не биология реинжиниринга), поскольку в результате глубинного обучения мы как бы получаем картинку слоев и областей мозга.
Один из наиболее сложных исследовательских проектов, которым мне довелось руководить, предусматривал сотрудничество тех, кого сегодня называют аналитиками данных, с пионерами ИИ. Это был печальный опыт рассогласования целей. Первая группа успешно справлялась с застарелыми проблемами, выявленными когда-то второй, но это не признавалось достижением, поскольку не наблюдалось соответствующих прорывов в понимании принятых решений. Какова ценность шахматного компьютера, если вы не можете объяснить, как он играет в шахматы?
Ответ, конечно, гласит, что он умеет играть в шахматы. Тут возникает перспектива любопытного исследования о применимости ИИ к ИИ, то есть к обучению нейронных сетей, для объяснения того, как они работают. Но деятельность мозга и компьютерного чипа трудно понять из простого наблюдения за их работой; намного легче интерпретировать эту деятельность по наблюдению за их внешними интерфейсами. Мы доверяем (или нет) мозгу и компьютерным чипам, основываясь на опыте, который их проверяет, а не на объяснениях того, как они работают.
Многие отрасли инженерии переходят от так называемого императивного к декларативному, или генеративному дизайну. Это означает, что вместо прямого проектирования системы с помощью инструментов наподобие САПР, принципиальных схем и компьютерного кода, вы описываете свои пожелания к системе, а затем выполняется автоматический поиск модулей, удовлетворяющих вашим целям и ограничениям. Такой подход становится необходимостью, поскольку сложность проектирования все чаще превышает возможности проектировщика. Да, это может показаться рискованным, но человеческое понимание имеет свои пределы; в истории инженерного дела полным-полно примеров мнимого хорошего понимания, которое обернулось дурными последствиями. Декларативное проектирование учитывает все новейшие достижения в области искусственного интеллекта, а также точность моделирования, свойственную виртуальным тестовым вариантам.
Мать всех проблем проектирования – та самая проблема, итогом решения которой являемся мы с вами. Наша конструкция «записана» в одной из старейших и наиболее консервативных частей генома, в так называемых генах Hox[134]. Это гены, которые регулируют другие гены посредством так называемых программ развития. В нашем геноме нет дизайна телосложения; скорее, геном хранит последовательность шагов, выполнение которых наделяет нас тем или иным телом. Налицо точная параллель с поиском в области ИИ. Имеется слишком много потенциальных схем кузова для поиска, причем большинство модификаций окажутся либо несущественными, либо фатальными. Гены Hox представляют собой репрезентацию продуктивной среды эволюционного поиска. Это своего рода естественный интеллект на молекулярном уровне.
ИИ сталкивается с проблемой ума и тела, потому что у него нет тела. Бо́льшая часть работы над ИИ выполняется в облаках, на виртуальных машинах в компьютерных центрах, куда направляются данные. Наш собственный интеллект есть результат выполнения алгоритма поиска (эволюция), изменивший нашу физическую форму, а также результат программирования – и оба результата неразрывно связаны. Если историю ИИ трактовать как плод действия масштабирующих законов, а не как преемственность моды, то его будущее можно рассматривать аналогичным образом. Ныне, после коммуникаций и вычислений, оцифровывается производство, что внедряет программируемость битов в мир атомов. Оцифровывая не только проект, но и процесс создания материалов, мы в состоянии использовать уроки, преподанные фон Нейманом и Шенноном, к экспоненциально возрастающей сложности производства.
Я считаю цифровыми материалами те, которые создаются из дискретного набора деталей, обратимо соединенных с дискретным набором относительных положений и ориентаций. Эти параметры позволяют определять глобальную геометрию по локальным ограничениям, обнаруживать и исправлять ошибки сборки, соединять разнородные материалы и разбирать, а не уничтожать конструкции, когда они больше не нужны. Аминокислоты, основа жизни, и кирпичики «Лего», основа игры, разделяют эти свойства.
В аминокислотах интересна именно их неинтересность, обыденность. Они наделены свойствами типичными и ничуть не выдающимися, скажем, притягивание или отталкивание воды. Но всего двадцати типов аминокислот достаточно для сотворения человека. Точно так же двадцати или около того типов цифровых материалов – проводников, изоляторов, жестких, гибких, магнитных и т. д. – будет достаточно для обеспечения ряда функций, необходимых для реализации современных технологий в роботах и компьютерах.
Связь между вычислениями и производством обнаружили те первооткрыватели, работы которых заложили основы архитектуры вычислений. Винер намекал на нечто подобное, увязывая транспортировку материалов с транспортировкой сообщений. Джону фон Нейману приписывают современную компьютерную архитектуру, о которой он писал на самом деле очень мало; последним, что он изучал и о чем писал красиво и подробно, были самовоспроизводящиеся системы. Как бы абстрагируя жизнь, он смоделировал машину, способную передавать вычисления, которые самоконструируются. А последним, что изучал Алан Тьюринг, которому приписывают теоретические основы информатики, были способы, какими генные инструкции создают физические формы. Эти вопросы относятся к области, сторонней для типичного компьютерного образования: речь о физической конфигурации вычислений.
Фон Нейман и Тьюринг ставили указанные вопросы в качестве теоретических, поскольку эти исследования значительно опережали технологии того времени. Но благодаря конвергенции коммуникаций, вычислений и производства такие вопросы становится возможным изучить экспериментально. Создание ассемблера, способного собирать себя из деталей, которые он сам же и собирает, – такова текущая цель моей лаборатории, где мы с коллегами также участвуем в разработке синтетических ячеек.
Перспектива появления самовоспроизводящихся физически автоматов потенциально гораздо страшнее всех фантомных угроз якобы неконтролируемого ИИ, поскольку она перемещает искусственный интеллект в пространство нашего обитания. Не исключено, что это дорожная карта, ведущая к роботизированным терминаторам и компании «Скайнет». Но это и более обнадеживающая перспектива, потому что способность программировать атомы заодно с битами позволяет развивать проекты глобально и производить локально энергию, еду и жилье; все перечисленное будет ярким примером первых шагов цифрового производства. Винера тревожила будущая безработица, но он не ставил под сомнение имплицитные допущения о природе работы, которые исчезают, когда на смену потреблению приходит создание.
История свидетельствует о том, что утопические и антиутопические сценарии сбываются редко; как правило, мы барахтаемся где-то посередине. Но история также показывает, что не стоит пассивно ждать. Гордон Мур в 1965 году использовал наблюдаемое пятилетнее удвоение ресурсов интегральных микросхем, чтобы спроектировать добрые пятьдесят лет экспоненциального развития цифровых технологий. Мы потратили немало времени на реакцию, а не на прогнозирование ее последствий. Сейчас у нас больше данных, чем было у Гордона Мура, и кто
