Искусственный интеллект – надежды и опасения - Джон Брокман
Робототехник Родни Брукс оказался одним из героев документального фильма Эррола Морриса «Быстро, дешево и бесконтрольно» (1997), а компанию ему составили укротитель львов, топиарист и эксперт по голым землекопам[60]; некий рецензент отметил, что «его улыбка сочеталась с диким блеском в глазах». Пожалуй, то же самое можно сказать о большинстве провидцев.
Несколько лет спустя Брукс, как и подобало одному из ведущих робототехников мира, заявил, что «мы чрезмерно антропоморфизируем людей, которые, если уж на то пошло, являются элементарными машинами». Далее он принялся рисовать светлые перспективы пришествия ИИ и предрек, что «различие между нами и роботами постепенно исчезнет». При этом он отчасти признал наличие у себя двух мировоззрений. «Будучи ученым и человеком религиозным, я придерживаюсь одновременно двух противоречивых убеждений и обращаюсь к тому или другому в разных обстоятельствах, – писал он. – Такая взаимопроницаемость между системами убеждений, как мне кажется, позволит человечеству в конечном счете воспринять роботов как машины, наделенные эмоциями, начать им сочувствовать и обнаружить у них свободу воли, относиться к ним с уважением и в конце концов признать их права».
Эти слова прозвучали в 2002 году. В нижеследующем очерке Брукс излагает чуть более пристрастный и более узкий взгляд; его беспокоит наше стремление полагаться на компьютерные системы, которые активно эксплуатируются – и которые становятся все уязвимее вследствие чересчур быстрого развития программной инженерии; по его мнению, прогресс в этой области заметно опережает внедрение надежных и эффективных методов защиты.
Поле зрения математиков и других ученых, когда мы говорим об общей картине за пределами конкретной специальности, часто ограничено инструментами и метафорами, которые они используют в своей работе. Норберт Винер здесь не исключение; смело могу допустить, что я таковым тоже не являюсь.
Когда Винер работал над «Человеческим применением человеческих существ», завершалась эпоха восприятия машин и животных просто как совокупностей физических процессов – и начиналась нынешняя эпоха понимания машин и животных как совокупностей вычислительных процессов. Подозреваю, что в будущем, в новые эпохи, неведомые нам инструменты будут настолько же отличаться от наших, насколько инструменты двух винеровсих эпох отличались друг от друга.
Винер был «гигантом мысли» первой из указанных эпох и опирался на инструменты, восходящие к Ньютону и Лейбницу и предназначенные для описания и анализа непрерывных процессов в физическом мире. В 1948 году он опубликовал работу «Кибернетика» и под этим словом подразумевал науку об управлении и связи у машин и животных. Сегодня мы трактуем идеи этой книги как теорию управления, обязательную дисциплину для проектирования и анализа физических машин, но в то же время пренебрегаем, как правило, мыслями Винера относительно коммуникации. Теории Винера многим обязаны его практическому опыту в годы Второй мировой войны, когда он разрабатывал систему наведения зенитных орудий. Он привнес математическую строгость в разработку технологий, процессы проектирования которых оставались в значительной степени эвристическими по своему характеру: речь о технологиях, если вспоминать историю, от римских гидротехнических сооружений до парового двигателя Уатта и до первых автомобилей.
Можно вообразить иную версию нашей интеллектуальной и технологической истории, допустив, что никогда не рождались Алан Тьюринг и Джон фон Нейман, оба внесшие немалый вклад в развитие вычислительной техники. Тьюринг описал фундаментальную модель вычислений – ныне известную как машина Тьюринга – в своей статье «О вычислимых числах в приложении к Entscheidungsproblem[61]», написанной и переработанной в 1936 году, а опубликованной год спустя. В такой машине линейная последовательность символов конечного алфавита кодирует исходные условия вычислительной задачи и обеспечивает рабочее пространство вычислений. Для каждой отдельной вычислительной задачи необходима своя машина; позднее было доказано, уже другими, что возможно закодировать в одной конкретной машине, ныне известной как универсальная машина Тьюринга, произвольный набор вычислительных инструкций с использованием той же последовательности символов.
Джон фон Нейман в 1940-х годах разработал абстрактную самовоспроизводящуюся машину, которую назвал клеточным автоматом. Предполагается, что она занимает конечное подмножество бесконечного двумерного массива квадратов, каждый из которых содержит отдельный символ конечного алфавита из двадцати девяти различных символов, а остальная часть бесконечного массива изначально пуста. Отдельные символы в каждом квадрате изменяются взаимосвязанно согласно сложному, но конечному правилу для символа в конкретном квадрате и его ближайших соседях. В соответствии со сложным правилом, разработанным фон Нейманом, большинство символов в большинстве квадратов остаются неизменными, лишь некоторые изменяются на каждом этапе процесса. Поэтому при взгляде на заполненные квадраты выясняется, что имеется постоянная структура с какой-то активностью внутри нее. Когда абстрактная машина фон Неймана воспроизводится, она копирует себя в другую область пространства. Внутри «машины» имеется горизонтальная линия квадратов, конечная линейная последовательность, основанная на подмножестве символов конечного алфавита. Именно символы в этих квадратах кодировали машину, частью которой они являлись. При воспроизведении последовательность могла сдвигаться влево или вправо, что трактовалось (интерпретировалось) как инструкция (перевод инструкции) для новой «машины», которая создавалась, а затем копировалась (реплицировалась); новая копия помещалась внутрь новой машины для дальнейшего воспроизведения. Фрэнсис Крик и Джеймс Уотсон[62] продемонстрировали в 1953 году, что подобную последовательность можно воссоздать биологически в длинной молекуле ДНК с конечным алфавитом из четырех нуклеотидов – гуанина, цитозина, аденина и тимина (G, C, A и T)[63]. Как и в машине фон Неймана, при биологическом воспроизведении линейная последовательность символов в ДНК интерпретируется – посредством транскрипции в молекулы РНК, которые затем транслируются в белки, то есть в структуры, творящие новую клетку, – а ДНК реплицируется и инкапсулируется в новой клетке.
Второе прозрение фон Неймана содержалось в статье «Первый черновик» (1945) о разработке цифрового компьютера: здесь автор ратовал за компьютерную память, которая способна содержать инструкции и данные одновременно[64]. Ныне мы говорим о машинах с архитектурой фон Неймана, противопоставляя их машинам с гарвардской архитектурой, где наличествуют две отдельные памяти – для инструкций и для данных. Подавляющее большинство компьютерных чипов, созданных в эпоху действия закона Мура, основано на архитектуре фон Неймана, включая и те, которые используются в центрах обработки данных, ноутбуках и смартфонах. Цифровая компьютерная архитектура фон Неймана концептуально представляет собой то же самое обобщение – плод эволюции ранних цифровых компьютеров на базе электромагнитных реле в Гарвардском университете и в Блетчли-парке[65], – которое формируется при переходе от специализированной машины Тьюринга к универсальной машине Тьюринга. Кроме того, самовоспроизводящиеся автоматы фон Неймана принципиально схожи по конструкции с машиной Тьюринга и с механизмом размножения биологических клеток на основе ДНК. По сей день ученые спорят о том, осознавал ли фон Нейман это фундаментальное сходство между трудами Тьюринга и своими прозрениями. Тьюринг переработал свою концепцию, когда они с фон Нейманом оба подвизались в Принстоне; более того, после получения
