Искусственный интеллект – надежды и опасения - Джон Брокман
Мы можем возразить, что наш мозг выполняет гораздо более сложные вычисления, чем «атмосферное» сознание. Но выяснилось, что имеется принципиальное сходство между типами вычислений в разных системах. Вследствие чего тезис об уникальности человека стоит пересмотреть, ибо, похоже, мы не такие уж особенные, как нам казалось. В природе полным-полно всевозможных систем, которые в значительной степени тождественны с точки зрения вычислительных возможностей.
От всех прочих систем нас отличают особенности нашей истории, которые наделяют человечество ощущением предназначения и целями. Если коротко, то коробка на нашем столе может мыслить, подобно человеку, но она лишена каких бы то ни было целей. Последние определяются нашими особыми признаками – нашей биологией, нашей психологией, нашей культурной историей.
При обсуждении будущего ИИ нужно думать о целях. Именно в них заключается вклад человечества и вклад цивилизации. Мы способны и должны автоматизировать реализацию целей. Каково будущее людей в таком мире? Чем им предстоит заняться? Суть одного моего проекта как раз и сводилась к постижению эволюции человеческих целей в перспективе. Сегодня мы располагаем всевозможными целями. А если вернуться на тысячу лет назад, цели были совсем другими: как добыть еду? как надежно обеспечить безопасность? В современном западном мире мы по большей части уже не тратим львиную долю жизни на размышления об этих целях. При взгляде из прошлого некоторые цели, формулируемые сегодня, наверняка покажутся, мягко говоря, странными (скажем, беговые тренировки – тысячу лет назад это была полнейшая нелепица).
Итак, чем люди займутся в будущем? Многие цели наших дней возникают вследствие дефицита того или иного рода. В мире мало ресурсов. Люди хотят получать больше того-то и того-то. В нашей жизни мало времени. Постепенно эти формы дефицита исчезнут. Несомненно, самым драматическим достижением будет фактическое обретение человечеством бессмертия. Придем ли мы к нему биологически или через «цифру», сказать сложно, однако рано или поздно это случится. Многие наши текущие цели частично обуславливаются нашей смертностью: «Мне суждено прожить лишь короткий срок, потому надо сделать то-то и то-то». Но что произойдет, когда большинство наших целей будет реализовываться автоматически? Мы лишимся той мотивации, которая движет нами сегодня. Очень хотелось бы узнать ответ на следующий вопрос: к чему в конце концов придут в будущем «производные» людей? Не исключено, кстати, что они станут коротать время за какими-то аналогами нынешних видеоигр.
* * *
Значение термина «искусственный интеллект» уточняется за счет употребления в техническом жаргоне. Сегодня тема ИИ весьма популярна, и люди имеют некоторое представление о том, что это такое. А когда в 1940-х и 1950-х годах разрабатывались первые машины, типичное название книги или журнальной статьи о компьютерах гласило: «Гигантский электронный мозг». Считалось, что, как бульдозеры, паровые двигатели и пр. автоматизировали ручной труд, так и компьютеры автоматизируют труд интеллектуальный. Но пообещать, к удивлению многих, оказалось проще, чем сделать. Первоначально наблюдался изрядный оптимизм; государственные средства обильно тратились на исследования в 1960-х годах. Подчеркну – тратились впустую.
В фантастических фильмах того времени много забавных представлений о компьютерах. Например, симпатичный агрегат по имени Desk Set, по сути, IBM-совместимый компьютер, который устанавливают в вещательной компании – и который оставляет всех без работы[230]. Забавно то, что этому компьютеру задают кучу справочных вопросов. Когда мы с коллегами создавали систему WolframAlpha, то хотели, в частности, чтобы она эффективно отвечала на те справочные вопросы, которые когда-то задавались модели Desk Set. К 2009 году наша система могла ответить на все.
В 1943 году Уоррен Маккаллок и Уолтер Питтс предложили модель концептуальной, формальной работы человеческого мозга – искусственную нейронную сеть. Они считали, что их «мозгоподобная» модель будет выполнять вычисления аналогично машинам Тьюринга. Из их расчетов следовало, что мы в состоянии строить «мозгоподобные» нейронные сети, действующие как обычные вычислительные машины. В действительности же практические опыты команды ЭНИАК[231], Джона фон Неймана и другие специалистов показали, что «обходная» модель нейронной сети эффективнее машины Тьюринга.
Но простые нейронные сети мало на что годились. Фрэнк Розенблатт изобрел обучающее устройство, которое он назвал перцептроном и которое представляло собой одноуровневую нейронную сеть. В конце 1960-х Марвин Минский и Сеймур Пейперт опубликовали книгу «Перцептроны», где довольно убедительно доказывалось, что перцептроны почти бесполезны. Так оно и есть. Перцептроны способны лишь на линейное различение объектов. Поэтому концепцию фактически забросили. Дескать, эти ребята (Минский с Пейпертом) доказали, что такие нейронные сети не могут делать ничего внятного, значит, вообще никакие нейронные сети ни к чему не пригодны, поэтому давайте забудем о нейронных сетях. Эта позиция господствовала в течение некоторого времени.
Между тем наметилось несколько других подходов к ИИ. Один основывался на символическом, формальном понимании мироустройства, а другой опирался на статистику и вероятности. Что касается символического ИИ, ему дали, например, тестовое задание: возможно ли научить компьютер работать с интегралами и выстраивать исчисления? Были и задачи наподобие машинного перевода, поскольку считалось, что это удачный образчик демонстрации компьютерных возможностей. Увы, к началу 1970-х эти усилия потерпели крах.
Далее сформировался интерес к так называемым экспертным системам, которые появились в конце 1970-х и начале 1980-х годов. Идея состояла в том, что машина выучивает правила от эксперта и тем самым постигает процесс экспертного мышления. Тоже ничего не вышло, после чего исследования в области ИИ стали восприниматься как форма научного безумия.
* * *
Меня с детских лет интересовало, как построить машину с подобием ИИ. В особенности меня занимало, каким образом можно аккумулировать знания, накопленные человеческой цивилизацией, и автоматизировать ответы на вопросы на основе этих знаний. Я думал о том, как сделать это символически, посредством системы, разбивающей вопросы на символические единицы и выдающей ответы. В ту пору я занимался нейронными сетями – без весомого успеха, – а потому временно отложил эти изыскания.
В 2002 году я снова задумался над тем, что нужно для создания системы вычисления знаний. Мои исследования, проделанные к тому времени, свидетельствовали, что мое исходное представление о процессе было полностью неверным. Я исходил из убеждения, что для создания полноценной системы вычисления знаний необходимо сначала создать «мозгоподобное» устройство, в которое затем заливаются знания (так происходит обучение людей при стандартном подходе). Но я сообразил вдруг, что нет и никогда не было четкой грани между разумом и простыми вычислениями.
Я предполагал, что существует некий магический
