Нексус. Краткая история информационных сетей от каменного века до искусственного интеллекта - Юваль Ной Харари
Мы привыкли давать политические, идеологические и экономические интерпретации историческим революциям, таким как возникновение первых месопотамских городов-государств, распространение христианства, Американская революция и большевистская революция. Но для более глубокого понимания нам следует рассматривать их как революции в способах передачи информации. Христианство, безусловно, отличалось от греческого политеизма многими своими мифами и обрядами, но оно также отличалось и тем, что придавало большое значение единой священной книге и институту, которому было поручено ее толковать. Следовательно, если каждый храм Зевса был отдельной структурой, то каждая христианская церковь становилась узлом единой сети.4 Информация среди последователей Христа текла иначе, чем среди поклонников Зевса. Аналогичным образом, сталинский СССР представлял собой информационную сеть иного типа, чем империя Петра Великого. Сталин провел множество беспрецедентных экономических политик, но позволило ему это сделать то, что он возглавлял тоталитарную сеть, в которой центр накапливал достаточно информации, чтобы микроуправлять жизнью сотен миллионов людей. Технологии редко бывают детерминированными, и одна и та же технология может быть использована совершенно по-разному. Но без изобретения таких технологий, как книга и телеграф, христианская церковь и сталинский аппарат никогда бы не стали возможны.
Этот исторический урок должен побудить нас обратить больше внимания на революцию ИИ в наших нынешних политических дебатах. Изобретение ИИ потенциально более значимо, чем изобретение телеграфа, печатного станка или даже письменности, поскольку ИИ - это первый инструмент, способный самостоятельно принимать решения и генерировать идеи. Если печатные станки и пергаментные свитки предлагали новые средства для связи между людьми, то ИИ - полноправный участник наших информационных сетей. В ближайшие годы все информационные сети - от армий до религий - пополнятся миллионами новых членов ИИ, которые будут обрабатывать данные совсем не так, как люди. Эти новые члены будут принимать чужие решения и генерировать чужие идеи - то есть решения и идеи, которые вряд ли придут в голову человеку. Появление такого количества инопланетян изменит форму армий, религий, рынков и наций. Целые политические, экономические и социальные системы могут рухнуть, а на их месте возникнут новые. Вот почему ИИ должен стать вопросом первостепенной важности даже для тех, кого не волнуют технологии и кто считает, что самые важные политические вопросы касаются выживания демократии или справедливого распределения богатства.
В этой книге обсуждение ИИ сопоставляется с обсуждением священных канонов, таких как Библия, потому что сейчас мы находимся в критическом моменте канонизации ИИ. Когда отцы церкви, такие как епископ Афанасий, решили включить 1-е Тимофея в библейский набор данных, исключив при этом Деяния Павла и Феклы, они определили мир на тысячелетия. Миллиарды христиан вплоть до XXI века формировали свои взгляды на мир, основываясь на женоненавистнических идеях Тимофея, а не на более терпимом отношении Феклы. Даже сегодня трудно изменить курс, потому что отцы церкви предпочли не включать в Библию никаких механизмов самокоррекции. Современные эквиваленты епископа Афанасия - это инженеры, которые пишут начальный код для искусственного интеллекта и выбирают набор данных, на которых обучается детский ИИ. По мере того как ИИ будет набирать силу и авторитет и, возможно, превратится в самоистолковывающуюся священную книгу, решения, принятые нынешними инженерами, могут отразиться в веках.
Изучение истории не только подчеркивает важность революции ИИ и наших решений, касающихся ИИ. Оно также предостерегает нас от двух распространенных, но вводящих в заблуждение подходов к информационным сетям и информационным революциям. С одной стороны, мы должны остерегаться слишком наивного и оптимистичного взгляда. Информация - это не истина. Ее главная задача - соединять, а не представлять, и на протяжении всей истории информационные сети часто отдавали предпочтение порядку, а не истине. Налоговые отчеты, священные книги, политические манифесты и досье тайной полиции могут быть чрезвычайно эффективны для создания могущественных государств и церквей, которые имеют искаженное представление о мире и склонны злоупотреблять своей властью. Больше информации, как это ни парадоксально, иногда может привести к усилению охоты на ведьм.
Нет причин ожидать, что ИИ обязательно нарушит шаблон и отдаст предпочтение истине. ИИ не является непогрешимым. Тот небольшой исторический опыт, который мы получили в результате тревожных событий в Мьянме, Бразилии и других странах за последнее десятилетие, показывает, что в отсутствие мощных механизмов самокоррекции ИИ более чем способен продвигать искаженное мировоззрение, допускать вопиющие злоупотребления властью и провоцировать новые ужасающие охоты на ведьм.
С другой стороны, мы также должны остерегаться того, чтобы не отклониться слишком далеко в другую сторону и не принять слишком циничную точку зрения. Популисты говорят нам, что власть - это единственная реальность, что все человеческие взаимодействия - это борьба за власть, а информация - всего лишь оружие, которое мы используем для победы над нашими врагами. Так никогда не было, и нет причин думать, что ИИ сделает это в будущем. Хотя многие информационные сети отдают предпочтение порядку, а не истине, ни одна сеть не сможет выжить, если будет полностью игнорировать истину. Что касается отдельных людей, то мы, как правило, искренне заинтересованы в истине, а не только в власти. Даже в таких институтах, как испанская инквизиция, были добросовестные искатели истины, например Алонсо де Салазар Фриас, который, вместо того чтобы отправлять на смерть невинных людей, рисковал своей жизнью, чтобы напомнить нам, что ведьмы - это всего лишь интерсубъективные выдумки. Большинство людей не считают себя одномерными существами, одержимыми исключительно властью. Зачем же тогда придерживаться такого мнения обо всех остальных?
Отказ от сведения всех человеческих взаимодействий к борьбе за власть с нулевой суммой крайне важен не только для более полного и тонкого понимания прошлого, но и для более надежного и конструктивного отношения к нашему будущему. Если бы власть была единственной реальностью, то единственным способом разрешения конфликтов было бы насилие. И популисты, и марксисты считают, что взгляды людей определяются их привилегиями и что для изменения взглядов людей необходимо сначала лишить их привилегий, что обычно требует применения силы. Однако, поскольку люди заинтересованы в истине, есть шанс разрешить хотя бы некоторые конфликты мирным путем,
