Искусственный интеллект – надежды и опасения - Джон Брокман
35
Илон Маск, Стивен Хокинг и прочие (включая, к слову, и автора этих строк) удостоились приза «Луддит года» в 2015 г. от Фонда инновационных информационных технологий: См.: https://itif.org/publications/2016/01/19/artificial-intelligence-alarmists-win-itif%E2%180%199s-annual-luddite-award. – Примеч. автора.
36
Родни Брукс, например, утверждает, что невозможно создать настолько умную программу, чтобы «она могла изобрести способы разрушить человеческое общество для достижения целей, поставленных перед нею людьми, не сознавая, что тем самым вредит своим создателям». См.: http://rodneybrooks.com/the-seven-deadly-sins-of-predicting-the-future-of-ai. – Примеч. автора.
37
Гильотина (принцип) Юма – невозможность перехода от описательных суждений к предписывающим (вида «так есть – так должно быть»); по имени шотландского философа Д. Юма, утверждавшего, что не следует выводить моральные нормы из знаний о сущем. Натуралистической ошибкой английский философ Дж. Мур считал стремление дать определение добру как таковому и желание выводить этику из внеэтических явлений.
38
Kevin Kelly, «The Myth of a Superhuman AI», Wired, Apr. 25, 2017. – Примеч. автора.
39
Cooperative inverse-reinforcement learning.
40
См.: Hadfield-Menell et al., «The Off-Switch Game», https://arxiv.org/pdf/1611.08219.pdf. – Примеч. автора.
41
Тж. дифференциальный анализатор, механический (на шестернях и дисках) аналоговый компьютер для решения дифференциальных уравнений; первый аппарат, способный интегрировать уравнения любого порядка, был описан в 1876 г.
42
Английский философ Т. Гоббс трактовал мышление как логическую совокупность математических операций; немецкий философ Г.-В. Лейбниц предложил один из первых проектов логического исчисления («комбинаторики»).
43
Нетрудно догадаться, что автор весьма лаконично описывает эволюцию социальной сети «Фейсбук».
44
Подразумевается, что кора головного мозга у человека действует по принципу разделения системы на отдельные полуавтономные узлы.
45
Джон Серл – американский философ, критик идеи искусственного интеллекта; Дэвид Чалмерс – австралийский философ, выдвинул т. н. дуалистическую теорию сознания («легкие» проблемы сознания, доступные для решения традиционными методами, и «трудные», которые наука разрешить не в состоянии); Джерри Фодор – американский когнитивист, отстаивал гипотезу о существовании особого «языка мыш– ления».
46
О концепции сообществ разума см.: Минский М. Сообщества разума. М.: АСТ, 2018.
47
Термины теории сложности: сложная адаптивная система – «система систем», через взаимодействие со средой развивающая полезные и отвергающая бесполезные способности; странный аттрактор – характеристика нелинейных систем, «притягивание» (attraction) конкретной системы к аттрактору хаотическим образом; изучением расширенных состояний ума на рубеже минувшего и нынешнего столетий занялась нейробиология (нейротеология, нейрофилософия и пр.; гомеостаз – способность открытой системы сохранять стабильность внутреннего состояния).
48
Joseph Levine, «Materialism and Qualia: The Explanatory Gap», Pacific Philosophical Quarterly 64, pp. 354‐61 (1983). – Примеч. автора.
49
Джозеф Вейценбаум – американский ученый, один из пионеров кибернетики, автор «виртуального собеседника» ELIZA.
50
Обязательная тревога (этакий колокольный звон в голове всякий раз, когда некое слово приводится в качестве аргумента) позитивно описана мной в работе «Интуиционные насосы и другие инструменты мышления» (2013). – Примеч. автора.
51
В «Опасной идее Дарвина» (1995) я придумал аббревиатуру: слово Vast («огромный») можно расшифровать как «Намного (Very) больше, чем астрономический (ASTronomical)», а дополнительное определение «исчезающий (Vanishing)» заменяет обычные преувеличения «бесконечный» и «бесконечно малый» в обсуждении тех возможностей, которые официально не признаны безграничными, но фактически считаются таковыми на практике. – Примеч. автора.
52
Aylin Caliskan-Islam, Joanna J. Bryson & Arvind Narayanan, «Semantics derived automatically from language corpora contain human-like biases», Science, 14 April 2017, 356: 6334, pp. 183–6. DOI: 10.1126/science.aal4230. – Примеч. автора.
53
Английский физик и математик, автор гипотезы «космической цензуры» и популярной мозаики Пенроуза.
54
Тж. двигательные белки, т. е. белки, способные к перемещениям в молекулах.
55
Суперкомпьютер, способный отвечать на вопросы, задаваемые на естественном языке; назван в честь первого генерального директора компании-разработчика Т. Уотсона. В 2011 г. одержал победу над игроками-людьми в викторине «Jeopardy!».
56
Компанию Disney часто упрекают в том, что в своих фильмах и анимациях она «затушевывает» реальные проблемы.
57
Ежегодный конкурс на прохождение компьютерными программами теста Тьюринга; победителем признается та программа, которая проявит наибольшую «человечность».
58
См.: Joanna J. Bryson, «Robots Should Be Slaves», in Close Engagement with Artificial Companions, Yorick Wilks, ed., (Amsterdam, The Netherlands: John Benjamins, 2010), pp. 63‐74; http://www.cs.bath.ac.uk/~jjb/ftp/Bryson-Slaves-Book09.html; она же: «Patiency Is Not a Virtue: AI and the Design of Ethical Systems», https://www.cs.bath.ac.uk/~jjb/ftp/Bryson-Patiency-AAAISS16.pdf. – Примеч. автора.
59
Жажду странствий (нем.).
60
Топиар – искусство кустарниковой скульптуры; голые землекопы – грызуны семейства землекоповых, обитающие в Кении и Восточной Африке.
61
Проблеме разрешения (нем.). Речь о математической задаче, сформулированной Д. Гильбертом: требуется найти алгоритм, который принимает в качестве входных данных любой формальный язык/любое утверждение на этом языке, а после конечного цикла операций выдает заключение «Истина» или «Ложь» в зависимости от истинности/ложности утверждения. В статье Тьюринга (и в отдельно опубликованной статье А. Черча) доказывалось, что не существует алгоритма для определения истинности утверждений арифметики, поэтому проблема в целом не имеет решения.
62
Лауреаты Нобелевской премии по медицине (1962) за «открытия, касающиеся молекулярной структуры нуклеиновых кислот и их значения для передачи информации в живых системах».
63
«A Structure for Deoxyribose Nucleic Acid», Nature 171, 737‐738 (1953). – Примеч. автора.
64
https://en.wikipedia.Org//wiki/First_Draft_of_a_Report_on_the_EDVAC#Controversy. Фон Нейман указан как единственный автор, хотя другие ученые дорабатывали его концепцию; в общем, слава «архитектора» досталась ему одному. – Примеч. автора.
65
В этом особняке в годы Второй мировой войны располагалась Правительственная школа кодов и шифров – главное шифровальное учреждение Великобритании; среди сотрудников учреждения были А. Тьюринг и чемпионы по шахматам Х. Александер и С. Милнер-Барри.
66
Художественная субкультура, идеалом которой являются развитие общества на основе паровых технологий и квазивикторианское общественное устройство.
67
Дословно «ярмарки творцов»; мероприятия, организуемые американским журналом «Make» для «популяризации искусства, ремесел, научных проектов и прочих
