Барри Шварц - Практическая мудрость

Такой метод предполагает оснащение обучаемой системы большим количеством датчиков, каждый из которых способен улавливать ту или иную характеристику объекта, попавшего в поле зрения локатора. Обнаружив присутствие характеристик, соответствующих его настройкам, датчик немедленно передает информацию всей системе. В начале обучения датчики не дифференцированы – то есть все они связаны между собой одинаково. Но каждый раз, когда возникновение объекта в поле зрения локатора вызывает одновременное (или почти одновременное) срабатывание двух или более датчиков, связь между этими датчиками в системе укрепляется. А связь между сработавшими и не сработавшими датчиками становится слабее. Затем система принимает решение – мина это или нет. Если ответ верен, связь между сработавшими датчиками закрепляется еще больше; если нет – ослабевает.

В процессе обучения архитектура связей меняется. Сначала способность локатора распознавать сходство и различие между минами и другими объектами будет невысокой. Но, по мере укрепления одних связей между датчиками и ослабления других, способность к распознаванию будет повышаться, и система в конце концов превзойдет своих создателей. Несомненно, она будет работать гораздо эффективнее, чем снабженная полным перечнем всех возможных искомых объектов изначально. Ведь, чтобы настроить локатор для работы с таким «списком», специалисту понадобилось бы знать все признаки любой из мин и все признаки каждого из прочих объектов, который может оказаться в воде. Какие-то представления на этот счет у разработчиков, конечно, есть, но вряд ли их можно считать достаточно полными.

Напротив, если разработчик решит, что система должна сама научиться искать мины, ему не обязательно знать заранее, чему ее учить. От него требуется сообщить локатору, что такое мина и что такое, к примеру, скала – но не то, как их различить. Накопив достаточный опыт за счет проб и ошибок, система сама настроит связи между датчиками так, чтобы они соответствовали типам объектов, с которыми она будет сталкиваться. И если бы такая система умела говорить, она не смогла бы объяснить, как принимает решения, – ответ на вопрос «Является ли этот предмет миной?» в каждом конкретном случае будет результатом распознавания совокупности сигналов, переданных сетью датчиков, и сопоставления их с результатами, полученными в ходе обучения.

Существует несколько впечатляющих примеров того, как самообучающиеся системы, подобные гипотетическому «гидролокатору Черчленда», создавались и показывали на практике результат, соответствовавший оценкам экспертов, а иногда и превосходивший их. В частности, есть свидетельства того, что в Ираке военнослужащие США научились распознавать самодельные взрывные устройства, замаскированные под различные предметы, но почти никогда не могли объяснить, каким образом им удается это делать. Или возьмем системы, основанные на принципе действия когнитивных сетей. Такие системы позволяют оценить среднесрочные финансовые перспективы компаний не хуже, чем это делают аудиторы, или, подобно тренерам, предсказывать исход футбольных матчей. Они «угадывают» оптовую цену кофе так же успешно, как и торговцы, и, словно профессиональный рентгенолог, определяют, являются ли затемнения на рентгеновских снимках опухолями.

Была даже разработана система, позволяющая с точки зрения этики оценивать допустимость той или иной тактики или стратегии продаж в электронной коммерции[62]. Изначально в компьютерную программу этические нормы заложены не были, однако, получая обратную связь и приобретая опыт, система «узнавала», что утаивание информации, или не соответствующие действительности сведения о продуктах, или сокрытие от клиента предстоящих ему реальных расходов – неэтичны. Одновременно система училась распознавать, что именно считается признаком неэтичных действий. То есть осваивала этические принципы, сталкиваясь с конкретными примерами, делая выводы и получая обратную связь. В частности, обучившись тому, что неэтично скрывать информацию об ограниченном сроке годности батареи ноутбука, программа начинала распознавать в качестве неэтичного утаивание информации о годовых расходах на эксплуатацию стиральной машины, имеющей низкую энергоэффективность.

В целом, подобные самообучающиеся системы действуют так, как если бы они следовали набору правил, заданных разработчиками. Но на самом деле в этих системах не существует никаких правил. Правила воплощаются в связях между элементами. В частности, интересны и хорошо изучены примеры систем, нацеленных на обучение компьютеров грамматике и демонстрирующих способность понимать и производить цепочки слов, соответствующих правилам английской грамматики – хотя никто никогда эти правила в данные системы не вводил. Можно научить компьютер вести себя так, как будто ему известен способ перевода глагола настоящего времени в глагол прошедшего (добавив «…ed» в конце), не загружая в него непосредственно эту информацию. Такие программы как бы следуют грамматическим правилам – хотя правила эти никоим образом в подобных программах не присутствуют.

В каждом из описанных случаев исследователи использовали для обучения системы сырой материал (вводные данные). Ни разу системе не сообщалось, что искать и что делать. Система самостоятельно узнавала то, чего не знал (или в принципе не мог знать) обучающий и что он, соответственно, не мог запрограммировать. Для ученых, исследующих когнитивные процессы, способность вычислительных систем использовать предоставленный людьми опыт и на его основе учиться распознавать паттерны является главным доказательством того, что интеллект работает подобным же образом. Поэтому вычислительные системы, помимо решения практических проблем, используются в качестве моделей работы человеческого разума.

Мы согласны с такой постановкой вопроса. Это именно тот тип мыслительных процессов, который нужен, чтобы опыт, приобретенный путем проб и ошибок, сделал нас способными принимать мудрые решения.

Чтобы понять, как работают когнитивные сети, уделим им больше внимания. Первые исследования[63] и попытки теоретического обоснования в этой области были предприняты психологами Джеймсом Макклелландом и Дэвидом Румельхартом[64]; со временем за ними последовали и другие. Существуют различные теории по поводу того, как функционируют подобные системы; но все эти теории принадлежат к одному главному направлению, и называется оно «коннекционизм» или «параллельная (распределенная) обработка данных».

Приверженцы коннекционизма рассматривают интеллект как огромный массив, состоящий из миллионов взаимосвязанных элементов. Очень упрощенно такая сеть изображена на рисунке 6.1. В нижней ее части расположены отдельные элементы – входные модули, реагирующие на конкретные воздействия окружающей среды (изображения, звуки, запахи и т. д.). Входные модули соединены многочисленными связями с другим, промежуточным набором скрытых модулей (в средней части рисунка), а те, в свою очередь, таким же образом связаны с выходными модулями, которые инициируют речь, мимику лица и движения тела. Когда один входной элемент активируется, он через множество соединений активирует промежуточный уровень скрытых модулей. Сила этих связей может меняться: если модули активируются одновременно, связи между ними укрепляются; в противном случае связи будут ослабевать. Кроме того, прочность соединений корректируется за счет воздействия обратной связи от среды – например, когда вы неправильно произносите слово или ошибочно идентифицируете скалу как мину, и вас поправляют.

Рисунок 6.1. Схематическое изображение коннекционистской модели работы интеллекта

Теоретики когнитивных сетей выдвигают гипотезу, что превращение наивного ребенка в опытного, способного распознавать паттерны взрослого – не что иное, как настройка обширной сети связей в процессе приобретения опыта. И большая часть этой настройки происходит за счет изменения паттерна и усиления связей на промежуточном уровне – уровне скрытых модулей. Настроенная сеть – вот что позволяет мгновенно распознавать паттерны.

Почему распознавание происходит мгновенно? Потому что элементы сетей способны работать параллельно, все разом. Вам не нужно ждать, пока один модуль передаст информацию другому, который затем отправит ее третьему, и так далее. Каждый элемент, активируясь, начинает посылать сигналы другим. Те, также активируясь, могут начать посылать ответные сигналы. В итоге каждый элемент воздействует на множество других и, в свою очередь, испытывает их воздействие. Кроме того, модули многократно продублированы и распределены по всей сети; дело не обстоит так, что только один из них воспринимает красный цвет, а другой – звук до-диез. Вот почему подобные теории называются теориями параллельной распределенной обработки данных.