Эффект фрейминга. Как управлять вниманием потребителя в цифровую эпоху? - Кеннет Кьюкер
Есть факты, которые на первый взгляд можно принять за свидетельства того, что искусственный интеллект может «чувствовать» причинно-следственные связи и работать с каузальными шаблонами. Чтобы понять, как он это делает, посмотрите на игры, но не на классические настольные игры типа го и шахмат, где победа искусственного интеллекта над сильнейшими игроками-людьми общеизвестна, а на более сложный мир киберспорта.
Defense of the Ancients, или Dota, представляет собой многопользовательскую ролевую онлайн-игру, в которой команды по пять игроков стремятся разрушить внушительных размеров постройку на «базе» другой команды (и истребить врагов в яростной битве). В ней необходимо принимать сложные стратегические решения, осуществлять долгосрочное планирование, действовать совместно с другими игроками. И она превратилась в явление глобального масштаба: по ней проводятся международные турниры и раздаются голоса, предлагающие включить ее в программу Олимпийских игр. Призовой фонд для лучших команд достигает головокружительной суммы в 40 млн долларов.
В 2019 году OpenAI, исследовательская организация из Сан-Франциско, занимающаяся искусственным интеллектом, создала систему, которая потрясла вселенную Dota, наголову разбив лучших игроков-людей в Dota 2. На первый взгляд казалось, что система может выстраивать причинно-следственные связи, обобщать полученный опыт, а затем, вооруженная этими абстрактными понятиями, применяет каузальные шаблоны к новым обстоятельствам. Но если присмотреться тщательнее, мы обнаружим человека, руководящего действиями машины, – подобно тому, как в «Волшебнике страны Оз» человек скрывался за занавеской.
Система использует технологию, называемую «глубокое обучение с подкреплением». Играя сама с собой миллионы раз, она путем проб и ошибок определяет лучший набор действий и выдает сама себе статистическое «подкрепление», чтобы зафиксировать найденное поведение. Тем не менее в самых критических областях система оказывается неспособной выдавать подкрепление, и его приходится кодировать вручную.
Например, разработчики OpenAI узнали от опытных игроков в Dota 2, что те мысленно разделяют бой на три фазы, и эта концепция была закодирована в системе. Благодаря этому функция вознаграждения отдавала приоритет разным стратегиям в зависимости от фазы игры. Затем разработчики поняли, что им нужно создать «командный дух» у ботов, которые иначе придерживались эгоистической тактики. После того как разработчики настроили вручную этот «гиперпараметр», как они его называют, боты научились сражаться как единое целое. Можно сказать, что система с искусственным интеллектом проявила себя хорошо: боты разгромили людей. Но чтобы она заработала как надо, людям пришлось усесться за клавиатуры самим и ввести в нее каузальные фреймы.
Люди, превозносящие крайний рационализм, не могут отвергать каузальный фрейминг. Даже когда они создают системы, превосходящие человека, технология работает только потому, что в нее был искусственно добавлен элемент человеческого сознания, каузальные фреймы. Подобным же образом те, кто призывает к возвращению к более чувственному восприятию мира, вредят сами себе, сужая набор доступных им решений. Другой путь заключается в том, чтобы не прекращать создание ментальных моделей, включающих в себя каузальные шаблоны, а напротив, поддерживать его.
Порядок и решение
Объясняя мир при помощи каузальных фреймов, мы принимаем как данность, что есть высшая по отношению к нам сила, которая правит всем, что под солнцем, – если не божественное существо, то по крайней мере нечто, подчиняющееся законам физики.
Противоположностью была бы вселенная, лишенная какого бы то ни было порядка или смысла, каждый момент существования которой заполнен случайными событиями; мир, в котором, как говорится в поэме Томаса Элиота «Бесплодная земля», «нельзя ничто ни с чем связать». Но вселенная устроена иначе. Причина, понимание и взаимное влияние существуют. Самые первые астрономы смотрели на проплывающие над ними небесные тела и видели упорядоченность: само слово «космос» означает «порядок» по-древнегречески.
Как же люди могли бы усовершенствовать свои навыки мышления в терминах каузальных шаблонов? Ответ отчасти в том, чтобы знать о них и сознательно применять, размышляя над той или иной задачей. Можно остановиться и спросить себя: «Почему это происходит? Какое верное ли, неверное ли, допущение или, быть может, объяснение я неявно включаю в свои рассуждения?»
Именно так поступил Бен Бернанке вечером 16 сентября 2008 года, остановившись перед окном своего кабинета и обдумывая свое решение насытить рынки капиталом. Именно это привело ученых НАСА к мысли применить принципы расчета силы тяги в космической пустоте, где до этого никто не бывал, опираясь на каузальный шаблон физических законов, которые действуют на Земле.
Наше каузальное мышление иногда приводит к неверным результатам, подчас катастрофически неверным, но тысячелетиями фрейминг служил превосходным инструментом понимания и принятия решений. Подавляя его, мы отказываемся от могучего когнитивного механизма, который и делает нас людьми. Но чтобы раскрыть потенциал фреймов, требуется другая когнитивная способность человека: умение представлять себе другие варианты реальности. Может показаться странным, но сейчас самая важная точка ее приложения – это наши попытки осмыслить факт глобального потепления.
4
контрфактические предположения
умение представлять себе
несуществующие миры обеспечивает нам
успех в мире реальном
Утром 23 августа 1856 года в Олбани, штат Нью-Йорк, видные ученые своего времени собрались на восьмую ежегодную конференцию Американской ассоциации содействию развитию науки. Повсюду говорили о новых открытиях, сделанных в 31 штате, входящем в союз. Важной новостью было открытие расположенной неподалеку Обсерватории Дадли, главной задачей которой была продажа «услуг точного времени» банкам, компаниям и железным дорогам, – всем им знать время с точностью до секунды было абсолютно необходимо.
Но одна статья, представленная на конференции ученым-мужчиной вместо автора-женщины, отмечала этот момент как поворотный.
«Для науки, – начал Джозеф Генри из Смитсоновского института, – нет ни страны, ни пола. Мир женщины не ограничивается только красивым и полезным. Он включает в себя установление истины». Закончив это краткое вступление, которое было задумано как дань уважения, но сегодня, что забавно, воспринималось бы как сексистское, он перешел к описанию экспериментов, предпринятыми Юнис Фут в небольшой статье под названием «Обстоятельства, влияющие на тепло солнечных лучей».
Фут сравнивала температуру разных видов воздуха, например, сухого и влажного, если его нагревали на солнце или помещали в тень. Влажный воздух ожидаемо нагревался быстрее. Однако, когда она сравнила «обычный воздух» с углекислым газом, результат был поразительным: последний сильнее нагревался и дольше остывал. В статье делался вывод: при такой атмосфере температура на Земле была бы выше. Посреди промышленной революции, когда города Европы и Америки задыхались в сером фабричном дыму, Фут била тревогу относительно глобального потепления.
Ее исследования были образцово выполнены на уровне науки XIX века и представляли собой попытку найти причинно-следственные связи. (И она работала задолго до ученого, которому учебники истории приписывают установление связи между двуокисью углерода и изменением климата, Джона Тиндаля, члена Британского королевского общества.) С тех пор исследования, посвященные механизмам климата, стали еще качественнее, а данные – более полными.
