Дональд Норман - Дизайн вещей будущего
Куда мы движемся? И кто направляет движение?
– Моя машина чуть не устроила мне аварию, – сказал мне Джим.
– Твоя машина? Как это? – удивился я.
– Я ехал по шоссе, включив круиз-контроль. Знаешь, это такая система, которая поддерживает постоянную скорость, но если впереди появляется другая машина, она снижается, чтобы сохранять безопасную дистанцию. Так вот, через какое-то время движение на дороге стало более интенсивным, и моя машина замедлила ход. Наконец я добрался до нужного съезда, перестроился в правый ряд и свернул с шоссе. Я так давно включил круиз-контроль и ехал так медленно, что попросту о нем забыл. А вот машина не забыла. Она небось сказала себе: «Ура! Наконец-то впереди никого нет», и начала разгоняться до прежней скорости, хотя на съезде надо ехать медленно. Хорошо, что я не растерялся и вовремя нажал на тормоза. Иначе кто знает, что могло бы случиться.
Сегодня наши отношения с техникой резко меняются. До недавнего времени люди ее контролировали. Мы включали и выключали ее, указывали, что делать, и следили за процессом исполнения. Но по мере того как техника становилась все сложнее и изощреннее, мы стали хуже понимать принципы ее работы и хуже предугадывать ее действия. С тех пор как в нашей жизни появились компьютеры и микропроцессоры, мы все чаще испытывали растерянность, замешательство, раздражение и злость. Но мы продолжали считать, что контролируем ситуацию. Увы, уже нет. Машины берут верх. Они ведут себя так, будто обладают интеллектом и свободой воли, хотя ни того, ни другого у них нет.
Естественно, машины присматривают за нами с наилучшими намерениями – ради нашей безопасности и удобства. Если все идет как надо, эти «умные» машины весьма полезны: они делают нашу жизнь спокойнее, избавляют нас от рутинной работы, создают комфорт и выполняют многие задания точнее, чем мы сами. Действительно, ведь удобно же, что автомобиль автоматически снижает скорость, если перед вами на опасно близком расстоянии появилась другая машина, что он тихо и плавно переключает передачи, что микроволновая печь знает, когда испеклась картошка. Ну а если техника дает сбой? Что, если она действует неправильно или выходит из повиновения? Вспомним про машину Джима, заметившую, что дорога свободна, и увеличившую скорость, хотя он уже съехал с шоссе? Те же устройства, которые помогают нам в нормальных условиях, в случае каких-то неожиданностей снижают уровень безопасности, комфорта, точности, что чревато для нас угрожающими последствиями, дискомфортом, раздражением и злостью.
Сегодня машины сообщают о своем состоянии в основном с помощью сигналов тревоги, то есть только если с ними что-то не в порядке. Когда механизм дает сбой, человек должен взять ситуацию под контроль; зачастую это происходит неожиданно и времени, чтобы нормально отреагировать, у него нет. Джиму удалось исправить ошибку своего автомобиля. А если бы он не сумел этого сделать, в аварии обвинили бы его. Да-да, если действия «умной» машины приводят к аварии, ответственность за нее, скорее всего, возложат на человека.
Чтобы наладить взаимодействие людей с «умными» механизмами, нужно совершенствовать координацию и кооперацию обеих сторон – человека и машины. Но конструкторы, разрабатывающие сложные системы, зачастую этого не понимают. Как машина может определить, что важно, а что нет, особенно если то, что важно в одной ситуации, в другой теряет значение?
Я рассказывал историю о Джиме и его ретивом автомобиле инженерам нескольких автомобилестроительных компаний, и они неизменно реагировали следующим образом. Сперва они пытались обвинить во всем водителя: почему он не выключил круиз-контроль перед тем, как съехать с шоссе? Я объяснял: он просто забыл. Ну, тогда он плохой водитель, говорили они. Принцип «сам виноват» очень удобен для обвинителя, будь то страховая компания, органы власти или общество в целом: если люди совершают ошибку, их надо наказать. Но так проблему не решить. На самом деле подлинные виновники – это неудачная конструкция, несовершенные алгоритмы, плохая инфраструктура, изъяны в технологическом режиме. А человек – лишь последнее звено в этой сложной цепи.
И хотя с технической точки зрения специалисты из автокомпаний правы – водитель должен помнить, как работает автоматика его машины, – это не оправдывает конструктивных недоработок. Новые технологии следует разрабатывать, имея в виду реальное поведение людей, а не то, каким мы хотели бы его видеть. Более того, автомобиль никак не помогает водителю вспомнить, что нужно сделать. Похоже, он сконструирован именно так, чтобы помочь ему забыть! Понять, включен круиз-контроль или нет, практически невозможно. Было бы куда лучше, если бы в машине имелось специальное напоминающее устройство.
И здесь инженеры переходили к следующему этапу: «Да, проблема есть, но волноваться не стоит. Мы все исправим. Вы правы, навигационная система автомобиля должна фиксировать, что он съехал с дороги, и либо автоматически отключить круиз-контроль, либо настроить его на безопасную скорость».
Этот ответ наглядно иллюстрирует суть проблемы. Машина не обладает умом: ее интеллект – это интеллект конструкторов. Они сидят в своих кабинетах, пытаясь представить себе все, что может произойти с машиной и водителем, и выработать правильные решения. Но как заложить правильную реакцию на неожиданное событие? Если такое случается с человеком, можно предположить, что он решит проблему с помощью воображения и смекалки. Но «интеллект» наших машин заключен не в них самих, а в головах инженеров. Поэтому в непредвиденных обстоятельствах, когда конструктора нет рядом, машина, как правило, не справляется с задачей.
О неожиданностях мы знаем две вещи: во-первых, они обязательно случаются, во-вторых, всегда застают нас врасплох.
Как-то раз инженер одной автомобильной компании отреагировал на мой рассказ о Джиме не так, как другие. Он смущенно признал, что нечто подобное на съезде с шоссе случилось и с ним самим, но у него была другая проблема – смена ряда. Если на шоссе с интенсивным движением водитель хочет перестроиться, он ждет, когда на соседней полосе возникнет достаточно большой просвет, а затем совершает маневр. Обычно при этом его автомобиль оказывается на небольшом расстоянии от машин, идущих впереди и сзади. Адаптивный круиз-контроль может решить, что передняя машина находится в опасной близости, и включить тормоза.
– Ну и в чем здесь проблема? – удивился я. – Это, конечно, раздражает, но вроде ничем не грозит.
– Нет, – пояснил инженер. – Это опасно, потому что едущий за вами водитель не ожидает, что после перестроения вы неожиданно затормозите. И если он не слишком внимателен, то может в вас врезаться. Но даже если этого не случится, ваша манера езды вряд ли ему понравится.
– Возможно, – засмеялся он, – у машины должен быть специальный стоп-сигнал, который будет загораться, если тормоза включаются автоматически, предупреждая водителя сзади: эй, я не виноват, это моя машина тормозит.
Инженер, конечно, шутил, но его слова указывают на различия в поведении людей и машин. Человек может вести себя по-разному, плохо или хорошо, обдуманно или беспечно. Машины более последовательны, они анализируют ситуацию в соответствии с логикой и правилами, на которые запрограммированы. Но в их действиях есть принципиальное ограничение: они воспринимают окружающий мир не так, как человек, у них нет «высших целей», и они не понимают целей и мотивов людей, с которыми должны взаимодействовать. Иными словами, машины не такие, как мы. В чем-то они нас превосходят, например в скорости, мощи, последовательности, а в чем-то уступают – прежде всего в навыках общения, в креативности и воображении. Машины лишены эмпатии и не способны понять, как их действия отразятся на окружающих. Из-за этих различий, связанных в первую очередь со способностью к общению и наличием эмпатии, и возникают проблемы. Более того, такие различия, а значит, и возникающие противоречия, носят фундаментальный характер, их нельзя устранить, изменив какой-нибудь алгоритм или добавив лишний датчик.
В результате действия машин вступают в противоречие с действиями людей. Зачастую ничего страшного в этом нет: если моя стиральная машина стирает белье не так, как я, какое мне дело – ведь в результате я получаю чистую одежду. Здесь автоматизация эффективна, поскольку мне нужно только загрузить белье и включить машину, а все остальное она делает сама. Она, так сказать, берет дело в свои руки, и, если я не вмешиваюсь, все работает без сбоев.
Но как быть в ситуациях, когда люди и техника должны взаимодействовать? И что произойдет с моей стиральной машиной, если, включив ее, я захочу изменить режим? Как мне сообщить ей об этом? И когда она его изменит, если программа уже запущена – сразу же или при следующей стирке? Здесь различия между реакцией людей и машин становятся очень важными. Иногда кажется, что машина действует абсолютно волюнтаристски, хотя если бы она умела мыслить и говорить, то объяснила бы, что, с ее точки зрения, это я творю произвол. На человека, вовлеченного в процесс, эта борьба за превосходство может действовать угнетающе. А стороннего наблюдателя она ставит в тупик: не ясно, кто здесь главный и почему происходит то или иное действие. И не важно, кто в данном случае прав – человек или машина. Значение имеет сама несогласованность действий – ведь именно из-за нее возникают злость, раздражение, а порой даже поломки или травмы.
