Евгений Седов - Одна формула и весь мир
Действительно, специфика задач теории и техники связи требует весьма строгого подхода к использованию как математического аппарата теории информации, так и выдвинутых новой теорией общих идей. Однако нельзя, к сожалению, утверждать, что при переносе этих идей в такие области, как биология, психология, семиотика, искусствоведение, всегда соблюдается та же научная строгость. Здесь понятия теории информации часто внедряются на основе весьма поверхностных аналогий в качестве «модных» терминов, без глубокого проникновения в их суть. И тут можно полностью согласиться с Шенноном: если не пресечь этой тенденции в корне, теория информации и близкие к ней области могут легко превратиться в теории для болтунов. Подобного рода опасения и побудили основоположника теории информации обратиться к своим коллегам с призывом «поддерживать образцовый порядок в своем собственном доме», «обратить внимание на то, чтобы исследовательская работа велась на самом высоком научном уровне», «больше исследовать и меньше демонстрировать свои достижения, повысить требования к себе».
Обобщая эти высказывания, академик А. Н. Колмогоров приходит к заключению, что в целом статья «Банд-вагон» демонстрирует типичный для Шеннона «скромный и деловой подход».
«Модный напиток» не вскружил голову Клоду Шеннону. Ему раньше всех было дано понять, что теория его не универсальна, что предложенные им для измерения количества информации новая мера и новые единицы измерения (биты) не учитывают таких важных свойств информации, как ее ценность и смысл.
Шеннон предложил измерять информацию по степени ее неожиданности.
Отправив жену в родильный дом, гражданин Б. может с равной вероятностью ожидать рождения дочери или сына. Сообщение о рождении сына или дочери дает ему информацию, количество которой составляет 1 бит (о способах вычисления количества информации мы поговорим подробнее в следующей главе).
В очередном турнире на первенство мира по шахматам первую партию белыми могут начать с равной вероятностью оба претендента. После жеребьевки стало известно, кто из соперников начнет турнир белыми. Сообщение об этом даст получателю информацию в количестве
1 бита.
Теперь представим себе, что один и тот же гражданин Б. ожидает рождения ребенка и следит за ходом шахматного турнира. Вполне очевидно, что сообщения «У вас родился сын» и «Карпов начнет первую партию белыми» имеют для него совершенно различную ценность. А теория информации оценивает их одинаково.
Есть ли смысл измерять информацию без учета содержащегося в ней смысла? Оказывается, в этом отказе от конкретного содержания ради сопоставимости количества информации разнообразных сообщений и заключается самый глубокий теоретический смысл.
Существует ли на земле механическое движение без трения? Не существует. Об этом прекрасно знали и современники Галилея, и, конечно же, сам Галилей. И тем не менее Галилей задал себе вопрос: что было бы, если бы не было трения?
Ответ получился парадоксальным: тогда телеги могли бы ездить без лошадей! Так был открыт закон инерции, ставший затем фундаментом законов механики, управляющих движением всех земных и небесных физических тел.
Таков один из главных методологических принципов науки: чтобы выявить какие-то общие закономерности, надо абстрагироваться от некоторых конкретных свойств реальных объектов. Именно так и поступил с содержащимся в сообщениях смыслом основоположник теории информации Клод Шеннон. Предложенные им для измерения количества информации единицы (биты) пригодны для оценки любых сообщений, будь то известие о рождении сына, звуки симфонии или телевизионный спектакль.
Точно так же с помощью одних и тех же чисел можно определять количество овец, деревьев, шагов, дней, вес, скорость, плотность, вязкость, прочность, освещенность, напряжение, притяжение, силу тока и все прочее, о чем написано великое множество всевозможных справочников и книг.
А ведь на земле и по сей день есть племена, у которых число «пять» звучит по-разному в выражениях «пять быков» и «пять пальцев». Не сумев абстрагировать понятие «число» от конкретных объектов счета, эти племена ни на один шаг не продвинулись в области создания и освоения точных наук.
Галилей абстрагировался от неотделимого от движения трения, чтобы сформулировать законы механики. Клод Шеннон абстрагировался от смысла передаваемой информации, чтобы научиться ее (информацию) измерять.
Опираясь на созданную Шенноном теорию, многие ученые пытались найти такие меры количества информации, которые учитывали бы ее ценность и смысл. Для многих конкретных исследований такие оценки безусловно нужны и полезны. Просто необходимы. Однако ни одна из вновь предложенных мер информации не смогла стать такой же универсальной, как мера Шеннона. И это естественно: для разных процессов различными будут критерии ценности или смысла, не говоря уже о том, что эти критерии зависят и от того, кто ими желает воспользоваться. Короче: измерения смысла и ценности информации всегда субъективны, в то время как мера, предложенная Шенноном, позволяет исследовать информационные процессы, исключив из них всякий субъективизм.
Оценка информации по смыслу — это один из способов ее сортировки (селекции), в принципе не отличающейся от сортировки сигналов по их физическому носителю, диапазону частот и т. п. Запах, несущий огромное количество информации тигру или собаке, неуловим для человека. Ухо человека не воспринимает ультразвуковые сигналы, которыми обмениваются дельфины, а то, что слышит человек, безразлично дельфину.
Все эти частные различия игнорируются мерой, предложенной Шенноном, и потому она в равной мере пригодна для исследования всех видов информационных процессов независимо от «вкусов» потребителей информации, а ими могут быть и человек, и живая клетка, и тигр, и дельфин, и ЭВМ, и еще множество других систем.
Отказавшись (абстрагировавшись) от смысла и ценности сообщений, Шеннон исключил тем самым и навязчивые мнения всевозможных субъектов и сосредоточил внимание на объективных свойствах информации, описываемых математическим (вероятностным) языком. На первый план выступили некие общие свойства информации, не зависящие от субъективных оценок. Благодаря этому и случилось неожиданное даже для самого Клода Шеннона великое чудо: наука приобрела инструмент для исследований информационно-энтропийных соотношений, справедливых для всех форм информации, существующих в мире, будь то информация книг, радио, телевидения, газет и журналов или информация, циркулирующая по нервным тканям и по цепям электронных машин.
«Джинн информации» день ото дня продолжает увеличиваться в размерах и теперь стал уже огромным, как целый мир. К счастью, джинн этот в отличие от многих своих прототипов из «Тысячи и одной ночи» по натуре очень миролюбив. Его могущество может приносить людям только добро. И все-таки Шеннон рекомендует не слишком уж уповать на его всемогущество, поскольку «здание нашего несколько искусственно созданного благополучия слишком легко может рухнуть, как только окажется, что при помощи нескольких магических слов, таких, как информация, энтропия, избыточность, нельзя решать всех нерешенных проблем».
По поводу всех «нерешенных проблем» спорить, конечно, бесмысленно: было бы странно и удивительно, если бы все проблемы вдруг разрешились с помощью трех магических слов. Но среди наболевших проблем науки есть немало таких, к которым теория информации открывает новый подход. И дело тут не в магической силе слов «информация», «энтропия», «избыточность», а в глубине и емкости тех понятий, которые выражают эти слова.
Свое скептическое отношение к применению идей теории информации и связанных с ней новых взглядов на энтропию в различных областях современной науки, Шеннон выразил следующими словами: «Очень редко удается открыть сразу несколько тайн природы одним и тем же ключом». При всем нашем глубоком уважении к Клоду Шеннону и восхищении глубиной созданной им теории придется взять на себя смелость еще раз ему возразить. Разве такой «ключ», как закон сохранения энергии, не помог открыть множество тайн природы, начиная от непосредственно наблюдаемых физических и химических процессов и вплоть до самых интимных подробностей незримой жизни микрочастиц? Разве законы механики не помогали одновременно и конструировать тончайшие механизмы, и предсказывать движение планет и небесных светил?
Теория информации — это не менее значительный шаг в развитии научной мысли. Происходившая около 100 лет назад первая техническая революция побудила науку установить единую сущность различных видов энергии. Вторая техническая революция поставила на повестку дня вопрос об углублении представлений о сущности, единстве и противоположности понятий информации и энтропии.
