Тор Норретрандерс - Иллюзия пользователя. Урезание сознания в размерах
Энтропия — это выражение грубого структурирования, которое применимо на том уровне, на котором мы описываем предметы. Тепло — это весьма грубая концепция: имеется огромное количество знаний, которые мы радостно игнорируем. Тепло — это концепция, которая включает в себя огромное количество энтропии, так как эта концепция весьма грубая и она не рассматривает большую часть знаний о микросостояниях, которые мы не удосуживаемся приобрести. Ветер и течение — это несколько менее грубые концепции, так как мы знаем достаточно много о том, куда направляются молекулы, когда говорим, что на улице теплый бриз, а не просто заявляем, что: «На улице тепло».
Энтропия — это мера информации, к которой нет немедленного интереса — микросостояния, только думая о которых, мы уже устаем. Энтропия — это концепция, которая предполагает наличие значения только тогда, когда мы можем объяснить, за чем именно мы не будем следить. Концепция энтропии предполагает, что мы объяснили, какое макросостояние нас интересует. Но независимо от того, какое именно состояние мы выбираем — его энтропия растет.
Второй закон говорит нам, что мир становится все сложнее описать: беспорядок растет, его становится все больше, и все в конечном итоге превратится в трение и тепло. Беспорядок — это такой вид порядка, который настолько изобилует деталями, что становится беспорядком.
Откуда миру знать, что именно мы расцениваем как беспорядок? Почему наши учебники физики никогда не рассказывают нам о том, что концепции подобные энтропии бессмысленны, если не объяснить, какое именно макросостояние имеется в виду? Зачем учить школьников и студентов термодинамике, не рассказав им о том, что Максвелл и Больцман все время упоминали как способ, которым мы описываем мир? Так как подсознательно физики всегда знали о том, что интересует человека — тепло.
Это негласная предпосылка всей современной термодинамики — люди любят тепло. Вот почему термодинамика описывает тепло и сходные с ним макросостояния — то, что интересует людей. В свою очередь микросостояния — определенный порядок атомов и молекул — это то, что интересует физиков.
Но дать определение энтропии можно только тогда, когда мы знаем, кто его дает. Энтропия неопределима, пока нам не станет известной степень точности наблюдателя. Учителям физики это кажется настолько очевидным, что они не видят никаких причин рассказать об этом своим студентам.
Именно на это намекал физик Эдвин Джейнс, когда выступал в Санта Фе в 1990 году — на важность задать вопрос: что означают вещи, те вещи, о которых написано в наших учебниках физики. Джейнс переформулировал современную версию термодинамики и очень ясно осветил старые моменты работ Больцмана. В 1979 году он написал: «Энтропия в термодинамической системе — это мера степени невежества человека, чье знание о ее микросостояниях состоит всего лишь в оценке макроскопического количества Х, которое определяет ее термодинамическое состояние. Это полностью «объективное» количество в том смысле, что функция зависит только от Х и не зависит от чьей-либо индивидуальности. Следовательно, нет причин, почему она не может быть измерена в лаборатории».
Таким образом, энтропия может быть точно определена, когда вы установили уровень описания.
Эта концепция не является субъективной в том плане, что для каждого наблюдателя будет существовать собственная энтропия. Каждый, кто заинтересован в тех же макро- и микросостояниях, может обнаружить одинаковую меру энтропии. Но она является субъективной в том плане, что не будет иметь никакого смысла, пока вы не спросите у человека, заинтересованного в определении энтропии, в чем конкретно он заинтересован.
Это, впрочем, не исключает того, что энтропия является мерой невежества. Ведь она является именно мерой того невежества, которое сопровождает данный уровень грубости вычислений.
«Но с чего бы моей машине интересоваться тем, что я знаю о мире?» — спросил один физик в Санта Фе, когда Джейнс объяснял эти вещи. Ответ действительно очень простой: потому, что она построена такими же людьми, как и вы. Потому, что двигатель машины будет иметь как раз ту приблизительность, которую люди используют при описании мира: мы ощущаем тепло — но не ощущаем молекул. Наше описание мира приобретается через обработку того, что мы ощущаем. И оно воспроизводится в тех машинах, которые мы строим на базе своего знания.
Философ Пол Фейерабенд говорил о Больцмане: «Со своим осознанием гипотетического характера всех наших знаний Больцман намного опередил свое время — а возможно, и наше собственное».
В 1948 году инженер Клод Шеннон задал очень хороший вопрос: «Сколько стоит передать сообщение из одного места в другое?». Сцилард задавал вопрос, сколько будет стоит измерение. Шеннон же заинтересовался тем, сколько будет стоить общение. Отправным пунктом стала концепция бита — разницы между двумя идентичными состояниями: ответом на вопрос «да/нет».
Анализ Шеннона оказался революционным. Базируясь на идеях Сциларда, он стал основателем современной теории информации.
Когда мы говорим об информации в нашей повседневной жизни, мы имеем в виду ее содержание. Но Клода Шеннона интересовало не содержание. Его интересовала продолжительность телефонных разговоров.
Шеннон был инженером в лабораториях Белла, знаменитом исследовательском отделе AT&T. Он изучал сложность передачи сообщений в форме сигналов. Он был заинтересован в определении того, что требуется для передачи специфического сообщения через специфическое соединение — к примеру, телефонную или телексную линию.
Как можно измерить сложность передачи сообщения?
Шеннон предположил, что сложность коммуникации можно выразить с помощью понятия «неожиданное значение». Как измерить неожиданное значение букв алфавита?
Мы знаем, что следующий символ, который перед нами появится, будет буквой. Мы знаем также, что алфавит состоит из 26 букв. Таким образом неожиданность для нас будет выражаться фактом, что каждый символ состоит из одной из 26 возможных букв. Когда мы видим букву, неожиданность для нас будет ограничена пределом, что перед нами — именно эта буква, а не любая другая из 25 возможных.
Выразить теорию Шеннона можно так: каждый символ — это макросостояние, которому могут соответствовать 26 различных микросостояний, то есть отдельных букв. Каждый символ обладает определенной степенью неожиданности, которая выражается его способностью быть одной из этих 26 букв. Получение отдельной буквы, таким образом, содержит неожиданное значение, которое исходит из факта, что оно исключает появление остальных 25 букв.
Это позволяет точно выразить сложность коммуникации: отдельный символ — это макросостояние, неожиданное значение которого определяется тем, сколько микросостояний ему соответствуют.
Шеннон долго сомневался, как назвать эту величину. Он рассматривал возможность использования слова «неуверенность» и слова «информация». Математик Джон фон Нейман, известный как отец логической структуры современных компьютеров, пытался убедить Шеннона, что это неожиданное значение нужно назвать энтропией, поскольку сходство с концепциями термодинамики было настолько удивительным, что он, как отмечалось, спорил с Шенноном: «это даст тебе большое преимущество в спорах, так как в любом случае никто не знает точно, что такое энтропия».
В конце концов Шеннон выбрал формулировку «информационная энтропия», но так как никто не знал, что такое энтропия, его теория вошла в историю как теория информации.
В реальности, следовательно, «информационное общество» — это на самом деле «общество энтропии» — общество невежества и беспорядка.
Проще всего дать определение этой концепции информации, если мы ограничим себя общением с помощью специального алфавита — бинарных чисел. Когда мы применяем бинарные числа, как сегодня это делается везде в коммуникации и компьютерной индустрии, у нас есть только два фундаментальных значения для выражения себя: 0 или 1.
Будучи макросостоянием, бинарная цифра соответствует только двум равновероятным микросостояниям. Когда мы получаем бинарный символ, наше неожиданное значение ограничено: или/или. Но ведь именно эта степень неожиданности, когда мы различаем две одинаково равные возможности, была открыта Сциллардом и в дальнейшем именовалась «один бит»: информация, которая выражается ответом на вопрос «да/нет», то есть разницей между двумя возможностями. Когда мы получаем бит, мы получаем кусочек информации, который соответствует разнице между двумя микросостояниями. Таким образом, прежде чем неожиданность станет существенной величиной, нам придется получить хотя бы несколько бит.
В символе, который известен как часть алфавита, содержится несколько большее количество информации. Здесь прибытие определенной буквы исключает не только одну-единственную другую возможность, а целых 25. Таким образом, когда мы получаем одну букву, мы получаем определенное количество бит — а точнее, 4 или 5.
