...Во-первых, разберитесь по какому поводу я опубликовал Фау свой ответ...

Разобрался. Докладываю.

Вы хотели «просветить» Фау относительно основных положений теории информации. Мне показалось, не совсем удачно. У него могло создаться ложное впечатление о «упрощённой донельзя» теории, «которая мало кого устраивает»... Между прочим, Вы даже не указали, кого, конкретно (сферу науки)... Поэтому я и взялся за корректировку Ваших представлений по этому вопросу.

Орех

...во-вторых, я ничего не обрезал разговор шёл о формализованном подходе, через который информация представлена в двоичной кодировке...

Вот, что цитировали Вы :

Орех

... Количество информации Н, передаваемое сообщением о реализации одного из N равновероятных событии, определяется по формуле:

H=LOG2 N

Количество информации измеряется, таким образом, в двоичных логарифмических единицах, или битах. Передача количества информации, равного одному биту, позволяет уменьшить неопределенность ситуации вдвое, двух битов — вчетверо и т.д. Множество всех возможных событий, естественно, заранее должно быть известно на принимающей стороне. Приведенная выше формула описывет максимально возможное количество информации, достигаемое в случае, когда система событий совершенно случайна...

А вот то, что у Величковского следует дальше :

...Если система событий структурирована, так что разные события возникают с различной вероятностью, то среднее количество информации для множества из N событий определяется несколько более сложной формулой...

Далее приводится формула Шеннона. А и вовсе «далее» – не приводится – фундаментальная формула меры информации, которая лежит в основе соответствующего подраздела теории вероятностей и математической статистики. Тривиальными следствиями которой, являются, и формула Хартли, и формула Шеннона.

В предыдущем посте я попытался объяснить, что рассматриваемый Вами случай – тривиален. Ввиду очень серьёзных допущений, постулированных автором. В практических приложениях теории информации несравнимо больше ситуаций, когда применение выводов на основе формулы Хартли приводит к абсолютно ложным решениям. Наконец, ещё раз уверяю Вас, что вовсе не этот «формализованный подход» привёл к необходимости компьютерного «представления информации в двоичной форме».

После же краткого ознакомления с выводами Величковского о современном состоянии когнитивной психологии, у меня закралось сомнение и в справедливости следующего Вашего суждения :

Орех

... Если уж говорить о научном подходе в области информации и мышления, то лучше ссылаться на достижения когнитивной нейропсихологии...

В силу того, что наклёвывающиеся ростки этой парадигмы, по описанию Величковского, находятся пока в стадии укоренения, и не имеют чётко очерченных границ и характеристик фундаментального научного знания. Разумеется, это не говорит о том, что "когнитивщикам" следует возвращаться к информационной или компьютерной парадигме. Просто, по моему разумению, навеянному чтением Величковского, ныне когнитивная психология в очередной раз накапливает метафизические представления, предвосхищающие революционный марш-бросок очередного парадигмального «калифа». На час, - как и в любой иной сфере научного познания...

...плохо разобрались...

У Вас опять есть лёгкий способ разоблачить мои кружевные «происки». Выкладывайте собственную версию собственной же цели вытряхивания перед Фау содержания пистонного карманчика теории информации. Пободаемся ? ;)

Орех

...и насчёт обрезания - это не ко мне... не было никакого обрезания...

...ага... правильно! а на выходе те же самые биты... так какой смысл дальше кружева плести? - это по вашей части...

Наверное, я плохой учитель. Однако попробую ещё раз.

В статистической теории информации абсолютно пофиг, каково основание логарифма, используемого при конструировании меры для измерения её количества. Меняются только единицы измерения (биты, хартли, наты...). Поэтому «на выходе» могут быть вовсе и не биты. Примерно, как в банке. Вы можете зайти в него с чековой книжкой, а выйти и с баксами, и с рублями, и даже с тугриками...

Для логарифма по основанию 2 выпал счастливый случай. При разрешении неопределённости в ситуации с двумя равновероятными гипотезами, и формула Хартли, и формула Шеннона, выбору любой из альтернатив определяет меру информации равную натуральной единице – одному биту. То есть, получение информации величиной в один бит сразу и полностью разрешает подобную неопределённость.

На этом все преимущества этой меры заканчиваются. Просто в этом случае, и в хартли, и в натах, будет зафиксирована некая иррациональная величина, портящая эстетическое наслаждение, испытываемое фанатами логарифмирования «по двойке».

Однако те, кто с помощью «пальцев» Вашей лёгкой руки усвоет лишь первую часть цитаты из Величковского, навек обречены жить с представлением о том, что один бит информации в любом случае уменьшает неопределённость ровно в два раза. Вы страшный человек, Орех... В силу того, что обрезанная Вами часть цитаты ставит всё на свои места. При несоблюдении указанных выше строгих условий, и величина меры информации Шеннона уже не совпадает с мерой Хартли, и один бит информации уже не ополовинивает пространство возможных исходов вероятностных событий. На свет ужасающе выползают полчища иррациональной цифири...