с чего бы это? Глупости. Вы совсем как церковник, приписывающий все знания о боге церкви...так и о информации - какой-то частной дисциплине.

теория информации предлагает простой формальный аппарат для оценки количества информации, содержащейся в том или ином сообщении.
Количество информации Н, передаваемое сообщением о реализации одного из N равновероятных событии, определяется по формуле:

H=LOG2 N

Количество информации измеряется, таким образом, в двоичных логарифмических единицах, или битах. Передача количества информации, равного одному биту, позволяет уменьшить неопределенность ситуации вдвое, двух битов — вчетверо и т.д. Множество всех возможных событий, естественно, заранее должно быть известно на принимающей стороне. Приведенная выше формула описывет максимально возможное количество информации, достигаемое в случае, когда система событий совершенно случайна.

Так что именно биты заложены постулатами теории информации... система упрощена донельзя...она мало кого устраивает. Если уж говорить о научном подходе в области информации и мышления, то лучше ссылаться на достижения когнитивной нейропсихологии.

Небольшая ремарка. Я немного отвлёкся, готовя Вам, Орех, ответы на предыдущие посты. Поэтому, только разместив первую реплику, обнаружил комментируемый пост.

Вы не правы. Приводимая Вами мера измерения количества информации относится к одному из ранних периодов развития теории связи. Её ввёл Хартли в 1928 году. Позднее она была отнесена к так называемому комбинаторному подходу измерения этой величины. Он малопродуктивен, и давно вытеснен более "увлекательными" научными конструкциями - вероятностным и алгоритмическим подходами.

Вдогонку.

Грубая ошибка. Логарифмирование некой величины по основанию "два" вовсе не означает её перевод в двоичную систему счисления... Например, логарифм 5 по основанию 2 равен некому числу, при возведении в степень которого числа 2 получится 5.

Это число является иррациональным. Его нельзя эквивалентно представить в двоичной системе счисления, то есть в битах.

Перевод же, одного числа из одной системы счисления, в другую, выполняется совсем по другим правилам. Отнюдь не связанных с логарифмированием...

Простите, Орех, но это - сущий бред... При Вашем желании, могу пояснить, почему.

вот я и говорю - ГЛУПОСТИ! Нет в моих словах никакой метафизики. Уметь объснить простым языком, "на пальцах" - это вовсе не метафизика. Все мои рассуждения носят качественное описание (которое, кстати, очень широко используется в научной методологии), исходя из последних исследований когнитивной нейропсихологии, а не из узкотехнической и упрощённой шенноновской трактовки 1949 года для применения в связи и шифровании. Строгой математики моделей нейролингвистических процессов обработки информации пока не существует, кроме некоторых схематических представлений информационных процессов.

Что касается моего определения "информация" так в данном контексте оно и не нужно. Мы с лягушью друг друга хорошо и без этого поняли. Я мог бы "информацию" заменить и на другой смысловой эквивалент без вреда для логического контекста. Но в силу его общей употребительной ёмкости и удобства использую его без всяких на то определений.

чётко, не спорю, - но зачем, когда разговор шёл о мышлении и психике?? вот, когда коснёмся детального обсуждения вопросов применения теории информации в технике: радиосвязи и т.д., тогда ваши замечания будут существенны.

Все остальные ваши претензии обсуждать не берусь, они, на мой взгляд, к теме мало имеют отношения...залезем в дебри... это не специализированный форум.

хмм... кстати, прежде чем так быстро заявлять о каких-то грубых ошибках, неплохо бы разобраться в сути мною изложенного. Или вы невнимательны, или просто не в теме. Да и формула очень известная и ни у кого из специалистов вопросов не вызывает. В ней выражена вся квинтессенция общей теории информации, которая используется по настоящий день.
итак, всё элементарно, ватсон!
Откроем параграф Количество информации для равновероятных событий.

Американский инженер Р. Хартли (1928 г.) предложил рассмотреть процесс получения информации как выбор одного сообщения из конечного наперёд заданного множества N равновероятных сообщений, а количество информации I, содержащееся в выбранном сообщении, определяет как двоичный логарифм N.

формула Хартли: N = 2I или I = log2N

Пример:

Какое количество вопросов достаточно задать вашему собеседнику, чтобы наверняка определить месяц, в котором он родился?

Решение

Будем рассматривать 12 месяцев как 12 возможных событий. Если спрашивать о конкретном месяце рождения, то, возможно, придется задать 11 вопросов (если на 11 первых вопросов был получен отрицательный ответ, то 12-й задавать не обязательно, так как он и будет правильным). Однако, такой способ слишком длинный.

Удобнее задавать «двоичные» вопросы, т.е. вопросы, на которые можно ответить только «Да» или «Нет». Например, «Вы родились во второй половине года?». Каждый такой вопрос разбивает множество вариантов на два подмножества: одно соответствует ответу «Да», а другое — ответу «Нет».

Правильная стратегия состоит в том, что вопросы нужно задавать так, чтобы количество возможных вариантов каждый раз уменьшалось вдвое. Тогда количество возможных событий в каждом из полученных подмножеств будет одинаково и их отгадывание равновероятно. В этом случае на каждом шаге ответ («Да» или «Нет») будет нести информацию равную 1 биту.

Т.к. события равновероятны и количество возможных событий N=12, то используя формулу Хартли находим количество информации: I = log212» 3,6 бит.

Количество полученных бит информации соответствует количеству заданных вопросов, однако количество вопросов не может быть нецелым числом. Округляем до большего целого числа и получаем 4.

Ответ: при правильной стратегии необходимо задать не более 4 вопросов.

как видим, ни о каких иррациональных числах и речи быть не может И именно этот прицип взят за основу представления звуковой, графической, текстовой, числовой информации в вычислительной технике.

Орех

...вот я и говорю - ГЛУПОСТИ! Нет в моих словах никакой метафизики. Уметь объснить простым языком, "на пальцах" - это вовсе не метафизика. Все мои рассуждения носят качественное описание (которое, кстати, очень широко используется в научной методологии), исходя из последних исследований когнитивной нейропсихологии, а не из узкотехнической и упрощённой шенноновской трактовки 1949 года для применения в связи и шифровании. Строгой математики моделей нейролингвистических процессов обработки информации пока не существует, кроме некоторых схематических представлений информационных процессов...

Объяснять «на пальцах», конечно, можно. Но только содержание таких областей знания, которые опираются на научно обоснованные концепции, проверенные, хотя бы, на соответствие принципа интерсубъективности. То есть, те самые, в которых наблюдения с неизменно одинаковыми результатами повторяли и многочисленные независимые исследователи. Точно также можно применять и качественное описание, но только исключительно того, что хорошо и устойчиво наблюдается и повторимо.

Откровенно говоря, у меня существуют глубокие сомнения в том, что воспринимающий субъект составит верную картину того, что ему пытались донести научно-популярной "распальцовкой". Имеется некоторый опыт созерцания подобных плодов "просвещения"... Даже сон разума не порождает похожих "чудовищ"

Более того, Вы же пытаетесь объяснять нечто, имеющее исключительно умозрительное отображение в сознании лишь некоторых познающих субъектов. В частности, Вас... Все такие образы представляют собой, в лучшем случае, некие артефакты научного познания. Например, каким образом можно независимо проверить следующие Ваши утверждения :

Орех

...контент запоминается созданием новых нейронных или нервных связей...

...Запоминание - это свойство клеток...

...неживая материя тоже запоминает, благодаря энергии связи между атомами или молекулами...

Наконец, чем же ещё, как не метафизикой, следует считать Ваши нижеприведённые рассуждения ? Именно в них и содержится, по сути, львиная доля Ваших «продуктивных» выводов, базирующихся на «последних исследованиях когнитивной нейропсихологии» :

Орех

...Что касается памяти, то её истоки, конечно же идут на физическом уровне: биохимические реакции, нервные преобразования, новые нейронные связи с какой-то сложной комплексной топологией. Далее, очевидно, задействуются ещё какие-то механизмы, о которых пока наука не знает. Если мы полагаем, что сознание имеет много уровней и структур, которые не разлагаются после смерти, то вполне возможно, что эти структуры остаются не безучастными к процессам запоминания на физическом плане. Часть необходимого для них информационного массива, представленного нейронными и нервными связями, каким-то образом преобразуется и переносится. Я считаю, что это происходит посредством ближайших к физической материи каких-то полей (эфирных). Т.е. процессы в нейронах возмущают эфирное поле, относящееся также к сознанию человека и создают в нём какие-то ячейки памяти.

Эзотерика утверждает, что этот массив несёт в себе широкий спектр т.н. духовного и ментального опыта человека. То есть высшие структуры сознания интересуют только определённого типа события, связанные с жизнью человека, его мыслями, поступками и т.д. Но рано или поздно, многое отсеивается, фильтруется и в самых высших структурах сознания оседают крупицы от высшего опыта человеческой жизни... или ничего не застревает, если такого не было. Именно этот опыт остаётся с человеком на всю его бессмертную жизнь, формирует, накапливаясь за много воплощений, духовную личность...

Всё вышесказанное нельзя воспринимать иначе, нежели как совокупность метафизических гипотез, сплетённых словосочетаниями – «очевидно», «если мы полагаем», «вполне возможно», «каким-то образом», «я считаю», «каких-то полей... ячеек» и тд... Или Вы предлагаете рассматривать такую хлипкую вербальную конструкцию как форму «качественного описания научной теории» ?

Ещё раз о Шенноне (скорее, о Фишере и Колмогорове). В третий раз прошу Вас убедиться в том, что я дал конкретное указание на область применения представленного мною понятия меры информации. Я не озвучивал необходимости и достаточности использования этой специфической вероятностной меры в иных сферах научного познания, если только в них не используется моделирование на основе случайных величин и стохастических процессов.

Орех

...но зачем, когда разговор шёл о мышлении и психике??...

Я уже говорил Вам – мой пост был адресован Фау, который возмутился внедрением всяческих битов и прочей "херни" , именно в сферу «мышления и психики». Попробовал «на пальцах» показать ему, где эти понятия применимы. В разговор вмешались Вы...

(по аналогии с новогодним - бреете или тупо не растёт?)

Орех

...как видим, ни о каких иррациональных числах и речи быть не может И именно этот при[н]цип взят за основу представления звуковой, графической, текстовой, числовой информации в вычислительной технике...

За указанную Вами «основу» представления информации (я бы сказал, данных... ) в вычислительной технике, как и вообще, сам принцип её реализации, принята булева алгебра, а также способность быстро и легко осуществлять соответствующие алгебраические операции на базе уже существовавших радиоэлектронных устройств. Мера информации, эвристически введённая Хартли в теорию связи, никакого отношения к вышеизложенному не имеет.

Орех

...Или вы невнимательны, или просто не в теме. Да и формула [Хартли] очень известная и ни у кого из специалистов вопросов не вызывает. В ней выражена вся квинтессенция общей теории информации, которая используется по настоящий день...

Жаль, что Вы не дочитали в первоисточнике (монография Величковского ? ) продолжение цитаты, приведённой Вами в предыдущем посте. Даже то, что сверхкратко и популярно изложено там, должно было бы посеять у Вас сомнения о «квинтэссенционных» качествах формулы Хартли по отношению к общей (??? ) теории информации.

Повторяю, Хартли ввёл свою формулу эвристическим способом, предполагая наличие конечного множества дискретных сообщений, которые независимы и равновероятны. Совершенно случайным и счастливым образом она совпала со следствием значительно упрощённого (описанным выше образом) варианта, строго определённого в теории информации. Причём, последняя рассматривается как отдельная ветвь теории вероятностей и математической статистики, а не как синоним теории связи (!). Однако и до Хартли в матстатистике имела место быть (1925 год) мера информации Фишера (не логарифмическая), введённая для нужд статистических оценок, но тоже являющаяся всего лишь частным случаем имеющегося ныне строгого определения.

Простейшая формула Хартли, действительно, используется и по сей день, как иллюстрация тривиального понимания существования неких логарифмических мер количества информации. Логарифмирование по основанию 2 – когда величина информации указывается в битах – не единственная логарифмическая мера. Используются и десятичные логарифмы, и натуральные. В первом случае единица меры носит название дит (хартли), во втором – нат.

Совершенно неверно считать, что один бит информации устраняет неопределённость в два раза ( и тд). Только в частном случае Хартли, когда разрешается неопределённость в ситуации с двумя равновероятными гипотезами, оказывается, что для этого достаточен всего лишь один бит информации. Практически во всех остальных случаях отсутствует возможность избавиться от иррациональности полученного значения количества информации.

Приведённый Вами пример-задача, как раз, и демонстрирует иррациональность полученной величины меры информации – логарифм 12 по основанию 2 не может быть выражен в виде правильной или неправильной... но дроби .

Вы можете легко убедить меня в справедливости этих суждений, приведя конкретные примеры "преступности" моих действий.

До появления Ваших кавычек, я хотел уточнить - бредовость монографии этого автора - Ваше личное мнение ? Не стану снимать этот вопрос. В силу того, что беглый просмотр отдельных параграфов двухтомника убедил меня в необходимости детальнее ознакомиться с суждениями Величковского. Они для меня интересны.

Между прочим, он прямо указывает на непосредственное применение выводов статистической теории связи при формировании последних версий быстроменяющихся парадигм когнитивной психологии

а я думал ваше? вы, вроде, так оценили сей труд...

Вы ложно превысили мои полномочия...

В контексте Вашей цитаты отсутствует возможность делать какие-либо предположения о вероятностном описании ситуации, характеризующихся фразой "система событий совершенно случайна". Такой термин - совершенная случайность - не используется математиками, он не имеет строгого толкования. Например, в Сети я не нашёл ни такого описания, ни аналогов его применения.

У Величковского же, следующее предложение, обрезанное Вами, косвенно проясняет то, что он подразумевает под таковой "системой событий". Он, предлагая альтернативу формуле Хартли, говорит о разных вероятностях отдельных событий, составляющих конечное множество, называя такой случай "структурированным". То есть, можно понять, если поднапрячься , что под "совершенной случайностью" он подразумевает равновероятность каждого из таких событий. Иногда случайные величины, подчиняющиеся такому закону, называют базовыми...

Возможно, эта "мягкая" неопределённость возникла из-за цитирования им некого источника, в котором даётся разъяснение применённого таким образом понятия...

Действительно, какая тут информация? Никакой информации, одна чистая провокация.

Если Школяр с одной стороны дурак, а с другой - умный, - нафига про это вслух говорить? Чтобы дефки сбежались и опять с рукоприкладством начали спорить, кто есть малец наш на самом деле - полудурок или полоумный?

Нет, это надо отмодерировать. Кто тут модератор? Почему за порядком не следите?