История изменений
Исправление
drBatty,
(текущая версия)
:
Приняв это определение, посмотрим, как увеличивается информация в ЗАПИСИ при добавлении к этой записи одного символа.
при добавлении одного символа количество информации увеличивается неравномерно, и его так просто не посчитать. Смотря какое число, и какой символ. Можно посчитать группируя символы в метасимволы. Например ☣☣☣☣ == 40, а ☣☣☣☣☣ == 50. Тогда можно посчитать энтропию «4» и «5», она равна -log₂(1/10) (в битах).
Исходная версия
drBatty,
:
Приняв это определение, посмотрим, как увеличивается информация в ЗАПИСИ при добавлении к этой записи одного символа.
при добавлении одного символа количество информации увеличивается неравномерно, и его так просто не посчитать. Смотря какое число, и какой символ. Можно посчитать группируя символы в метасимволы. Например ☣☣☣☣ == 40, а ☣☣☣☣☣ == 50. Тогда можно посчитать энтропию «4» и «5», она равна -log₂(1/10)