Теория информации

8) Избыточность в этом случае будет уже составлять примерно 17%. Если мы возьмем сочетания из трех букв, то получим еще лучший результат и т.д. Увеличивая длину блоков можно как угодно близко приблизиться к оптимальному значению .2 log / H Блочное кодирование удобно применять и для устранения избыточности при кодировании десятичных цифр. При передаче десятичных цифр двоичным кодом максимально загруженными бывают только те символы вторичного алфавита, которые передают значения, являющиеся целочисленными степенями двойки. Это 4, 8, 16, … В других случаях тремя разрядами можно передать и 5 и 8. Так для передачи цифры 5 необходимо: бит k 32,22 log /5 log   . Однако эту цифру необходимо округлить до ближайшего целого числа 3. 9) Избыточность от округления будет составлять: 227 ,0 3 32,2 1 1       w w ц k k k k k L . 10) Избыточность от не равновероятного появления символов и избыточность от округления можно устранить за счет кодирования блоками: Цифры Число разрядов На 1 цифру 0 – 9 4 4 00 – 99 7 3,5 000 – 999 10 3,3 Пример 1.31 . Рассмотрим метод блочного кодирования, которое применим к методу Шеннона-Фано на конкретном примере, представленном в примере 1.23. Так как блочное кодирование позволяет закодировать алфавитное сообщение с помощью двухбуквенных,