Разработка и отладка программного обеспечения микропроцессорных систем обработки информации

процесс кодирования состоит из следующих пунктов: 1) Все сообщения записываются в порядке убывания юс вероятностей (первый и второй столбцы таблицы под названиями «Сообщение» и «р,»). 2) Вся совокупность сообщений разбивается на две примерно равновероятные группы по вероятностям появления сообщений (третий столбец таблицы - первый этап кодирования). 3) Всем символам верхней (первой) группы приписывается кодовый символ «1», а символам нижней (второй) группы - кодовый символ «О». 4) Аналогично каждая группа разбивается на подгруппы с одинаковыми по возможности вероятностями; верхним подгруппам приписывается кодовый символ «1» (второй кодовый символ), а нижним - символ «О» (2 - 4-й этапы кодирования, 4 - 6-й столбцы таблицы соответственно). 5) Эта процедура повторяется до тех пор, пока в каждой подгруппе не останется по одному сообщению. В результате для каждого сообщения д,- имеем определенный набор двоичных символов - кодовую последовательность. 2. Определение параметров кода Средняя длина кодовой комбинации; " = Е " ' Л = 2 Л 5 . i=l При оптимальном двоичном кодировании средняя длина равна энтропии источника сообщения: п^=Н {A) = -'^p,\ogp, =2,75, i=l Т .е. - код Шеннона - Фано оптимален для данного случая. Минимальная длина кодовой комбинации равномерного кода, которым можно закодировать данный алфавит (8 сообщений): 160