Разработка и отладка программного обеспечения микропроцессорных систем обработки информации
появления сообщений; верхним подгруппам в обеих группах приписывается символ «1», а нижним - символ «О». Эта процедура повторяется до тех пор, пока в каждой подгруппе не останется по одному сообщению. Оценка кода Шеннона - Фано производится по средней длине кодовой комбинации: _ К 1=1 где п/ и Pi ~ соответственно длина и вероятносгь /-й кодово комбинации; К - размер алфавита источника (количество сообщений, выдаваемых источником). Энтропия источника сообщений вычисляется по формуле: где К - количество сообщений; - вероятности появления сообщений. Минимальная средняя длина щ кодовой комбинации равна энтропии сообщения Н{А). Значение Лср должно быть больше Н{А) Иначе (согласно теореме кодирования) код нельзя будет однозначно декодировать. Таким образом оценивается степень эффективности созданного кода и практическая его применимость. Дале© Пс сравнивается с длиной равномерного кода и оценивается степень сжатия кода; =V " - p i o o % , '^равн где Правн - длина равномерного кода. Если заранее не известны вероятности возникновения тех или иных сообщений Р(л,), но известен закон распределения (плотность распределения вероятностей) случайной величины X, то вероятности Р{х) можно вычислить на основе знания этого закона. Пусть 150
Made with FlippingBook
RkJQdWJsaXNoZXIy MTY0OTYy