Теория информации

Определение. Длиной строки называют количество символов в строке. Длина строки a обозначается |a|. Определение. Пустая слово (слово, не содержащая ни одного символа) имеет длину 0. Определение. Пустая строка (строка, не содержащая ни одного символа) имеет длину 0. Определение. Оптимально закодированным считается такой код, при котором на передачу сообщений затрачивается минимальное время, однако, если на передачу каждого элементарного символа тратится одно и то же время, то оптимальный код – это код, имеющий минимально возможную длину. Методы алфавитного кодирования служат для кодирования алфавита, в которых принцип построения оптимальных кодов: 1. каждый элементарный символ должен переносить максимальное количество информации(0 или 1 в закодированном тексте должны встречаться одинаково часто), что приведет к увеличению энтропии. 2. присвоение более коротких кодовых слов вторичного алфавита при кодировании букв первичного алфавита, имеющих большую вероятность. Работать с информацией в электронных устройствах можно в одной из двух форм: аналоговой или цифровой. Определение. Аналоговая форма кодирует информацию непрерывными сигналами, которые меняются пропорционально тому, что они представляют. Микрофоны и обычные видеокамеры представляют голос и видео аналоговыми сигналами. Телефонная сеть передает голос по кабелю в виде аналоговых сигналов: переменный ток (его называют «синусоидальный несущий сигнал») непрерывно изменяется по частоте и амплитуде пропорционально (аналогично) звуковым колебаниям голоса говорящего.