< Previous | Contents | Next >
ГЛ. I. ДИСКРЕТНЫЕ СИСТЕМЫ БЕЗ ШУМОВ 27
7. ПРЕДСТАВЛЕНИЕ ПРОЦЕССОВ КОДИРОВАНИЯ
И ДЕКОДИРОВАНИЯ
Теперь нужно представить математически операции, выполня
€мые передатчиком и приемником с целью кодирования и .,цеко дирования сообщений. Каждый из них будет называтьсS!: дискрет ным четырехполюсником. На вход четырехполюсника поступает последовательность входных символов, а на выходе получается последовательность выходных символов. В общем случае выходной эффект четырехполюсника зависит не только от наличного вход ного символа, но также и от предыдущих. Предположим, что су ществует конечное число т возможнь1х состояний четырехполюс ника и что его выходной эффект является функцией наличного состояния и наличного входного символа. Следующее состояние будет функцией этих двух величин.
Поэтому четырехполюсник может быть описан двумя функциями:
Уп= f (хп, ап)• cxn+]= g(хп' ап)•
rде хп есть п-й входной символ, ап - состояние четырехполюс ника в момент введения n-ro входного символа, Уп - выход ной символ (или последовательность выходных символов),
,создаваемый, когда на входе действует символ хп и четырех- полюсник находится в состоянии ап.
Если выходные символы четырехполюсника можно отождест вить со входными символами другого четырехполюсника, то че тырехполюсники могут быть соединены последовательно, в ре зультате чего получится новый четырехполюсник.
Если существует второй четырехполюсник, который работает от выхода первого четырехполюсника и восстанавливает исход ный входной сигнал, то первый четырехполюсник называется несингулярным, а второй - ему обратным.
Теорема 7
Выход четырехполюсника с конечным числом состояний, возбуждаемого статистическим источником также с конечным числом состояний, является статистическим источником с ко нечным числом состояний и с «энтропией» (на единицу времени), меньшей или равной <<энтропию> на входе. Если четырехпо:люсник не синrулярен, «энтропии» равны.
Пусть сх представляет собой состояние источника, который дает последовательность символов х1, и пусть - состояние че тырехполюсника, который создает на выходе группы символов у1• Комбинированная система может быть представлена «простран ством результирующих состояний» пар (а, )- Две точки в этом пространстве (а1, i) и (CZJ!, 2) соединяются линией, если состоя-
