< Previous | Contents | Next >
ГЛ. I. ДИСКРЕТНЫЕ СИСТЕМЫ БЕЗ ШУМОВ 31
Среднее число Н1 двоичных знаков, употребляемых на символ лервоначального сообщения, легко определить. Мы имеем
Н1=iт � msPs·
Но
и поэтому
Когда N увеличивается, G.v сходится к Н - «энтропии» источ ника, а Н1 СХОДИТСЯ К Н.
Отсюда видно, что неэффективность кодирования в случае конечного времени запаздывания N символов не должна быть больше,
чем -1 - плюс разность между истинной «энтропией» Н и «энтропией»
N
7 +
7 +
7 +
G.v, вычисленной для последовательностей длины N. Избыточ ное относительное время, потребное сверх идеальноrо случа 51, будет поэтому меньше, чем
Gv 1 1
HN- .
Этот метод кодирования в сущности совпадает с методом, не зависимо найденным Р. М. Фэно. Его метод состоит в располо жении сообщений длины N в порядке убывающих вероятностей. Этот ряд делится на две группы, по возможности с равными вероят ностями. Если сообщение относится к первой группе, его первая двоичная цифра будет О, в противном случае -1. Груnпа подоб ным же образом разделяется на подгруппы примерно равной ве роятности, и частная подгруппа определяет второй двоичный знак. Этот процесс продолжается до тех пор, пока не получатся под группы, содержащие только по одному сообщению. Легко видеть, что за исключением незначительных отличий (в общем случае в последней цифре) это приводит к тому же самому положению ве щей, как и описанный выше арифметический процесс.
9. ОБСУЖДЕНИЕ РЕЗУЛЬТАТОВ И ПРИМЕРЫ
Для передачи максимальной мощности от reflepaтopa в нагруз ку в общем случае применяется трансформатор, который делает сопротивление генератора, наблюдаемое со стороны нагрузки, рав ным сопротивлению нагрузки. В рассматриваемом случае поло жение вещей, грубо говоря, аналогично. Четырехполюсник, осу-