< Previous | Contents | Next >

rл. II. ДИСКРЕТНЫЯ КАНАЛ с ШУМАМИ 47

Примеры показаны на фиг. 11. В таком случае Ну(х) не зави­ сит от распределения вероятностей между входными символами и равняется - Lp)cg р1, rде Р; - значения вероятностей перехо­ дов от любого входного символа. Пропускная способность канала

равна

max [Н(у)-Нх(у)]=

= max Н(у) + Р1 Iog Р1-


image image

а б

Фиг. 11. Примеры дискретных каналов с одинаковы­ ми вероятностями переходов (для каждого входного и выходного эффекта).

Максимум Н(у), очевидно, раве .lrg т, где т - число выходных символов, так как все они могут быть сделаны равновероятными, если сделать равновероятными входные символы. Поэтому_про­ пускная способность канала равна

С= log т+ р1 Iog Р1•

Для случая, приведенного на фиг. 11,а,

С= log4-log 2= log 2.

Это значение будет достигнуто при использовании тольRо первого и третьего символов.

Для случая, показанного на фиг. 11,6,

С= log 4- 3 2 Iog 3- 3 1 Iog 6=

= log 4- log 3- - -log 2= logi-2'i,


Для случая, приведенного на фиг. 11,в, ИlVleeм

,, l l l

С= log 3- 2 lcg 2- 3 log 3- 6 log 6=

= log

1, ,1 ,1

image image image

3

3

3

2 •З • 6 •