< Previous | Contents | Next >

rл. I. ДИСКРЕТНЫЕ СИСТЕМЫ БЕЗ ШУМОВ 17

Существует конечное число возможных «состояний» системы S 1, S2,... ,S п· Кроме того, имеется совокупность вероятностей перехо­ д..ов рД), т. е. вероятностей тоrо, что система, находящаяся в со­ стоянии S1, перейдет затем в состояние Sj,Чтобы представить при помощи этой цепи Маркова источник сообщений, достаточно толь­ ко предrrоложить, что при каждом переходе из одного состояния в другое создается одна буква. Состояния будут соответствовать

«остатку влияния» предшествовавших букв.

image

0.1

0.1

0.1

: · OJ· ...

0.1 С

0,2

D

Фиг. 3. График, соответ­ ствующий источнику в примере Б.

Фиг. 4. График, соответ­ ствующий источнику в примере В.


Все это может быть изображено графически, как показано на фиг. 3 и 4. Состояниями являются точки разветвления, а вероят- ности переходов и создаваемые при этом буквы указаны около соответствующих линий. Фиг. 3 относится к примеру Б раздела 2, фиг. 4 - к примеру В. На фиг. 3 имеется только одно состояние, так как последующие буквы независимы друг от друга. На фиг. 4 имеется столько же состояний, сколько букв. При учете трехбук­ венных сочетаний было бы самое большее п2 состояний, соответ­ ствующих возможным парам букв, предшествовавших выбираемой.


4. ЭРГОДИЧЕСКИЕ И СМЕШАННЫЕ ИСТОЧНИКИ

Как указано выше, дискретный источник может быть для на­ ших целей представлен цепью Маркова. Среди возможных дискрет­ ных цепей Маркова имеется одна группа с особыми свойствами,

.имеющими значение в теории связи. Этот особый класс состоит из

,эргодических цепей; соответствующие источники также называются эргодическими. Хотя точное определение эргодич кого процесса несколько сложно, общая идея проста.

В случае эргодического процесса каждая создаваемая процес­ сом последовательность имеет одни и те же статистические свойства. Так, частоты бук.в, частоты двухбуквенных сочетаний и т., д':, полученные из частных последовательностей, будут стремиться по мере увеличения длины последовательностей к определенным пре­ делам независимо от выбора частной последовательности. В дей­ ствительности это верно не для всякой последовательности, но со­ вокупность последовательностей, для которых это неверно, обладает

2 Теория передачи сиrвалов