< Previous | Contents | Next >
14 ЧАСТЬ I. СТАТИСТИЧЕ КАЯ ТЕОРИЯ ПЕ:РЕдАЧИ СИГНАЛОВ
Теорема!
Пусть ь:s.> означает длительность s-го символа, который воз-
J.
J.
J.
можен в сост•1оянии i и ведет к состоянию • Тогда пропус. кная спо-
собность канала С равна log W, r де W- наибольший вещественный корень уравне11ия в виде определителя
l w-ь\i> -01j l=o,
где 011= 1, если i=j, и нуль в противном случае.
Например, в случае -телеграфии определитель .имеет ЕИД
/ (w-з+ -в) ;=:::=;=: !) 1=0.
Разложение этого определителя дает уравнение, которое приводи лось выше для этого случая.
2. ИСТОЧНИК ДИСКРЕТНЫХ СООБЩЕНИЙ
Мы уже видели, чтр при весьма общих условиях логарифм числа возможных сигналов в дискретном канале линейно возра стает со временем. Пропускная способность может быть определена указанием скорости этого возрастания: числа двоичных единиц в. секунду, требуемого для задания отдельного применяемого сигнала. Рассмотрим теперь источник сообщений. Как следует матема тически описывать источник и какое количество данных, измерен ное в двоичных единицах в секунду. созцает такой источник?' Знание статистических свойств источников имеет бо.пьшое значение для уменьшения необходимой пропускной способности канала путем рационального кодирования сообщений. Например, в теле графии передавае\fые сообщения состоят из последовательностей букв. Эти последовательности, однако, не вполне хаотичны. Вообще· говоря, они образуют фразы и имеют статистическую структуру,. скажем, английского язы1<а. Буква Е появляется много чаще, чем Q. последовательность ТН чаще, чем ХР, и т. д. Наличие такой с :рук туры позволяет экономить время (или пропускную способность.· канала) путем рационального кодирования последовательностей
сообщений в последовательности сигналов.
В ограниченных пределах это всегда делается в телеграфии: самый короткий символ в канале - точка применяется для наи более частой в английском языке буквы Е, в то время как редкие буквы Q, Х, Z выражаются более длинными последовательностями тире и точек. Еще отчетливее проводится этот принцип в некоторых коммерческих кодах, где наиболее обычные слова и фразы изобра жаются кодовыми группами из четырех или пяти букв, что дает значительную экономию среднего времени.