< Previous | Contents | Next >
44 ЧАСТЬ I. СТАТИСТИЧЕСI<д.Я ТЕОРИЯ ПЕРЕДАЧИ СИГНАЛОВ
правильного кодирования сообщений. Это не делается, и большая часть избыточности английского текста остается в символах канала. В результате при передаче оказываются допустимыми довольно, сильные шумы. Значительная часть букв может приниматься. неправильно и восстаннвливаться на основании контекста.
При отсутствии шумов для приближения к идеальн::>му кодиро ванию требуется, вообще говоря, некоторая временная задержка. Теперь она приобретает новую функцию, позволяя большему «об разцу» шумов воздействовать на сигнал, прежде чем какое-либо суждение будет сделано в точке приема относительно исходного, соьбщения. Увеличение размера «образца» всегда усиливает воз можные статистические утверждения.
Содержание теоремы 11 и ее доказательство могут быть сфор мулированы несколько иным спЬсобом, который устанавливает более непосредственную связь со случаем отсутствия шумов. Рас смотрим возможные сигналы длительностью Т и предположим, что из них выбрана некоторая подгруппа используемых сигналов. Пусть все сигналы подгруппы употребляются с одинаковой вероят ностью; при этом предположим, что приемник устроен так, что, когда принимаются искаженные сигналы, он выбирает в качестве действительного сигнала наиболее вероятный из этой подгруппы. Обозначим через N(T,q) максимальное число сигналов, которь,е. могут быть выбра ны1 для подгруппы таким образом, что веро
_ятность ложной интерпретации меньше или равна q.
Теорем а 12
Если С - пропускная способность канала,;то при условии, что,
q не равно О или 1
lim \og С:·q) = С.
т ... =
Другими словами, независимо от требований надежности можно, в течение времени Т уверенно различить достаточно сообщений" соответствующих примерно СТ двоичных единиц, если Т достаточно велико. Теорему 12 можно сравнить с определением пропускной способности канала без шумов, данным в главе I.
14. ПРИМЕР ДИСКРЕТНОГО КАНАЛА
Простой пример дискретного канала иллюстрирует фиг. 10. Имеются три возможных символа. Первый символ никогда не под вергается воздействию шумов. Второй и третий символы имеют вероятность р пройти неискаженными, и вероятность q превратится в другой символ той же пары. Положим CI =-(plcgp+qlog q) и пусть Р, Q и Q - вероятности употреОления соответственно перво го, второго и третьего символов.
