< Previous | Contents | Next >
40 ЧАСТЬ 1. СТАТИСТИЧЕСКАЯ ТЕОРИЯ ПЕРЕДАЧИ СИГНАЛОВ
стоверностью. Однако ясно, что при передаче с избыточными сим волами вероятность ошибок может быть уменьшена. Например. путем многократного повторения сообщения и путем статистическо го изучения различных принятых вариантов сообщения вероятность ошибок может быть сделана очень малой. Можно было бы ожидать, что для приближеНИ!{ вероятности ошибок к нулю избыточность кодировгния должна неограниченно возрастать, вследствие чего скорость передачи должна приближаться к нулю.
Это ни в коем случае не верно, так как в противном случае не
существовало бы вполне определенной
Ну{ж}
пропускной способности канала, а бы ла бы пропускная способность при заданной частоте ошибок или при за данной ненадежности. Тогда пропуск ная способность уменьшалась бы, по мере того как требования относительно ошибок становились бы более жест кими.
Осуществимая
•odnacmr,
Осуществимая
•odnacmr,
Осуществимая
•odnacmr,
В действительности пропускная
с Н(жJ способность имеет вполне определен
Фиг. 8. НЕ'надежность, воз можная при данной« энтропии& на входе канала.
ное значение. При должном кодиро вании можно передавать по каналу сообщения со скоростью С при сколь_ угодн,о малой частоте ошибок или
при сколь угодн,о малой н,ен,адежн,ости. Это утверждение неверно для скоростей, превышающих С. При попытках передавать со скоростью, превышающей С, скажем C+Rt, неизбежно появится ненадежность, равная или большая, чем R1•
Это положение иллюстрируется фиг. 8. Скорость создания сооб щений в канале отложена по горизонтали, а ненадежность - по вертикали. Любая точка выше жирной линии в заштрихованной области может быть осуществлена, тогда как точки, распо ложенные нил е жирной линии, не осуществимы. Точки самой линии, вообще говоря, не могут быть получены за исключением обычно двух.
.
.
.
Эти положения являются. основным подтверждением правиль ности предложенного определения С; они будут сейчас доказаны.
\
Теорема 11 ,
Пусть дискретный канал обладает пропускной способностью С. а дискретный источник - «энтропией» за 1 сек. Н. Если н с, то существует такая система кодирования, что сообщения источника
могут быть переданы по каналу с произвольно малой частотой ошибок (или со сколь угодно малой ненадежностью). Если Н<С, то можно закодировать сообщения источника таким образом, чтобы ненадежность была меньше, чем Н-С+е, где е сколь угодно мало.