< Previous | Contents | Next >
ГЛ. IV. !(АНАЛ С НЕПРЕРЫВНОЙ ПЕРЕДА ЧЕЙ 65
можно найти систему кодирования, обеспечивающую передачу двоичных знаков со скоростью С при сколь угодно малой ненадеж ности или частоте ошибок. Это справедливо, например, когда в случае апроксимации сигнальных функций пространством конеч ного числа измерений, Р(х, у) непрерывно как по х, так и по у, за исключением группы точек, где вероятность равна нулю.
Важный частный случай имеет место, когда шумы складываются с сигналом, являясь независимыми от него (в вероятностном смысле). Тогда Рх(у) есть функция только разности (векторной) n=y-x
Р,,(у) = Q(y- х)
и шумам можно приписать определенную «энтропию» (независимо от статистических свойств сигнала), а именно «энтропию» распре деления Q(n). Эта «энтропия» будет обозначаться Н(п).
Теорем а 16
Если сигнал и шумы независимы, а принимаемый сигнал яв ляется суммой передаваемого сигнала и шумов, то скорость пере дачи равна
R = Н(у) - Н(п),
т. е. «энтропии» принимаемого сигналя. за вычетом «энтропии» шумов. Пропускная способность канала равна,
С = max Н(у) - Н(п).
Р(х)
В силу того, что у=х+п, имеем
Н(х, у) = Н(х, п).
Разлагая левую часть и пользуясь независимостью х и п, найдем
Н(у) + Ну(х) = Н(х) + Н(п).
Отсюда
R = Н(х) - Ну(х) = Н(у) - Н(п).
Так как Н(п) не зависит от Р(х), то для максимума R необходи мо, чтобы имела максимум Н(у) - «энтропия» принимаемого сиг нала. Если на ансамбль передаваемых сигналов накладываются некоторые ограничения, то «энтропия» принимаемых сигналов должна быть максимальной при этих ограничениях.
24. ПРОПУСКНАЯ СПОСОБНОСТЬ КАНАЛА ПРИ ОГРАНИЧЕНИИ
., СРЕДНЕЙ МОЩНОСТИ
Простым применением теоремы 16 является случай, когда шумы представляют собой «белые» тепловые шумы, а принимаемые сигналы ограничены некоторой средней -мощностью Р. Тогда при нимаемые сигналы имеют среднюю мощность Р+N,где N есть сред-