< Previous | Contents | Next >
rn. 111. НЕПРЕРЫВНЫЕ СООБЩЕНИЯ 59
Эти результаты показывают, что при больших п существует
-совершенно четко определенный объем высокой вероятности (по крайней мере, в логарифмическом смысле) и что внутри этого объ ема плотность вероятностей сравнительно равномерна (опять таки в логарифмическом смысле).
В случае «белых» шумов плотность вероятностей равна
р(Х1, ... , Хп) =( 21t; ) n/2 ехр (- 2 xl)-
'
Так как она зависит только от ;9,то поверхности равной плот
ности вероятностей представляют собой сферы, а все распре деление обладает сферической симметрией. Область высокой ве- роятности есть сфера радиуса V°пN.При n-+oo вероятность нахо
ждения вне сферы радиуса У п(N+е) стремится к нулю,как бы ни
было малое, а п1 логарифма объема сферы стремится к log v-21teN.
В непрерывном случае удобно пользоваться не «энтропией» ансамбля Н, а производной величиной, которую будем называть 3нmропийн.ой мощностью. Она определяется как мощность «белых» шумов, ограниченных такой же полосой частот, что и рассматри ваемый ансамбль, и имеющих такую же «энтропию». Другими сло вами, если Н' есть «энтропия» ансамбля, то его энтропийная мощ ность равна
Ni -1ne е2Н' •
В геометрической трактовке это означает измерение объема высокой вероятности квадратом радиуса сферы, имеющей такой же объем. Так как «белые» шумы имеют максимальную «энтропию» для данной мощности, то энтропийная мощность любых шумов меньше или равна и действительной мощности.
21. ПOTEPSI «ЭНТРОПИИ• В ЛИНЕЙНЫХ ФИЛЬТРАХ
Теорем а 14
Если ансамбль функций, имеющий,«энтропию» на степень свободы Н1 в полосе частот W, пропускается через фильтр с характеристикой
Y(f), то ансамбль на выходе имеет «энтропию»
Нв = Н1 + � s log \ Y(f) 1\
w
df.
Действие фильтра представляет собой линейное преобразование координат. Если рассматривать частотные составляющие как первоначальные координаты системы, то новые частотные состав-