< Previous | Contents | Next >
rл. V. СК.ОРОСТЬ СОЗДАНИ.Я СООБЩЕНИЙ 77
ся наименьшая скорость. Эта последняя и есть скорость, приписы ваемая источнику при рассматриваемой верности воспроизведения.
Обоснование этого определения заключается в следующей
теореме.
Теорема 21
Если источник при данной оценке v1 имеет скорость создания сообщений R1 , то можно закодировать сообщения на выходе источ ника и передавать их по каналу с пропускной способностью С при верности воспроизведения, как угодно близкой к v1, если только R1 <; С. Это невозможно, если R1 > C.
Последнее утверждение теоремы немедленно следует из опреде
ления R1 и предыдущих результатов. Если оно не справедливо,
то можно
было
бы передавать
больше чем
с двоичных единиц
сек.
по каналу с пропускной способностью С.
Первая часть теоремы доказывается методом, аналогичным использованному при доказательстве теоремы 11. Прежде всего следует разделить пространство (х, у) на большое чцсло малых ячеек и рассматривать этот случай как дискретный. Это изменит функцию оценки не больше чем на произвольно малую величину (если ячцйки весьма малы) вследствие предполагаемой для функции р(х, у) непрерывности. Допустим, что Р1( х, у) есть частная система, пр',{ которой скорость минимальна и равна R1 . Выберем из высоко вероятных сообщений у по произволу некоторый ряд, содержащ й
2(R,н)Т
членов, где при Т оо е-+ О. При большом Т каждая выбранная точка будет соединена линией высокой вероятности (как на фиr. 9) с рядом х. Вычисления, подобные использованным при доказатель стве теоремы 11, показывают, что при большом Т почти всех охва тываются «веерами» линий, идущими от выбранных точек у, почти при любом выборе у.
Соответствующая система связи действует следующим образом. Выбранным точкам приписываются двоичные числа. Когда появ ляется сообщение х, оно будет (с вероятностью, достигающей 1 при
т- оо) расположено, по крайней мере, на одном из «вееров» линий.
Тогда по каналу передается соответствующее двоичное число (или, если их несколько, одно произвольно выбранное число), закодиро ванное надлежащим образом для обеспечения малой вероятности ошибок. Это возможно, поскольку R1 С. В приемной точке вос станавливается соответствующее у, которое и используется как принимаемое сообщение.
Оценка v', для этой системы может быть сделана сколь угодно близкой к р1, если взять Т достаточно большим. Это обусловливается