/, Базовые понятия иифор.
шатики
НИКОМ сообщений v^ , достаточно близка к пропускной способности канала
с, т. е. v^ - с - 8, где 8 — сколь угодно малая величина, то всегда можно
иайти такой способ кодирования, который обеспечит передачу cooGiue-
иий, вырабатываемых источником, причем скорость передачи информа-
ции будет весьма близка к пропускной способности канала.
Верно и обратное >тверждение: невозможно обеспечить длительную пе-
редачу всех сообщений, если поток информации, вырабатываемый ncioMiin-
ком, превышает пропускную способность канала.
Если ко входу канала подключен источник сообщений с э1ггропией,
равной пропускной способности канала связи, то считается, что исючиик
согласован с каналом. Если энтропия источника меньше пропускной С1ю-
собности канала, что может быть в случае неравновероятгюстн состояний
источника, то источник не согласован с каналом, т. е. канал используется не
полностью.
Согласование в статистическом смысле достигается с помощью сгаги-
стического кодирования. Оно позволяет повысить энтропию передаваемых
сообщений до величины, которая получается, если символы новой последо-
вательности равновероятны. При этом число cимвoJюв в последова!елы!о-
сти будет сокращено. В результате источник информации согласуется с ка-
налом связи.
Передача информации по каналу с номехамм. При передаме инфор-
мации через канал с помехами сообщения искажаются, и на приемной сто-
роне иет уверенности в том, что принято именно то сообщение, которое
передавагюсь. Следовательно, сообщение недостоверно, вероятность пра-
вильности его после приема не равна единице. В этом случае KojnmeciBo
получаемой информации уменьшается на величину неопределенности, вно-
симой помехами, т. е. вычисляется как разность энтропии сообщения до и
после приема: /'==//(/)-Я,(/), где H{i) — энтропия источника сообще-
ний; Я,(/) — энтропия сообщений на приемной стороне.
Таким образом, скорость передачи по каналу связи с 1юмехами
,.,,„„ Я(0-Я.(/) ,
•1^^
Т
пропускной способностью капала с шумами называется максимальная
скорость передачи информации при условии, что канал связи без помех со-
гласован с источником информации:
с- lim-2^^.