Билет 1
1.Энтропия системы и дискретных источников сообщений
До сих пор определялось количество информации, содержащееся в отдельных сообщениях. Вместе с тем во
многих случаях, когда требуется согласовать канал с источником сообщений , таких сведений оказывается
недостаточно. Возникает потребность в характеристиках, которые позволяли бы оценивать
информационные свойства источника сообщений в целом. Одной из важных характеристик такого рода
является среднее количество информации, приходящееся на одно сообщение. В простейшем случае, когда
все сообщения равновероятны, количество информации в каждом из них одинаково и определяется
выражением: J(a)= - logP(a)= log m. При этом среднее количество информации равно logm . Следовательно,
при равновероятных независимых сообщениях информационные свойства источника зависят только от
числа сообщений в ансамбле m. Однако в реальных условиях сообщения, как правило, имеют разную
вероятность. Так, буквы алфавита О, Е, А встречаются в тексте сравнительно часто, а буквы Щ, Ы, Ъ —
редко. Поэтому знание числа сообщений m в ансамбле является недостаточным, необходимо иметь сведения
о вероятности каждого сообщения: P(a
1
), P(a
2
),…, P(a
m
). Так как вероятности сообщений неодинаковы, то
они несут различное количество информации: J(a
i
) = - logP(a
i
) Менее вероятные сообщения несут большее
количество информации и наоборот. Среднее количество информации, приходящееся на одно сообщение
источника, определяется как математическое ожидание J(a
i
).
Величина Н(а) называется энтропией. Этот термин
заимствован из термодинамики, где имеется аналогичное по
своей форме выражение, характеризующее неопределенность
состояния физической системы. В теории информации
энтропия Н(а) также характеризует неопределенность
ситуации до передачи сообщения, поскольку заранее неизвестно, какое из сообщений ансамбля источника
будет передано. Для нас самым существенным является то, что чем больше энтропия, тем сильнее
неопределенность и тем большую информацию в среднем несет одно сообщение источника.
В качестве примера вычислим энтропию источника сообщений, который характеризуется ансамблем,
состоящим из двух сообщений a
1
и а
2
с вероятностями P(a
1
)=p и P(a
2
)=1-p. На основании (6.10) энтропия
такого источника будет равна: H(a)= -P(a1) log P(a1) –P(a2) log P(a2) = --p log p- (1-p)lop(1-p) Зависимость
Н(а) от р показана на рис
Максимум энтропии имеет место при p=1/2, т. е. когда ситуация является
наиболее неопределенной. При р = 1 или р = 0, что соответствует передаче
одного из сообщений а
1
, или а
2
, неопределенности отсутствуют. В этих случаях
энтропия Н(а) равна нулю.
Среднее количество информации, содержащееся в последовательности из n-
сообщений, равно Jn = n*H(a). Отсюда следует, что количество передаваемой
информации можно увеличить не только за счет числа сообщений, но и путем
повышения энтропии источника, т. е. информационной емкости его сообщений.
Обобщая эти результаты, можно сформулировать основные свойства энтропии источника независимых
сообщений (6.10):
• энтропия — величина всегда положительная, так как 0<P(ai)<=1 • при равновероятных сообщениях,
когда: P(a1)= P(a2)=…= P(am)= P(a)=1/m энтропия максимальна и равна:Hmax(a)=H0(a)= SUM((i=1..m)1/
m log m)= log m • энтропия равняется нулю лишь в том случае, когда все вероятности P(a
t
) равны нулю, за
исключением одной, величина которой равна единице; • энтропия нескольких независимых источников
равна сумме энтропии этих источников: H(a,b,...,r)=H(a)+ (b) + + ... + Н(r).
Энтропия источника зависимых сообщений
Рассмотренные выше источники независимых сообщений являются простейшим типом источников. В
реальных условиях картина значительно усложняется из-за наличия статистических связей между
сообщениями. Примером может быть обычный текст, где появление той или иной буквы зависит от
предыдущих буквенных сочетаний. Так, например, после сочетания ЧТ вероятность следования гласных
букв О, Е, И больше, чем согласных.
Статистическая связь ожидаемого сообщения с предыдущим сообщением количественно оценивается
совместной вероятностью P(a
k
,a
L
) или условной вероятностью P(a
L
/a
k
), которая выражает вероятность
появления сообщения a
L
при условии, что известно предыдущее сообщение а
k
. Количество информации,
содержащейся в сообщении при условии, что известно предыдущее сообщение а
k
согласно (6.1), будет
равно: J(a l/a k)= - log P (a l/a k)
Среднее количество информации при этом определяется условной энтропией H(a
L
/a
k
), которая вычисляется
как математическое ожидание информации J(a
L
/a
k
), по всем возможным сообщениям a
L
и a
k
).
Важным свойством условной энтропии источника зависимых сообщений является то, что при неизменном
количестве сообщений в ансамбле источника его энтропия уменьшается с увеличением числа сообщений,
между которыми существует статистическая взаимосвязь. В соответствии с этим свойством, а также
5
главенствующий элемент
1-й иерархический уровень
2-й иерархический уровень