
Если несколько независимых систем объединяют в одну то их энтропии
складывают. В этом выражается аддитивность энтропии.
Пример 6.4. Пуст
,
ь для измерения величины x был использован прибор со
шкалой от x
1
до x
2
(например, амперметр со шка
Абсолютная погрешность прибора принимается
лой от –50 А до +50 А).
равной
Δ±
. Требуется
определить количество информации, полученное в результате измерения.
Вероятностное описание ситуации до измерения состоит в том, что
вероятность получить показания прибора в интервалах
)
1
; x∞
и
()
;
2
x
равна
нулю, т.е. плотность распределения вероятностей p(x) в этих интервалах также
равна нулю. Следовательно, показание можно ожидать только в интервале
[x
описание ситуации до
изм
];
2
x
. Если предположить, что оно с равной вероятностью может принимать
любое значение из этого диапазона, то вероятностное
1
ерения можно изобразить равномерным распределением x в пределах от x
1
до
x
2
(рис. 6.8) и записать в виде
⎩
⎨
⎧
∉
∈−
=
].;[при0
];;при)(1
)(
21
12
xxx
xxxx
x
[
21
x
p
ния
x
Отсюда энтропия до измере согласно
(6.11)
)ln(
1
ln
1
)(
12
1212
2
1
xxdx
xxxx
xH
x
x
−
−−
−=
∫
.
Таким образом, до измерения интервал
неопределенности предстоящего отсчета
=
, а энтропия есть логарифмическая
- мера длины этого интервала.
После проведения измерения мы
погрешности прибора, равной
1/( - )
xx
0
];[
21
xx
2
2
и
1
1/(2 )Δ
x
2
1
Рис. 6.8. Интервалы неопределен
ности x до и после измерения
получаем отсчет x
и
. Однако вследствие
, мо
значение измеряемой величины где-то в пределах интервала
неопределенности d = 2Δ. Если прибор обладает погрешностью с равномерны
распределением, то ситуация пос измерения описывается распределением
показанным на рис. 6.8, с шириной d = 2Δ и плотностью
жем ли
лежит
шь утверждать, что действительное
м
ле ,
)2(1)( Δ=xp
.
Таким образом, в понятиях теории
сужении интервала неопределенности
информации смысл измерения состоит в
от
x
до измерения до d = 2Δ – после
1
x
2
измерения, т.е. в N раз
=
12
xx
N
.
2
Энтропия результата измере после получения показания x
и
ния
)2ln(
2
1
ln
2
1
)(
и
и
Δ=
ΔΔ
−=
∫
и
Δ−
x
x
dxxxH ,
77