Фурсов В.А. Лекции по теории информации
Подождите немного. Документ загружается.
11
отвечают так называемые ортогональные на отрезке
1 2
,
t t
базисные функции,
удовлетворяющие условию
2
1
при
при
0, ,
, .
t
k j
t
j k
t t dt
j k
(1.3)
Если умножить все
j
t
,
1,
j n
на 1
, то при
j k
2
1
1
t
k j
t
t t dt
. (1.4)
Такую систему функций называют ортонормированной.
Предположим, что базисные функции удовлетворяют условию (1.4). Ум-
ножим обе части (1.1) на
j
t
и проинтегрируем на интервале
1 2
,
t t
:
2 2 2
1 1 1
1 1
t t t
n n
j k k j k k j
k k
t t t
u t t dt c t t dt c t t dt
.
В силу (1.3) все интегралы в правой части последнего равенства при
j k
рав-
ны нулю. Поэтому с учетом (1.4) имеем
2
1
t
k k
t
c u t t dt
. (1.5)
Из последнего равенства видно, что коэффициенты
k
c
, nk ,1 могут вы-
числяться независимо друг от друга, а сложность их вычисления определяется
лишь видом аналитического выражения базисной функции. Указанное, связан-
ное с условиями (1.3), (1.4), свойство является причиной широкого использова-
ния ортогональных функций при изучении свойств сигналов. В частности, при-
меняются следующие системы ортогональных функций: система тригономет-
рических функций; система функций Хаара, полиномы Лежандра, полиномы
Лаггерра, полиномы Чебышева, полиномы Эрмита и др.
1.3 Временная форма представления сигналов
Произвольную функцию (непрерывный сигнал)
u t
можно представить в
виде совокупности примыкающих друг к другу импульсов бесконечно малой
12
длительности с амплитудой, равной значению сигнала в текущий момент вре-
мени:
u t u t d
, (1.6)
где
t
– дельта-функция:
при
при
, ,
1
0 .
t
t t d
t
.
Нетрудно заметить, что представление (1.6) является частным случаем обоб-
щенного спектрального представления (1.2) с базисной функцией
t
.
С помощью дельта-функции можно построить дискретную так называе-
мую решетчатую функцию:
g
k
u t u t t k t
. (1.7)
Функция
g
u t
равна
u k t
в точках
t k t
, где
t
- период следования им-
пульсов, и нулю в остальных точках. Пределы суммирования в (1.7) также как в
(1.1) могут быть установлены конечными, исходя из условий физической реа-
лизуемости.
1.4 Частотное представление периодических сигналов
Рассмотрим представление детерминированных сигналов с применением в
качестве базисных функций
pt
t
е
, при
p j
. Такое представление на-
зывается преобразованием Фурье. В силу формулы Эйлера
cos 2
j t j t
t е е
преобразование Фурье дает возможность представить
сложный сигнал в виде суммы гармоник [13].
Предположим, что функция
u t
, описывающая детерминированную реа-
лизацию сигнала на интервале
1 2
,
t t
, удовлетворяет условиям Дирихле (непре-
рывна или имеет конечное число точек разрыва первого рода, а также конечное
число экстремумов) и повторяется с периодом
2 1
T t t
при
( , )
t
. Ис-
13
пользуя указанную выше базисную функцию
j t
t
е
, функцию
u t
можно
представить в виде
1
1
1
2
jk t
k
u t A jk
е
, (1.8)
где
2
1
1
1
2
t
jk t
t
A jk u t
е dt
T
, (1.9)
а период
2 1 1
2T t t
.
Коэффициенты
1
A jk
в данном спектральном представлении называют
комплексным спектром периодического сигнала
u t
, а значение
1
A jk
для
конкретного
k
– комплексной амплитудой. Комплексный спектр дискретный,
но путем замены
1
k
для него можно построить огибающую:
2
1
2
t
j t
t
A j u t
е dt
T
. (1.10)
Как всякое комплексное число, комплексный спектр можно представить:
а) в показательной форме:
1
1 1
j k
A jk A k е
, (1.11)
где
1
A k
– спектр амплитуд, а
1
k
– спектр фаз (также дискретный);
б) в алгебраической форме:
1
k k
A jk A jB
, (1.12)
где
2
1
1
2
cos
t
k
t
A u t k t dt
T
,
2
1
1
2
sin
t
k
t
B u t k t dt
T
.
Представление (1.12) получается из (1.9) путем замены по формуле Эйлера:
1
1 1
cos sin
jk t
е k t j k t
. Ясно, что
2 2
1
k k
A k A B
, а
1
k k
k arctg B A
. Из равенства, определяющего в (1.12) вещественную
часть
k
A
при
0
k
, получаем равенство для постоянной составляющей сигнала:
14
2
1
0
1
2
t
t
A
u t dt
T
. (1.13)
Объединяя в (1.8) комплексно-сопряженные составляющие можно полу-
чить ряд Фурье в тригонометрической форме:
1 1
1 1 1 1
0
1 1
1
0
1 1
1
0
1 1 1
1
1
2 2
1
2 2
cos .
2
jk t jk t
k
j k t k j k t k
k
k
A
u t A jk е A jk е
A
A k е A k е
A
A k k t k
(1.14)
Спектры амплитуд –
1
A k
и фаз –
1
k
могут быть представлены
спектральными диаграммами в виде совокупности линий, каждая из которых
соответствует определенной частоте (одному из слагаемых). Поэтому эти спек-
тры называют линейчатыми. Сигналы, линейчатые спектры которых включают
гармоники некратных частот, называются почти периодическими.
1.5 Распределение энергии в спектре периодического сигнала
В соответствии с (1.14) энергию, выделяемую периодическим сигналом за
время, равное периоду
T
, можно представить в виде
1 1
1 1
1
2
2
0
1 1
1
0 0
2
0 0
1 1
1 1
0 0 0
1 1
1 1
0
1
2 2
4 2
1
.
2
T T
jk t jk t
k
T T T
jk t jk t
k k
T
j k l t
k l
A
u t dt A jk
е A jk е dt
A A
dt A jk е dt A jk е dt
A jk A jl е dt
Можно показать, что
1 1
0 0
0
T T
jk t jk t
е dt е dt
, а
1
0
0
при ,
при .
T
j k l t
k l
е dt
T k l
С учетом этого окончательно получаем
15
2
2
2
0
1
1
0
2 2
T
k
T A
u t dt A jk
. (1.15)
Из (1.15) следует, что средняя за период энергия сложного периодического сиг-
нала равна сумме средних энергий, выделяемых каждой гармоникой.
1.6 Частотное представление непериодических сигналов
Предположим, что соответствующая реальному непериодическому сигна-
лу функция
u t
удовлетворяет условиям Дирихле и абсолютно интегрируема:
u t dt
. Тогда спектральное представление непериодического сигнала
u t
можно строить путем увеличения периода периодического сигнала до бес-
конечности. Для этого поступим следующим образом.
Подставим выражение (1.9) для комплексной амплитуды
1
A jk
перио-
дического сигнала в (1.8). С учетом того, что
1
2 /
T
имеем
2
1 1
1
1
1
2
t
jk t jk t
k
t
u t u t
е dt е
.
Далее осуществим предельный переход при
T
. При этом сумма переходит
в интеграл,
1
d
,
1
k
. В результате получаем:
1
2
j t j t
u t u t
е dt е d
.
Введя в последнем равенстве для интеграла в квадратных скобках обозначение
S j
, запишем пару преобразований Фурье:
1
2
j t
u t S j
е d
, (1.16)
j t
S j u t
е dt
. (1.17)
Комплексную функцию
S j
называют комплексной спектральной
плотностью или спектральной характеристикой. Также как в случае периодиче-
16
ского сигнала, для непериодического сигнала имеют место следующие пред-
ставления спектральной характеристики:
а) показательная форма:
j
S j S е
, (1.18)
где
S S j
– спектральная плотность амплитуд, а
– спектр фаз;
б) алгебраическая форма (получается из (1.17) путем замены
cos sin
j t
е t j t
):
S j A jB
, (1.19)
где
cos
A u t t dt
,
sin
B u t t dt
. (1.20)
При этом
2 2
S S j A B
,
arctg B A
. (1.21)
Подставляя
S j
из (1.18) в (1.16) имеем
1
2
1
cos sin .
2
j t
u t S е d
S t d j S t d
Второй интеграл от нечетной функции равен нулю, а первый (в силу чет-
ности подынтегральной функции) можно записать только для положительных
частот. Таким образом, получаем тригонометрическую форму ряда Фурье:
0
1
cos
u t S t d
, (1.22)
которая дает возможность ясного физического толкования.
В заключение рассмотрим еще одно интересное свойство. Для функции
u t
, заданной на интервале
1 2
,
t t
в соответствии с (1.17) можно записать
2
1
t
j t
t
S j u t
е dt
. (1.23)
17
Сравнивая правые части (1.10) и (1.23) нетрудно заметить, что имеет место ра-
венство
2
A j S j
T
, т.е. по
S j
одиночного импульса можно постро-
ить линейчатый спектр их периодической последовательности.
1.7 Распределение энергии в спектре непериодического сигнала
Выражение для величины, характеризующей энергию, выделяемую сигна-
лом, с учетом (1.16) можно записать в виде:
2
1
2
j t
u t dt u t S j
е d dt
.
Перепишем последнее равенство, изменив порядок интегрирования:
2
1
2
j t
u t dt S j u t
е dt d
. (1.24)
Сравнивая правые части (1.17) и (1.24) нетрудно заметить, что выражение в
квадратных скобках в (1.24) не что иное как
S j
, следовательно
2
1
2
u t dt S j S j d
.
Теперь с учетом свойства
2
S j S j S j
можно окончательно запи-
сать так называемое равенство Парсеваля:
2 2 2
0
1 1
2
u t dt S j d S j d
. (1.25)
В соответствии с этим равенством энергию, выделяемую непериодическим сиг-
налом за время его существования, можно определить, интегрируя квадрат мо-
дуля спектральной характеристики в интервале частот.
18
1.8 Соотношение между длительностью сигналов
и шириной их спектров
Предположим, что сигнал
u t
определенной продолжительности имеет
спектральную характеристику
S j
. Найдем соответствующую характери-
стику
S j
для сигнала
u t
, длительность которого изменена в
раз:
1 1
j
j t
S j u t e dt u e d S j
, (1.26)
где
t
.
Из (1.26) видно, что спектр укороченного (удлиненного) в
раз сигнала в
раз шире (уже), при этом коэффициент
1/
изменяет только амплитуды гар-
моник и на ширину спектра не влияет. Указанное свойство связано с тем, что
переменные
t
и
входят в показатель степени экспоненциальной функции
прямого и обратного преобразования Фурье в виде произведения. Из этого сле-
дует, что длительность сигнала и ширина его спектра не могут быть одновре-
менно ограничены конечными интервалами. В частности, имеет место соотно-
шение:
t f Const
,
где
t
– длительность импульса,
f
– ширина спектра.
19
Лекция 2
Модели случайных сигналов
2.1 Случайный процесс как модель сигнала
Более адекватной моделью сигнала при изучении вопросов передачи и
преобразования информации является случайный процесс, для которого рас-
сматривавшиеся выше детерминированные функции рассматриваются как от-
дельные реализации.
Случайным процессом называют случайную функцию времени
U t
, зна-
чения которой в каждый момент времени являются случайной величиной. Слу-
чайные процессы, могут быть непрерывными и дискретными как по времени,
так и по множеству состояний, т.е. по аналогии с классификацией детермини-
рованных сигналов возможен один из четырех типов случайного процесса:
1) непрерывный случайный процесс (множество состояний – континуум, а из-
менения состояний возможны в любой момент времени);
2) непрерывная случайная последовательность (изменения состояний допуска-
ются лишь в конечном или счетном числе моментов времени);
3) дискретный случайный процесс (изменения состояний могут происходить в
произвольные моменты времени, но множество состояний конечно);
4) дискретная случайная последовательность (состояния из конечного множе-
ства могут изменяться в конечном или счетном числе моментов времени).
Для описания свойств случайного процесса может использоваться
N
-
мерная плотность вероятности
1 2 1 2
, ,..., ; , ,...,
N N N
p U U U t t t
системы
N
случай-
ных величин
1 1 2 2
, ,...,
N N
U U t U U t U U t
, взятых в моменты времени
1 2
, ,...,
N
t t t
. В частности, одномерная плотность вероятности
1
;
p U t
характери-
зует распределение случайной величины в произвольный момент времени
t
, а
двумерная плотность
2 1 2 1 2
, ; ,
p U U t t
дает вероятность совместной реализации
значений случайных величин в произвольные моменты времени
1 2
,
t t
. Имеет
место соотношение
20
1 1 1 2 1 2 1 2 2
; , ; ,
p U t p U U t t dU
. (2.1)
Оперирование с плотностью вероятности, в особенности, высокого порядка
чрезвычайно трудоемко. Поэтому для характеристики случайного процесса
обычно используют моментные функции первого и второго порядка: математи-
ческое ожидание, дисперсию и корреляционную функцию.
Математическим ожиданием случайного процесса
U t
называют неслу-
чайную функцию времени
u
m t
, значение которой в каждый момент времени
равно математическому ожиданию случайной величины в соответствующем
сечении случайного процесса:
1
;
u
m t M U t U p U t dU
, (2.2)
где
1
;
p U t
– одномерная плотность вероятности.
Дисперсией случайного процесса
U t
называют неслучайную функцию
времени
u
D t
, значение которой в каждый момент времени равно дисперсии
случайной величины в соответствующем сечении случайного процесса:
2
2
1
( ) ;
u u
D t M U t U t m t p U t dU
, (2.3)
где
u
U t U t m t
– центрированная случайная величина в сечении
t
.
Корреляционной (автокорреляционной) функцией случайного процесса
U t
называют неслучайную функцию
1 2
,
u
R t t
двух аргументов, которая для
каждой пары произвольно выбранных значений
1 2
,
t t
равна корреляционному
моменту соответствующих сечений случайного процесса:
1 2 1 2 1 2 2 1 2 1 2 1 2
, , ; ,
u
R t t M U t U t U t U t p U U t t dU dU
, (2.4)
где
1 1 1 2 2 2
( ) , ( )
u u
U t U t m t U t U t m t
.