Сорока Н.И., Кривинченко Г.А. Теория передачи информации
Подождите немного. Документ загружается.
1
Министерство образования Республики Беларусь
Учреждение образования «Белорусский государственный университет
информатики и радиоэлектроники»
Кафедра систем управления
Н. И. Сорока, Г. А. Кривинченко
ТЕОРИЯ ПЕРЕДАЧИ ИНФОРМАЦИИ
Конспект лекций
для студентов специальности
1-53 01 07 «Информационные технологии и управление в технических
системах»
Минск
2
СОДЕРЖАНИЕ
ВВЕДЕНИЕ ................................................................................................................................ 5
В.1. Определение информации ........................................................................................... 5
В.2. Система передачи информации .................................................................................. 6
В.3. Этапы обращения информации ..................................................................................11
В.4. Уровни проблем передачи информации ....................................................................13
1. ОБЩИЕ СВЕДЕНИЯ О СИГНАЛАХ ..................................................................................15
1.1. Система передачи информации ..................................................................................15
1.2. Периодические сигналы ..............................................................................................18
1.3. Спектры периодических сигналов и необходимая ширина полосы частот ..............21
1.3.1. Дискретный спектр.................................................................................................21
1.3.2. Практическая ширина спектра. ..............................................................................24
1.4. Спектр одиночного прямоугольного импульса .........................................................27
1.5. Преобразование непрерывных сообщений в дискретные сигналы ...........................29
1.5.1. Квантование по времени (дискретизация). ...........................................................29
1.5.2. Дискретизация двумерной функции. .....................................................................32
1.5.3. Квантование сообщений по уровню и по времени. Ошибки квантования. .........34
1.5.4. Квантование по времени и по уровню. ..................................................................35
2. КОЛИЧЕСТВЕННАЯ ОЦЕНКА ИНФОРМАЦИИ .............................................................38
2.1. Количество информации при равновероятности состояний источника
сообщений ...................................................................................................................38
2.2. Энтропия ансамбля......................................................................................................40
2.3. Энтропия объединения................................................................................................42
2.4. Свойства энтропии ......................................................................................................44
2.5. Количество информации от опыта в общем случае ...................................................46
2.6. Основные свойства количества информации .............................................................49
3. ИСТОЧНИКИ ДИСКРЕТНЫХ СООБЩЕНИЙ...................................................................50
3.1. Энтропия эргодического источника ...........................................................................50
3.2. Свойство энтропии эргодических источников ...........................................................52
3.3. Избыточность источника сообщений .........................................................................54
3.4. Поток информации источника сообщений.................................................................55
4. ИСТОЧНИКИ НЕПРЕРЫВНЫХ СООБЩЕНИЙ ...............................................................56
4.1. Дифференциальная энтропия......................................................................................56
4.2. Свойства дифференциальной энтропии .....................................................................59
4.3. Эпсилон - энтропия источника сообщений ................................................................60
4.4. Эпсилон-производительность источника ...................................................................61
4.5. Избыточность источника непрерывных сигналов .....................................................62
4.6. Количество информации .............................................................................................63
5. ИНФОРМАЦИОННЫЕ ХАРАКТЕРИСТИКИ НЕПРЕРЫВНЫХ КАНАЛОВ .................63
5.1 Скорость передачи информации и пропускная способность .....................................63
5.2. Согласование источников с каналами ........................................................................66
6. ИНФОРМАЦИОННЫЕ ХАРАКТЕРИСТИКИ ДИСКРЕТНЫХ КАНАЛОВ СВЯЗИ .......68
6.1. Информационная модель канала и основные характеристики ..................................68
6.2. Энтропия источника и энтропия сообщения ..............................................................73
6.3. Дискретный канал без помех ......................................................................................74
6.4. Дискретный канал с помехами ...................................................................................75
6.5. Согласование характеристик сигнала и канала ..........................................................77
7. КОДИРОВАНИЕ ИНФОРМАЦИИ ПРИ ПЕРЕДАЧЕ ПО ДИСКРЕТНОМУ
КАНАЛУ БЕЗ ПОМЕХ .........................................................................................................79
3
7.1. Эффективное кодирование .........................................................................................79
7.1.1. Код Шеннона-Фано. ...............................................................................................85
7.1.2. Код Хаффмана. .......................................................................................................86
7.2. Префиксные коды........................................................................................................91
7.3. Недостатки системы эффективного кодирования ......................................................92
7.4. Эффективное кодирование при неизвестной статистике сообщений .......................92
8. СЖАТИЕ СООБЩЕНИЙ .....................................................................................................95
8.1. Типы систем сжатия ....................................................................................................95
8.2. Основные алгоритмы сжатия без потерь информации ..............................................99
8.2.1 Вероятностные методы сжатия ............................................................................. 100
8.2.2. Арифметическое кодирование ............................................................................. 103
8.2.3. Сжатие данных по алгоритму словаря ................................................................ 107
8.2.4. Кодирование повторов ......................................................................................... 110
8.2.5. Дифференциальное кодирование ........................................................................ 113
8.3. Методы сжатия с потерей информации.................................................................... 114
8.3.1. Кодирование преобразований. Стандарт сжатия JPEG ...................................... 115
8.3.2. Фрактальный метод .............................................................................................. 124
8.3.3. Рекурсивный (волновой) алгоритм ...................................................................... 126
8.4. Методы сжатия подвижных изображений (видео) .................................................. 127
8.5. Методы сжатия речевых сигналов ............................................................................ 130
8.5.1. Кодирование формы сигнала ............................................................................... 134
8.5.2. Кодирование источника ....................................................................................... 138
8.5.3. Гибридные методы кодирования речи ................................................................ 142
9. КОДИРОВАНИЕ КАК СРЕДСТВО КРИПТОГРАФИЧЕСКОГО ЗАКРЫТИЯ
ИНФОРМАЦИИ ................................................................................................................. 148
9.1. Метод замены ............................................................................................................ 149
9.2. Шифрование перестановкой ..................................................................................... 158
9.3. Шифрование гаммированием ................................................................................... 160
9.4. Стандарт шифрования данных DES ......................................................................... 162
9.5. Симметричные криптосистемы. Алгоритм IDEA. ................................................... 170
9.6. Криптосистема без передачи ключей ....................................................................... 174
9.7. Криптосистема с открытым ключом ........................................................................ 175
9.8. Электронная подпись ................................................................................................ 175
9.9. Построение и использование хеш-функций ............................................................. 178
9.10. ГОСТ 28147-89 – стандарт на шифрование данных. ............................................. 181
9.11. Некоторая сравнительная оценка криптографических методов ............................ 185
9.12. Закрытие речевых сигналов в телефонных каналах .............................................. 187
9.12.1 Основные методы и типы систем закрытия речевых сообщений. ................ 188
9.12.2 Аналоговое скремблироваиие ........................................................................ 191
9.12.3 Дискретизация речи с последующим шифрованием..................................... 197
10. ИДЕНТИФИКАЦИЯ И АУТЕНТИФИКАЦИИ ПОЛЬЗОВАТЕЛЕЙ ............................ 199
10.1. Опознание на основе принципа «что знает субъект» ............................................ 200
10.1.1. Метод паролей ............................................................................................... 200
10.1.2. Метод «запрос-ответ» .................................................................................... 204
10.2. Опознание на основе принципа «что имеет субъект»............................................ 205
10.2.1 Идентификационные магнитные карты ......................................................... 205
10.2.2 Электронные ключи........................................................................................ 206
10.3. Опознание на основе принципа «что присуще субъекту» ..................................... 210
10.3.1. Параметры идентификации физиологических признаков ........................... 210
10.3.2. Средство аутентификации с устройством сканирования
отпечатка пальца ............................................................................................. 211
4
10.3.3. Алгоритм функционирования средства аутентификации с устройством
распознавания голоса ..................................................................................... 215
10.4. Функциональная структура средства аутентификации ......................................... 216
10.5. Эффективность средства аутентификации ............................................................. 220
11. ЦИФРОВАЯ СТЕГАНОГРАФИЯ .................................................................................... 222
11.1. Общие сведения. Категории информационной безопасности. .............................. 222
11.2. Структурная схема стеганосистемы ....................................................................... 224
11.3. Классификация методов скрытых данных ............................................................. 227
11.4. Скрытие данных в неподвижных изображениях ................................................... 230
11.4.1. Скрытие данных в пространственной области........................................... 231
11.4.2. Скрытие данных в частотной области изображения .................................. 234
11.4.3. Методы расширения спектра ...................................................................... 238
11.5. Скрытие данных в аудиосигналах .......................................................................... 239
11.5.1. Кодирование наименее значащих бит (временная область) ...................... 240
11.5.2. Метод фазового кодирования (частотная область) .................................... 240
11.5.3. Метод расширения спектра (временная область) ...................................... 243
11.5.4. Скрытие данных с использованием эхо-сигнала ....................................... 244
11.6. Скрытие данных в тексте ........................................................................................ 247
11.6.1. Методы произвольного интервала .............................................................. 248
11.6.2. Синтаксические и семантические методы.................................................. 249
11.7. Скрытие данных с использованием хаотических сигналов ................................... 251
11.7.1. Способы скрытой передачи информации, основанные на явлении
полной хаотической синхронизации .......................................................... 252
11.7.2. Способ скрытой передачи информации на основе обобщённой
синхронизации ............................................................................................. 258
11.7.3. Способ скрытой передачи информации на основе фазовой
хаотической синхронизации ....................................................................... 259
11.7.4. Сверхустойчивый к шумам способ скрытой передачи информации ........ 261
11.7.5. Сравнение известных способов скрытой передачи информации .............. 262
11.7.6. Экспериментальная реализация схем передачи информации
с помощью хаотической синхронизации .................................................... 267
12. КОДИРОВАНИЕ ИНФОРМАЦИИ ПРИ ПЕРЕДАЧЕ ПО ДИСКРЕТНОМУ
КАНАЛУ С ПОМЕХАМИ ................................................................................................ 270
12.1. Постановка задачи ................................................................................................... 270
12.2. Классификация корректирующих кодов ................................................................ 271
12.3. Основные характеристики корректирующих кодов .............................................. 272
12.4. Способы введения избыточности в сигнал ............................................................ 276
12.5. Систематические коды ............................................................................................ 277
12.6. Рекуррентные коды ................................................................................................. 280
12.7. Сверточные коды ..................................................................................................... 284
12.7.1. Кодовое дерево и решетчатая диаграмма ................................................... 287
12.7.2. Треллис-кодирование .................................................................................. 288
12.7.3. Декодер Витерби ......................................................................................... 292
ЗАКЛЮЧЕНИЕ ....................................................................................................................... 300
ЛИТЕРАТУРА ........................................................................................................................ 301
5
ВВЕДЕНИЕ
В.1. Определение информации
Деятельность людей связана с переработкой и использованием материа-
лов, энергии и информации. Соответственно развиваются научно-технические
дисциплины, отражающие вопросы технологии, энергетики и информатики.
Условием успешной практической деятельности людей является эффективная
организация обмена информацией (от латинского informatio-разьяснение, из-
ложение). Таким образом, информационные наука и техника занимают одно
из базовых положений. К информационной технике относятся средства, слу-
жащие для восприятия, подготовки, передачи, переработки, хранения и пред-
ставления какой-либо информации, получаемой от человека, природы маши-
ны, вообще от какого-либо объекта наблюдения и управления. Комплексное
применение этих средств приводит к созданию больших и сложных информа-
ционных систем.
Имеется множество определений понятия информации от наиболее об-
щего философского – информация есть отражение реального мира до наибо-
лее узкого практического – информация есть все сведения, являющиеся объ-
ектом хранения, передачи и преобразования.
В [11] информация определяется как содержательные сведения (данные),
заключенные в том или другом сообщении, заранее не известные человеку
или машине, принимающим сообщение.
Понятие информации связано с некоторыми моделями реальных вещей,
отражающими их сущность в той степени, в какой это необходимо для прак-
тических целей. Это согласуется и с философской концепцией отражения ве-
щей друг в друге и в живых организмах.
Таким образом, под информацией нужно понимать не сами предметы и
процессы, а их представительные характеристики отражения или отображения
в виде чисел, формул, описаний, чертежей, символов, образов и других аб-
страктных характеристик.
Сама по себе информация может быть отнесена к области абстрактных ка-
тегорий, подобных, например, математическим формулам. Однако проявляет-
ся она всегда в материально-энергетической форме в виде сигналов. Схема
образования сигнала показана на рис. В.1.
Различают две основные формы существования информации: статическая
в виде различных записей на бумаге, пленке и других материалах и динамиче-
ская - при ее передаче.
С передачей и обработкой информации связаны действия любого автома-
тического устройства, поведение живого существа, творческая деятельность
человека, развитие науки и техники, экономические и социальные преобразо-
вания в обществе и сама жизнь.
Теория информации в ее современном виде – это научная дисциплина,
изучающая способы передачи и хранения информации наиболее надежным и
6
экономичным методом и ее знание поможет поразобраться с информацион-
ными с информационными процессами, протекающими в системах телемеха-
нических, радиотехнических и системах связи (рис. В.2).
На этапе восприятия формируется образ объекта, производится его опо-
знавание и оценка. При этом необходимо отделить полезную информацию от
шумов, что в ряде случаев сопряжено со значительными трудностями.
На этапе подготовки информации производятся такие операции, как нор-
мализация, квантование, кодирование и модуляция носителя. Иногда этот этап
рассматривается как вспомогательный на этапе восприятия. В результате
восприятия и подготовки получается сигнал в форме, удобной для передачи и
обработки.
Передача информации состоит в переносе ее на расстояние посредством
сигналов различной физической природы соответственно по электрическим,
электромагнитным и оптическим каналам. Прием информации на другой сто-
роне канала имеет характер вторичного восприятия со свойственными ему
операциями борьбы с шумами.
Обработка информации заключается в решении задач, связанных с ее
преобразованием, независимо от их функционального назначения.
Преобразование информации осуществляется либо средствами информа-
ционной техники, либо человеком. Если процесс обработки формализуем, он
может выполняться техническими средствами. В современных сложных си-
стемах эти функции возлагаются на ЭВМ и микропроцессоры. Если процесс
обработки не поддается формализации и требует творческого подхода, обра-
ботка информации осуществляется человеком.
Этап отображения информации должен предшествовать этапам, связан-
ным с участием человека. Цель этапа отображения - представить человеку
нужную ему информацию с помощью устройств, способных воздействовать
на его органы чувств.
На этапе воздействия информация используется для осуществления не-
обходимых изменений в системе.
В.2. Система передачи информации
Структурная схема одноканальной системы передачи информации при-
ведена на рис. В.4. Информация поступает в систему в форме сообщений. Под
сообщением понимают совокупность знаков или первичных сигналов, содер-
жащих информацию. Источник сообщений в общем случае образует совокуп-
ность источника информации ИИ (исследуемого или наблюдаемого объекта) и
первичного преобразователя ПП (датчика, человека-оператора и т.п.), воспри-
нимающего информацию о его состоянии или о протекающем в нем процессе.
Различают дискретные и непрерывные сообщения.
Дискретные сообщения формируются в результате последовательной выда-
чи источником отдельных элементов-знаков. Множество различных знаков
называют алфавитом источника сообщений, а число знаков – объемом алфавита.
7
5
Рис. В.2. Методологическая схема образования сигнала
Физический
оригинал
Наблюдаемые
явления
Начальная
информация
Аппарат
восприятия
Квантованная
информация
Аппарат
квантования
Кодированная
информация
Аппарат
кодирования
Используемые
сигналы
Физическая
модель
1
011
Математические модели
10