Введение
Дискретные ансамбли и источники
Случайные величины
Закон больших чисел
Количество информации в сообщении. Энтропия
Условная информация. Условная энтропия
Энтропия на сообщение дискретного стационарного источника
Взаимная информация и ее свойства. Количество информации между дискретными
ансамблями
Постановка задачи кодирования дискретных источников равномерными кодами
Теорема о высоковероятных множествах дискретного источника без памяти
Скорость создания информации дискретным источником без памяти при равномерном
кодировании
Постановка задачи неравномерного кодирования дискретных источников. Коды с
однозначным декодированием.
Кодовые деревья. Неравенство Крафта
Неравномерное кодирование дискретных стационарных источников
Оптимальные неравномерные коды
Информационные характеристики дискретных каналов связи
Модели дискретных каналов
Скорость передачи информации по дискретному каналу
Пропускная способность дискретного канала без помех
Пропускная способность дискретного канала с помехами
Разновидности помехоустойчивых кодов
Общие принципы использования избыточности
Связь корректирующей способности кода с кодовым расстоянием
Геометрическая интерпретация блоковых корректирующих кодов
Показатели качества корректирующего кода
Линейные коды
Математическое введение к линейным кодам
Линейный код как подпространство линейного векторного пространства
Дискретные ансамбли и источники
Случайные величины
Закон больших чисел
Количество информации в сообщении. Энтропия
Условная информация. Условная энтропия
Энтропия на сообщение дискретного стационарного источника
Взаимная информация и ее свойства. Количество информации между дискретными
ансамблями
Постановка задачи кодирования дискретных источников равномерными кодами
Теорема о высоковероятных множествах дискретного источника без памяти
Скорость создания информации дискретным источником без памяти при равномерном
кодировании
Постановка задачи неравномерного кодирования дискретных источников. Коды с
однозначным декодированием.
Кодовые деревья. Неравенство Крафта
Неравномерное кодирование дискретных стационарных источников
Оптимальные неравномерные коды
Информационные характеристики дискретных каналов связи
Модели дискретных каналов
Скорость передачи информации по дискретному каналу
Пропускная способность дискретного канала без помех
Пропускная способность дискретного канала с помехами
Разновидности помехоустойчивых кодов
Общие принципы использования избыточности
Связь корректирующей способности кода с кодовым расстоянием
Геометрическая интерпретация блоковых корректирующих кодов
Показатели качества корректирующего кода
Линейные коды
Математическое введение к линейным кодам
Линейный код как подпространство линейного векторного пространства