Автор неизвестен. Тамбовский государственный технический
университет. г. Тамбов, 2010 год. - 50 страниц. Понятие видов
информации. Основные понятия комбинаторики.
Случайные модели в теории информации. Основные понятия теории информации. Меры информации. Классификация мер информации. Энтропия вероятностной схемы. Основные свойства энтропии. Аксиомы Хинчена и Фадеева. Источники информации и их энтропия. Дискретные источники без памяти и с памятью. Эргодические источники. Марковские цепи.
Оптимальное и эффективное кодирование. Понятие кодирования. Кодовое дерево. Теорема кодирования источников, неравенство Крафта. Префиксный код. Методы оптимального кодирования. Сжатие данных. Метод кодирования Шеннона-Фано. Метод кодирования Хаффмана. Арифметическое кодирование. Алгоритм универсального кодирования методом Лемпела-Зива. Особенности программ-архиваторов. Сжатие с потерями. Помехоустойчивое кодирование. Классификация помехоустойчивых кодов. Параметры (характеристики) помехоустойчивых кодов и их границы. Корректирующие свойства кодов. Линейные (систематические) коды. Механизмы кодирования и синдромного декодирования. Матричное представление линейных (систематических) кодов.
Случайные модели в теории информации. Основные понятия теории информации. Меры информации. Классификация мер информации. Энтропия вероятностной схемы. Основные свойства энтропии. Аксиомы Хинчена и Фадеева. Источники информации и их энтропия. Дискретные источники без памяти и с памятью. Эргодические источники. Марковские цепи.
Оптимальное и эффективное кодирование. Понятие кодирования. Кодовое дерево. Теорема кодирования источников, неравенство Крафта. Префиксный код. Методы оптимального кодирования. Сжатие данных. Метод кодирования Шеннона-Фано. Метод кодирования Хаффмана. Арифметическое кодирование. Алгоритм универсального кодирования методом Лемпела-Зива. Особенности программ-архиваторов. Сжатие с потерями. Помехоустойчивое кодирование. Классификация помехоустойчивых кодов. Параметры (характеристики) помехоустойчивых кодов и их границы. Корректирующие свойства кодов. Линейные (систематические) коды. Механизмы кодирования и синдромного декодирования. Матричное представление линейных (систематических) кодов.