Варгаузин В. Вблизи границы Шеннона

формат pdf
размер 1009.69 КБ
добавлен 29 марта 2011 г.

Материал содержит три раздела: "Теория", "Идеи", "Практика".
В разделе "Теория" излагаются предельные возможности помехоустойчивого кодирования, эффект ухудшения эффективности кодирования при ограничении на конечную величину информационного пакета, а также понятие "хороший" код.
В разделе "Идеи" приведены современные "хорошие" коды, кодовые конструкции и алгоритмы декодирования, на основе которых удалось добиться достаточной для практики близости к границе Шеннона.
Материал раздела не претендует на обзор "всех кодов и алгоритмов
декодирования", излагаются лишь ключевые, по мнению автора, моменты.
Значительное внимание уделено исторической ретроспективе.
В разделе "Практика" приведено несколько современных стандартов цифровой связи с использованием "хороших" кодов.
В статье рассматриваются только вопросы энергетической эффективности помехоустойчивого кодирования.
журнал "Телемультимедиа" июнь, 2005г. , 8 стр.

Смотрите также

Контрольная работа - Расчет вероятностей. Коды Хаффмена и Шеннона-Фено. Расчет энтропии источника

Лабораторная

формат doc
размер 66.61 КБ
добавлен 24 сентября 2010 г.

НГУ (Украина), преподаватель доц. Кожевников А. В. Контрольная для заочников. Расчет значения вероятностей появления N=10 сообщений, генерируемых источником. Соотношения для расчета вероятностей: pi=P(1-P)i-1/1-(1-P)N i=1, …,N P=1/(№div5+2) Построение кодов сообщений согласно алгоритмам Хаффмена и Шеннона-Фено. Определение математического ожидания длин кодовых слов при использовании оптимальных алгоритмов, длины кодового слова при использовании...

Лабораторная работа по измерению информации (содержательный подход)

Лабораторная

формат doc
размер 73 КБ
добавлен 14 ноября 2009 г.

Воронежский государственный педагогический университет Специальность 050200 – «Физико-математическое образование», Дисциплина "Информатика" 3 курс, 5 семестр Объем 2 стр. Решение задач на измерение количества информации по формулам К. Шеннона и Р. Хартли. Равновероятные и разновероятные события.

Лекции по теоретической информатике

Статья

формат doc
размер 416.67 КБ
добавлен 23 мая 2009 г.

Энтропия и информация. Математическая постановка задачи кодирования. Первая теорема Шеннона. Алфавитное двоичное кодирование. Системы счисления: представление чисел и перевод 2-8- 16. Нормализованные числа. Кодирование и обработка целых и вещественных чисел. Передача информации по каналу связи с помехами.

Луизова Л.А. Теория информации. Кодирование

формат pdf
размер 200.2 КБ
добавлен 01 ноября 2009 г.

Конспект лекций. – Петрозаводск, ПетрГУ, 2009г. - 20 стр. Кафедра инф. -изм. систем и физической электроники. Содержание. Неравенство Рао - Крамера. Понятие информации по Шенону. Получение информации о системе A в опыте B. Информационные характеристики источников информации и каналов связи. Информационные характеристики канала передачи данных. Кодирование информации. Эффективное кодирование. 1. Код Шеннона – Фано. 2. Код Хафмана. Теоремы Ш...

Потапов В.Н. Теория информации. Кодирование дискретных вероятностных источников

формат pdf
размер 484.26 КБ
добавлен 04 июня 2009 г.

Основы теории информации. Необходимые сведения из теории вероятности. Энтропия как мера неопределенности опыта. Свойства энтропии и информации. Эмпирическая энтропия и число сочетаний. Побуквенное кодирование. Префиксные коды и неравенство Крафта. Префиксные коды натурального ряда. Нумерация двоичных слов заданного веса. Стоимость и избыточность кодирования. Теорема Шеннона. Префиксные коды Шеннона, Гильберта-Мура, Шеннона-Фано. Оптимальное кодир...

РГР - Исследование источников дискретных сообщений

Контрольная работа

формат docx
размер 2.21 МБ
добавлен 23 января 2011 г.

СГУТиКД, Теория информации и кодирования, 3 курс, Прикладная информатика. В архиве отчет, решение в Excel. Задание – сравнить текстовые сообщения, написанные на двух языках (татарский и латышский языки) по количеству информации, приходящейся на одну букву, используя меру Шеннона без учета статистической связи между буквами и с учетом этой связи между двумя соседними буквами. Цель работы – приобретение навыков измерения количества информации, закл...

РГР - Исследование эффективных (оптимальных) кодов

Контрольная работа

формат docx, xlsx
размер 178.07 КБ
добавлен 23 января 2011 г.

СГУТиКД, Теория информации и кодирования, 3 курс, Прикладная информатика. В архиве отчет, решение в Excel. Цель работы: Закрепление теоретических знаний и приобретение практических навыков построения и использования эффективных (оптимальных) кодов на примере кодов Шеннона-Фэно и Хаффмена. Задача: на практике построить и использовать оптимальные коды Хаффмена и Шеннона-Фэно для кодирования и декодирования дискретных сообщений.rn

Ромащенко А. Введение в теорию информации

формат pdf
размер 273.01 КБ
добавлен 28 сентября 2011 г.

ФИВТ МФТИ, весна 2010, 14 с. Определение информации по Хартли Детские задачи Энтропия Шеннона Энтропии пар и троек случайных функций Энтропия Шеннона и экономные коды Равномерный блоковый код для канала без шума. Коды Хэмминга Коммуникационная сложность Колмогоровская сложность Колмогоровская сложность и алгоритмическая случайность

Соловьева Ф.И. Введение в теорию кодирования

формат pdf
размер 928.34 КБ
добавлен 26 ноября 2009 г.

Учебное пособие -- Учебное пособие для ММФ НГУ -- Ф. И. Соловьева. Линейные коды. Декодирование. Теорема Шеннона. Свитчинговые методы. Каскадные методы. Поля Галуа. Циклические коды. Коды БЧХ. Другие коды.

Шпора - Теория информации и кодирования

Шпаргалка

формат doc
размер 5.75 МБ
добавлен 24 января 2011 г.

Мера информации, предложенная автором теории информации Клодом Шенноном, и ее экстремальные свойства. Аддитивная мера количества информации, ее связь с мерой К. Шеннона и сфера применения. Энтропия источника дискретных сообщений и энтропия источника непрерывных сообщений. Роль, виды и критерии квантования (дискретизации) непрерывных сигналов. Формулировка теоремы Найквиста-Котельникова и ее ограниче-ния. Полиномы Лагранжа и их использование для в...