Энтропия и информация текстов

формат doc
размер 375.5 КБ
добавлен 06 января 2010 г.

Исследовательская работа. ОГУ
Что такое информация. Определения информации.
Сообщение и информация
Субъективное и объективное восприятие информации
Методы оценки и виды информации
Единицы количества информации: вероятностный и объемный подходы
Информация: более широкий взгляд
Энтропия и Информация. Определение энтропии
Основные свойства энтропии
Энтропия естественных языков
Энтропия языка
Энтропия русского языка
Оценка информации в тексте
Анализ текстов различной специфики

Смотрите также

Бекман И.Н. Лекции по Информатике

формат pdf
размер 27.42 МБ
добавлен 17 октября 2011 г.

Бекман Информатика. (лекции) 2009. Информационные технологии и информатика. Информация. Классическая термодинамика. Термодинамическая энтропия. Статистическая энтропия. Техническая информация и энтропия в историческом контнексте. Техническая информация. Энтропия и информация. Информационные парадоксы. Теория информации. Передача информации. Кодирование информации. Кодирование информации в компьютере. Смысловая информация. Обращение со смысловой и...

Курсовая работа - Энтропия системы

Курсовая работа

формат docx
размер 242.96 КБ
добавлен 03 июня 2010 г.

Курсовая работа состоит из следующих разделов. Введение. Энтропия системы. Понятие «энтропия». Этапы развития теории энтропии. Энтропийная природа иерархии природных структур. Организация передачи сообщений. Организация передачи информационных сообщений с наименьшей длиной пробега сообщений по каналам связи. Определение оптимальных маршрутов передачи и приёма информации по критерию быстроты прохождения информационного пакета. Определение оптималь...

Лекции по информатике

Статья

формат doc
размер 93.54 КБ
добавлен 11 апреля 2005 г.

Информационная мера Шеннона. Количество информации и избыточность. Пример. Задачи. Условная энтропия и взаимная информация. Дискретные системы передачи информации. Характеристики системы передачи информации. Каналы передачи информации. Техническиме характеристики канала связи. Кодирование информации. rn

Лекции по теоретической информатике

Статья

формат doc
размер 416.67 КБ
добавлен 23 мая 2009 г.

Энтропия и информация. Математическая постановка задачи кодирования. Первая теорема Шеннона. Алфавитное двоичное кодирование. Системы счисления: представление чисел и перевод 2-8- 16. Нормализованные числа. Кодирование и обработка целых и вещественных чисел. Передача информации по каналу связи с помехами.

Лекции по теории информации

Статья

формат doc
размер 872.67 КБ
добавлен 28 мая 2011 г.

Введение Дискретные ансамбли и источники Случайные величины Закон больших чисел Количество информации в сообщении. Энтропия Условная информация. Условная энтропия Энтропия на сообщение дискретного стационарного источника Взаимная информация и ее свойства. Количество информации между дискретными ансамблями Постановка задачи кодирования дискретных источников равномерными кодами Теорема о высоковероятных множествах дискретного источника без памяти...

Лекции по теории информации

Статья

формат doc
размер 323.5 КБ
добавлен 26 декабря 2006 г.

Конспект лекций, отредактированный в соответствии с зачётными вопросами. Вопросы также прилагаются. Теория информации Сигналы и некоторые их характеристики. Квантование по уровню. Квантование по времени. Квантование по уровню и по времени. Семантическая и синтаксическая информация. Энтропия и количество информации. Информационные характеристики квантованного сигнала. Пропускная способность канала передачи информации при отсутствии помех. Пропуск...

Лекция №4

Статья

формат doc
размер 94.74 КБ
добавлен 21 мая 2004 г.

Информационная мера Шеннона. Количество информации и избыточность. Энтропия непрерывных сообщений Условная энтропия и взаимная информация. Дисктретные системы передачи информации. Непрерывные системы передачи информации Слайды к лекции №4 1. Условная энтропия и взаимная информация. 2. Количество информации и избыточность 3. Аддитивность информационной меры

Потапов В.Н. Теория информации. Кодирование дискретных вероятностных источников

формат pdf
размер 484.26 КБ
добавлен 04 июня 2009 г.

Основы теории информации. Необходимые сведения из теории вероятности. Энтропия как мера неопределенности опыта. Свойства энтропии и информации. Эмпирическая энтропия и число сочетаний. Побуквенное кодирование. Префиксные коды и неравенство Крафта. Префиксные коды натурального ряда. Нумерация двоичных слов заданного веса. Стоимость и избыточность кодирования. Теорема Шеннона. Префиксные коды Шеннона, Гильберта-Мура, Шеннона-Фано. Оптимальное кодир...

Ромащенко А. Введение в теорию информации

формат pdf
размер 273.01 КБ
добавлен 28 сентября 2011 г.

ФИВТ МФТИ, весна 2010, 14 с. Определение информации по Хартли Детские задачи Энтропия Шеннона Энтропии пар и троек случайных функций Энтропия Шеннона и экономные коды Равномерный блоковый код для канала без шума. Коды Хэмминга Коммуникационная сложность Колмогоровская сложность Колмогоровская сложность и алгоритмическая случайность

Шпора по теоретической информатике

pottee

формат doc
размер 262.55 КБ
добавлен 11 января 2007 г.

Отличная шпаргалка по теории информации, на зачет. 30 вопросов (3 не отвечено"Может быть, Вам не попадется!"). Препод Фрид А.И. Понятие информации. Свойства информации.Знаки и сигналы. Сигнал, его характеристики. Квантование сигналов.Синтаксическая и семантическая информация. Энтропия и ее свойства. Количество информации.Энтропия непрерывных сообщений. Условная энтропия и взаимная информация - дискретные системы передачи информации.Условная энтро...