ГлавнаяО компанииГостеваяНаша продукцияКарта сайтаСвязаться
Главная arrow Количество информации
Количество информации
Формула определяет класс функций ф(р), выражающих количество информации при выборе буквы Xi, имеющей вероятность p(xi)=p, и удовлетворяющих условию аддитивности. Для определения постоянной интегрирования С воспользуемся высказанным выше условием, по которому заранее предопределенный элемент сообщения, т. е. имеющий вероятность, не содержит информации. Следовательно, ср(1)=0, откуда сразу следует, что С=0.
Что касается коэффициента пропорциональности k, то его можно выбрать произвольно, так как он определяет лишь систему единиц, в которых измеряется информация. Однако, поскольку 1пр<0, разумно выбирать k отрицательным, для того чтобы количество информации было положительным. Наиболее простым является выбор k——1. Тогда
При этом единица количества информации равна той информации, которая содержится в элементарном сообщении, имеющем вероятность 1е (е — основание натуральных логарифмов), или, другими словами, равна информации, содержащейся в сообщении о том, что наступило событие, вероятность которого равнялась. Такую единицу информации называют натуральной единицей.
 
« Пред.   След. »


О cистемах связи
Вероятность ошибки
Решающая схема
Плотности вероятности
Ошибочный прием
Алфавит источника
Противоречие
Преимущество критерия
Источник сообщения
Количество информации
Канал без помех
Плотность вероятностей
Пропускная способность
скорость передачи
Теорема кодирования
Виды последовательностей
Полная вероятность
Задачи теории
Свойства канала
Постановка задачи
Кодирование
Случаи передачи
Верность передачи
Рост сложности системы
Понятие энтропии источника
Минимакеный критерий
Информационный критерий
Условная энтропия процесса
Задание значения
Отсутствие шумов
Дискретные каналы
Вероятности перехода
Реальные каналы
Алфавиты на входе и выходе
Пропускная способность
Теорема кодирования
Кодирование Шеннона
Кодовые символы
Неравномерный код
Кодовые комбинации
Элементы исходного алфавита
 
Россия 309070, Белгородская обл., г. Строитель, ул. Революционная 12, тел. (9211) 424-001