Теория информации. Лабораторная работа №2 на С++. Для всех вариантов.

Формулировка задания

Вычисление энтропии Шеннона

Цель работы: Экспериментальное изучение свойств энтропии Шеннона.

Среда программирования: любая с С-подобным языком программирования.

Результат: программа, тестовые примеры, отчет.

Задание:
1. Составить программу, определяющую несколько оценок энтропии текстового файла (размер не менее 10 Кб). Оценки энтропии необходимо вычислить по формуле Шеннона двумя способами, т.е. используя частоты отдельных символов и используя частоты пар символов. По желанию можно продолжить процесс вычисления оценок с использованием частот троек, четверок символов и т.д.
Для художественных текстов (русский или английский языки) предполагается, что строчные и заглавные символы не отличаются, знаки препинания объединены в один символ, к алфавиту добавлен пробел, для русских текстов буквы «е» и «ё», «ь» и «ъ» совпадают. При использовании текста программы учитываются все символы, кроме знаков табуляции.

2. После тестирования программы необходимо заполнить таблицу для отчета и проанализировать полученные результаты. Сравнить полученные результаты с результатами лабораторной работы 1.

Название текста Максимально возможное значение энтропии Оценка энтропии
(одиночные символы) Оценка энтропии
(частоты пар символов)
Текст №1
(фрагмент художественного произведения)     
Текст №2 (фрагмент художественного произведения)     
Текст написанной программы

май 2016, зачтено без замечаний, Мачикина Е.П.