Лабораторные работы №1-№5 по Теории Информации

Лабораторная работа № 1 «Вычисление энтропии Шеннона».
1. Реализовать процедуру вычисления энтропии для текстового файла на английском языке. В процедуре необходимо подсчитывать частоты появления символов (прописные и заглавные буквы не отличаются, знаки препинания рассматриваются как один символ, пробел является самостоятельным символом), которые можно использовать как оценки вероятностей появления символов. Затем вычислить величину энтропии Шеннона. Точность вычисления -- 4 знака после запятой. Обязательно предусмотреть возможность ввода имени файла, для которого будет вычисляться энтропия.
2. Проверить запрограммированную процедуру на нескольких файлах (размер не менее 1 Кб) и заполнить таблицу следующего вида вычисленными значениями энтропии
Используются частоты одиночных символов
Энтропия текста на английском языке Макс. значение энтропии текста на английском языке Энтропия разработанной программы для л.р.1 Макс. значение энтропии разработанной программы для л.р.1
3. Вычислить значение энтропии для тех же файлов, но с использованием частот вхождений пар символов.
Используются частоты пар символов
Энтропия текста на английском языке Макс. значение энтропии текста на английском языке Энтропия разработанной программы для л.р.1 Макс. значение энтропии разработанной программы для л.р.1
4. Проанализировать полученные результаты.
1. Постановка задачи.
2. Решение поставленной задачи.
3. Описание входных данных программы.
4. Тестирование программы.
5. Анализ результатов работы программы.
Заключение.

Лабораторная работа № 2 «Оптимальный код Хаффмана»
Порядок выполнения работы
1. Реализовать процедуру построения оптимального кода Хаффмана.
2. Построить код Хаффмана для текста на английском языке (использовать файл не менее 1 Кб). Распечатать полученную кодовую таблицу в виде:
Символ Частота Кодовое слово Длина кодового слова
1. Проверить выполнение неравенства Крафта-Мак-Миллана для полученного кода
2. Вычислить энтропию исходного файла и сравнить со средней длиной кодового слова построенного кода Хаффмана.
3. Закодировать полученным кодом текст на английском языке и подсчитать энтропию закодированного файла.
Энтропия исходного текста Средняя длина кодового слова Энтропия закодированного текста
Проанализировать полученные результаты
1. Постановка задачи.
2. Решение поставленной задачи.
3. Тестирование программы.
4. Анализ результатов работы программы.
Заключение.

Лабораторная работа № 3 «Почти оптимальное алфавитное кодирование».
Порядок выполнения работы
1. Изучить теоретический материал гл. 5
2. Реализовать процедуры построения кодов Шеннона и Фано.
3. Построить коды Шеннона и Фано для текста на английском языке (использовать файл не менее 1 Кб). Распечатать полученные кодовые таблицы в виде:
Символ Частота Кодовое слово Длина кодового слова
4. Сравнить средние длины кодового слова с энтропией исходного файла для всех построенных статических кодов. Полученные результаты оформить в виде таблицы:
Энтропия исходного текста Средняя длина кодового слова
Код Хаффмана Код Шеннона Код Фано
5. Проанализировать полученные результаты
Постановка задачи.
1. Решение поставленной задачи.
Код Шеннона
Код Фано
2. Тестирование программы.
3. Анализ результатов работы программы.
Заключение.

Задание на лабораторную работу № 4 «Адаптивное кодирование».
Порядок выполнения работы
1. Изучить теоретический материал гл. 7.
2. Закодировать текст на английском языке (использовать файл не менее 1 Кб) с помощью адаптивного кода Хаффмана.
3. Вычислить коэффициенты сжатия данных как процентное отношение длины закодированного файла к длине исходного файла.
4. Сравнить полученные коэффициенты сжатия данных, построить таблицу вида:
Размер исходного
файла Коэффициент сжатия данных
Адаптивный код Хаффмана Обычный код Хаффмана
5. Проанализировать полученные результаты
1. Решение поставленной задачи.
2. Тестирование программы.
3. Анализ результатов работы программы.
Заключение.

Лабораторная работа № 5 «Словарные коды»
Порядок выполнения работы
1. Изучить теоретический материал гл. 8
2. Закодировать словарным кодом с использованием адаптивного словаря текст на английском языке, текст на русском языке и текст программы на языке С (использовать файлы не менее 1 Кб).
3. Вычислить коэффициенты сжатия данных как процентное отношение длины закодированного файла к длине исходного файла, построить таблицу вида:
Размер исходного файла Коэффициент сжатия данных Текст на английском языке Текст на русском языке Текст программы на языке С
4. Проанализировать полученные результаты. Сравнить полученные результаты с результатами предыдущих лабораторных работ.
1. Постановка задачи.
2. Решение поставленной задачи.
3. Тестирование программы.
4. Анализ результатов работы программы.
Заключение.

Все работы были успешно сданы в 2014-м году. Замечаний нет. Написанные на языке Microsoft Visual C++ 2013. Делал сам и делал качественно. Выкладываю впервые.