Кодирование и Декодирование

Кодирование информации — процесс преобразования сигнала из формы, удобной для непосредственного использования информации, в форму, удобную для передачи, хранения или автоматической переработки.

• Сетевое кодирование — раздел теории информации, изучающий вопрос оптимизации передачи данных по сети с использованием техник изменения пакетов данных на промежуточных узлах.
• Энтропийное кодирование — кодирование последовательности значений с возможностью однозначного восстановления с целью уменьшения объёма данных (длины последовательности) с помощью усреднения вероятностей появления элементов в закодированной последовательности.
• Дельта-кодирование — способ представления данных в виде разницы (дельты) между последовательными данными вместо самих данных.

При кодировании символам исходного алфавита ставятся в соответствие символы другого алфавита.

ОБЩИЕ ОТЛИЧИЯ РАВНОМЕРНОГО КОДИРОВАНИЯ И НЕРАВНОМЕРНОГО КОДИРОВАНИЯ

Равномерное кодирование заключается в сопоставлении символам кодов одинаковой длины. В этом случае говорить об эффективности можно только в том случае, когда вероятности появления символов источника равны, то есть его энтропия максимальна.

В качестве примера равномерного кода можно назвать ASCII-таблицу, где каждому из 256 символов сопоставлено двоичное значение от 00000000 до 11111111. Независимо от вероятности появления символа на его представление отводится 1 байт, или 8 бит. Как известно, национальные языки обладают большой избыточностью, то есть разницей между энтропией источника и максимально возможной энтропией, обусловленной равной вероятностью появления любого символа из алфавита. Например, избыточность русского языка составляет 70%, а английского – 50%. Это в частности означает, что некоторые буквы появляются в тексте гораздо чаще других и поэтому использовать равномерное кодирование нерационально.

При неравномерном кодировании часто встречающимся символам сопоставляются более короткие кодовые последовательности, редко встречающимся – более длинные. За счет этого удается значительно сократить объем файла без потерь информации. Существует несколько методов неравномерного кодирования, важнейших из которых является метод Шеннона-Фано.

РАВНОМЕРНОЕ КОДИРОВАНИЕ

Источник: m.vk.com

Комментарии: