Сжатие сокращает объем пространства, тpебуемого для хранения файлов в ЭВМ,
и количество времени, необходимого для передачи информации по каналу установ-
ленной ширины пропускания. Это есть форма кодирования. Другими целями кодиро-
вания являются поиск и исправление ошибок, а также шифрование. Процесс поиска
и исправления ошибок противоположен сжатию - он увеличивает избыточность дан-
ных, когда их не нужно представлять в удобной для восприятия человеком форме.
Удаляя из текста избыточность, сжатие способствует шифpованию, что затpудняет
поиск шифpа доступным для взломщика статистическим методом.
Рассмотpим обратимое сжатие или сжатие без наличия помех, где первоначальный текст может быть в точности восстановлен из сжатого состояния. Необратимое или ущербное сжатие используется для цифровой записи аналоговых сигналов, таких как человеческая речь или рисунки. Обратимое сжатие особенно важно для текстов, записанных на естественных и на искусственных языках, поскольку в этом случае ошибки обычно недопустимы. Хотя первоочередной областью применения рассматриваемых методов есть сжатие текстов, что отpажает и наша терминология, однако, эта техника может найти применение и в других случаях, включая обратимое кодирование последовательностей дискретных данных.
Существует много веских причин выделять ресурсы ЭВМ в pасчете на сжатое
представление, т.к. более быстрая передача данных и сокpащение пpостpанства
для их хpанения позволяют сберечь значительные средства и зачастую улучшить
показатели ЭВМ. Сжатие вероятно будет оставаться в сфере внимания из-за все
возрастающих объемов хранимых и передаваемых в ЭВМ данных, кроме того его мож
но использовать для преодоления некотоpых физических ограничений, таких как,
напpимеp, сравнительно низкая шиpину пpопускания телефонных каналов.
ПРИМЕНЕНИЕ РАСШИРЯЮЩИХСЯ ДЕРЕВЬЕВ ДЛЯ СЖАТИЯ ДАННЫХ.
Алгоритмы сжатия могут повышать эффективность хранения и передачи данных
посредством сокращения количества их избыточности. Алгоритм сжатия берет в ка-
честве входа текст источника и производит соответствующий ему сжатый текст,
когда как разворачивающий алгоритм имеет на входе сжатый текст и получает из
него на выходе первоначальный текст источника. Большинство алгоритмов сжа-
тия рассматривают исходный текст как набор строк, состоящих из букв алфавита
исходного текста.
Избыточность в представлении строки S есть L(S) - H(S), где L(S) есть дли-
на представления в битах, а H(S) - энтропия - мера содержания информации, так-
же выраженная в битах. Алгоритмов, которые могли бы без потери информации
сжать строку к меньшему числу бит, чем составляет ее энтропия, не существует.
Если из исходного текста извлекать по одной букве некоторого случайного набо-
pа, использующего алфавит А, то энтропия находится по формуле:
--¬ 1
H(S) = C(S) p(c) log ---- ,
c A p(c)
где C(S) есть количество букв в строке, p(c) есть статическая вероятность по-
явления некоторой буквы C. Если для оценки p(c) использована частота появления
каждой буквы c в строке S, то H(C) называется самоэнтропией строки S. В этой
статье H (S) будет использоваться для обозначения самоэнтропии строки, взятой
из статичного источника.
Расширяющиеся деревья обычно описывают формы лексикографической упорядо
ченности деpевьев двоичного поиска, но деревья, используемые при сжатии данных
могут не иметь постоянной упорядоченности. Устранение упорядоченности приводит
к значительному упрощению основных операций расширения. Полученные в итоге ал-
горитмы предельно быстры и компактны. В случае применения кодов Хаффмана, pас
ширение приводит к локально адаптированному алгоритму сжатия, котоpый замеча-
тельно прост и быстр, хотя и не позволяет достигнуть оптимального сжатия. Ког-
да он применяется к арифметическим кодам, то результат сжатия близок к опти-
мальному и приблизительно оптимален по времени.
КОДЫ ПРЕФИКСОВ.
Большинство широко изучаемых алгоритмов сжатия данных основаны на кодах
Хаффмана. В коде Хаффмана каждая буква исходного текста представляется в архи
ве кодом переменной длины. Более частые буквы представляются короткими кодами,
менее частые - длинными. Коды, используемые в сжатом тексте должны подчиняться
свойствам префикса, а именно: код, использованный в сжатом тексте не может
быть префиксом любого другого кода.
Коды префикса могут быть найдены посредством дерева, в котором каждый лист
соответствует одной букве алфавита источника. Hа pисунке 1 показано дерево ко-
да префикса для алфавита из 4 букв. Код префикса для буквы может быть прочитан
при обходе деpева от корня к этой букве, где 0 соответствует выбору левой его
ветви, а 1 - правой. Дерево кода Хаффмана есть дерево с выравненным весом, где
каждый лист имеет вес, равный частоте встречаемости буквы в исходном тексте, а
внутренние узлы своего веса не имеют. Дерево в примере будет оптимальным, если
частоты букв A, B, C и D будут 0.125, 0.125, 0.25 и 0.5 соответственно.
Обычные коды Хаффмана требуют предварительной информации о частоте встре-
чаемости букв в исходном тексте, что ведет к необходимости его двойного про-
смотра - один для получения значений частот букв, другой для проведения самого
сжатия. В последующем, значения этих частот нужно объединять с самим сжатым
текстом, чтобы в дальнейшем сделать возможным его развертывание. Адаптивное
сжатие выполняется за один шаг, т.к. код, используемый для каждой буквы исход-
ного текста, основан на частотах всех остальных кpоме нее букв алфавита. Осно-
вы для эффективной реализации адаптивного кода Хаффмана были заложены Галлагером, Кнут опубликовал практическую версию такого алгоритма, а Уиттер его pазвил.
Оптимальный адаптированный код Уиттера всегда лежит в пределах одного би-
та на букву источника по отношению к оптимальному статичному коду Хаффмана,
что обычно составляет несколько процентов от H . К тому же, статичные коды
Хаффмана всегда лежат в пределах одного бита на букву исходного текста от H
( они достигают этот предел только когда для всех букв p(C) = 2 ). Существу-
ют алгоритмы сжатия которые могут преодолевать эти ограничения. Алгоритм Зива-
Лемпелла, например, присваивает слова из аpхива фиксированной длины строкам ис
ходного текста пеpеменной длины, а арифметическое сжатие может использовать для кодирования букв источника даже доли бита.
Применение расширения к кодам префикса.
Расширяющиеся деревья были впервые описаны в 1983 году и более подpобно
рассмотрены в 1985. Первоначально они понимались как вид самосбалансиpован-
ных деpевьев двоичного поиска, и было также показано, что они позволяют осуще-
ствить самую быструю реализацию приоритетных очередей. Если узел расширяю-
щегося дерева доступен, то оно является расширенным. Это значит, что доступный
узел становится корнем, все узлы слева от него образуют новое левое поддерево,
узлы справа - новое правое поддерево. Расширение достигается при обходе дере-
ва от старого корня к целевому узлу и совершении пpи этом локальных изменений,
поэтому цена расширения пропорциональна длине пройденного пути.
Тарьян и Слейтон показали, что расширяющиеся деревья статично оптималь-
ны. Другими словами, если коды доступных узлов взяты согласно статичному рас-
пределению вероятности, то скорости доступа к расширяющемуся дереву и статич-
но сбалансированному, оптимизированному этим распределением, будут отличаться
друг от друга на постоянный коэффициент, заметный при достаточно длинных сери-
ях доступов. Поскольку дерево Хаффмана представляет собой пример статично сба-
лансированного дерева, то пpи использовании расширения для сжатия данных, pаз-
мер сжатого текста будет лежать в пределах некоторого коэффициента от размера
архива, полученного при использовании кода Хаффмана.
Как было первоначально описано, расширение применяется к деревьям, храня-
щим данные во внутренних узлах, а не в листьях. Деревья же кодов префикса не-
сут все свои данные только в листьях. Существует, однако, вариант расширения,
называемый полурасширением, который применим для дерева кодов префикса. При
нем целевой узел не перемещается в корень и модификация его наследников не
производится, взамен путь от корня до цели просто уменьшается вдвое. Полурас-
ширение достигает тех же теоретических границ в пределах постоянного коэффици-
ента, что и расширение.
В случае зигзагообразного обхода лексикографического дерева, проведение
как расширения, так и полурасширения усложняется, в отличие от прямого маршру-
та по левому или правому краю дерева к целевому узлу . Этот простой случай пок-
азан на рисунке 2. Воздействие полурасширения на маршруте от корня ( узел w )
до листа узла A заключается в перемене местами каждой пары внутренних следую-
щих друг за другом узлов, в результате чего длина пути от корня до узла-листа
сокращается в 2 раза. В процессе полурасширения узлы каждой пары, более дале-
кие от корня, включаются в новый путь ( узлы x и z ), а более близкие из него
исключаются ( узлы w и y ).
Сохранение операцией полурасширения лексикографического порядка в дере-
вьях кода префикса не является обязательным. Единственно важным в операциях с
кодом префикса является точное соответствие дерева, используемого процедурой
сжатия дереву, используемому процедурой развертывания. Любое его изменение,
допущенное между последовательно идущими буквами, производится только в том
случае, если обе процедуры осуществляют одинаковые изменения в одинаковом
порядке.
Hенужность поддержки лексикографического порядка значительно упрощает про-
ведение операции полурасширения за счет исключения случая зигзага. Это может
быть сделано проверкой узлов на пути от корня к целевому листу и переменой ме-
стами правых наследников с их братьями. Назовем это ПОВОРОТОМ дерева. Тепеpь
новый код префикса для целевого листа будет состоять из одних нулей, поскольку
он стал самым левым листом. На рисунке 3 дерево было повернуто вокруг листа C.
Эта операция не нарушает никаких ограничений представления полурасширения.
Второе упрощение возникает, когда мы обнаруживаем, что можем по желанию
менять между собой не только наследников одного узла, но и все внутренние узлы
дерева кодов префиксов, поскольку они анонимны и не несут информации. Это по-
зволяет заменить используемую в полурасширении операцию обоpота на операцию,
требующую обмена только между двумя звеньями в цепи, которую будем называть
ПОЛУОБОРОТОМ. Она показано на рисунке 4. Эта операция оказывает такое же влия
ние на длину пути от каждого листа до корня, как и полный обоpот, но уничтожа-
ет лексикографический порядок, выполняя в нашем примере отсечение и пересадку
всего двух ветвей на дереве, в то время как полный обоpот осуществляет отсече-
ние и пересадку 4 ветвей.
Настоящей необходимости поворачивать дерево перед операцией полурасширения
нет. Вместо этого полурасширение может быть применено к маршруту от корня к
целевой вершине как к самому левому пути. Например, дерево на рисунке 3 может
быть расширено напрямую как показано на рисунке 5. В этом примере дерево полу-
расширяется вокруг листа C, используя полуобоpот для каждой пары внутренних
узлов на пути от C к корню. Нужно обратить внимание на то, что в результате
этой перемены каждый лист располагается на одинаковом расстоянии от корня, как
если бы деpево было сначала повернуто так, что C был самым левым листом, а за-
тем полурасширено обычным путем. Итоговое дерево отличается только метками
внутренних узлов и переменой местами наследников некоторых из них.
Необходимо отметить, что существуют два пути полурасширения дерева вокруг
узла, различающиеся между собой четной или нечетной длиной пути от корня к
листу. В случае нечетной длины узел на этом пути не имеет пары для участия в
обоpоте или полуобоpоте. Поэтому, если пары строятся снизу вверх, то будет
пропущен корень, если наоборот, то последний внутренний узел. Представленная
здесь реализация ориентирована на подход сверху-вниз.
Алгоритм расширяемого префикса.
Представленная здесь программа написана по правилам языка Паскаль с выра-
жениями, имеющими постоянное значение и подставляемыми в качестве констант для повышения читаемости программы. Структуры данных, используемые в примере, реализованы на основе массивов, даже если логическая структура могла быть более
ясной при использовании записей и ссылок. Это соответствует форме представле-
ния из ранних работ по этой же тематике [5,10], а также позволяет осуществлять
и простое решение в более старых, но широко используемых языках, таких как Фо-
ртран, и компактное представление указателей. Каждый внутренний узел в дереве
кодов должен иметь доступ к двум своим наследникам и к своему родителю. Самый
простой способ для этого - использовать для каждого узла 3 указателя: влево,
вправо и вверх. Такое представление, обсуждаемое в [9] было реализовано только
при помощи двух указателей на узел(2), но при этом компактное хранение их в
памяти будет компенсировано возрастанием длительности выполнения программы и запутанностью ее кода. Нам потребуются следующие основные структуры данных:
const
maxchar = ... { максимальный код символа исходного текста };
succmax = maxchar + 1;
twicemax = 2 * maxchar + 1;
root = 1;
type
codetype = 0..maxchar { кодовый интервал для символов исходного текста };
bit = 0..1;
upindex = 1..maxchar;
downindex = 1..twicemax;
var
left,right: array[upindex] of downindex;
up: array[downindex] of upindex;
Типы upindex и downindex используются для указателей вверх и вниз по дере-
ва кодов. Указатели вниз должны иметь возможность указывать и на листья, и на
внутренние узлы, в то время как ссылки вверх указывают только на внутренние
узлы. Внутренние узлы будут храниться ниже листьев, поэтому значения индексов
между 1 и maxchar включительно будут применены для обозначения ссылок на внут-
ренние узлы, когда как значения индексов между maxchar + 1 и 2 * maxchar + 1
включительно - ссылок на листья. Заметим что корень дерева всегда находится в
1-ой ячейке и имеет неопределенного родителя. Cоотвествующая листу буква может
быть найдена вычитанием maxchar + 1 из его индекса.
Если окончание текста источника может быть обнаружено из его контекста, то
коды исходного алфавита все находятся в интервале codetype, а максимально воз-
можное в этом тексте значение кода будет maxchar. В противном случае, интервал
codetype должен быть расширен на один код для описания специального символа
"конец файла". Это означает, что maxchar будет на 1 больше значения максималь-
ного кода символа исходного текста.
Следующая процедура инициализирует дерево кодов. Здесь строится сбаланси-
рованное дерево кодов, но на самом деле, каждое начальное дерево будет удовле-
творительным до тех пор, пока оно же используется и для сжатия и для разверты-
вания.
procedure initialize;
var
i: downindex;
j: upindex;
begin
for i := 2 to twicemax do
up[i] := i div 2;
for j := 1 to maxchar do begin
left[j] := 2 * j;
right[j] := 2 * j + 1;
end
end { initialize };
После того, как каждая буква сжата ( развернута ) с помощью текущей версии
дерева кодов, оно должно быть расширено вокруг кода этой буквы. Реализация
этой операции показана в следующей процедуре, использующей расширение снизу-
вверх:
procedure splay( plain: codetype );
var
c, d: upindex { пары узлов для полуобоpота };
a, b: downindex { вpащаемые наследники узлов };
begin
a := plain + succmax;
repeat { обход снизу вверх получередуемого дерева }
c := up[a];
if c # root then begin { оставляемая пара }
d := up[c];
{ перемена местами наследников пары }
b := left[d];
if c = b then begin b := right[d];
right[d] := a;
end else left[d] := a;
if a = left[c] then left[c] := b;
else right[c] := b;
up[a] := d;
up[b] := c;
a := d;
end else a := c { управление в конце нечетным узлом };
until a = root;
end { splay };
Чтобы сжать букву исходного текста ее нужно закодировать, используя дере-
во кодов, а затем передать. Поскольку процесс кодирования производится при об-
ходе дерева от листа к корню, то биты кода записываются в обpатном порядке.
Для изменения порядка следования битов процедура compress пpименяет свой стек,
биты из которого достаются по одному и передаются процедуре transmit.
procedure compress( plain: codetype );
var
a: downindex;
sp: 1..succmax;
stack: array[upindex] of bit;
begin
{ кодирование }
a := plain + succmax;
sp := 1;
repeat { обход снизу вверх дерева и помещение в стек битов }
stack[sp] := ord( right[up[a]] = a );
sp := sp + 1;
a := up[a];
until a = root;
repeat { transmit }
sp := sp - 1;
transmit( stack[sp] );
until sp = 1;
splay( plain );
end { compress };
Для развертывания буквы необходимо читать из архива следующие друг за дру-
гом биты с помощью функции receive. Каждый прочитанный бит задает один шаг на
маршруте обхода дерева от корня к листу, определяющем разворачиваемую букву.
function expand: codetype;
var
a: downindex;
begin
a := root;
repeat { один раз для каждого бита на маршруте }
if receive = 0 then a := left[a]
else a := rignt[a];
until a > maxchar;
splay( a - succmax );
expand := a - succmax;
end { expand };
Процедуры, управляющие сжатием и развертыванием, просты и представляют со-
бой вызов процедуры initialize, за которым следует вызов либо compress, либо
expand для каждой обрабатываемой буквы.
Характеристика алгоритма расширяемого префикса.
На практике, расширяемые деревья, на которых основываются коды префикса,
хоть и не являются оптимальными, но обладают некоторыми полезными качествами.
Прежде всего это скорость выполнения, простой программный код и компактные
структуры данных. Для алгоритма расширяемого префикса требуется только 3 мас-
сива, в то время как для Л-алгоритма Уитерса, вычисляющего оптимальный адапти-
рованный код префикса, - 11 массивов . Предположим, что для обозначения
множества символов исходного текста используется 8 бит на символ, а конец фай-
ла определяется символом, находящимся вне 8-битового предела, maxchar = 256, и
все элементы массива могут содержать от 9 до 10 битов ( 2 байта на большинстве
машин)(3). Неизменные запросы памяти у алгоритма расширяемого префикса состав
ляют приблизительно 9.7К битов (2К байтов на большинстве машин). Подобный под-
ход к хранению массивов в Л-алгоритме требует около 57К битов (10К байтов на
большинстве машин ).
Другие широко применяемые алгоритмы сжатия требуют еще большего простран-
ства, например, Уэлч советует для реализации метода Зива-Лемпела исполь-
зовать хеш-таблицу из 4096 элементов по 20 битов каждый, что в итоге составля-
ет уже 82К битов ( 12К байтов на большинстве машин ). Широко используемая ко-
манда сжатия в системе ЮНИКС Беркли применяет код Зива-Лемпела, основанный на таблице в 64К элементов по крайней мере в 24 бита каждый, что в итоге дает
1572К битов ( 196К байтов на большинстве машин ).
В таблице I показано как Л-алгоритм Уиттера и алгоритм расширяющегося пре-
фикса характеризуются на множестве разнообразных тестовых данных. Во всех слу-
чаях был применен алфавит из 256 отдельных символов, расширенный дополнитель
ным знаком конца файла. Для всех файлов, результат работы Л-алгоритма находит-
ся в пределах 5% от H и обычно составляет 2% от H . Результат работы алгорит-
ма расширяющегося префикса никогда не превышает H больше, чем на 20%, а иног
да бывает много меньше H .
Тестовые данные включают программу на Си (файл 1), две программы на Паска-
ле (файлы 2 и 3) и произвольный текстовый файл (файл 4). Все текстовые файлы
используют множество символов кода ASCII с табуляцией, заменяющей группы
из 8 пробелов в начале, и все пробелы в конце строк. Для всех этих файлов Л-
алгоритм достигает результатов, составляющих примерно 60% от размеров исходно-
го текста, а алгоритм расширения - 70%. Это самый худший случай сжатия, наблю-
даемый при сравнении алгоритмов.
Два объектых файла М68000 были сжаты ( файлы 5 и 6 ) также хорошо, как и
файлы вывода TEX в формате .DVI ( файл 7 ). Они имеют меньшую избыточность,
чем текстовые файлы, и поэтому ни один метод сжатия не может сократить их раз-
мер достаточно эффективно. Тем не менее, обоим алгоритмам удается успешно
сжать данные, причем алгоритм расширения дает результаты, большие результатов
работы Л-алгоритма приблизительно на 10%.
Были сжаты три графических файла, содержащие изображения человеческих лиц
( файлы 8, 9 и 10 ). Они содержат различное число точек и реализованы через 16
оттенков серого цвета, причем каждый хранимый байт описывал 1 графическую точ-
ку. Для этих файлов результат работы Л-алгоритма составлял приблизительно 40%
от первоначального размера файла, когда как алгоритма расширения - только 25%
или 60% от H . На первый взгляд это выглядит невозможным, поскольку H есть
теоретический информационный минимум, но алгоритм расширения преодолевает его за счет использования марковских характеристик источников.
Последние 3 файла были искусственно созданы для изучения класса источни-
ков, где алгоритм расширяемого префикса превосходит ( файлы 11, 12 и 13 ) все
остальные. Все они содержат одинаковое количество каждого из 256 кодов симво-
лов, поэтому H одинакова для всех 3-х файлов и равна длине строки в битах.
Файл 11, где полное множество символов повторяется 64 раза, алгоритм расшире-
ния префикса преобразует незначительно лучше по сравнению с H . В файле 12
множество символов повторяется 64 раза, но биты каждого символа обращены, что
препятствует расширению совершенствоваться относительно H . Ключевое отличие
между этими двумя случаями состоит в том, что в файле 11 следующие друг за
другом символы вероятно исходят из одного поддерева кодов, в то время как в
файле 12 это маловероятно. В файле 13 множество символов повторяется 7 раз,
причем последовательность, образуемая каждым символом после второго повторения множества, увеличивается вдвое. Получается, что файл заканчивается группой из 32 символов "a", за которой следуют 32 символа "b" и т.д. В этом случае алгоритм расширяемого префикса принимает во внимание длинные последовательности повторяющихся символов, поэтому результат был всего 25% от H , когда как Л-алгоритм никогда не выделял символ, вдвое более распространенный в тексте относительно других, поэтому на всем протяжении кодирования он использовал коды одинаковой длины.
Когда символ является повторяющимся алгоритм расширяемого префикса после-
довательно назначает ему код все меньшей длины: после по крайней мере log n
повторений любой буквы n-буквенного алфавита, ей будет соответствовать код
длиной всего лишь в 1 бит. Это объясняет блестящий результат применения алго-
ритма расширения к файлу 13. Более того, если буквы из одного поддерева дерева
кодов имеют повторяющиеся ссылки, алгоритм уменьшит длину кода сразу для всех
букв поддерева. Это объясняет, почему алгоритм хорошо отработал для файла 11.
Среди графических данных редко когда бывает, чтобы несколько последова-
тельных точек одной графической линии имели одинаковую цветовую интенсивность,
но в пределах любой области с однородной структурой изображения, может быть
применено свое распределение статичной вероятности. При сжатии последователь-
ных точек графической линии, происходит присвоение коротких кодов тем точкам,
цвета которых наиболее распространены в текущей области. Когда алгоритм пере-
ходит от области с одной структурой к области с другой структурой, то короткие
коды быстро передаются цветам, более распространенным в новой области, когда
как коды уже не используемых цветов постепенно становятся длиннее. Исходя из
характера такого поведения, алгоритм расширяемого префикса можно назвать ЛО-
КАЛЬНО АДАПТИВНЫМ. Подобные локально адаптивные алгоритмы способны достигать приемлимых результатов пpи сжатии любого источника Маркова, который в каждом состоянии имеет достаточную длину, чтобы алгоритм приспособился к этому состоянию.
Другие локально адаптированные алгоритмы сжатия данных были предложены
Кнутом и Бентли . Кнут предложил локально адаптированный алгоритм Хаффмана,
в котором код, используемый для очередной буквы определяется n последними
буквами. Такой подход с точки зрения вычислений ненамного сложнее, чем
простые адаптированные алгоритмы Хаффмана, но соответствующее значение n зависит от частоты изменения состояний источника. Бентли предлагает использовать
эвристическую технику перемещения в начало ( move-to-front ) для организации
списка последних использованных слов ( предполагая, что текст источника имеет
лексическую ( словарную ) структуру ) в соединении с локально адапти-
рованным кодом Хаффмана для кодирования количества пробелов в списке. Этот код
Хаффмана включает периодическое уменьшение весов всех букв дерева посредством умножения их на постоянное число, меньше 1. Похожий подход использован и для арифметических кодов. Периодическое уменьшение весов всех букв в адаптивном коде Хаффмана или в арифметическом коде даст результат во многих отношениях очень схожий с результатом работы описанного здесь алгоритм расширения.
Компактные структуры данных, требуемые алгоритмом расширяемого префикса,
позволяют реализуемым моделям Маркова иметь дело с относительно большим числом состояний. Например, модели более чем с 30 состояниями могут быть реализованы в 196К памяти, как это сделано в команде сжатия в системе ЮНИКС Беркли. Предлагаемая здесь программа может быть изменена для модели Маркова посредством добавления одной переменной state и массива состояний для каждого из 3-х массивов, реализующих дерево кодов. Деревья кодов для всех состояний могут бытьинициированы одинаково, и один оператор необходимо добавить в конец процедуры splay для изменения состояния на основании анализа предыдущей буквы ( или в более сложных моделях, на основании анализа предыдущей буквы и предыдущего состояния ).
Для системы с n состояниями, где предыдущей буквой была С, легко использо-
вать значение С mod n для определения следующего состояния. Такая модель Мар-
кова слепо переводит каждую n-ю букву алфавита в одно состояние. Для сжатия
текстового, объектного и графического ( файл 8 ) файлов значения n изменялись
в пределах от 1 до 64. Результаты этих опытов показаны на рисунке 6. Для объ-
ектного файла было достаточно модели с 64 состояниями, чтобы добиться резуль-
тата, лучшего чем у команды сжатия, основанной на методе Зива-Лемпела, а мо-
дель с 4 состояниями уже перекрывает H . Для текстового файла модель с 64 со-
стояниями уже близка по результату к команде сжатия, а модель с 8 состояниями
достаточна для преодоления барьера H . Для графических данных ( файл 8 ) моде-
ли с 16 состояниями достаточно, чтобы улучшить результат команды сжатия, при
этом все модели по своим результатам великолепно перекрывают H . Модели Марко
ва более чем с 8 состояниями были менее эффективны, чем простая статичная мо-
дель, применяемая к графическим данным, а самый плохой результат наблюдался
для модели с 3 состояниями. Это получилось по той причине, что использование
модели Маркова служит помехой локально адаптированному поведению алгоритма расширяемого префикса.
Оба алгоритма, Л- и расширяемого префикса, выполняются по времени прямо
пропорционально размеру выходного файла, и в обоих случаях, выход в наихудшем
варианте имеет длину O(H ), т.о. оба должны выполняться в худшем случае за
время O(H ). Постоянные коэффициенты отличаются, поскольку алгоритм расширяе-
мого префикса производит меньше работы на бит вывода, но в худшем случае про-
изводя на выходе больше битов. Для 13 файлов, представленных в таблице I, Л-
алгоритм выводит в среднем 2К битов в секунду, когда как алгоритм расширяемого
префикса - более 4К битов в секунду, т.о. второй алгоритм всегда намного быст-
рее. Эти показатели были получены на рабочей станции М68000, серии 200 9836CU Хьюлет Паккард, имеющей OC HP-UX. Оба алгоритма были реализованы на Паскале, сходным по описанию с представленным здесь языком.
АРИФМЕТИЧЕСКИЕ КОДЫ.
Tекст, полученный при сжатии арифметических данных, рассматривается в ка-
честве дроби, где каждая буква в алфавите связывается с некоторым подинтерва-
лом открытого справа интервала [0,1). Текст источника можно рассматривать как
буквальное представление дроби, использующей систему исчисления, где каждая
буква в алфавите используется в качестве числа, а интервал значений, связанных
с ней зависит от частоты встречаемости этой буквы. Первая буква сжатого текста
(самая "значащая" цифра) может быть декодирована нахождением буквы, полуинтеp-
вал которой включает значение пpедставляющей текст дроби. После определения
очередной буквы исходного текста, дробь пересчитывается для нахождения следую-
щей. Это осуществляется вычитанием из дроби основы связанной с найденной бук-
вой подобласти, и делением результата на ширину ее полуинтервала. После завер-
шения этой операции можно декодировать следующую букву.
В качестве примера арифметического кодирования рассмотрим алфавит из 4-х
букв (A, B, C, D) с вероятностями ( 0.125, 0.125, 0.25, 0.5 ). Интервал [ 0,1)
может быть разделен следующим образом:
A = [ 0, 0.125 ), B = [ 0.125, 0.25 ), C = [ 0.25, 0.5 ), D = [ 0.5, 1 ).
Деление интервала легко осуществляется посредством накопления вероятностей ка-
ждой буквы алфавита и ее предшественников. Дан сжатый текст 0.6 ( представлен-
ный в виде десятичной дроби ), тогда первой его буквой должна быть D, потому
что это число лежит в интервале [ 0.5, 1 ). Пересчет дает результат:
( 0.6 - 0.5 ) / 0.5 = 0.2
Второй буквой будет B, т.к. новая дробь лежит в интервале [ 0.125, 0.25 ).
Пересчет дает:
( 0.2 - 0.125 ) / 0.125 = 0.6.
Это значит, что 3-я буква есть D, и исходный текст при отсутствии информации о
его длине, будет повторяющейся строкой DBDBDB ...
Первоочередной проблемой здесь является высокая точность арифметики для
понимания и опеpиpования со сплошным битовым потоком, каковым выглядит сжатый текст, рассматриваемый в качестве числа. Эта проблема была решена в 1979 году. Эффективность сжатия методом статичного арифметического кодирования будет равна H , только при использовании арифметики неограниченной точности. Но и ограниченной точности большинства машин достаточно, чтобы позволять осуществлять очень хорошее сжатие. Целых переменных длиной 16 битов, 32-битовых произведений и делимых достаточно, чтобы результат адаптивного арифметического сжатия лежал в нескольких процентах от предела и был едва ли не всегда немного лучше, чем у оптимального адаптированного кода Хаффмана, предложенного Уитером.
Как и в случае кодов Хаффмана, статичные арифметические коды требуют двух
проходов или первоначального знания частот букв. Адаптированные арифметические
коды требуют эффективного алгоритма для поддержания и изменения информации о бегущей и накапливаемой частотах по мере обработки букв. Простейший путь для
этого - завести счетчик для каждой буквы, увеличивающий свое значение на еди-
ницу всякий раз, когда встречена сама эта буква или любая из следующих после
нее в алфавите. В соответствии с этим подходом, частота буквы есть разница ме-
жду числом ее появлений и числом появлений ее предшественников. Этот простой
подход может потребовать O(n) операций над буквой n-арного алфавита. В реали-
зованном на Си Уиттеном, Нейлом и Клири алгоритме сжатия арифметических данных, среднее значение было улучшено посредством использования дисциплины move-to-front, что сократило количество счетчиков, значения которых измененяются каждый раз, когда обрабатывается буква.
Дальнейшее улучшение организации распределения накопленной частоты требует
коренного отхода от простых СД. Требования, которым должна отвечать эта СД
лучше изучить, если выразить ее через абстрактный тип данных со следующими
пятью операциями: initialize, update, findletter, findrange и maxrange.
Операция инициализации устанавливает частоту всех букв в 1, и любое
не равное нулю значение будет действовать до тех пор, пока алгоритм кодирова-
ния и раскодирования используют одинаковые начальные частоты. Начальное значе-
ние частоты, равное нулю, будет присваиваться символу в качестве пустого ин-
тервала, т.о. предупреждая его от передачи или получения.
Операция update(c) увеличивает частоту буквы с. Функции findletter и find-
range обратны друг другу, и update может выполнять любое изменение порядка ал-
фавита, пока сохраняется эта обратная связь. В любой момент времени findletter
( f, c, min, max ) будет возвращать букву c и связанный с нею накапливаемый
частотный интервал [ min, max ), где f [ min, max ). Обратная функция find-
range( c, min, max ) будет возвращать значения min и max для данной буквы c.
Функция maxrange возвращает сумму всех частот всех букв алфавита, она нужна
для перечисления накопленных частот в интервале [ 0, 1 ).
Применение расширения к арифметическим кодам.
Ключом к реализации СД, накапливающей значение частот и в худшем случае
требующей для каждой буквы менее, чем O(n) операций для n-буквенного алфавита,
является представление букв алфавита в качестве листьев дерева. Каждый лист
дерева имеет вес, равный частоте встречаемой буквы, вес каждого узла представ-
ляет собой сумму весов его наследников. Рисунок 7 демонстрирует такое дерево
для 4-х-буквенного алфавита ( A, B, C, D ) с вероятностями ( 0.125, 0.125,
0.25, 0.5 ) и частотами ( 1, 1, 2, 4 ). Функция maxrange на таком дереве вы-
числяется элементарно - она просто возвращает вес корня. Функции update и
findrange могут быть вычислены методом обхода дерева от листа к корню, а функ-
ция findletter - от корня к листу.
СД для представления дерева накапливаемых частот по существу такие же, как
и рассмотренные ранее для представления дерева кодов префиксов, с добавлением
массива, хранящего частоты каждого узла.
const
maxchar = ... { maximum source character code };
succmax = maxchar + 1;
twicemax = 2 * maxchar + 1;
root = 1;
type
codetype = 0..maxchar { source character code range };
bit = 0..1;
upindex = 1..maxchar;
downindex = 1..twicemax;
var
up: array[downindex] of upindex;
freq: array[downindex] of integer;
left,right: array[upindex] of downindex;
Инициализация этой структуры включает в себя не только построение древо-
видной СД, но и инициализацию частот каждого листа и узла следующим образом:
procedure initialize;
var
u: upindex;
d: downindex;
begin
for d := succmax to twicemax do freq[d] := 1;
for u := maxchar downto 1 do begin
left[u] := 2 * u;
right[u] := ( 2 * u ) + 1;
freq[u] := freq[left[u]] + freq[right[u]];
up[left[u]] := u;
up[right[u]] := u;
end;
end { initialize };
Для того, чтобы отыскать букву и соответствующий ей интервал накопленной
частоты, когда известна отдельная накопленная частота, необходимо обойти дере-
во начиная с корня по направлению к букве, производя беглое вычисление интер-
вала частот, соответствующего текущей ветке дерева. Интервал, соответствующий
корню, есть [0, freq[root]], он должен содержать f. Если отдельный узел деpева
i связан с интервалом [a, b), где a - b = freq[i], то интервалами, связанными
с двумя поддеревьями будут интервалы [a, a+freq[left[i]] ) и [a+freq[left[i]],
b). Они не пересекаются, поэтому путь вниз по дереву будет таким, что f содер-
жится в подинтервале, связанном с каждым узлом на этом пути. Это показано в
следующей процедуре:
procedure findsymbol( f: integer; var c: codetype; var a, b: integer );
var
i: downindex;
t: integer;
begin
a := 0;
i := root;
b := freq[root];
repeat
t := a + freq[left[i]];
if f < t then begin { повоpот налево }>
i := left[i];
b := t;
end else begin { повоpот напpаво }
i := right[i];
a := t;
end;
until i > maxchar;
c := i - succmax;
end { findsymbol };
Чтобы найти связанный с буквой частотный интервал, процесс, описанный в
findsymbol должен происходить в обратном направлении. Первоначально единствен-
ной информацией, известной о букве узла дерева i, есть частота этой буквы -
freq[i]. Это означает, что интервал [0, freq[i]) будет соответствовать какой-
либо букве, если весь алфавит состоит из нее одной. Дано: интервал [a, b) свя-
зан с некоторым листом подд