Применение расширяющихся деревьев для сжатия данных
Алгоритмы сжатия могут повышать эффективность хранения и передачи данных посредством сокращения количества их избыточности. Алгоритм сжатия берет в ка- честве входа текст источника и производит соответствующий ему сжатый текст, когда как разворачивающий алгоритм имеет на входе сжатый текст и получает из него на выходе первоначальный текст источника (1). Большинство алгоритмов сжа- тия рассматривают исходный текст как набор строк, состоящих из букв алфавита исходного текста.
Избыточность в представлении строки S есть L(S) - H(S), где L(S) есть дли- на представления в битах, а H(S) - энтропия - мера содержания информации, так- же выраженная в битах. Алгоритмов, которые могли бы без потери информации сжать строку к меньшему числу бит, чем составляет ее энтропия, не существует. Если из исходного текста извлекать по одной букве некоторого случайного набо- pа, использующего алфавит А, то энтропия находится по формуле:
--+ 1
H(S) = C(S) p(c) log ---- ,
c A p(c)
где C(S) есть количество букв в строке, p(c) есть статическая вероятность по- явления некоторой буквы C. Если для оценки p(c) использована частота появления каждой буквы c в строке S, то H(C) называется самоэнтропией строки S. В этой статье H (S) будет использоваться для обозначения самоэнтропии строки, взятой из статичного источника.
Модели, основанные на применении статичной вероятности, не позволяют хоро- шо характеризовать многие источники. Например, в английском тексте, буква U менее распространена чем E, поэтому модель статичной вероятности будет непра- вильно предсказывать, что QE должно быть более растространенным сочетанием, чем QU. Хорошо описывать такие источники позволяют вероятностные модели Марко- ва. Источники Маркова имеют множество состояний, смена которых происходит при появлении очередной буквы. Каждое состояние связывается с распределением веро- ятности, определяющим следующее состояние модели и следующую производимую бук- ву. Когда марковский источник, представляющий собой текст, подобный английско- му, выдает букву Q, он установливает состояние, в котором U есть более вероят- ный вывод. Дальнейшее изучение вопросов, связанных с энтропией, статичными ис- точниками и источниками Маркова может быть продолжено в большинстве книг по теории информации [2].
Несмотря на то, что есть большое количество ad hoc подходов к сжатию, на- пример, кодирование длин тиpажей, существуют также и систематические подходы. Коды Хаффмана являются среди них одними из старейших. Адаптированный алгоритм сжатия Хаффмана требует использования схем балансировки дерева, которые можно также применять к структурам данным, необходимым адаптивному алгоритму арифме- тического сжатия. Применение в обоих этих областях расширяющихся деревьев оп- pавдано значительным сходством в них целей балансировки.
Расширяющиеся деревья обычно описывают формы лексикографической упорядо- ченности деpевьев двоичного поиска, но деревья, используемые при сжатии данных могут не иметь постоянной упорядоченности. Устранение упорядоченности приводит к значительному упрощению основных операций расширения. Полученные в итоге ал- горитмы предельно быстры и компактны. В случае применения кодов Хаффмана, pас- ширение приводит к локально адаптированному алгоритму сжатия, котоpый замеча- тельно прост и быстр, хотя и не позволяет достигнуть оптимального сжатия. Ког- да он применяется к арифметическим кодам, то результат сжатия близок к опти- мальному и приблизительно оптимален по времени.
КОДЫ ПРЕФИКСОВ.
Большинство широко изучаемых алгоритмов сжатия данных основаны на кодах Хаффмана. В коде Хаффмана каждая буква исходного текста представляется в архи- ве кодом переменной длины. Более частые буквы представляются короткими кодами, менее частые - длинными. Коды, используемые в сжатом тексте должны подчиняться свойствам префикса, а именно: код, использованный в сжатом тексте не может быть префиксом любого другого кода.
Коды префикса могут быть найдены посредством дерева, в котором каждый лист соответствует одной букве алфавита источника. Hа pисунке 1 показано дерево ко- да префикса для алфавита из 4 букв. Код префикса для буквы может быть прочитан при обходе деpева от корня к этой букве, где 0 соответствует выбору левой его ветви, а 1 - правой. Дерево кода Хаффмана есть дерево с выравненным весом, где каждый лист имеет вес, равный частоте встречаемости буквы в исходном тексте, а внутренние узлы своего веса не имеют. Дерево в примере будет оптимальным, если частоты букв A, B, C и D будут 0.125, 0.125, 0.25 и 0.5 соответственно.
0 0 0
A ---------- o ---------- o ---------- o
| | | A = 000
|1 |1 |1 B = 001
| | | C = 01
B C D D = 1
Рисунок 1. Дерево представления кода префикса.
Обычные коды Хаффмана требуют предварительной информации о частоте встре- чаемости букв в исходном тексте, что ведет к необходимости его двойного про- смотра - один для получения значений частот букв, другой для проведения самого сжатия. В последующем, значения этих частот нужно объединять с самим сжатым текстом, чтобы в дальнейшем сделать возможным его развертывание. Адаптивное сжатие выполняется за один шаг, т.к. код, используемый для каждой буквы исход- ного текста, основан на частотах всех остальных кpоме нее букв алфавита. Осно- вы для эффективной реализации адаптивного кода Хаффмана были заложены Галлаге- ром[3], Кнут опубликовал практическую версию такого алгоритма[5], а Уиттер его pазвил[10].
Оптимальный адаптированный код Уиттера всегда лежит в пределах одного би- та на букву источника по отношению к оптимальному статичному коду Хаффмана, что обычно составляет несколько процентов от H . К тому же, статичные коды Хаффмана всегда лежат в пределах одного бита на букву исходного текста от H ( они достигают этот предел только когда для всех букв p(C) = 2 ). Такие же ограничения могут быть отнесены к источникам Маркова, если статичное или адап- тированное дерево Хаффмана используется для каждого состояния источника, выве- деного из его исходного текста. Существуют алгоритмы сжатия которые могут пре- одолевать эти ограничения. Алгоритм Зива-Лемпелла, например, присваивает слова из аpхива фиксированной длины строкам исходного текста пеpеменной длины[11], а арифметическое сжатие может использовать для кодирования букв источника даже доли бита[12].
Применение расширения к кодам префикса.
Расширяющиеся деревья были впервые описаны в 1983 году[8] и более подpобно рассмотрены в 1985[9]. Первоначально они понимались как вид самосбалансиpован- ных деpевьев двоичного поиска, и было также показано, что они позволяют осуще- ствить самую быструю реализацию приоритетных очередей[4]. Если узел расширяю- щегося дерева доступен, то оно является расширенным. Это значит, что доступный узел становится корнем, все узлы слева от него образуют новое левое поддерево, узлы справа - новое правое поддерево. Расширение достигается при обходе дере- ва от старого корня к целевому узлу и совершении пpи этом локальных изменений, поэтому цена расширения пропорциональна длине пройденного пути.
Тарьян и Слейтон[9] показали, что расширяющиеся деревья статично оптималь- ны. Другими словами, если коды доступных узлов взяты согласно статичному рас- пределению вероятности, то скорости доступа к расширяющемуся дереву и статич- но сбалансированному, оптимизированному этим распределением, будут отличаться друг от друга на постоянный коэффициент, заметный при достаточно длинных сери- ях доступов. Поскольку дерево Хаффмана представляет собой пример статично сба- лансированного дерева, то пpи использовании расширения для сжатия данных, pаз- мер сжатого текста будет лежать в пределах некоторого коэффициента от размера архива, полученного при использовании кода Хаффмана.
Как было первоначально описано, расширение применяется к деревьям, храня- щим данные во внутренних узлах, а не в листьях. Деревья же кодов префикса не- сут все свои данные только в листьях. Существует, однако, вариант расширения, называемый полурасширением, который применим для дерева кодов префикса. При нем целевой узел не перемещается в корень и модификация его наследников не производится, взамен путь от корня до цели просто уменьшается вдвое. Полурас- ширение достигает тех же теоретических границ в пределах постоянного коэффици- ента, что и расширение.
В случае зигзагообразного обхода лексикографического дерева, проведение как расширения, так и полурасширения усложняется, в отличие от прямого маршру- та по левому или правому краю дерева к целевому узлу ( случаи зигзага рассмот- рены в [8], [9] ). Этот простой случай показан на рисунке 2. Воздействие полу- расширения на маршруте от корня ( узел w ) до листа узла A заключается в пере- мене местами каждой пары внутренних следующих друг за другом узлов, в резуль- тате чего длина пути от корня до узла-листа сокращается в 2 раза. В процессе полурасширения узлы каждой пары, более далекие от корня, включаются в новый путь ( узлы x и z ), а более близкие из него исключаются ( узлы w и y ).
0 0 0 0 . 0 0
A ------ --o---------o-- ---- --o---------o . A ----------o-------------o
z| y| x| w| . z| x|
|1 |1 |1 |1 . |1 |1
| | | | . 0 | 0 |
B C D E . B ----------o D ---------o
. y| w|
| . |1 |1
+=======> . | |
. C E
Рисунок 2. Полурасширение вокруг самого левого листа дерева кодов.
Сохранение операцией полурасширения лексикографического порядка в дерева кода префикса не является обязательным. Единственно важным в операциях с кодом префикса является точное соответствие дерева, используемого процедурой сжатия дереву, используемому процедурой развертывания. Любое его изменение, допущен- ное между последовательно идущими буквами, производится только в том случае, если обе процедуры осуществляют одинаковые изменения в одинаковом порядке.
Hенужность поддержки лексикографического порядка значительно упрощает про- ведение операции полурасширения за счет исключения случая зигзага. Это может быть сделано проверкой узлов на пути от корня к целевому листу и переменой ме- стами правых наследников с их братьями. Назовем это ПОВОРОТОМ дерева. Тепеpь новый код префикса для целевого листа будет состоять из одних нулей, поскольку он стал самым левым листом. На рисунке 3 дерево было повернуто вокруг листа C. Эта операция не нарушает никаких ограничений представления полурасширения. До- казательство этого просто выводится из потенциальной функции, приведенной в [9] для доказательства независимости ограничений представления от порядка сле- дования поддеревьев узла.
0 0 . 0 0 0 0
A ----------o----------o . C ----------o----------o----------o----------o
x| w| . z| y| x| w|
|1 |1 . |1 |1 |1 |1
0 | | . | | | |
B ----------o E . D B A E
y| =====>
|1 .
0 | .
C ----------o .
z| .
|1 .
| .
D .
Рисунок 3. Поворот вокруг C исключает необходимость зигзагообразного полурасширения.
Второе упрощение возникает, когда мы обнаруживаем, что можем по желанию менять между собой не только наследников одного узла, но и все внутренние узлы дерева кодов префиксов, поскольку они анонимны и не несут информации. Это по- зволяет заменить используемую в полурасширении операцию обоpота на операцию, требующую обмена только между двумя звеньями в цепи, которую будем называть ПОЛУОБОРОТОМ. Она показано на рисунке 4. Эта операция оказывает такое же влия- ние на длину пути от каждого листа до корня, как и полный обоpот, но уничтожа- ет лексикографический порядок, выполняя в нашем примере отсечение и пересадку всего двух ветвей на дереве, в то время как полный обоpот осуществляет отсече- ние и пересадку 4 ветвей.
0 0 0 0
A ------ -----o------------o C ------------o------------o
x| w| x| w|
|1 |1 |1 |1
| =====> | |
| | | |
| | | |
B C B A
Рисунок 4. Полуобоpот вокруг A.
Настоящей необходимости поворачивать дерево перед операцией полурасширения нет. Вместо этого полурасширение может быть применено к маршруту от корня к целевой вершине как к самому левому пути. Например, дерево на рисунке 3 может быть расширено напрямую как показано на рисунке 5. В этом примере дерево полу- расширяется вокруг листа C, используя полуобоpот для каждой пары внутренних узлов на пути от C к корню. Обратите внимание, что в результате этой перемены каждый лист располагается на одинаковом расстоянии от корня, как если бы деpе- во было сначала повернуто так, что C был самым левым листом, а затем полурас- ширено обычным путем. Итоговое дерево отличается только метками внутренних уз- лов и переменой местами наследников некоторых из них.
Необходимо отметить, что существуют два пути полурасширения дерева вокруг узла, различающиеся между собой четной или нечетной длиной пути от корня к листу. В случае нечетной длины узел на этом пути не имеет пары для участия в обоpоте или полуобоpоте. Поэтому, если пары строятся снизу вверх, то будет пропущен корень, если наоборот, то последний внутренний узел. Представленная здесь реализация ориентирована на подход сверху-вниз.
0 0 . 0 0
A -------- --o-----------o . A -----------o-----------------o
x| w| . x| w|
|1 |1 . |1 |1
| . | |
0 | | . | 0 |
B -----------o E . E C -----------o
y| =====> y|
|1 . |1
| . |
0 | . 0 |
C -----------o . B -----------o
z| . z|
. |1
|1 . |
| . |
D . D
Рисунок 5. Полурасширение вокруг C с использованием полуобоpота.
Алгоритм расширяемого префикса.
Представленная здесь программа написана по правилам языка Паскаль с выра- жениями, имеющими постоянное значение и подставляемыми в качестве констант для повышения читаемости программы. Структуры данных, используемые в примере, реа- лизованы на основе массивов, даже если логическая структура могла быть более ясной при использовании записей и ссылок. Это соответствует форме представле- ния из ранних работ по этой же тематике [5,10], а также позволяет осуществлять и простое решение в более старых, но широко используемых языках, таких как Фо- ртран, и компактное представление указателей. Каждый внутренний узел в дереве кодов должен иметь доступ к двум своим наследникам и к своему родителю. Самый простой способ для этого - использовать для каждого узла 3 указателя: влево, вправо и вверх. Такое представление, обсуждаемое в [9] было реализовано только при помощи двух указателей на узел(2), но при этом компактное хранение их в памяти будет компенсировано возрастанием длительности выполнения программы и запутанностью ее кода. Нам потребуются следующие основные структуры данных:
const
maxchar = ... { максимальный код символа исходного текста };
succmax = maxchar + 1;
twicemax = 2 * maxchar + 1;
root = 1;
type
codetype = 0..maxchar { кодовый интервал для символов исходного текста };
bit = 0..1;
upindex = 1..maxchar;
downindex = 1..twicemax;
var
left, right: array[upindex] of downindex;
up: array[downindex] of upindex;
Типы upindex и downindex используются для указателей вверх и вниз по дере- ва кодов. Указатели вниз должны иметь возможность указывать и на листья, и на внутренние узлы, в то время как ссылки вверх указывают только на внутренние узлы. Внутренние узлы будут храниться ниже листьев, поэтому значения индексов между 1 и maxchar включительно будут применены для обозначения ссылок на внут- ренние узлы, когда как значения индексов между maxchar + 1 и 2 * maxchar + 1 включительно - ссылок на листья. Заметим что корень дерева всегда находится в 1-ой ячейке и имеет неопределенного родителя. Cоотвествующая листу буква может быть найдена вычитанием maxchar + 1 из его индекса.
Если окончание текста источника может быть обнаружено из его контекста, то коды исходного алфавита все находятся в интервале codetype, а максимально воз- можное в этом тексте значение кода будет maxchar. В противном случае, интервал codetype должен быть расширен на один код для описания специального символа "конец файла". Это означает, что maxchar будет на 1 больше значения максималь- ного кода символа исходного текста.
Следующая процедура инициализирует дерево кодов. Здесь строится сбаланси- рованное дерево кодов, но на самом деле, каждое начальное дерево будет удовле- творительным до тех пор, пока оно же используется и для сжатия и для разверты- вания.
procedure initialize;
var
i: downindex;
j: upindex;
begin
for i := 2 to twicemax do
up[i] := i div 2;
for j := 1 to maxchar do
begin
left[j] := 2 * j;
right[j] := 2 * j + 1;
end
end { initialize };
После того, как каждая буква сжата ( развернута ) с помощью текущей версии дерева кодов, оно должно быть расширено вокруг кода этой буквы. Реализация этой операции показана в следующей процедуре, использующей расширение снизу- вверх:
procedure splay(plain: codetype);
var
c, d: upindex { пары узлов для полуобоpота };
a, b: downindex { вpащаемые наследники узлов };
begin
a := plain + succmax;
repeat { обход снизу вверх получередуемого дерева }
c := up[a];
if c #0root then
begin { оставляемая пара }
d := up[c];
{ перемена местами наследников пары }
b := left[d];
if c = b then
begin
b := right[d];
right[d] := a;
end
else
left[d] := a;
if a = left[c] then
left[c] := b;
else
right[c] := b;
up[a] := d;
up[b] := c;
a := d;
end
else
a := c { управление в конце нечетным узлом };
until a = root;
end { splay };
Чтобы сжать букву исходного текста ее нужно закодировать, используя дере- во кодов, а затем передать. Поскольку процесс кодирования производится при об- ходе дерева от листа к корню, то биты кода записываются в обpатном порядке. Для изменения порядка следования битов процедура compress пpименяет свой стек, биты из которого достаются по одному и передаются процедуре transmit.
procedure compress(plain: codetype);
var
a: downindex;
sp: 1..succmax;
stack: array[upindex] of bit;
begin
{ кодирование }
a := plain + succmax;
sp := 1;
repeat { обход снизу вверх дерева и помещение в стек битов }
stack[sp] := ord(right[up[a]] = a);
sp := sp + 1;
a := up[a];
until a = root;
repeat { transmit }
sp := sp - 1;
transmit(stack[sp]);
until sp = 1;
splay(plain);
end { compress };
Для развертывания буквы необходимо читать из архива следующие друг за дру- гом биты с помощью функции receive. Каждый прочитанный бит задает один шаг на маршруте обхода дерева от корня к листу, определяющем разворачиваемую букву.
function expand: codetype;
var
a: downindex;
begin
a := root;
repeat { один раз для каждого бита на маршруте }
if receive = 0 then
a := left[a]
else
a := rignt[a];
until a >
maxchar;
splay(a - succmax);
expand := a - succmax;
end { expand };
Процедуры, управляющие сжатием и развертыванием, просты и представляют со- бой вызов процедуры initialize, за которым следует вызов либо compress, либо expand для каждой обрабатываемой буквы.
Характеристика алгоритма расширяемого префикса.
На практике, расширяемые деревья, на которых основываются коды префикса, хоть и не являются оптимальными, но обладают некоторыми полезными качествами. Прежде всего это скорость выполнения, простой программный код и компактные структуры данных. Для алгоритма расширяемого префикса требуется только 3 мас- сива, в то время как для Л-алгоритма Уитерса, вычисляющего оптимальный адапти- рованный код префикса, - 11 массивов [10]. Предположим, что для обозначения множества символов исходного текста используется 8 бит на символ, а конец фай- ла определяется символом, находящимся вне 8-битового предела, maxchar = 256, и все элементы массива могут содержать от 9 до 10 битов ( 2 байта на большинстве машин)(3). Неизменные запросы памяти у алгоритма расширяемого префикса состав- ляют приблизительно 9.7К битов (2К байтов на большинстве машин). Подобный под- ход к хранению массивов в Л-алгоритме требует около 57К битов (10К байтов на большинстве машин ).
Другие широко применяемые алгоритмы сжатия требуют еще большего простран- ства, например, Уэлч советует для реализации метода Зива-Лемпела [11] исполь- зовать хеш-таблицу из 4096 элементов по 20 битов каждый, что в итоге составля- ет уже 82К битов ( 12К байтов на большинстве машин ). Широко используемая ко- манда сжатия в системе ЮНИКС Беркли применяет код Зива-Лемпела, основанный на таблице в 64К элементов по крайней мере в 24 бита каждый, что в итоге дает 1572К битов ( 196К байтов на большинстве машин ).
В таблица I показано как Л-алгоритм Уиттера и алгоритм расширяющегося пре- фикса характеризуются на множестве разнообразных тестовых данных. Во всех слу- чаях был применен алфавит из 256 отдельных символов, расширенный дополнитель- ным знаком конца файла. Для всех файлов, результат работы Л-алгоритма находит- ся в пределах 5% от H и обычно составляет 2% от H . Результат работы алгорит- ма расширяющегося префикса никогда не превышает H больше, чем на 20%, а иног- да бывает много меньше H .
Тестовые данные включают программу на Си (файл 1), две программы на Паска- ле (файлы 2 и 3) и раннюю редакцию данной статьи (файл 4). Все 4 текстовые фа- йлы используют множество символов кода ASCII с табуляцией, заменяющей группы из 8 пробелов в начале, и все пробелы в конце строк. Для всех этих файлов Л- алгоритм достигает результатов, составляющих примерно 60% от размеров исходно- го текста, а алгоритм расширения - 70%. Это самый худший случай сжатия, наблю- даемый при сравнении алгоритмов.
Два объектых файла М68000 были сжаты ( файлы 5 и 6 ) также хорошо, как и файлы вывода TEX в формате .DVI ( файл 7 ). Они имеют меньшую избыточность, чем текстовые файлы, и поэтому ни один метод сжатия не может сократить их раз- мер достаточно эффективно. Тем не менее, обоим алгоритмам удается успешно сжать данные, причем алгоритм расширения дает результаты, большие результатов работы Л-алгоритма приблизительно на 10%.
Были сжаты три графических файла, содержащие изображения человеческих лиц ( файлы 8, 9 и 10 ). Они содержат различное число точек и реализованы через 16 оттенков серого цвета, причем каждый хранимый байт описывал 1 графическую точ- ку. Для этих файлов результат работы Л-алгоритма составлял приблизительно 40% от первоначального размера файла, когда как алгоритма расширения - только 25% или 60% от H . На первый взгляд это выглядит невозможным, поскольку H есть теоретический информационный минимум, но алгоритм расширения преодолевает его за счет использования марковских характеристик источников.
Последние 3 файла были искусственно созданы для изучения класса источни- ков, где алгоритм расширяемого префикса превосходит ( файлы 11, 12 и 13 ) все остальные. Все они содержат одинаковое количество каждого из 256 кодов симво- лов, поэтому H одинакова для всех 3-х файлов и равна длине строки в битах. Файл 11, где полное множество символов повторяется 64 раза, алгоритм расшире- ния префикса преобразует незначительно лучше по сравнению с H . В файле 12 множество символов повторяется 64 раза, но биты каждого символа обращены, что препятствует расширению совершенствоваться относительно H . Ключевое отличие между этими двумя случаями состоит в том, что в файле 11 следующие друг за другом символы вероятно исходят из одного поддерева кодов, в то время как в файле 12 это маловероятно. В файле 13 множество символов повторяется 7 раз, причем последовательность, образуемая каждым символом после второго повторения множества, увеличивается вдвое. Получается, что файл заканчивается группой из 32 символов "a", за которой следуют 32 символа "b" и т.д. В этом случае алго- ритм расширяемого префикса принимает во внимание длинные последовательности повторяющихся символов, поэтому результат был всего 25% от H , когда как Л-ал- горитм никогда не выделял символ, вдвое более распространенный в тексте отно- сительно других, поэтому на всем протяжении кодирования он использовал коды одинаковой длины.
Когда символ является повторяющимся алгоритм расширяемого префикса после- довательно назначает ему код все меньшей длины: после по крайней мере log n повторений любой буквы n-буквенного алфавита, ей будет соответствовать код длиной всего лишь в 1 бит. Это объясняет блестящий результат применения алго- ритма расширения к файлу 13. Более того, если буквы из одного поддерева дерева кодов имеют повторяющиеся ссылки, алгоритм уменьшит длину кода сразу для всех букв поддерева. Это объясняет, почему алгоритм хорошо отработал для файла 11.
+======+========+========+=========+==========+==========+============+
| file | type | bytes | bits | H(s) | bits | splay bits |
+======+========+========+=========+==========+==========+============|
| 1 | C | 12090 | 96720 | 58880.2 | 60176 | 66344 |
| 2 | Pascal | 3632 | 29056 | 16882.0 | 17544 | 19608 |
| 3 | Pascal | 9720 | 77760 | 45788.6 | 46704 | 53552 |
| 4 | text | 55131 | 441048 | 270814.9 | 274032 | 309496 |
| 5 | object | 32207 | 257656 | 193665.3 | 196760 | 206280 |
| 6 | object | 41456 | 331648 | 249270.7 | 252312 | 263744 |
| 7 | .DVI | 41881 | 335048 | 257542.3 | 260592 | 282304 |
| 8 | image | 46187 | 369496 | 147296.7 | 149056 | 94936 |
| 9 | image | 60141 | 481128 | 183023.7 | 186032 | 115576 |
| 10 | image | 144981 | 1159848 | 506817.1 | 515304 | 262376 |
| 11 | test | 16385 | 131080 | 131080.2 | 132552 | 122296 |
| 12 | test | 16385 | 131080 | 131080.2 | 132592 | 144544 |
| 13 | test | 16385 | 131080 | 131080.2 | 132552 | 32424 |
+======+========+========+=========+==========+==========+============+
Таблица I. Результаты тестирования Л-алгоритма и алгоритма расширяемого префикса.
Среди графических данных редко когда бывает, чтобы несколько последова- тельных точек одной графической линии имели одинаковую цветовую интенсивность, но в пределах любой области с однородной структурой изображения, может быть применено свое распределение статичной вероятности. При сжатии последователь- ных точек графической линии, происходит присвоение коротких кодов тем точкам, цвета которых наиболее распространены в текущей области. Когда алгоритм пере- ходит от области с одной структурой к области с другой структурой, то короткие коды быстро передаются цветам, более распространенным в новой области, когда как коды уже не используемых цветов постепенно становятся длиннее. Исходя из характера такого поведения, алгоритм расширяемого префикса можно назвать ЛО- КАЛЬНО АДАПТИВНЫМ. Подобные локально адаптивные алгоритмы способны достигать приемлимых результатов пpи сжатии любого источника Маркова, который в каждом состоянии имеет достаточную длину, чтобы алгоритм приспособился к этому состо- янию.
Другие локально адаптированные алгоритмы сжатия данных были предложены Кнутом[5] и Бентли et al [1]. Кнут предложил локально адаптированный алгоритм Хаффмана, в котором код, используемый для очередной буквы определяется n пос- ледними буквами. Такой подход с точки зрения вычислений ненамного сложнее, чем простые адаптированные алгоритмы Хаффмана, но соответствующее значение n зави- сит от частоты изменения состояний источника. Бентли et al предлагает исполь- зовать эвристическую технику перемещения в начало ( move-to-front ) для орга- низации списка последних использованных слов ( предполагая, что текст источни- ка имеет лексическую ( словарную ) структуру ) в соединении с локально адапти- рованным кодом Хаффмана для кодирования количества пробелов в списке. Этот код Хаффмана включает периодическое уменьшение весов всех букв дерева посредством умножения их на постоянное число, меньше 1. Похожий подход использован в [12] для арифметических кодов. Периодическое уменьшение весов всех букв в адаптив- ном коде Хаффмана или в арифметическом коде даст результат во многих отношени- ях очень схожий с результатом работы описанного здесь алгоритм расширения.
Компактные структуры данных, требуемые алгоритмом расширяемого префикса, позволяют реализуемым моделям Маркова иметь дело с относительно большим числом состояний. Например, модели более чем с 30 состояниями могут быть реализованы в 196К памяти, как это сделано в команде сжатия в системе ЮНИКС Беркли. Пред- лагаемая здесь программа может быть изменена для модели Маркова посредством добавления одной переменной state и массива состояний для каждого из 3-х мас- сивов, реализующих дерево кодов. Деревья кодов для всех состояний могут быть инициированы одинаково, и один оператор необходимо добавить в конец процедуры splay для изменения состояния на основании анализа предыдущей буквы ( или в более сложных моделях, на основании анализа предыдущей буквы и предыдущего со- стояния ).
Для системы с n состояниями, где предыдущей буквой была С, легко использо- вать значение С mod n для определения следующего состояния. Такая модель Мар- кова слепо переводит каждую n-ю букву алфавита в одно состояние. Для сжатия текстового, объектного и графического ( файл 8 ) файлов значения n изменялись в пределах от 1 до 64. Результаты этих опытов показаны на рисунке 6. Для объ- ектного файла было достаточно модели с 64 состояниями, чтобы добиться резуль- тата, лучшего чем у команды сжатия, основанной на методе Зива-Лемпела, а мо- дель с 4 состояниями уже перекрывает H . Для текстового файла модель с 64 со- стояниями уже близка по результату к команде сжатия, а модель с 8 состояниями достаточна для преодоления барьера H . Для графических данных ( файл 8 ) моде- ли с 16 состояниями достаточно, чтобы улучшить результат команды сжатия, при этом все модели по своим результатам великолепно перекрывают H . Модели Марко- ва более чем с 8 состояниями были менее эффективны, чем простая статичная мо- дель, применяемая к графическим данным, а самый плохой результат наблюдался для модели с 3 состояниями. Это получилось по той причине, что использование модели Маркова служит помехой локально адаптированному поведению алгоритма ра- сширяемого префикса.
+тыс. H
Б |
и |
т 200| сжатие в UNIX
ы |
|
с |
ж |
а |
т 100|
о | o---------------o-------------------------------o
г |
о | o - объектный файл
| o - текстовой файл
т | o - графический файл
е +++-+---+-------+---------------+-------------------------------+
к 2 4 8 16 32 64
с Состояния модели Маркова.
т
а
Рисунок 6. Характеристика алгоритма расширяющегося префикса с марковской моделью.
Оба алгоритма, Л- и расширяемого префикса, выполняются по времени прямо пропорционально размеру выходного файла, и в обоих случаях, выход в наихудшем варианте имеет длину O(H ), т.о. оба должны выполняться в худшем случае за время O(H ). Постоянные коэффициенты отличаются, поскольку алгоритм расширяе- мого префикса производит меньше работы на бит вывода, но в худшем случае про- изводя на выходе больше битов. Для 13 файлов, представленных в таблице I, Л- алгоритм выводит в среднем 2К битов в секунду, когда как алгоритм расширяемого префикса - более 4К битов в секунду, т.о. второй алгоритм всегда намного быст- рее. Эти показатели были получены на рабочей станции М68000, серии 200 9836CU Хьюлет Паккард, имеющей OC HP-UX. Оба алгоритма были реализованы на Паскале, сходным по описанию с представленным здесь языком.
АРИФМЕТИЧЕСКИЕ КОДЫ.
Tекст, полученный при сжатии арифметических данных, рассматривается в ка- честве дроби, где каждая буква в алфавите связывается с некоторым подинтерва- лом открытого справа интервала [0,1). Текст источника можно рассматривать как буквальное представление дроби, использующей систему исчисления, где каждая буква в алфавите используется в качестве числа, а интервал значений, связанных с ней зависит от частоты встречаемости этой буквы. Первая буква сжатого текста (самая "значащая" цифра) может быть декодирована нахождением буквы, полуинтеp- вал которой включает значение пpедставляющей текст дроби. После определения очередной буквы исходного текста, дробь пересчитывается для нахождения следую- щей. Это осуществляется вычитанием из дроби основы связанной с найденной бук- вой подобласти, и делением результата на ширину ее полуинтервала. После завер- шения этой операции можно декодировать следующую букву.
В качестве примера арифметического кодирования рассмотрим алфавит из 4-х букв (A, B, C, D) с вероятностями ( 0.125, 0.125, 0.25, 0.5 ). Интервал [ 0,1) может быть разделен следующим образом:
A = [ 0, 0.125 ), B = [ 0.125, 0.25 ), C = [ 0.25, 0.5 ), D = [ 0.5, 1 ). Деление интервала легко осуществляется посредством накопления вероятностей ка- ждой буквы алфавита и ее предшественников. Дан сжатый текст 0.6 ( представлен- ный в виде десятичной дроби ), тогда первой его буквой должна быть D, потому что это число лежит в интервале [ 0.5, 1 ). Пересчет дает результат:
( 0.6 - 0.5 ) / 0.5 = 0.2
Второй буквой будет B, т.к. новая дробь лежит в интервале [ 0.125, 0.25 ). Пересчет дает:
( 0.2 - 0.125 ) / 0.125 = 0.6.
Это значит, что 3-я буква есть D, и исходный текст при отсутствии информации о его длине, будет повторяющейся строкой DBDBDB ...
Первоочередной проблемой здесь является высокая точность арифметики для понимания и опеpиpования со сплошным битовым потоком, каковым выглядит сжатый текст, рассматриваемый в качестве числа. Эта проблема была решена в 1979 году [6]. Эффективность сжатия методом статичного арифметического кодирования будет равна H , только при использовании арифметики неограниченной точности. Но и ограниченной точности большинства машин достаточно, чтобы позволять осуществ- лять очень хорошее сжатие. Целых переменных длиной 16 битов, 32-битовых произ- ведений и делимых достаточно, чтобы результат адаптивного арифметического сжа- тия лежал в нескольких процентах от предела и был едва ли не всегда немного лучше, чем у оптимального адаптированного кода Хаффмана, предложенного Уитером.
Как и в случае кодов Хаффмана, статичные арифметические коды требуют двух проходов или первоначального знания частот букв. Адаптированные арифметические коды требуют эффективного алгоритма для поддержания и изменения информации о бегущей и накапливаемой частотах по мере обработки букв. Простейший путь для этого - завести счетчик для каждой буквы, увеличивающий свое значение на еди- ницу всякий раз, когда встречена сама эта буква или любая из следующих после нее в алфавите. В соответствии с этим подходом, частота буквы есть разница ме- жду числом ее появлений и числом появлений ее предшественников. Этот простой подход может потребовать O(n) операций над буквой n-арного алфавита. В реали- зованном на Си Уиттеном, Нейлом и Клири алгоритме сжатия арифметических данных [12], среднее значение было улучшено посредством использования дисциплины move -to-front, что сократило количество счетчиков, значения которых измененяются каждый раз, когда обрабатывается буква.
Дальнейшее улучшение организации распределения накопленной частоты требует коренного отхода от простых СД, используемых в [12]. Требования которым должна отвечать эта СД лучше изучить, если выразить ее через абстрактный тип данных со следующими пятью операциями: initialize, update, findletter, findrange и maxrange. Операция инициализации устанавливает частоту всех букв в 1, и любое не равное нулю значение будет действовать до тех пор, пока алгоритм кодирова- ния и раскодирования используют одинаковые начальные частоты. Начальное значе- ние частоты, равное нулю, будет присваиваться символу в качестве пустого ин- тервала, т.о. предупреждая его от передачи или получения.
Операция update(c) увеличивает частоту буквы с. Функции findletter и find- range обратны друг другу, и update может выполнять любое изменение порядка ал- фавита, пока сохраняется эта обратная связь. В любой момент времени findletter ( f, c, min, max ) будет возвращать букву c и связанный с нею накапливаемый частотный интервал [ min, max ), где f [ min, max ). Обратная функция find- range( c, min, max ) будет возвращать значения min и max для данной буквы c. Функция maxrange возвращает сумму всех частот всех букв алфавита, она нужна для перечисления накопленных частот в интервале [ 0, 1 ).
Применение расширения к арифметическим кодам.
Ключом к реализации СД, накапливающей значение частот и в худшем случае требующей для каждой буквы менее, чем O(n) операций для n-буквенного алфавита, является представление букв алфавита в качестве листьев дерева. Каждый лист дерева имеет вес, равный частоте встречаемой буквы, вес каждого узла представ- ляет собой сумму весов его наследников. Рисунок 7 демонстрирует такое дерево для 4-х-буквенного алфавита ( A, B, C, D ) с вероятностями ( 0.125, 0.125, 0.25, 0.5 ) и частотами ( 1, 1, 2, 4 ). Функция maxrange на таком дереве вы- числяется элементарно - она просто возвращает вес корня. Функции update и findrange могут быть вычислены методом обхода дерева от листа к корню, а функ- ция findletter - от корня к листу.
A/1 ------- o ------ o ------ o
2| 4| 8|
| | |
B/1 C/2 D/4
Рисунок 7. Дерево накапливаемых частот.
СД для представления дерева накапливаемых частот по существу такие же, как и рассмотренные ранее для представления дерева кодов префиксов, с добавлением массива, хранящего частоты каждого узла.
const
maxchar = ... { maximum source character code };
succmax = maxchar + 1;
twicemax = 2 * maxchar + 1;
root = 1;
type
codetype = 0..maxchar { source character code range };
bit = 0..1;
upindex = 1..maxchar;
downindex = 1..twicemax;
var
up: array[downindex] of upindex;
freq: array[downindex] of integer;
left, right: array[upindex] of downindex;
Инициализация этой структуры включает в себя не только построение древо- видной СД, но и инициализацию частот каждого листа и узла следующим образом:
procedure initialize;
var
u: upindex;
d: downindex;
begin
for d := succmax to twicemax do
freq[d] := 1;
for u := maxchar downto 1 do
begin
left[u] := 2 * u;
right[u] := (2 * u) + 1;
freq[u] := freq[left[u]] + freq[right[u]];
up[left[u]] := u;
up[right[u]] := u;
end;
end { initialize };
Для того, чтобы отыскать букву и соответствующий ей интервал накопленной частоты, когда известна отдельная накопленная частота, необходимо обойти дере- во начиная с корня по направлению к букве, производя беглое вычисление интер- вала частот, соответствующего текущей ветке дерева. Интервал, соответствующий корню, есть [0, freq[root]], он должен содержать f. Если отдельный узел деpева i связан с интервалом [a, b), где a - b = freq[i], то интервалами, связанными с двумя поддеревьями будут интервалы [a, a+freq[left[i]] ) и [a+freq[left[i]], b). Они не пересекаются, поэтому путь вниз по дереву будет таким, что f содер- жится в подинтервале, связанном с каждым узлом на этом пути. Это показано в следующей процедуре:
procedure findsymbol(f: integer; var c: codetype; var a, b: integer);
var
i: downindex;
t: integer;
begin
a := 0;
i := root;
b := freq[root];
repeat
t := a + freq[left[i]];
if f <
t then
begin { повоpот налево }
i := left[i];
b := t;
end
else
begin { повоpот напpаво }
i := right[i];
a := t;
end;
until i >
maxchar;
c := i - succmax;
end { findsymbol };
Чтобы найти связанный с буквой частотный интервал, процесс, описанный в findsymbol должен происходить в обратном направлении. Первоначально единствен- ной информацией, известной о букве узла дерева i, есть частота этой буквы - freq[i]. Это означает, что интервал [0, freq[i]) будет соответствовать какой- либо букве, если весь алфавит состоит из нее одной. Дано: интервал [a, b) свя- зан с некоторым листом поддерева с корнем в узле i, тогда может быть вычислен интервал, связанный с этим листом в поддереве up[i]. Если i - левый наследник, то это просто интервал [ a, b ), если правый, то - [ a + d, b + d ), где d = freq[up[i]] - freq[i], или, что одно и то же: d = freq[left[up[i]]].
procedure findrange(c: codetype; var a, b: integer);
var
i: downindex;
d: integer;
begin
a := 0;
i := c + succmax;
b := freq[i];
repeat
if right[up[i]] = i then
begin { i is right child }
d := freq[left[up[i]]];
a := a + d;
b := b + d;
end;
i := up[i];
until i = root;
end { findrange };
Если проблема сохранения сбалансированности в дереве накапливаемых частот не стоит, то функция update будет тривиальной, состоящей из обхода дерева от изменяемого листа до корня, сопровождающегося увеличением значения каждого встреченного узла на единицу. В противном случае время, затраченное на опера- ции findletter, findrange и update при первоначально сбалансированном дереве будет в сpеднем O(log n) на одну букву для n-буквенного алфавита. Это лучше, чем худший вариант O(n), достигаемый посредством применения линейной СД (с ор- ганизацией move-to-front или без нее ), но может быть улучшено еще.
Заметьте, что каждая буква, сжатая арифметическим методом требует обраще- ния к процедуре findrange, за которым следует вызов update. Т.о. путь от корня к букве в дереве накапливаемых частот будет проделан дважды во время сжатия и дважды во время развертывания. Минимизация общего времени сжатия или разверты- вания сообщения требует минимизации общей длины всех путей, пройденных в дере- ве. Если частоты букв известны заранее, то статичное дерево Хаффмана будет ми- нимизировать длину этого маршрута! Длина пути для сообщения S будет ограниче- на значением 2(Hs(S) + C(S)), где C(S) - количество букв в строке, а множитель 2 отражает тот факт, что каждый маршрут проходится дважды.
Нет смысла в использовании дерева накапливаемых частот, если все вероят- ности известны заранее, что позволяет применять простую поисковую таблицу для нахождения вероятностей. Если они неизвестны, то оптимальный Л-алгоритм Уитте- ра может быть легко модифицирован для управления деревом накапливаемых частот, причем длина пути обхода дерева, имеющая место во время сжатия или развертыва- ния не будет превышать значение 2( H (S) + C(S) ). Аналогично можно использо- вать алгоритм расширяющегося префикса, дающего ограничение O(H (S)) для длины пути, но при большем постоянном множителе. Ранее пpиведенные опытные результа- ты показывают, что эти постоянные множители более чем компенсируются простотой алгоритма расширяющегося префикса.
x w x - A + C w
A ------ -----o------------o C ------------o------------o
| | | |
| =====> | |
| | | |
B C B A + 1
Рисунок 8. Полуобоpот в дереве накапливаемых частот.
В соответствии с этим алгоритмом операции расширения не нужно затрагивать информации внутренних узлов дерева. Когда расширение выполняется как часть операции update, каждая операция полувpащения должна предохранять инвариацию регулирования весов узлов дерева. На рисунке 8 дерево полувpащается вокруг А, имея результатом то, что вес Х сокращается весом А и наращивается весом С. В то же время, поскольку это есть часть повторного пути от А к корню, вес А уве- личивается. Итоговый код будет:
procedure update(c: codetype);
var
c, d: upindex { пара полувpащаемых узлов };
a, b: downindex { наследники полувpащемых узлов };
begin
a := c + succmax;
repeat { вверх по дереву, чередуя и наращивая }
c := up[a];
if c #0root then
begin { оставшаяся пара }
d := up[c];
{ обмен между наследниками пары }
b := left[d];
if c = b then
begin
b := right[d];
right[d] := a;
end
else
left[d] := a;
if a = left[c] then
left[c] := b
else
right[c] := b;
up[a] := d;
up[b] := c;
freq[c] := (freq[c] - freq[a]) + freq[b];
freq[a] := freq[a] + 1;
a := d;
end
else
begin { помещение непарного ( нечетного ) узла в конец пути }
freq[a] := freq[a] + 1;
a := up[a];
end;
until a = root;
freq[root] := freq[root] + 1;
end { update };
Программа игнорирует проблему переполнения счетчиков частот. Арифметичес- кое сжатие данных постоянно производит вычисление по формуле a * b / c, и предел точности результата вычисления определяется размером памяти, выделяе- мой промежуточным произведениям и делимым, а не самим целочисленным перемен- ным. Многие 32-битные машины накладывают 32-битовое ограничение на произведе- ния и делимые, и т.о. на самом деле устанавливают 16-битовый предел на пред- ставление целых чисел a, b и c в вышеуказанном выражении. Когда это ограниче- ние передается коду самой программе архиватора, то чистый результат имеет ог- раничение в 16383 для максимального значения, возвращаемого функцией maxrange или значения freq[root]. Поэтому, если сжатый файл имеет длину более 16383 байтов, необходимо периодически пересчитывать все частоты в СД, чтобы втис- нуть их в этот интервал. Простой путь для этого - разделить значения всех частот на маленькую константу, например 2, и округлением вверх предохранить частоты от обнуления.
Значения листьев в дереве накапливаемых частот легко могут быть пересчи- таны делением на 2, но значения внутренних узлов пересчитать на так легко из- за трудности распространения округляемых результатов вверх по дереву. Прос- тейший способ перестройки дерева показан в следующей процедуре:
procedure rescale;
var
u: upindex;
d: downindex;
begin
for d := succmax to twicemax do
freq[d] := (freq[d] + 1) div 2;
for u := maxchar downto 1 do
begin
left[u] := 2 * u;
right[u] := (2 * u) + 1;
freq[u] := freq[left[u]] + freq[right[u]];
up[left[u]] := u;
up[right[u]] := u;
end;
end { rescale };
Характеристика арифметических кодов.
Hа основе алгоpитма Виттена, Нейла и Клири[12] вышепредставленные процеду- ры были обьединены в среде языка Паскаль. Как и ожидалось, значительной разни- цы между сжатыми текстами, полученными в результате работ первоначального и модифицированного алгоритмов арифметического сжатия не оказалось. Обычно эти тексты имеют одинаковую длину.
3 + Объектный
| Текстовой
| Графический
|
2 |
s 10 |
------ |
C(S) |
1 |
|
| o - Пеpвоначальный (move-to-front).
| o - Модифициpованный (pасшиpяющиеся деpевья).
0 +-------+-------+-------+-------+-------+-------+-------+-------+
0 1 2 3 4 5 6 7 8
H (S) / C(S)
Рисунок 9. Характеристика алгоритмов арифметического сжатия.
Рисунок 9 показывает скорость двух этих алгоритмов как функцию от H . Вре- мя представлено в милисекундах на байт исходного текста, а энтропия - в битах на байт источника. Файлы с 2 битами/байт и 8 битами/байт созданы искусственно, а остальные представляют собой:
- цифровой графический файл, использующий 16 оттенков серого цвета ( 3.49 бит/байт );
- текстовой файл ( 4.91 бит/байт исходного текста );
- M68000 объектный файл ( 6.02 бит/байт ).
Время измерялось на рабочей станции HP9836 в среде HP-UX.
Как показано на рисунке 9, применение расширения к дереву накапливаемых частот улучшает алгоритм move-to-front, используемый Виттеном, Нейлом и Клири [12], только когда сжимаемые данные имеют энтропию больше, чем 6.5 бит/байт. Ниже этого значения метод move-to-front всегда работает немного лучше расшире- ния. Т.о. расширение или другие подходы к балансированию дерева накапливаемых частот вероятно не оправдываются пpи сжатии данных, использующих 256-буквен- ный алфавит. Однако, опыты показывают, что для большего алфавита pасширение может быть лучшим подходом.
Заключение.
Представленный здесь алгоритм расширяемого префикса является вероятно са- мым простым и быстрым адаптивным алгоритмом сжатия, основанном на использова- нии кода префикса. Его характерные черты - очень небольшое количество требуе- мой ОП и локально адаптивное поведение. Когда доступны большие объемы памяти, использование этого алгоритма вместе с моделью Маркова часто позволяет сжать данные лучше, чем это делают конкурирующие алгоритмы на этом же объеме памяти.
Преимущества алгоритма расширяющегося префикса нагляднее всего видны при сжатии графических данных. Локально адаптированный характер алгоритма позволя- ет сжимать изображение к меньшему количеству бит, чем самоэнтропия, измеренная у статичного источника. В итоге, простая модель Маркова, применяемая в алго- ритме расширяющегося префикса, часто позволяет осуществить лучшее сжатие, чем широко используемый алгоритм Зива-Лемпела на сопоставимом объеме памяти.
Алгоритмы арифметического сжатия данных могут выполняться за время O(H ) при использовании дерева накапливаемых частот, балансируемого эвристическим расширением для требуемой алгоритмом статистической модели. Это создает но- вое ограничение, поэтому простой эвристический метод помещения в начало ( move -to-front ) является более эффективным для маленьких типовых алфавитов(4).
И алгоритм расширяющегося префикса, и использование расширения для управ- ления деревом накапливаемых частот служат полезными иллюстрациями применения расширения для управления лексикогpафически неупорядоченными деревьями. Идея поворота, предваряющего расширение дерева, может найти применение и в нелекси- кографических деревьях, равно как и понятие полуобоpота для балансировки таких деревьев. Например, их можно применять для слияния, пpи использовании двоично- го дерева с 2-я путями слияния для построения n-путевого слияния. У Сарасвата уже появлялись подобные идеи при разработке средств слияния деревьев на Проло- ге[7].
Интересно отметить, что по сравнению с другими адаптивными схемами сжатия, потеря здесь 1 бита из потока сжатых данных является катастрофой! Поэтому pе- шение проблемы восстановления этой потери представляет несомненный интерес, что кроме того предполагает возможность использования таких схем сжатия в кри- птографии. Хорошо известно, что сжатие сообщения перед его шифровкой увеличи- вает трудность взламывания кода просто потому, что поиск кода основан на избы- точности информации в зашифрованном тексте, а сжатие сокращает это излишество. Новая возможность, представленная в описанных здесь алгоритмах сжатия, состо- ит в использовании начального состояния дерева префикса кодов или начального состояния дерева накапливаемых частот в качестве ключа для прямого шифрования в процессе сжатия. Алгоритм арифметического сжатия может кроме того усложнить работу взломщика кодов тем, что границы букв не обязательно находятся также и между битами.
Ключевое пространство для такого алгоритма шифрования огромно. Для n букв алфавита существует n! перестановок на листьях каждого из C деревьев, содер- жащих n - 1 внутренних узлов, где C = ( 2i )! / i! ( i+1 )! есть i-ое число Каталана. Это произведение упрощается к ( 2( n-1 ) )! / ( n-1 )!. Для n = 257 ( 256 букв с символом end-of-file конца файла ) это будет 512!/256! или что-то меньшее 2 . Компактное целое представление ключа из этого пространства будет занимать 675 байт, поэтому несомненно такие большие ключи могут поставить в тупик. На практике одно из решение будет заключаться в начале работы с уже сбалансированным деревом, как и в рассмотренном здесь алгоритмах сжатия, а за- тем расширении этого дерева вокруг каждого символа из ключевой строки, предос- тавленной пользователем. Вpяд ли они будет вводить ключи длиной 675 байт, хо- тя, чтобы позволить расширению установить дерево во все возможные состояния, нужны ключи еще длиннее чем этот, но даже короткий ключ может позволить осу- ществить шифрование на приемлемом уровне.
------------------------------------------------------------------------------
(1) Такие алгоритмы являются без помех. В этой статье алгоpитмы с помехами или приближенные не рассматриваются.
(2) В [9] в случае тройственной реализации необходим лишний бит на узел, чтобы отличать только левого наследника от только правого, но поскольку дерево кодов префикса целиком двоичное, этот бит здесь не нужен.
(3) Перемены в кодовых стандартах позволяют массиву иметь индексы от 0 до 255 вместо от 1 до 256, что ведет к экономию памяти в обоих алгоритмах.
(4) Алистер Моффэт из мельнбургского университета независимо достиг тех же ре- зультатов используя СД выведенную из имплицитной груды подобного материа- ла.
Литература.
1. Bently,J.l., Sleator,D.D., Tarjan,R.E., and Wei,V.K.
A locally adaptive data compression scheme.
Communications of the ACM. 29, 4 ( Apr. 1986 ), 320-330.
2. Gallagen,R.G.
Information Theory and Reliable Communication.
John Wiley & Sons, New York, 1968.
3. Gallager,R.G.
Variations on a theme by Huffman.
IEEE Trans.Inform.Theory IT-24, 6 ( Nov.1978 ), 666-674.
4. Jones,D.W.
An empirical comparison of priority queue and set inplementations.
Communication of the ACM. 29, 4 ( Apr. 1986 ), 300-311.
5. Knuth,D.E.
Dynamic Huffman coding.
J.Algorithms 6, 2 ( Feb. 1985 ), 163-180.
6. Rubin,F.
Arithmetic stream coding using fixed precision registers.
IEEE Trans.Inform.Theory IT-25, 6 ( Nov. 1979 ), 672-675.
7. Saraswat,V.
Merge trees using splaying - or how to splay in parralel and bottom-up.
PROLOG Digest 5, 22 ( Mar. 27, 1987 ).
8. Sleator,D.D., and Tarjan,R.E.
Self-adjusting binary trees.
In Proceedings of the ACM SIGACT Symposium on Theory of Computing
( Boston, Mass., Apr.25-27 ).ACM, New York, 1983, pp.235-245.
9. Tarjan,R.E., and Sleator,D.D.
Self-adjusting binary search trees.
J.ACM 32, 3 ( July 1985 ), 652-686.
10. Vitter,J.S.
Two papers on dynamic Huffman codes.
Tech.Rep.CS-85-13.Brown University Computer Science,
R.I. Revised Dec.1986.
11. Welch,T.A.
A technique for high-performance data compression.
IEEE Comput. 17, 6 ( June 1984 ), 8-19.
12. Witten,I.H.,Neal,R.M., and Cleary,J.G.
Arithmetic coding for data compression.
Communication of the ACM. 30, 6 ( June 1987 ), 520-540.
DelphiWorld 6.0