Необходимо кодировать в двоичном коде сообщение алфавит которого состоит из двух независимых символов z1 и z2

Произведем кодирование по одному символу
Получим z1 = 1, z2 = 0.
Энтропия
Hpi=-0.92log20.92+0.08log20.08=0.4022
Эффективность кода
χ=Hpilog22=0.40221=0.4022 40.22 %
Произведем кодирование блоками по 2 символа
Вероятность появления блока
p11=p1p1=0.92×0.92=0.8464
p12=p1p2=0.92×0.08=0.0736
p21=p21p1=0.08×0.92=0.0736
p22=p2p2=0.08×0.08=0.0064
Строим объединение вероятностей в соответствии с алгоритмом Хаффмана
x1x1 0,8464
0,8464
0,8464
1
x1x2 0,0736
0,0736
0,1536
x2x1 0,0736
0,0800
x2x2 0,0064
Рисунок 1. Объединение вероятностей при кодировании блоками по два
Строим кодовое дереве и записываем кодовые комбинации
Рисунок 2 . Кодовое дерево Хаффмана при кодировании блоками по два
Таблица 1. Таблица кода при кодировании блоками по два
Блок Код Длина кода Li
x1x1 1 1
x1x2 01 2
x2x1 001 3
x2x2 000 3
Средняя длина кода
L=piLi=0.8464×1+0.0736×2+0.0736×3+0.0064×3=1.2336
Эффективность кода при кодировании блоками по два
χ=2HpiL=2×0.40221.2336=0.8044 80.44 %
Произведем кодирование блоками по 3 символа
Вероятность появления блока
p111=p1p1p1=0.92×0.92×0.92=0.7787
p112=p1p1p2=0.92×0.92×0.08=0.0677
p121=p1p2p1=0.92×0.08×0.92=0.0677
p122=p1p2p2=0.92×0.08×0.08=0.0059
p211=p2p1p1=0.08×0.92×0.92=0.0677
p212=p2p1p2=0.08×0.92×0.08=0.0059
p221=p2p2p1=0.08×0.08×0.08=0.0059
p222=p2p2p2=0.08×0.08×0.08=0.0005
Строим объединение вероятностей в соответствии с алгоритмом Хаффмана
Рисунок 3