Для двух заданных источников дискретных сообщений рассчитать энтропию объединения. Бесплатный доступ к контрольной работе

Реферат.Справочник
Контрольные работы по информационным технологиям
Для двух заданных источников дискретных сообщений рассчитать энтропию объединения

Для двух заданных источников дискретных сообщений рассчитать энтропию объединения .pdf

Зарегистрируйся в 2 клика в Кампус и получи неограниченный доступ к материалам с подпиской Кампус+ 🔥

Условие

Для двух заданных источников дискретных сообщений рассчитать энтропию объединения: x1 x2 x3 x4 p(xi) 0,25 0,125 0,125 0,5 Матрица условных вероятностей p(yj|xk): y1 y2 y3 y4 y5 y6 x1 0,25 0,25 0,125 0,125 0,125 0,125 x2 0,25 0,125 0,25 0,125 0,125 0,125 x3 0,125 0,25 0,125 0,25 0,125 0,125 x4 0,125 0,125 0,25 0,125 0,25 0,125

Ответ

4,25битсимвол.

Решение

Потяни, чтобы посмотреть

По условию, имеется два источника дискретных сообщений X и Y. Требуется найти энтропию объединения H(X,Y).
Воспользуемся формулой
HX,Y=HX+HYX,
где
HX=-i=14pxilog2pxi- энтропия источника X;
HYX=-i=14j=16pxi,yjlog2pyjxi-общая условная энтропия
источника Y относительно источника X.
Таким образом, чтобы решить поставленную задачу требуется найти вероятности pxi,yj, i=1,2,3,4;j=1,2,3,4,5,6.
Так как
pxi,yj=pxipyjxi,
то
имеем
px1,y1=px1py1x1=0,25∙0,25=0,0625;
px1,y2=px1py2x1=0,25∙0,25=0,0625;
px1,y3=px1py3x1=0,25∙0,125=0,0625…
Продолжая, аналогичным образом, получим таблицу вероятностей
Найдем энтропию HX источника X:
Найдем общую условную энтропию HYX:
Тогда энтропия объединения HX,Y равна
HX,Y=HX+HYX=1,75+2,5=4,25битсимвол.
Ответ: 4,25битсимвол.

50% задачи недоступно для прочтения

Переходи в Кампус, регистрируйся и получай полное решение

Получить задачу