По заданному графу состояний Марковской цепи написать переходную матрицу вероятностей. При начальном распределении P10=1, P20=P30=P40=0 найти наиболее вероятное состояние на третьем шаге. Найти предельные (финальные) вероятности состояний цепи.
№ a1
a2
a3
a4
a5
a6
a7
8 0,2 0,2 0,5 0,5 0,7 0,3 0,5
Граф состояний
Решение
Нанесем на граф заданные вероятности:
Найдем переходную матрицу вероятностей. Из графа состояний системы имеем: p12=0,2; p13=0,5; p14=0. Поскольку сумма переходных вероятностей образует полную группу событий, то
p11=1-p12+p13+p14=1-0,2+0,5+0=0,3.
Аналогично:
p21=0,2; p23=0,5; p24=0⇒p22=1-0,2+0,5+0=0,3;
p31=0; p32=0; p34=0,7⇒p33=1-0+0+0,7=0,3;
p41=0,5; p42=0,3; p43=0⇒p44=1-0,5+0,3+0=0,2.
Таким образом, переходная матрица вероятностей имеет вид:
Pij= -65074-44730,3 0,2 0,5 0
0,2 0,3 0,5 0
0 0 0,3 0,7
0,5 0,3 0 0,2
Если для однородной Марковской цепи заданы начальное распределение вероятностей (P10=1, P20=P30=P40=0) и матрица переходных вероятностей Pij, то вероятности состояний системы Pi(k) (i, j = 1, 2, …, n) определяются по рекуррентной формуле:
Pik=j=1nPj(k-1)∙pji, n=4.
Определим вероятности состояний Pi1 на первом шаге:
P11=j=14Pj(0)∙pj1=P10∙p11+P20∙p21+P30∙p31+P40∙p41=
=P10∙p11=1∙0,3=0,3;
P21=P10∙p12+P20∙p22+P30∙p32+P40∙p42=P10∙p12=0,2;
P31=P10∙p13+p20∙p23+P30∙p33+P40∙p43=P10∙p13=0,5;
P41=P10∙p14+P20∙p24+P30∙p34+P40∙p44=P10∙p14=0.
Т.е
. вероятности состояний системы после первого шага определяются первой строкой переходной матрицы.
Определим вероятности состояний Pi2 на втором шаге:
P12=j=14Pj(1)∙pj1=P11∙p11+P21∙p21+P31∙p31+P41∙p41=
=0,3∙0,3+0,2∙0,2+0,5∙0+0∙0,3=0,13;
P22=P11∙p12+P21∙p22+P31∙p32=0,3∙0,2+0,2∙0,3+0,5∙0=
=0,12;
P32=P11∙p13+P21∙p23+P31∙P33=0,3∙0,5+0,2∙0,5+0,5∙0,3=
=0,4;
P42=P11∙p14+P21∙P24+P31∙P34=0,3∙0+0,2∙0+0,5∙0,7=
=0,35.
Проверка: P12+P22+P32+P42=0,13+0,12+0,4+0,35=1.
Определим вероятности состояний Pi3 на третьем шаге:
P13=0,13∙0,3+0,12∙0,2+0,4∙0+0,35∙0,5=0,238;
P23=0,13∙0,2+0,12∙0,3+0,4∙0+0,35∙0,3=0,167;
P33=0,13∙0,5+0,12∙0,5+0,4∙0,3+0,35∙0=0,245;
P43=0,13∙0+0,12∙0+0,4∙0,7+0,35∙0,2=0,35.
Проверка:
P13+P23+P33+P44=0,238+0,167+0,245+0,35=1.
Наиболее вероятное состояние на третьем шаге - E4, так как имеет наибольшую вероятность - P43=0,35.
Для нахождения финальных вероятностей uj состояний цепи, транспонируем переходную матрицу и решим матричное уравнение:
PTij∙Uj=Uj, которое равносильно системе уравнений:
0,3u1+0,2u2+0u3+0,5u4=u10,2u1+0,3u2+0u3+0,3u4=u20,5u1+0,5u2+0,3u3+0u4=u30u1+0u2+0,7u3+0,2u4=u4u1+u2+u3+u4=1⇒-0,7u1+0,2u2+0,5u4=00,2u1-0,7u2+0,3u4=00,5u1+0,5u2-0,7u3=00,7u3-0,8u4=0u1+u2+u3+u4=1⇒
-0,7u1+0,2u2+0,5u4=00,2u1-0,7u2+0,3u4=0∙50,5u1+0,5u2-0,7u3=0∙20,7u3-0,8u4=0u1+u2+u3+u4=1 ⇒-0,7u1+0,2u2+0,5u4=0u1-3,5u2+1,3125u3=02-(3)u1+u2-1,4u3=0u4=0,875u3u1+u2+u3+u4=1⇒
-0,7u1+0,2u2+0,5u4=0-4,5u2+2,7125u3=0u1+u2-1,4u3=0u4=0,875u3u1+u2+u3+u4=1⇒-0,7u1+0,2u2+0,5u4=0u2≈0,6028u3u1+0,6028u3-1,4u3=0u4=0,875u3u1+u2+u3+u4=1⇒
-0,7u1+0,2u2+0,5u4=0u2≈0,6028u3u1≈0,7972u3u4=0,875u30,7972u3+0,6028u3+u3+0,875u3=1⇒u1≈0,2434u2≈0,1841u3≈0,3053u4=0,2672.
Итак, финальные вероятности: Uj=0,240,180,310,27.
Ответ