Задана матрица P вероятностей перехода дискретной цепи Маркова за один шаг. Распределение вероятностей по состояниям в начальный момент определяется вектором q. Построить размеченный граф состояний. Найти:
1) матрицу P2 переходов цепи за два шага;
2) распределение вероятностей по состояниям в конце второго шага;
3) вероятность пребывания цепи в третьем состоянии в конце первого шага;
4) стационарное распределение вероятностей.
8. P=0,10,20,70,50,20,30,90,10,q=0,30,10,6
Решение
Изобразим размеченный граф состояний:
1) Находим матрицу переходов за два шага:
P2=P2=0,10,20,70,50,20,30,90,10∙0,10,20,70,50,20,30,90,10=0,740,130,130,420,170,410,140,200,66
2) Распределение вероятностей по состояниям в конце второго шага находим как произведение вектора начальных состояний на матрицу переходов за два шага:
P2=q∙P2=0,30,10,6∙0,740,130,130,420,170,410,140,200,66=0,3480,1760,476
3) Аналогично найдем распределение вероятностей по состояниям в конце первого шага:
P1=q∙P=0,30,10,6∙0,10,20,70,50,20,30,90,10=0,620,140,24
Т.е
. вероятность пребывания цепи в третьем состоянии в конце первого шага равна:
p31=0,24
4) Найдем стационарное распределение вероятностей, для чего записываем соответствующую систему алгебраических уравнений, коэффициентами правой части которой является транспонированная матрица вероятностей переходов:
p1=0,1p1+0,5p2+0,9p3p2=0,2p1+0,2p2+0,1p3p3=0,7p1+0,3p2
Или:
-0,9p1+0,5p2+0,9p3=00,2p1-0,8p2+0,1p3=00,7p1+0,3p2-p3=0
Сложив первое со вторым уравнением, увеличенным в 4,5 раза, получаем:
p3=6227p2
Аналогично из второго и третьего уравнений:
p1=7727p2
Подставляя в нормировочное уравнение p1+p2+p3=1, получаем:
7727p2+p2+6227p2=1 p2=27166
Тогда:
p1=7727p2=77166
p3=6227p2=3183
Получили стационарное распределение вероятностей 77166;27166;3183.