По результатам наблюдений найти точечные и интервальные оценки коэффициентов уравнения линейной регрессии у = 0 + 1 х1 + 2 х2 и проверить общее качество уравнения линейной регрессии

Определим вектор оценок коэффициентов регрессии. Согласно методу наименьших квадратов, вектор s получается из выражения: s = (XTX)-1XTY
К матрице с переменными Xj добавляем единичный столбец:
1 8 0
1 2 5
1 9 0
1 7 5
1 0 8
1 8 8
1 3 3
1 3 1
1 4 5
1 0 2
Матрица Y
2
1
5
2
4
6
6
9
7
3
Матрица XT
1 1 1 1 1 1 1 1 1 1
8 2 9 7 0 8 3 3 4 0
0 5 0 5 8 8 3 1 5 2
Умножаем матрицы, (XTX)
XT X=1044374429614137141217
В матрице, (XTX) число 10, лежащее на пересечении 1-й строки и 1-го столбца, получено как сумма произведений элементов 1-й строки матрицы XT и 1-го столбца матрицы X
Умножаем матрицы, (XTY)
XT Y=45198163
Находим обратную матрицу (XTX)-1
(XT X)-1=0,574-0,0561-0,0614-0,05610,01040,00282-0,06140,002820,0133
Вектор оценок коэффициентов регрессии равен
Y(X)=0,574-0,0561-0,0614-0,05610,01040,00282-0,06140,002820,0133∙45198163=4,715-0,00987-0,0464
Уравнение регрессии (оценка уравнения регрессии)
Y = 4.7151-0.00987X1-0.04638X2
Интерпретация коэффициентов регрессии. Константа оценивает агрегированное влияние прочих (кроме учтенных в модели хi) факторов на результат Y и означает, что Y при отсутствии xi составила бы 4.7151. Коэффициент b1 указывает, что с увеличением x1 на 1, Y снижается на 0.00987. Коэффициент b2 указывает, что с увеличением x2 на 1, Y снижается на 0.04638.
Для несмещенной оценки дисперсии проделаем следующие вычисления:
Несмещенная ошибка ε = Y - Y(x) = Y - X∙s (абсолютная ошибка аппроксимации)
Y Y(x) ε = Y - Y(x) ε2 (Y-Yср)2 |ε : Y|
2 4.636 -2.636 6.949 6.25 1.318
1 4.463 -3.463 11.995 12.25 3.463
5 4.626 0.374 0.14 0.25 0.0748
2 4.414 -2.414 5.828 6.25 1.207
4 4.344 -0.344 0.118 0.25 0.086
6 4.265 1.735 3.01 2.25 0.289
6 4.546 1.454 2.113 2.25 0.242
9 4.639 4.361 19.018 20.25 0.485
7 4.444 2.556 6.535 6.25 0.365
3 4.622 -1.622 2.632 2.25 0.541
58.338 58.5 8.071
Средняя ошибка аппроксимации
𝐴 =|ε : Y|n∙100% =8.07110∙100% = 80.71%
Оценка дисперсии равна:
se2=(Y-Y(X))T(Y-Y(X))=58.338
Несмещенная оценка дисперсии равна:
s2=1n-m-1∙se2=110 - 2 - 1∙58.338=8.334
Оценка среднеквадратичного отклонения (стандартная ошибка для оценки Y):
S=S2=8.334=2.887
Найдем оценку ковариационной матрицы вектора k = S2 • (XTX)-1
k(x)=8.330,574-0,0561-0,0614-0,05610,01040,00282-0,06140,002820,0133=4,783-0,467-0,512-0,4670,08640,0235-0,5120,02350,11
Дисперсии параметров модели определяются соотношением S2i = Kii, т.е . это элементы, лежащие на главной диагонали
Sb0=4.783=2.187
Sb1=0.0864=0.294
Sb2=0.11=0.332
Определим доверительные интервалы коэффициентов регрессии, которые с надежность 95% будут следующими:
(bi - ti∙Sbi; bi + ti∙Sbi)
b0: (4.715 - 2.841∙2.187 ; 4.715 + 2.841∙2.187) = (-1.499;10.929)
Поскольку найденный интервал включает 0, то коэффициент b0 не значим.
b1: (-0.00987 - 2.841∙0.294 ; -0.00987 + 2.841∙0.294) = (-0.845;0.825)
Поскольку найденный интервал включает 0, то коэффициент b1 не значим.
b2: (-0.0464 - 2.841∙0.332 ; -0.0464 + 2.841∙0.332) = (-0.991;0.898)
Поскольку найденный интервал включает 0, то коэффициент b2 не значим.
Проверим наличие гетероскедастичности с помощью теста ранговой корреляции Спирмена.
Для х1.
Присвоим ранги признаку |ei| и фактору X.
X |ei| ранг X, dx ранг |ei|, dy
8 2.636 8 8
2 3.463 3 9
9 0.374 10 2
7 2.414 7 6
0 0.344 1 1
8 1.735 8 5
3 1.454 4 3
3 4.361 4 10
4 2.556 6 7
0 1.622 1 4
Так как в матрице имеются связанные ранги (одинаковый ранговый номер) 1-го ряда, произведем их переформирование. Переформирование рангов производиться без изменения важности ранга, то есть между ранговыми номерами должны сохраниться соответствующие соотношения (больше, меньше или равно). Также не рекомендуется ставить ранг выше 1 и ниже значения равного количеству параметров (в данном случае n = 10). Переформирование рангов производится в табл.
Номера мест в упорядоченном ряду Расположение факторов по оценке эксперта Новые ранги
1 1 1.5
2 1 1.5
3 3 3
4 4 4.5
5 4 4.5
6 6 6
7 7 7
8 8 8.5
9 8 8.5
10 10 10
Матрица рангов.
ранг X, dx ранг |ei|, dy (dx - dy)2
8.5 8 0.25
3 9 36
10 2 64
7 6 1
1.5 1 0.25
8.5 5 12.25
4.5 3 2.25
4.5 10 30.25
6 7 1
1.5 4 6.25
55 55 153.5
Проверка правильности составления матрицы на основе исчисления контрольной суммы:
xij = (1+n)n2 = (1+10)102 = 55
Сумма по столбцам матрицы равны между собой и контрольной суммы, значит, матрица составлена правильно.
Поскольку среди значений признаков х и у встречается несколько одинаковых, т.е. образуются связанные ранги, то в таком случае коэффициент Спирмена вычисляется как:
𝑝 = 1 −6d2 + A + Bn3-n
где
A = 112(Aj3 - Aj)
B = 112(Bk3 - Bk)
j - номера связок по порядку для признака х;
Аj - число одинаковых рангов в j-й связке по х;
k - номера связок по порядку для признака у;
Вk - число одинаковых рангов в k-й связке по у.
A = [(23-2) + (23-2) + (23-2)]/12 = 1.5
D = A + B = 1.5
p=1 - 6∙153.5 + 1.5103 - 10=0.0682
Связь между признаком |ei| и фактором X слабая и прямая
Для того чтобы при уровне значимости α проверить нулевую гипотезу о равенстве нулю генерального коэффициента ранговой корреляции Спирмена при конкурирующей гипотезе Hi