Изучается зависимость результирующего показателя y от факторов x1 и x2

1. Оценка уравнения регрессии. Определим вектор оценок коэффициентов регрессии. Согласно методу наименьших квадратов, вектор s получается из выражения: s = (XTX)-1XTY
Матрица X
1 0,6 1,5
1 1,6 2,1
1 2,7 2,7
1 3,7 3,2
1 4,8 3,4
1 5,9 3,6
1 7,3 3,7
Матрица Y
0,43
0,62
0,90
1,10
1,30
1,49
1,65
Матрица XТ
1 1 1 1 1 1 1
0,6 1,6 2,7 3,7 4,8 5,9 7,3
1,5 2,1 2,7 3,2 3,4 3,6 3,7
Умножаем матрицы (XTX) с помощью функции МУМНОЖ Excel:
XТX
7 26,6 20,2
26,6 135,04 87,96
20,2 87,96 62,4
В матрице, (XTX) число 7, лежащее на пересечении 1-й строки и 1-го столбца, получено как сумма произведений элементов 1-й строки матрицы XT и 1-го столбца матрицы X.
Умножаем матрицы, (XTY):
XТY
7,49
34,826
23,786
Находим обратную матрицу (XTX)-1
(XТX)-1
6,992569 1,18601 -3,93544
1,18601 0,291655 -0,79505
-3,93544 -0,79505 2,410719
Вектор оценок коэффициентов регрессии равен произведению матриц (XTX)-1 и (XTY):
Y(X)
0,069997
0,129235
0,176354
Уравнение регрессии имеет вид: y=a+b1∙x1+b2∙x2.
Отсюда оценка уравнения регрессии:
y=0,069997+0,1292∙x1+0,1764∙x2
Матрица парных коэффициентов корреляции R.
Число наблюдений n = 7. Число независимых переменных в модели равно 2, а число регрессоров с учетом единичного вектора равно числу неизвестных коэффициентов. С учетом признака Y, размерность матрицы становится равным 4. Матрица, независимых переменных Х имеет размерность (7 х 4).
Матрица Y и X
1 0,43 0,6 1,5
1 0,62 1,6 2,1
1 0,90 2,7 2,7
1 1,10 3,7 3,2
1 1,30 4,8 3,4
1 1,49 5,9 3,6
1 1,65 7,3 3,7
Транспонированная матрица
1 1 1 1 1 1 1
0,43 0,62 0,9 1,1 1,3 1,49 1,65
0,6 1,6 2,7 3,7 4,8 5,9 7,3
1,5 2,1 2,7 3,2 3,4 3,6 3,7
AТA
7 7,49 26,6 20,2
7,49 9,2219 34,826 23,786
26,6 34,826 135,04 87,96
20,2 23,786 87,96 62,4
Полученная матрица имеет следующее соответствие:
n y x1 x2
y y2 yx1 yx2
x1 yx1 x12 x1x2
x2 yx2 x1x2 x22
Для расчётов построим рабочую таблицу:
   x
 x
y  y
yxi  xy
σx2=xi2n- x2  σy2=yi2n- y2
 σx
 σy
y и x1 26,6 3,8 7,49 1,07 34,826 4,975 4,851429 0,172514 2,2026 0,4153
y и x2 20,2 2,8857 7,49 1,07 23,786 3,398 0,586939 0,172514 0,76612 0,4153
x1 и x2 20,2 2,8857 26,6 3,8 87,96 12,566 0,586939 4,851429 0,76612 2,2026
Найдем парные коэффициенты корреляции.
 rxy=xy-x∙yσx∙σy
ryx1=4,975-3,8∙1,072,2026∙0,4153=0,993767
ryx2=3,398-2,8857∙1,070,76612∙0,4153=0,975108
rx1x2=12,5671-2,8857∙3,80,76612∙2,2026=0,948176
Матрица парных коэффициентов корреляции R:
  y x1 x2
y 1    
x1 0,993767 1  
x2 0,975108 0,948176 1
Для отбора наиболее значимых факторов xi учитываются следующие условия:
- связь между результативным признаком и факторным должна быть выше межфакторной связи;
- связь между факторами должна быть не более 0.7 . Если в матрице есть межфакторный коэффициент корреляции rxjxi > 0.7, то в данной модели множественной регрессии существует мультиколлинеарность.;
- при высокой межфакторной связи признака отбираются факторы с меньшим коэффициентом корреляции между ними.
В нашем случае все парные коэффициенты корреляции |r|>0.7, что говорит о наличии мультиколлинеарности факторов.
Модель регрессии в стандартном масштабе предполагает, что все значения исследуемых признаков переводятся в стандарты (стандартизованные значения).
Начало отсчета каждой стандартизованной переменной совмещается с ее средним значением, а в качестве единицы изменения принимается ее среднее квадратическое отклонение σ.
Если связь между переменными в естественном масштабе линейная, то изменение начала отсчета и единицы измерения этого свойства не нарушат, так что и стандартизованные переменные будут связаны линейным соотношением:
ty=βi∙txi
Для оценки β-коэффициентов применим МНК. При этом система нормальных уравнений будет иметь вид:
ryx1=β1+rx1x2∙β2
ryx2=β2+rx1x2∙β1
Для наших данных (берем из матрицы парных коэффициентов корреляции):
0,993767=β1+0,948176∙β2
0,975108=β2+0,948176∙β1
Данную систему линейных уравнений решаем методом Гаусса:
0,993767-0,948176∙β2=β1
β2=0,975108-0,948176∙(0,993767-0,948176∙β2)
β1=0,685336
β2=0,32529
Стандартизированная форма уравнения регрессии имеет вид:
y0 = 0,685336x1 + 0,32529x2
Полученные коэффициенты говорят, что фактор x1 оказывает более значительное влияние на результат по сравнению с фактором x2.
2