Оценка параметров парной линейной регрессионной модели с помощью метода наименьших квадратов

Коэффициенты α и β в функции парной линейной регрессии α+βxi неизвестны. Их непосредственное определение потребовало бы исследование всей генеральной совокупности, что в экономике, как правило, невозможно. Между тем, используя n выборочных наблюдений - (yi,xi), i=1,n мы можем получить выборочные оценки этих коэффициентов. Обозначим их через a и b. Выборочная оценка уравнения регрессии имеет следующий вид: yi=a+bxi, где yi – расчетное значение переменной y (рассчитанное по оцененному уравнению регрессии).
В соответствии с методом наименьших квадратов значения коэффициентов a и b в оценке уравнения регрессии определяются из условия минимизации суммы квадратов отклонений выборочных значений зависимой переменной (yi) от её значений, рассчитываемых по оцениваемому уравнению регрессии (yi):
i=1n(yi-yi)2=i=1n(yi-a-bxi)2→min
Для нахождения минимума данной функции необходимо взять её частные производные по параметру a и по параметру b. Приравняв полученные частные производные к нулю, получаем систему из двух уравнений с двумя неизвестными, которая после ряда преобразований принимает следующий вид:
na+bi=1nxi=i=1nyiai=1nxi+bi=1nxi2=i=1nxiyi
Решая данную систему уравнений, получаем следующие математические соотношения для расчета оценок коэффициентов линейной функции регрессии:
b=i=1n(xi-x)(yi-y)i=1n(xi-x)2 (3.1)
a=y-bx (3.2)
где b во втором уравнении (3.2) есть значение, получаемое при расчетах по первому уравнению системы (3.1); x, y – выборочные средние.
Оценка коэффициента уравнения регрессии b называется выборочным коэффициентом регрессии (или просто коэффициентом регрессии). Коэффициент регрессии показывает на сколько единиц в среднем изменится значение объясняемой переменной y при изменении значения фактора x на одну единицу. Постоянный член (константа) уравнения регрессии a показывает значение объясняемой переменной y при нулевом значении фактора x. Далеко не для всех эконометрических моделей постоянный член имеет экономическую интерпретацию.
Оцененное уравнение регрессии yi=a+bxi позволяет для каждого выборочного значения фактора xi рассчитать значения результирующей переменной yi (расчетное значение переменной y).
Свойством оценки уравнения регрессии методом наименьших квадратов является ее несмещенность. Сумма отклонений фактических (выборочных) значений объясняемой переменной yi от ее расчетных (найденных по оцененному регрессионному уравнению) значений yi равно нулю:
i=1n(yi-yi)=0
Для вычисления оценок коэффициентов линейной парной регрессии необходимо выполнить промежуточные расчеты, результаты которых представлены в табл.3.1.
Табл.3.1.
i
yi Ср

. цена 1кв.м. жил. площади xi
Ср. душевые доходы населения yi-y
xi-x
(xi-x)2
(yi-y)(xi-x)
1 49,415 25,747 1,23 -0,82 0,67 -1,01
2 52,150 25,913 3,97 -0,65 0,43 -2,59
3 55,207 27,172 7,02 0,61 0,37 4,26
4 42,376 25,261 -5,81 -1,30 1,70 7,57
5 38,911 22,101 -9,27 -4,46 19,93 41,40
6 90,074 41,166 41,89 14,60 213,18 611,63
7 41,907 25,349 -6,28 -1,22 1,48 7,63
8 51,298 28,610 3,11 2,04 4,18 6,37
9 39,562 25,821 -8,62 -0,74 0,55 6,42
10 33,840 23,261 -14,34 -3,30 10,92 47,40
11 35,738 24,475 -12,45 -2,09 4,37 26,01
12 47,726 23,907 -0,46 -2,66 7,07 1,22
сумма 578,204 318,783 0,00 0,00 264,84 756,32
Рассчитаем значения выборочных средних:
y=i=1nyin=578,212=48,18
x=i=1nxin=318,78312=26,565
Расчет оценок коэффициентов линейной функции регрессии зависимости ср. цены 1 кв. метра от уровня денежных доходов населения выполняем с использованием математических соотношений:
b=i=1n(xi-x)(yi-y)i=1n(xi-x)2= 756,32264,84=2,85
a=y-bx=48,18-2,85*26,565=-27,67
Оценка уравнения регрессии с учетом найденных оценок его коэффициентов имеет следующий вид:
yi=-27,67+2,85xi
Значение коэффициента регрессии b=+2,85 означает:
Во-первых, между переменными прямая зависимость, т.е. с ростом денежных доходов в среднем растут и цены на недвижимость,
Во-вторых, увеличение среднедушевых денежных доходов населения на 1 тыс.руб. в среднем приведет к росту цены 1 кв.м. жилой недвижимости на 2850 рублей.
Для каждого выборочного значения уровня денежных доходов населения xi по оцененному уравнению регрессии определим расчетные значения средней цены 1 кв.м. жилой площади yi. Рассчитаем также отклонение выборочных значений цены от ее расчетных значений (yi-yi).
Табл.3.2
i
yi Ср. цена 1кв.м. жил. площади, тыс.руб. xi
Ср.душевые доходы населения, тыс.руб./мес. yi
yi-yi
1 49,415 25,747 45,84698 3,568
2 52,150 25,913 46,32103 5,829
3 55,207 27,172 49,91636 5,291
4 42,376 25,261 44,4591 -2,083
5 38,911 22,101 35,43507 3,476
6 90,074 41,166 89,87915 0,195
7 41,907 25,349 44,71041 -2,804
8 51,298 28,610 54,02287 -2,725
9 39,562 25,821 46,0583 -6,496
10 33,840 23,261 38,74769 -4,908
11 35,738 24,475 42,21452 -6,477
12 47,726 23,907 40,59248 7,134
сумма
0
Равенство нулю суммы всех отклонений выборочный значений цены от ее расчетных значений i=1n(yi-yi)=0 свидетельствует о правильности выполненных расчетов