Модели множественной регрессии. Свойства коэффициентов множественной регрессии. Проблема мультиколлинеарности

Тема 6. Модели множественной регрессии. Свойства коэффициентов множественной регрессии. Проблема

мультиколлинеарности.

Вопрос 1. Модель с двумя независимыми переменными

При рассмотрении моделей множественной регрессии, т.е. моделей, в которых фактор-переменная y зависит от двух и более независимых переменных, возникают две проблемы.

Первая связана с разграничением эффектов различных независимых переменных. Эта проблема связана с понятием мультиколлинеарности. Данная проблема состоит в оценке общего эффекта нескольких независимых переменных и оценке их отдельных влияний.

Вторая – это проблема спецификации модели. Множественный регрессионный анализ является развитием парного. При построении модели необходимо решить, какие факторы-переменные следует включить в модель и какие исключить из нее, то есть мы должны решить проблему спецификации модели. Пока будем считать, что спецификация модели правильная.

В большинстве моделей используются две независимые переменные. Например, рассмотрим задачу, в которой расходы на питание y зависят от двух факторов: личного дохода x1 и цены продуктов x2. Значения yi, x1i , x2i даны в таблице 6.1:

Таблица 6.1

Допустим, что истинная зависимость между y, x1 и x2 имеет вид:

y = a1x1 + a2x2 + b.        (1)

Если уравнению y = a ⋅ x + b соответствует прямая на плоскости, то уравнению (1) –

некоторая плоскость в пространстве.

Дадим графическую иллюстрацию рассмотренному примеру (рис. 6.1).

Наклонная плоскость показывает величину y, соответствующую любому сочетанию

х1 и х2. Так как расходы на питание могут увеличиваться с ростом доходов и уменьшаться

с ростом цены, изображение на рисунке построено на основе предположения о том, что величина a1 > 0 , а a2 < 0 .

Предположение о том, что х1 и х2 одновременно равны нулю, нереально. Если

x1 = x2 = 0, то из уравнения (1) получаем:

y = b .

a1x1 + b[pic 1][pic 2]

чистый

y        a1x1[pic 3]

b

b

эффект дохода

х1

a2x2 + b

a1x1 + a2x2 + b

комбинированный эффект дохода и цены

чистый эффект цены

ось дохода

ось цен продуктов        х2

При сокращении переменной

Рис. 6.1

x2 до нуля уравнение (1) означает, что для любого