Всё для Учёбы — студенческий файлообменник
1 монета
ppt

Студенческий документ № 015467 из ВАВТ

Автокорреляция

Лекция 7 Автокорреляция

• Природа автокорреляции

• Последствия автокорреляции

• Диагностика автокорреляции (тесты)

• Методы решения проблемы автокорреляции

Классические условия регрессионного анализа (условия Гаусса-Маркова)

• Регрессионная модель линейна по параметрам (коэффициентам)

и корректно специфицирована.

• Все объясняющие переменные являются детерминированными,

но достаточно вариабельными.

• Случайные возмущения имеют нулевое среднее.

• Случайные возмущения имеют постоянную дисперсию.

• Случайные возмущения не коррелируют друг с другом.

• Ни одна из объясняющих переменных не является строгой

линейной функцией других объясняющих переменных.

• Случайные возмущения распределены нормально (необязательное,

но часто используемое условие).

V. Наблюдаемые значения случайных возмущений

НЕ коррелируют друг с другом

(ковариационная матрица случайных

возмущений является диагональной)

Модель без автокорреляции

Если просто сказать, что

V. Наблюдаемые значения случайных возмущений коррелируют друг с другом

(ковариационная матрица случайных возмущений НЕ является диагональной)

Модель обобщенного МНК

Модель с автокорреляцией - частный случай модели Обобщенного МНК

Модель обобщенного МНК в общем виде - с неизвестной произвольной матрицей не имеет решения.

Чтобы решить, нужно задать структуру этой матрицы,

т.е. предположить,

КАК именно зависит случайное возмущение от предшествующих значений возмущений?

Ковариационная матрица

случайных возмущений

В ней на главной диагонали стоят дисперсии случайных возмущений для каждого i, а остальные элементы этой матрицы - это ковариации для каждой пары i и j.

Разумеется, матрица симметрична

Кроме того, напомним, что

Виды автокорреляции

• Истинная автокорреляция

(вызывается зависимостью случайного члена от прошлых его значений)

• Ложная автокорреляция

(вызывается ошибочной спецификацией модели регрессии)

Пример данных с автокорреляцией

Пример данных

с положительной автокорреляцией

Пример данных

с отрицательной автокорреляцией

Последствия автокорреляции случайных возмущений

• Истинная автокорреляция не приводит

к смещению оценок коэффициентов регрессии.

• Положительная автокорреляция приводит

к увеличению дисперсии (т.е. ошибок)

оценок коэффициентов.

• Автокорреляция вызывает занижение оценок стандартных ошибок коэффициентов регрессии.

Последствия автокорреляции

случайных возмущений-2

• Иначе говоря, оценки коэффициентов регрессии классическим методом наименьших квадратов

в случае автокорреляции возмущений также являются несмещенными и состоятельными.

• Таким образом, для определения прогнозных значений зависимой переменной Y обычный МНК применим и для модели с автокорреляцией возмущений.

• Однако результаты, связанные с анализом точности и надежности модели, оценкой значимости и построением доверительных интервалов ее коэффициентов, оказываются непригодными.

• В этом случае оценки коэффициентов не будут эффективными (дисперсия не минимальна),

и при небольших выборках можно подучить оценки, существенно отличающиеся от истинных значений.

Последствия автокорреляции

случайных возмущений-2

• Иначе говоря, оценки коэффициентов регрессии классическим методом наименьших квадратов

в случае автокорреляции возмущений также являются несмещенными и состоятельными.

• Таким образом, для определения прогнозных значений зависимой переменной Y обычный МНК применим и для модели с автокорреляцией возмущений.

• Однако результаты, связанные с анализом точности и надежности модели, оценкой значимости и построением доверительных интервалов ее коэффициентов, оказываются непригодными.

• В этом случае оценки коэффициентов не будут эффективными (дисперсия не минимальна),

и при небольших выборках можно подучить оценки, существенно отличающиеся от истинных значений.

Модель с автокорреляцией простейшего вида

Здесь - это случайные возмущения в моменты t и t -1, - коэффициент авторегрессии,

а- независимые в совокупности случайные величины, имеющие одинаковое нормальное распределение с

и причем

статистически не зависит от для s

Ковариационная матрица случайных возмущений для модели AR(1)

Для простейшей модели с автокорреляцией случайных возмущений первого порядка

Ковариационная матрица представляется в следующем виде

где ? коэффициент автокорреляции первого порядка.

Порядок авторегрессии

авторегрессия первого порядка

авторегрессия второго порядка

авторегрессия p-го порядка

Обнаружение автокорреляции

случайных возмущений

Предварительная работа

• Подумать, нет ли очевидных ошибок

в спецификации (функции) модели?

• Можно ли содержательно предполагать какой-то порядок автокорреляции возмущений? Сезонность? Цикличность?

• Рассмотреть графики зависимости объясняющей переменной Y от номера наблюдения.

• Рассмотреть графики зависимости остатков et

от предыдущих остатков et-1 .

Обнаружение автокорреляции

случайных возмущений

Тесты на автокорреляцию

• Тест Дарбина -Уотсона

(Durbin - Watson test)

• Тест Бреуша-Годфри

(Breusch - Godfree test)

• Тест Люинга-Бокса

(Luing - Box test)

Обнаружение автокорреляции.

Тест Дарбина-Уотсона

• Статистика Дарбина-Уотсона предназначена для обнаружения автокорреляции первого порядка. Она основана на изучении остатков уравнения регрессии.

• Статистика Дарбина-Уотсона не предназначена для обнаружение других видов автокорреляции (второго порядка, сезонной автокорреляции) и не обнаруживает ее.

• В модели регрессии должен присутствовать постоянный член. Для регрессии без постоянного члена применение статистики Дарбина- Уотсона некорректно.

• Лаговая зависимая переменная не используется в качестве независимой.

Статистика Дарбина - Уотсона

Расчет статистики Дарбина-Уотсона

гдеостатки уравнения регрессии.

Статистика Дарбина - Уотсона

Расчет статистики Дарбина-Уотсона

гдеостатки уравнения регрессии.

Связь статистики Дарбина - Уотсона

с коэффициентом автокорреляции

Легко показать что

где выборочный коэффициент автокорреляции

первого порядка (т.е. коэффициент корреляции между соседними наблюдениями).

При отсутствии автокорреляции первого порядка выборочный коэффициент r1 будет не сильно отличаться

от нуля, а значение статистики DW будет близко к 2.

Если DW близко к нулю - положительная автокорреляция, если к 4 - отрицательная.

Тест Дарбина-Уотсона

• Провести обычную регрессию и получить остатки

• Приписать рядом столбец этих же остатков, но со сдвигом в 1

(опустив его на 1 позицию) и вычислить разности

• Вычислить квадраты разностей этих остатков (с лагом 1)

и сумму этих квадратов.

• Вычислить статистику DW (отношение полученной суммы

к сумме квадратов остатков, т.е. к ESS!)

• По таблице Дарбина-Уотсона определить два граничных числа

dL и dU и использовать особое ПРАВИЛО для проверки гипотезы об отсутствии автокорреляции;

при этом возможны четыре ответа: автокоррелляции нет,

есть положительная автокорреляция, есть отрицательная автокорреляция и ответ неопределен.

Правило проверки гипотезы об отсутствии

автокорреляции в тесте Дарбина-Уотсона

Для каждого n (число наблюдений), k (число регрессоров)

и (уровень значимости) по таблице распределения Дарбина-Уотсона определяются два "критических" граничных числа dL и dU такие, что

если наблюдаемое значение статистики DW:

0 dL dU 4 - dU

4 - dL Тест Бреуша - Годфри

Идея теста Бреуша - Годфри: если есть корреляция между

соседними наблюдениями, то в уравнении

коэффициент ? окажется значимым.

• Провести обычную регрессию и получить остатки

(на множестве исходных независимых переменных).

• Приписать к столбцу этих остатков этот же столбец, сдвинутый

вниз на 1 позицию. Выделить их общую часть длиной n - 1.

• Построить вторую регрессию столбца остатков

в качестве Y от сдвинутого столбца остатков

• Для проверки гипотезы гомоскедастичности использовать значимость коэффициента ?, полученного во второй регрессии : если он значим, то гипотеза об отсутствии автокорреляции отвергается.

Преимущества теста на автокорреляцию

Бреуша-Годфри

• Тест Бреуша-Годфри в отличие от теста Дарбина-Уотсона является статистическим критерием

и не содержит никакой зоны неопределенности.

• Тест Бреуша-Годфри легко обобщается для проверки гипотезы автокорреляции более высокого порядка,

чем первый - достаточно в число регрессоров второй регрессии включить остатки с лагом 2, 3 и т.д.

Что делать при обнаружении автокорреляции

• Использовать обобщенный метод наименьших квадратов (OLS). Преобразовать модель

с автокорреляцией к классическому виду.

• Применить одну из итерационных процедур (Кохрейна-Оркатта и др.)

• Переопределить переменные

(например, перейти к логарифмам).

• Пересмотреть спецификацию модели.

При ложной автокорреляции попытаться

перейти к нелинейной регрессии.

Модель с автокорреляцией простейшего вида

Здесь - это случайные возмущения в моменты t и t -1, - коэффициент авторегрессии,

а- независимые в совокупности случайные величины, имеющие одинаковое нормальное распределение с

и причем

статистически не зависит от для s

Преодоление автокорреляции-1

• Случай. Коэффициент авторегрессии ? известен.

Рассмотрим исходное уравнение для предыдущего наблюдения

Преодоление автокорреляции-2

• Случай. Коэффициент авторегрессии ? известен (продолжение)

Преодоление автокорреляции-2

• Случай. Коэффициент авторегрессии ? известен (продолжение)

Устранение автокорреляции

и обобщенный МНК

Можно сказать, что выполненные преобразования

модели с автокорреляцией случайных возмущений

в классическую есть реализация доступного обобщенного МНК.

Преодоление автокорреляции-3

2. Случай. Коэффициент авторегрессии ? НЕизвестен.

Выполняется одна из итеративных процедур

(Кохрейна-Оркатта, Хилдрета-Лу, Дарбина и другие).

На каждом шаге строится своя регрессия, а полученные оценки коэффициентов модели и автокорреляции используются на следующем шаге.

Процедура Кохрейна-Оркатта

(Cochrane-Orcutt)

• Провести обычную регрессию и получить остатки

(начало похоже на тест Бреуша-Годфри).

• Построить вторую регрессию столбца остатков

от сдвинутого столбца остатков

• В качестве приближенного значения коэффициента ? использовать оценку из второй регрессии.

• Выполнить преобразование модели с автокорреляцией

в классическую при помощью этой оценки.

• Провести новую регрессию и получить новые оценки B.

• Вычислить новые остатки.

• Все повторять сначала до тех пор, пока оценки

не перестанут изменяться.

Показать полностью…
483 Кб, 18 апреля 2013 в 7:56 - Россия, Москва, ВАВТ, 2013 г., ppt
Рекомендуемые документы в приложении