Автоматика и телемеханика, № 3, 2015
Стохастические системы, системы массового обслуживания
© 2015 г. В.Б. ГОРЯИНОВ, канд. физ.-мат. наук (Московский государственный технический университет им. Н.Э. Баумана), Е.Р. ГОРЯИНОВА, канд. физ.-мат. наук (Национальный исследовательский университет "Высшая школа экономики", Москва)
АСИМПТОТИЧЕСКИЕ СВОЙСТВА ЗНАКОВОЙ ОЦЕНКИ КОЭФФИЦИЕНТОВ АВТОРЕГРЕССИОННОГО ПОЛЯ1
Для процесса пространственной авторегрессии порядка (1,1) установлены состоятельность и асимптотическая нормальность знаковой оценки. Вычислена асимптотическая относительная эффективность знаковой оценки по отношению к оценке наименьших квадратов, исследовано ее поведение при различных распределениях обновляющего поля.
1. Введение
Рассмотрим процесс пространственной авторегрессии — стационарное поле Ху на прямоугольной целочисленной плоской решетке, описываемое рекуррентным соотношением
(1) Ху = аюХг-и + 001X^-1 + 011X1-1,^-1 + еу, г] = 0, ±1, ±2,... ,
где а = (а10,а01 ,а11) — авторегрессионные коэффициенты, а еу — обновляющее поле, представляющее собой независимые одинаково распределенные случайные величины с нулевым математическим ожиданием Ееу = 0. Авторегрессионные поля вида (1) встречаются при анализе и обработке изображений, например при моделировании текстуры поверхности и фильтрации изображений [1, 2], а также в экономике [3], в том числе как составная часть более сложных экономических моделей.
В основе классических методов оценивания коэффициентов уравнения (1) лежат принципы максимального правдоподобия и наименьших квадратов (см. [4, 5] и библиографию в них). Эти принципы позволяют получить оптимальные оценки в предположении, что распределение вероятности случайных величин еу известно, например является нормальным. Однако на практике распределение еу обычно известно лишь приблизительно и, в частности, предположение о нормальности выполняется не всегда. В этих случаях оценки, основанные на традиционных методах, как правило, недостаточно
1 Работа выполнена при поддержке Аналитической ведомственной целевой программы "Развитие научного потенциала высшей школы (2010-2012 г.)", проект № 2.1.1/227.
эффективны. Возникает необходимость применения непараметрических методов оценивания, ориентированных на широкий класс распределений е^.
Одним из таких методов является знаковый метод, появившийся еще в XVIII в. и хорошо зарекомендовавший себя в последние десятилетия [6]. Знаковый метод использует не сами наблюдения Х^, а только знаки остатков
(2) (а) = — а\оХг-1^ — ао1Хга-1 — а\\Хг-
и основан на предположении о том, что функция распределения ¥(х) ошибок должна удовлетворять условию ¥(0) =
В [7] получены локально наиболее мощные знаковые критерии проверки гипотез о коэффициентах уравнения (1). Показано, что распределение вероятности статистик построенных знаковых критериев не зависит от распределения вероятности ошибок е^ и асимптотически нормально даже при бесконечной дисперсии е^. Распределение вероятности статистик не изменится и в том случае, если е^ не будут одинаково распределенными, — нужно лишь выполнение условия ^у(О) = | для функции распределения ^(ж) величин е^. На основе статистик локально наиболее мощных знаковых критериев предложен метод построения точечных оценок авторегрессионных коэффициентов, основанных на знаках остатков.
В данной статье доказана состоятельность и асимптотическая нормальность знаковой оценки, вычислена ее асимптотическая относительная эффективность по отношению к оценке наименьших квадратов. Это позволило сравнить знаковую оценку с оценкой наименьших квадратов при различных предположениях о распределении вероятности обновляющего поля е^.
2. Знаковые критерии проверки гипотез о параметрах авторегрессионного поля
Рассмотрим стационарное поле (1), где е^ — независимые одинаково распределенные случайные величины с неизвестной функцией распределения вероятности ¥(х), а0 = (а!°о, а01, а11) — неизвестный вектор параметров уравнения (1), подлежащий оцениванию. Достаточные условия стационарности Х^ приведены в [4, 8].
Обозначим
—1, если х < 0,
, ч Г —1, если х < 0, 81ёп(х) = \ 1, если х > 0.
Перейдем от наблюдений Х^ к знакам Б^(а) = 8щп(е^ (а)) остатков (2). Определим множество {5^(а)} рекуррентным соотношением
(а) = (а) + ао^-^а) + а^-^-^а), г] = 1,2,...,
с граничными условиями
5оо(а) = 1, 5ко(а) = (аю)к, к> 0, 5ог(а) = (а01), I > 0, 5^ (а) =0, г < 0 или ] < 0.
Обозначим
zij (а) = E E Ski(a)Sk-i,i-j(a), i = 0, l,...,m, j = 0, l,...,n, k=i+i i=j+i l m—1—p n—1—q
= E E M^+PW«*), (p,<?)ex={(l,0),(0,l),(l,l)}, ^ i=0 j=0
W (a) = (Wio(a),Woi(a),Wn (a)). Определим матрицу
/К(1,0, l, 0) K(1,0,0, l) K(1,0, l, i)N
(3) K = K(l, 0,0, l) k(0, l, 0, l) K(0, l, l, l)
\K(l, 0, l, l) K(0, l, l, l) K(l, l, l, l)/
с элементами
(4) K(p,q,a,e) = ЕЕ5ij(a0)^í+|p—a|,j+|q—e|(a0), (p,q) G I, (a,в) .
i=0 j=0
В [7] получены локально наиболее мощные знаковые критерии проверки
+ и Н-рд ±л-рд>
гипотезы H0 : a = a0 против односторонних альтернатив H+ и Hpq, (p, q) G I, вида
Hpq : aPq > a°q, aw = aki для любых (k,l) = (p, q), Hp—q : apq < a°q, aki = aki для любых (k,l) = (p, q),
a именно: H0 отклоняется в пользу H+pq (соответственно в пользу H—pq), если Wpq(a0) > C (соответственно Wpq(a0) < C), где постоянная C определяется уровнем значимости критерия. Там же доказана теорема 1 об асимптотической нормальности W(a0). Обозначим через f(ж) = F'(ж) плотность распределения вероятности случайной величины . Теорема 1. Пусть выполнены условия
(5) l — a°0z1 — a01z2 — a(°1z1z2 = 0 для любых комплексных |z1| ^ l и |z2| ^ l,
(6) F( 0) = i
(7) f (0) > 0,
(8) E(en) = 0,
(9) E[|f (9uXn) — f (0)| ■ |Xn|] ^ 0 при u ^ 0 для любого 9 G (0, l).
Тогда случайный вектор W(a0) асимптотически нормален с нулевым математическим ожиданием и ковариационной матрицей K.
m
n
3. Знаковая оценка параметров авторегрессионного поля
Из критериев проверки H0 против H+ и H— следует, что небольшие значения |Wpq(a0)| свидетельствуют в пользу H0, а большие — в пользу альтернатив. Поэтому, следуя идее Ходжеса и Лемана из [9], в качестве оценки параметра а0 в [7] было предложено решение системы уравнений
(10) W (a) = 0.
К сожалению, функции Wpq(a) разрывны и равенство (10) может выполняться лишь приближённо. Поэтому в качестве оценки естественно взять точку amn минимума функции G(a) = | W(a)|. Функция G(a) — кусочно-полиномиальная. Она имеет разрывы в точках, удовлетворяющих соотношениям
(11) Xij - awXi-i,j - ao\Xi,j-i - anXi-itj-i = 0, i = l,...,m, j = l,...,n. В точках разрыва скачки G(a) не превышают по абсолютному значению
Минимум функции G(a) всегда существует, поскольку совпадает со значением G(a) в одной из точек пересечения плоскостей (11). Минимум G(a) можно найти любым методом, не требующим дифференцируемости целевой функции, например методом деформируемого многогранника (методом Нел-дера - Мида).
4. Состоятельность и асимптотическая нормальность знаковой оценки
Основным результатом работы является доказательство у^мг-состоятель-ности и асимптотической нормальности ämn. Свойство д/т?г-состоятельности заключается в том, что последовательность y/mn(ämn — а°) равномерно ограничена по вероятности, т.е. что для любого е > 0 существует такая постоянная С > 0, что
Р {y/mn\ämn — а°| > С} < t
для всех т, п. Таким образом, л/т?г-состоятельность последовательности ämn означает, что скорость сходимости ämn к а0 обратно пропорциональна у/тп. Свойство асимптотической нормальности оценки уточняет эту сходимость, утверждая, что y/mn(ämn — а0) стремится к нормальной случайной величине с нулевым математическим ожиданием и ковариационной матрицей (CK)-1, где C = 4f (0)E[e- ], а
- = f 0, еп < 0, ei1 = \ en, en > 0.
Идея доказательства заключается в аппроксимации W(a) в окрестности a0 линейной функцией, а именно: покажем, что для любого b € R
(12) W (а0 Н—т== ) ~ W(a°) + СО.
Отсюда и из теоремы 1 следует, что с вероятностью, сколь угодно близкой к единице, для достаточно больших Ьо € К в шаре В радиуса с цен-
тром в а0 функция Ш(а) принимает значения разных знаков, и, следовательно, нуль атп функции \¥(а) лежит в В, т.е. атп — л/т?г-состоятельная оценка а0.
3 Автоматика и телемеханика, № 3 65
Далее, из Ш{атп) = 0 и из (12) вытекает, что у/тп{атп — а0) & & — (С/С)_1ИЛ(а°). Поэтому в силу теоремы 1 статистика у/тп{атп—оР) ведет себя приблизительно как нормальный случайный вектор с нулевым средним и ковариационной матрицей С-2К-1. Перейдем к точным формулировкам. Теорема 2. Пусть выполнены условия (5)-(9),
те
(13) J |/'(ж)| ^ж < то,
—те
(14) Б4 < то,
функция меток ф(х) = —ущ' почти всюду удовлетворяет условию Липшица, т.е. существует постоянная С > 0 такая, что для почти всех ж € М
(15) |ф(ж + у) - ф(ж)| < С|у|, у € М, и f имеет конечное количество информации Фишера
00 / 2
(16) /(/)= I /(ж) (1,Х < оо.
—те
Тогда последовательность случайных величин у/тп(атп — а°) при т, п ^ то асимптотически нормальна с нулевым математическим ожиданием и ковариационной матрицей
(4/ (0)Б(е—1))—2 К-1.
Отметим, что условиям теоремы 2 удовлетворяют такие распределения вероятности обновляющего поля, как нормальное, приближённое нормальное (распределение Тьюки), логистическое и двойное экспоненциальное (распределение Лапласа). Не удовлетворяет этим условиям, например, распределение Коши.
Доказательство теоремы 2 основано на нижеследующих леммах, доказанных в Приложении в предположениях (5)-(9), (13)-(16).
Для произвольного Ь = (Ь10, Ь01, Ь11) € М3 рассмотрим гипотезу Н0 : а = а0 и последовательность альтернатив
I [ ГШ I -С!' - С!' I , •
Обозначим через /о (и) и Д(и), и = [и^}, плотность распределения вероятности матрицы е(а) = [е^(а)} при гипотезах Н0 и Нтп соответственно.
Согласно определению контигуальности (см. [10, § 7.1.1]) семейство плотностей Д(и), зависящих от т, п, будет контигуальным по отношению к семейству плотностей /о(и) (также зависящих от т,п), если для любой последовательности множеств Втп € Мтп из борелевской ст-алгебры множеств в Мтп,
такой что
будет выполнено
J /0(u) du ^ 0 при m, n то,
Bm
J /b(u
Для дальнейшего прочтения статьи необходимо приобрести полный текст. Статьи высылаются в формате PDF на указанную при оплате почту. Время доставки составляет менее 10 минут. Стоимость одной статьи — 150 рублей.