У статистиці, економетриці та обробці сигналів модель авторегресії (англ. Autoregressive model) (AR) є представленням типу випадкового процесу; як такий, він використовується для опису певних змінних у часі процесів у природі, економіці, поведінці тощо. Авторегресійна модель визначає, що вихідна змінна лінійно залежить від своїх власних попередніх значень і від стохастичного члена (недосконало передбачуваного терміну); таким чином, модель має форму стохастичного різницевого рівняння (або рекурентного співвідношення, яке не слід плутати з диференціальним рівнянням). Разом із моделлю ковзного середнього (MA) це окремий випадок і ключовий компонент більш загальної моделі авторегресії–ковзного середнього (ARMA) та авторегресійної інтегрованої ковзної середньої (ARIMA) моделей часових рядів, які мають складнішу стохастичну структуру; це також окремий випадок векторної авторегресійної моделі (VAR), яка складається з системи більш ніж одного пов'язаного стохастичного різницевого рівняння в більш ніж одній змінній випадковій змінній.
На відміну від моделі ковзного середнього (МА), авторегресійна модель не завжди є стаціонарною, оскільки може містити одиничний корінь.
Визначення
Позначення вказує на авторегресійну модель порядку p. Модель AR(p) визначається як
де — параметри моделі, а це білий шум. Це можна еквівалентно записати за допомогою оператора зворотного зсуву B як
так що, перемістивши член підсумовування вліво та використовуючи поліноміальне позначення, ми маємо
Таким чином, авторегресійну модель можна розглядати як вихідний результат багатополюсного нескінченного фільтра імпульсної характеристики, вхідним сигналом якого є білий шум.
Деякі обмеження параметрів необхідні для того, щоб модель залишалася . Наприклад, процеси в моделі AR(1) з не є нерухомими. Загалом, щоб модель AR(p) була стаціонарною у слабкому розумінні, корені полінома повинен лежати за межами одиничного кола, тобто кожен (комплексний) корінь має задовольнити (див. сторінки 89, 92).
Міжчасовий ефект ударів
У процесі AR одноразовий шок впливає на значення змінної нескінченно далеко в майбутньому. Наприклад, розглянемо модель AR(1). . Ненульове значення для у скажімо час t =1 впливає за кількістю . Тоді за рівнянням AR для з погляду , це впливає за кількістю . Тоді за рівнянням AR для з погляду , це впливає за кількістю . Продовження цього процесу показує, що ефект від ніколи не закінчується, хоча якщо процес стаціонарний, то ефект зменшується до нуля в межі.
Оскільки кожен шок впливає на значення X нескінченно далеко в майбутньому від моменту їх виникнення, на будь-яке дане значення X t впливають шоки, що відбуваються нескінченно далеко в минулому. Це також можна побачити, переписавши авторегресію
(де постійний член був придушений через припущення, що змінна була виміряна як відхилення від свого середнього) як
Характеристичний поліном
Функцію автокореляції процесу AR(p) можна виразити як
де B — оператор зворотного зсуву, де є функцією, що визначає авторегресію, і де — коефіцієнти в авторегресії. Формула справедлива, тільки якщо всі корені мають кратність 1.
Автокореляційна функція процесу AR(p) є сумою спадаючих експонент.
- Кожен справжній корінь вносить компонент у функцію автокореляції, яка експоненціально спадає.
- Подібним чином кожна пара комплексно спряжених коренів вносить експоненціально затухаючі коливання.
Графіки процесів AR(p)
Найпростішим процесом AR є AR(0), який не має залежності між термінами. Лише термін помилка/інновація/шум впливає на результат процесу, тому на малюнку AR(0) відповідає білому шуму.
Для процесу AR(1) з додатним , тільки попередній член у процесі та шумовий член роблять внесок у вихід. Якщо близьке до 0, то процес усе ще виглядає як білий шум, але як наближається до 1, результат отримує більший внесок від попереднього члена відносно шуму. Це призводить до «згладжування» або інтеграції виходу, подібно до фільтра низьких частот.
Спектр
Спектральна густина потужності (PSD) процесу AR(p) з дисперсією шуму це
AR(0)
Для білого шуму (AR(0))
AR(1)
Для AR(1)
- Якщо є один спектральний пік при f=0, який часто називають червоним шумом. як стає ближчим до 1, є сильніша потужність на низьких частотах, тобто більші часові затримки. Тоді це фільтр низьких частот, при застосуванні до світла повного спектра буде відфільтровано все, крім червоного світла.
- Якщо є мінімум при f=0, який часто називають синім шумом. Це так само діє як високочастотний фільтр, все, крім синього світла, буде відфільтровано.
AR(2)
- Коли , процес має пару комплексно-сполучених коренів, що створює пік середньої частоти на:
В іншому випадку процес має справжні корені, і:
- Коли він діє як фільтр низьких частот для білого шуму зі спектральним піком на
- Коли він діє як високочастотний фільтр для білого шуму зі спектральним піком на .
Процес є нестаціонарним, коли корені знаходяться поза одиничним колом. Процес є стабільним, коли корені знаходяться в межах одиничного кола або, еквівалентно, коли коефіцієнти знаходяться в трикутнику .
Повну функцію PSD можна виразити в реальній формі як:
Реалізації в пакетах статистики
- R, пакет статистики містить функцію ar.
- MATLAB 's Econometrics Toolbox і System Identification Toolbox включає авторегресійні моделі
- Matlab і Octave : інструментарій TSA містить декілька функцій оцінки для одновимірних, багатовимірних і адаптивних авторегресійних моделей.
- PyMC3 : байєсівська статистика та структура імовірнісного програмування підтримує режими авторегресії з p- лагами.
- bayesloop підтримує визначення параметрів і вибір моделі для процесу AR-1 із параметрами, що змінюються в часі.
- Python: реалізація в statsmodels.
Імпульсна відповідь
Імпульсна відповідь системи — це зміна змінної, що розвивається, у відповідь на зміну значення ударного терміну k періодів раніше, як функція k. Оскільки модель AR є окремим випадком векторної авторегресійної моделі, тут застосовується обчислення імпульсної реакції у векторній авторегресії#імпульсній відповіді.
n -покрокове прогнозування
Один раз параметри авторегресії
були оцінені, авторегресію можна використовувати для прогнозування довільної кількості періодів у майбутньому. Спочатку використовуйте t для позначення першого періоду, для якого дані ще не доступні; замініть відомі попередні значення X ti для i= 1, …, p у рівняння авторегресії, встановлюючи значення помилки дорівнює нулю (оскільки ми прогнозуємо, що X t дорівнюватиме очікуваному значенню, а очікуване значення неспостережуваної помилки дорівнює нулю). Вихід рівняння авторегресії є прогнозом для першого неспостережуваного періоду. Далі використовуйте t для посилання на наступний період, дані за який ще недоступні; знову авторегресійне рівняння використовується для складання прогнозу, з однією відмінністю: значення X за один період до того, що зараз прогнозується, невідоме, тому замість нього використовується його очікуване значення — прогнозоване значення, що випливає з попереднього кроку прогнозування. Потім для майбутніх періодів використовується та сама процедура, кожного разу використовуючи ще одне прогнозоване значення в правій частині прогнозного рівняння, доки після p прогнозів усі p правих значень не будуть прогнозованими значеннями з попередніх кроків.
Див. також
Примітки
- Box, George E. P. (1994). Time series analysis : forecasting and control (англ.) (вид. 3rd). Englewood Cliffs, N.J.: Prentice Hall. с. 54. ISBN . OCLC 28888762.
- Shumway, Robert H. (2000). Time series analysis and its applications (англ.). New York: Springer. с. 90—91. ISBN . OCLC 42392178.
- Shumway, Robert H.; Stoffer, David (2010). Time series analysis and its applications : with R examples (вид. 3rd). Springer. ISBN .
- «Fit Autoregressive Models to Time Series» (in R)
- Econometrics Toolbox. www.mathworks.com.
- System Identification Toolbox. www.mathworks.com.
- Autoregressive Model - MATLAB & Simulink. www.mathworks.com.
- The Time Series Analysis (TSA) toolbox for Octave and Matlab®. pub.ist.ac.at.
- christophmark/bayesloop. 7 грудня 2021.
- statsmodels.tsa.ar_model.AutoReg — statsmodels 0.12.2 documentation. www.statsmodels.org. Процитовано 29 квітня 2021.
Література
- Mills, Terence C. (1990). Time Series Techniques for Economists. Cambridge University Press. ISBN .
- Percival, Donald B.; Walden, Andrew T. (1993). Spectral Analysis for Physical Applications. Cambridge University Press. Bibcode:1993sapa.book.....P.
- Pandit, Sudhakar M.; Wu, Shien-Ming (1983). Time Series and System Analysis with Applications. John Wiley & Sons.
Посилання
- Авторегресійний аналіз (AR) Пола Бурка
- Econometrics lecture (topic: Autoregressive models) на YouTube від [en]
Вікіпедія, Українська, Україна, книга, книги, бібліотека, стаття, читати, завантажити, безкоштовно, безкоштовно завантажити, mp3, відео, mp4, 3gp, jpg, jpeg, gif, png, малюнок, музика, пісня, фільм, книга, гра, ігри, мобільний, телефон, android, ios, apple, мобільний телефон, samsung, iphone, xiomi, xiaomi, redmi, honor, oppo, nokia, sonya, mi, ПК, web, Інтернет
U statistici ekonometrici ta obrobci signaliv model avtoregresiyi angl Autoregressive model AR ye predstavlennyam tipu vipadkovogo procesu yak takij vin vikoristovuyetsya dlya opisu pevnih zminnih u chasi procesiv u prirodi ekonomici povedinci tosho Avtoregresijna model viznachaye sho vihidna zminna linijno zalezhit vid svoyih vlasnih poperednih znachen i vid stohastichnogo chlena nedoskonalo peredbachuvanogo terminu takim chinom model maye formu stohastichnogo riznicevogo rivnyannya abo rekurentnogo spivvidnoshennya yake ne slid plutati z diferencialnim rivnyannyam Razom iz modellyu kovznogo serednogo MA ce okremij vipadok i klyuchovij komponent bilsh zagalnoyi modeli avtoregresiyi kovznogo serednogo ARMA ta avtoregresijnoyi integrovanoyi kovznoyi serednoyi ARIMA modelej chasovih ryadiv yaki mayut skladnishu stohastichnu strukturu ce takozh okremij vipadok vektornoyi avtoregresijnoyi modeli VAR yaka skladayetsya z sistemi bilsh nizh odnogo pov yazanogo stohastichnogo riznicevogo rivnyannya v bilsh nizh odnij zminnij vipadkovij zminnij Na vidminu vid modeli kovznogo serednogo MA avtoregresijna model ne zavzhdi ye stacionarnoyu oskilki mozhe mistiti odinichnij korin ViznachennyaPoznachennya AR p displaystyle AR p vkazuye na avtoregresijnu model poryadku p Model AR p viznachayetsya yak Xt i 1pfiXt i et displaystyle X t sum i 1 p varphi i X t i varepsilon t de f1 fp displaystyle varphi 1 ldots varphi p parametri modeli a et displaystyle varepsilon t ce bilij shum Ce mozhna ekvivalentno zapisati za dopomogoyu operatora zvorotnogo zsuvu B yak Xt i 1pfiBiXt et displaystyle X t sum i 1 p varphi i B i X t varepsilon t tak sho peremistivshi chlen pidsumovuvannya vlivo ta vikoristovuyuchi polinomialne poznachennya mi mayemo ϕ B Xt et displaystyle phi B X t varepsilon t Takim chinom avtoregresijnu model mozhna rozglyadati yak vihidnij rezultat bagatopolyusnogo neskinchennogo filtra impulsnoyi harakteristiki vhidnim signalom yakogo ye bilij shum Deyaki obmezhennya parametriv neobhidni dlya togo shob model zalishalasya Napriklad procesi v modeli AR 1 z f1 1 displaystyle varphi 1 geq 1 ne ye neruhomimi Zagalom shob model AR p bula stacionarnoyu u slabkomu rozuminni koreni polinoma F z 1 i 1pfizi displaystyle Phi z textstyle 1 sum i 1 p varphi i z i povinen lezhati za mezhami odinichnogo kola tobto kozhen kompleksnij korin zi displaystyle z i maye zadovolniti zi gt 1 displaystyle z i gt 1 div storinki 89 92 Mizhchasovij efekt udarivU procesi AR odnorazovij shok vplivaye na znachennya zminnoyi neskinchenno daleko v majbutnomu Napriklad rozglyanemo model AR 1 Xt f1Xt 1 et displaystyle X t varphi 1 X t 1 varepsilon t Nenulove znachennya dlya et displaystyle varepsilon t u skazhimo chas t 1 vplivaye X1 displaystyle X 1 za kilkistyu e1 displaystyle varepsilon 1 Todi za rivnyannyam AR dlya X2 displaystyle X 2 z poglyadu X1 displaystyle X 1 ce vplivaye X2 displaystyle X 2 za kilkistyu f1e1 displaystyle varphi 1 varepsilon 1 Todi za rivnyannyam AR dlya X3 displaystyle X 3 z poglyadu X2 displaystyle X 2 ce vplivaye X3 displaystyle X 3 za kilkistyu f12e1 displaystyle varphi 1 2 varepsilon 1 Prodovzhennya cogo procesu pokazuye sho efekt vid e1 displaystyle varepsilon 1 nikoli ne zakinchuyetsya hocha yaksho proces stacionarnij to efekt zmenshuyetsya do nulya v mezhi Oskilki kozhen shok vplivaye na znachennya X neskinchenno daleko v majbutnomu vid momentu yih viniknennya na bud yake dane znachennya X t vplivayut shoki sho vidbuvayutsya neskinchenno daleko v minulomu Ce takozh mozhna pobachiti perepisavshi avtoregresiyu ϕ B Xt et displaystyle phi B X t varepsilon t de postijnij chlen buv pridushenij cherez pripushennya sho zminna bula vimiryana yak vidhilennya vid svogo serednogo yak Xt 1ϕ B et displaystyle X t frac 1 phi B varepsilon t Harakteristichnij polinomFunkciyu avtokorelyaciyi procesu AR p mozhna viraziti yak r t k 1pakyk t displaystyle rho tau sum k 1 p a k y k tau ϕ B 1 k 1pfkBk displaystyle phi B 1 sum k 1 p varphi k B k de B operator zvorotnogo zsuvu de ϕ displaystyle phi cdot ye funkciyeyu sho viznachaye avtoregresiyu i de fk displaystyle varphi k koeficiyenti v avtoregresiyi Formula spravedliva tilki yaksho vsi koreni mayut kratnist 1 Avtokorelyacijna funkciya procesu AR p ye sumoyu spadayuchih eksponent Kozhen spravzhnij korin vnosit komponent u funkciyu avtokorelyaciyi yaka eksponencialno spadaye Podibnim chinom kozhna para kompleksno spryazhenih koreniv vnosit eksponencialno zatuhayuchi kolivannya Grafiki procesiv AR p AR 0 AR 1 z parametrom AR 0 3 AR 1 z parametrom AR 0 9 AR 2 z parametrami AR 0 3 i 0 3 ta AR 2 z parametrami AR 0 9 ta 0 8 Najprostishim procesom AR ye AR 0 yakij ne maye zalezhnosti mizh terminami Lishe termin pomilka innovaciya shum vplivaye na rezultat procesu tomu na malyunku AR 0 vidpovidaye bilomu shumu Dlya procesu AR 1 z dodatnim f displaystyle varphi tilki poperednij chlen u procesi ta shumovij chlen roblyat vnesok u vihid Yaksho f displaystyle varphi blizke do 0 to proces use she viglyadaye yak bilij shum ale yak f displaystyle varphi nablizhayetsya do 1 rezultat otrimuye bilshij vnesok vid poperednogo chlena vidnosno shumu Ce prizvodit do zgladzhuvannya abo integraciyi vihodu podibno do filtra nizkih chastot SpektrSpektralna gustina potuzhnosti PSD procesu AR p z dispersiyeyu shumu Var Zt sZ2 displaystyle mathrm Var Z t sigma Z 2 ce S f sZ2 1 k 1pfke i2pfk 2 displaystyle S f frac sigma Z 2 1 sum k 1 p varphi k e i2 pi fk 2 AR 0 Dlya bilogo shumu AR 0 S f sZ2 displaystyle S f sigma Z 2 AR 1 Dlya AR 1 S f sZ2 1 f1e 2pif 2 sZ21 f12 2f1cos 2pf displaystyle S f frac sigma Z 2 1 varphi 1 e 2 pi if 2 frac sigma Z 2 1 varphi 1 2 2 varphi 1 cos 2 pi f Yaksho f1 gt 0 displaystyle varphi 1 gt 0 ye odin spektralnij pik pri f 0 yakij chasto nazivayut chervonim shumom yak f1 displaystyle varphi 1 staye blizhchim do 1 ye silnisha potuzhnist na nizkih chastotah tobto bilshi chasovi zatrimki Todi ce filtr nizkih chastot pri zastosuvanni do svitla povnogo spektra bude vidfiltrovano vse krim chervonogo svitla Yaksho f1 lt 0 displaystyle varphi 1 lt 0 ye minimum pri f 0 yakij chasto nazivayut sinim shumom Ce tak samo diye yak visokochastotnij filtr vse krim sinogo svitla bude vidfiltrovano AR 2 z1 z2 12f2 f1 f12 4f2 displaystyle z 1 z 2 frac 1 2 varphi 2 left varphi 1 pm sqrt varphi 1 2 4 varphi 2 right Koli f12 4f2 lt 0 displaystyle varphi 1 2 4 varphi 2 lt 0 proces maye paru kompleksno spoluchenih koreniv sho stvoryuye pik serednoyi chastoti na f 12pcos 1 f1 f2 1 4f2 displaystyle f frac 1 2 pi cos 1 left frac varphi 1 varphi 2 1 4 varphi 2 right V inshomu vipadku proces maye spravzhni koreni i Koli f1 gt 0 displaystyle varphi 1 gt 0 vin diye yak filtr nizkih chastot dlya bilogo shumu zi spektralnim pikom na f 0 displaystyle f 0 Koli f1 lt 0 displaystyle varphi 1 lt 0 vin diye yak visokochastotnij filtr dlya bilogo shumu zi spektralnim pikom na f 1 2 displaystyle f 1 2 Proces ye nestacionarnim koli koreni znahodyatsya poza odinichnim kolom Proces ye stabilnim koli koreni znahodyatsya v mezhah odinichnogo kola abo ekvivalentno koli koeficiyenti znahodyatsya v trikutniku 1 f2 1 f1 displaystyle 1 leq varphi 2 leq 1 varphi 1 Povnu funkciyu PSD mozhna viraziti v realnij formi yak S f sZ21 f12 f22 2f1 1 f2 cos 2pf 2f2cos 4pf displaystyle S f frac sigma Z 2 1 varphi 1 2 varphi 2 2 2 varphi 1 1 varphi 2 cos 2 pi f 2 varphi 2 cos 4 pi f Realizaciyi v paketah statistikiR paket statistiki mistit funkciyu ar MATLAB s Econometrics Toolbox i System Identification Toolbox vklyuchaye avtoregresijni modeli Matlab i Octave instrumentarij TSA mistit dekilka funkcij ocinki dlya odnovimirnih bagatovimirnih i adaptivnih avtoregresijnih modelej PyMC3 bajyesivska statistika ta struktura imovirnisnogo programuvannya pidtrimuye rezhimi avtoregresiyi z p lagami bayesloop pidtrimuye viznachennya parametriv i vibir modeli dlya procesu AR 1 iz parametrami sho zminyuyutsya v chasi Python realizaciya v statsmodels Impulsna vidpovidImpulsna vidpovid sistemi ce zmina zminnoyi sho rozvivayetsya u vidpovid na zminu znachennya udarnogo terminu k periodiv ranishe yak funkciya k Oskilki model AR ye okremim vipadkom vektornoyi avtoregresijnoyi modeli tut zastosovuyetsya obchislennya impulsnoyi reakciyi u vektornij avtoregresiyi impulsnij vidpovidi n pokrokove prognozuvannyaOdin raz parametri avtoregresiyi Xt i 1pfiXt i et displaystyle X t sum i 1 p varphi i X t i varepsilon t buli ocineni avtoregresiyu mozhna vikoristovuvati dlya prognozuvannya dovilnoyi kilkosti periodiv u majbutnomu Spochatku vikoristovujte t dlya poznachennya pershogo periodu dlya yakogo dani she ne dostupni zaminit vidomi poperedni znachennya X ti dlya i 1 p u rivnyannya avtoregresiyi vstanovlyuyuchi znachennya pomilki et displaystyle varepsilon t dorivnyuye nulyu oskilki mi prognozuyemo sho X t dorivnyuvatime ochikuvanomu znachennyu a ochikuvane znachennya nesposterezhuvanoyi pomilki dorivnyuye nulyu Vihid rivnyannya avtoregresiyi ye prognozom dlya pershogo nesposterezhuvanogo periodu Dali vikoristovujte t dlya posilannya na nastupnij period dani za yakij she nedostupni znovu avtoregresijne rivnyannya vikoristovuyetsya dlya skladannya prognozu z odniyeyu vidminnistyu znachennya X za odin period do togo sho zaraz prognozuyetsya nevidome tomu zamist nogo vikoristovuyetsya jogo ochikuvane znachennya prognozovane znachennya sho viplivaye z poperednogo kroku prognozuvannya Potim dlya majbutnih periodiv vikoristovuyetsya ta sama procedura kozhnogo razu vikoristovuyuchi she odne prognozovane znachennya v pravij chastini prognoznogo rivnyannya doki pislya p prognoziv usi p pravih znachen ne budut prognozovanimi znachennyami z poperednih krokiv Div takozhLinijne koduvannya z prognozuvannyam RezonansPrimitkiBox George E P 1994 Time series analysis forecasting and control angl vid 3rd Englewood Cliffs N J Prentice Hall s 54 ISBN 0 13 060774 6 OCLC 28888762 Shumway Robert H 2000 Time series analysis and its applications angl New York Springer s 90 91 ISBN 0 387 98950 1 OCLC 42392178 Shumway Robert H Stoffer David 2010 Time series analysis and its applications with R examples vid 3rd Springer ISBN 978 1441978646 Fit Autoregressive Models to Time Series in R Econometrics Toolbox www mathworks com System Identification Toolbox www mathworks com Autoregressive Model MATLAB amp Simulink www mathworks com The Time Series Analysis TSA toolbox for Octave and Matlab pub ist ac at christophmark bayesloop 7 grudnya 2021 statsmodels tsa ar model AutoReg statsmodels 0 12 2 documentation www statsmodels org Procitovano 29 kvitnya 2021 LiteraturaMills Terence C 1990 Time Series Techniques for Economists Cambridge University Press ISBN 9780521343398 Percival Donald B Walden Andrew T 1993 Spectral Analysis for Physical Applications Cambridge University Press Bibcode 1993sapa book P Pandit Sudhakar M Wu Shien Ming 1983 Time Series and System Analysis with Applications John Wiley amp Sons PosilannyaAvtoregresijnij analiz AR Pola Burka Econometrics lecture topic Autoregressive models na YouTube vid en