В обробці сигналів взаємна кореляція (англ. cross-correlation) — це міра подібності двох рядів як функція зміщення одного відносно іншого. Вона також відома як ковзний скалярний добуток (англ. sliding dot product) та ковзний внутрішній добуток (англ. sliding inner-product). Її зазвичай використовують для пошуку в довгому сигналі коротшої відомої ознаки. Вона має застосування в розпізнаванні образів, [en], [en], усереднюванні, криптоаналізі та нейрофізіології . Взаємна кореляція за своєю природою подібна до згортки двох функцій. В автокореляції, яка є взаємною кореляцією сигналу з самим собою, завжди буде пік на нульовій затримці, і його розмір буде енергією сигналу.
У теорії ймовірностей та статистиці термін взаємні кореляції стосується кореляцій між елементами двох випадкових векторів та , тоді як кореляції випадкового вектора є кореляціями між елементами самого , що утворюють кореляційну матрицю . Якщо як , так і є скалярними випадковими величинами, які багаторазово реалізуються в часовому ряді, то кореляції різних часових примірників відомі як автокореляції (англ. autocorrelations) , а взаємні кореляції із у часі є часовими взаємними кореляціями (англ. temporal cross-correlations). У теорії ймовірностей та статистиці визначення кореляції завжди включає такий стандартувальний коефіцієнт, щоби кореляції мали значення від −1 до +1.
Якщо та — дві незалежні випадкові величини з функціями густини ймовірності та відповідно, то густина ймовірності різниці формально задається взаємною кореляцією (у сенсі обробки сигналів) , проте цю термінологію в теорії ймовірностей та статистиці не використовують. На противагу цьому, згортка (еквівалентна взаємній кореляції та ) дає функцію густини ймовірності суми .
Взаємна кореляція детермінованих сигналів
Для безперервних функцій та взаємну кореляцію визначають як
|
| ( ) |
що рівнозначне
де позначує комплексне спряжене , а — зміщення, відоме також як запізнювання (англ. lag; ознака в з трапляється в на ).
Якщо та обидві є безперервними періодичними функціями з періодом , то інтегрування з до замінюється інтегруванням за будь-яким інтервалом довжини :
|
| ( ) |
що рівнозначне
Аналогічно, для дискретних функцій взаємну кореляцію визначають як
|
| ( ) |
що рівнозначне
- .
Для скінченних дискретних функцій (циклічну, англ. circular) взаємну кореляцію визначають як
|
| ( ) |
що рівнозначне
- .
Для скінченних дискретних функцій , ядрову взаємну кореляцію (англ. kernel cross-correlation) визначають як
|
| ( ) |
де — вектор ядрових функцій , а — афінне перетворення.
Зокрема, може бути перетворенням циклічного перенесення, поворотним та масштабувальним перетворенням тощо. Ядрова взаємна кореляція узагальнює взаємну кореляцію з лінійного простору до ядрового. Взаємна кореляція рівнозначна перенесенню; ядрова взаємна кореляція рівнозначна будь-яким афінним перетворенням, включно з перенесенням, повертанням, масштабуванням тощо.
Пояснення
Як приклад розгляньмо дві дійснозначні функції та , що відрізняються лише невідомим зміщенням уздовж осі x. Взаємною кореляцією можливо скористатися, щоби знайти, наскільки мусить бути зміщено вздовж осі x, щоби зробити її ідентичною до . Ця формула по суті соває функцію уздовж осі x, обчислюючи інтеграл від їхнього добутку в кожному положенні. Коли функції збігаються, значення є максимальним. Це тому, що коли піки (додатні області) вирівняно, вони роблять великий внесок до інтегралу. Аналогічно, коли вирівнюються западини (від'ємні області), вони також роблять додатний внесок до інтегралу, оскільки добуток двох від'ємних чисел є додатним.
З комплекснозначними функціями та взяття спряження забезпечує, що вирівняні піки (або вирівняні западини) з уявними компонентами робитимуть до інтегралу додатний внесок.
В економетрії взаємну кореляцію з запізнюванням іноді називають взаємною автокореляцією (англ. cross-autocorrelation).
Властивості
- Взаємна кореляція функцій та рівнозначна згортці (позначуваній через ) функцій та . Тобто,
- Якщо функція є [en], то
- Якщо як , так і є ермітовими, то .
- .
- Аналогічно [en], взаємна кореляція задовольняє
- де позначує перетворення Фур'є, а знову позначує комплексне спряження , оскільки . У поєднанні з алгоритмами швидкого перетворення Фур'є цю властивість часто використовують для ефективного чисельного обчислення взаємних кореляцій (див. [en]).
- Взаємна кореляція пов'язана зі спектральною густиною (див. [en]).
- Взаємна кореляція згортки та з функцією це згортка взаємної кореляції та з ядром :
- .
Взаємна кореляція випадкових векторів
Визначення
Для випадкових векторів та , кожен з яких складається з випадкових елементів з відомими математичним сподіваннями та дисперсіями, матрицю взаємної кореляції та визначають через
|
| ( ) |
й вона має розміри . У записі по складових:
Випадкові вектори та не зобов'язані мати однакові розміри, й будь-який з них може бути скалярним значенням.
Приклад
Наприклад, якщо та — випадкові вектори, то — матриця , чиїм -м елементом є .
Визначення для комплексних випадкових векторів
Якщо та — [en], кожен з яких містить випадкові величини з відомими математичними сподіваннями та дисперсіями, то матрицю взаємної кореляції та визначають через
де позначує ермітове транспонування.
Взаємна кореляція стохастичних процесів
В аналізі часових рядів і статистиці взаємна кореляція пари випадкових процесів — це кореляція між значеннями цих процесів у різні моменти часу як функція від цих двох моментів часу. Нехай — пара випадкових процесів, а — будь-яка точка в часі ( може бути цілим числом для [en] процесу, або дійсним числом для процесу [en]). Тоді — це значення (або [en]), реалізоване в результаті заданого перебігу процесу в момент часу .
Взаємна кореляційна функція
Припустімо, що цей процес у момент часу має середні значення та і дисперсії та , для будь-якого . Тоді визначенням взаємної кореляції між моментами часу та є
|
| ( ) |
де — оператор математичного сподівання. Зауважте, що цей вираз може бути не визначеним.
Взаємна коваріаційна функція
Віднімання середнього значення перед множенням дає перехресну коваріацію моментів часу та :
|
| ( ) |
Зауважте, що цей вираз не є однозначно визначеним для всіх часових рядів та процесів, оскільки середнє значення або дисперсія можуть не існувати.
Визначення для стаціонарного в широкому сенсі стохастичного процесу
Нехай подає пару стохастичних процесів, [en]. Тоді взаємну коваріаційну та взаємну кореляційну функції задають наступним чином.
Взаємна кореляційна функція
|
| ( ) |
або, рівнозначно,
Взаємна коваріаційна функція
|
| ( ) |
або, рівнозначно,
де та — середнє значення та стандартне відхилення процесу , сталі в часі через стаціонарність; і так само для , відповідно. показує математичне сподівання. Те, що взаємні коваріація та кореляція не залежать від , — саме додаткова інформація (поза індивідуальною стаціонарністю в широкому сенсі), яку передає вимога, що спільно стаціонарні в широкому сенсі.
Взаємну кореляцію пари спільно стаціонарних у широкому сенсі стохастичних процесів можливо оцінювати усереднюванням добутку зразків, виміряних за одним процесом, і зразків, виміряних за іншим (та за його зсувами в часі). Зразки, включені до цього усереднювання, можуть бути довільною підмножиною всіх зразків у сигналі (наприклад, зразки в межах скінченного часового вікна, або підвибірка[] одного з сигналів). За великої кількості зразків це усереднення збігається до істинної взаємної кореляції.
Унормовування
Поширеною практикою в деяких дисциплінах (наприклад, у статистиці та аналізі часових рядів) є унормовувати взаємно кореляційну функцію, щоб отримувати залежний від часу коефіцієнт кореляції Пірсона. Проте в деяких інших дисциплінах (наприклад, в інженерії) унормовування зазвичай пропускають, а терміни «взаємна кореляція» та «взаємна коваріація» використовують як взаємозамінні.
Визначення нормованої взаємної кореляції стохастичного процесу:
- .
Якщо функція однозначно визначена, її значення мусять лежати в діапазоні , причому 1 вказує на ідеальну кореляцію, а −1 — на ідеальну антикореляцію.
Для спільно стаціонарних у широкому сенсі стохастичних процесів визначення таке:
- .
Унормовування важливе як тому, що інтерпретація автокореляції як кореляції забезпечує безмасштабну міру сили статистичної залежності, так і тому, що унормовування впливає на статистичні властивості оцінюваних автокореляцій.
Властивості
Властивість симетрії
Для спільно стаціонарних у широкому сенсі стохастичних процесів взаємно кореляційна функція має таку властивість симетрії:
Відповідно, для спільно СШС стохастичних процесів:
Аналіз часової затримки
Взаємні кореляції корисні для визначання часової затримки між двома сигналами, наприклад, для визначання часових затримок поширення акустичних сигналів системою спрямованих мікрофонів.[: ком.] Після обчислення взаємної кореляції між двома сигналами максимум (або мінімум, якщо сигнали корельовані негативно) взаємно кореляційної функції вказує момент часу, коли сигнали узгоджені найкраще; тобто затримка часу між цими двома сигналами визначається аргументом максимуму, або arg max, взаємної кореляції, як у
Термінологія в обробці зображень
Центрована нормована взаємна кореляція (ЦНВК)
Для застосувань в обробці зображень, у яких яскравість зображення та шаблону може змінюватися залежно від умов освітлення та експозиції, зображення можуть спочатку унормовувати. Зазвичай це роблять на кожному кроці шляхом віднімання середнього значення та ділення на стандартне відхилення. Тобто, взаємна кореляція шаблону з підзображенням — це
де — число пікселів у та , — усереднення , а — стандартне відхилення .
З погляду функціонального аналізу це можливо розглядати як добуток двох унормованих векторів. Тобто, якщо
та
то наведена вище сума дорівнює
де — скалярний добуток, а — норма L². З Коші — Буняковського тоді випливає, що ЦНВК (англ. zero-normalized cross-correlation, ZNCC) має діапазон .
Таким чином, якщо та є дійснозначними матрицями, то їх нормована взаємна кореляція дорівнює косинусу кута між одиничними векторами та , будучи відтак тоді й лише тоді, коли дорівнює , помноженому на додатний скаляр.
Нормована кореляція — це один із методів, які використовують для [en], процесу, який використовують для пошуку зразків або об'єктів у зображенні. Вона також є двовимірною версією коефіцієнту кореляції моменту добутку Пірсона.
Нормована взаємна кореляція (НВК)
НВК (англ. normalized cross-correlation, NCC) подібна до ЦНВК, з тією лише відмінністю, що не віднімається локальне середнє значення освітленостей:
Нелінійні системи
При використанні взаємної кореляції для нелінійних систем необхідно бути обережними. За певних обставин, які залежать від властивостей вхідних даних, взаємна кореляція між входом і виходом системи з нелінійною динамікою може бути повністю сліпою до певних нелінійних ефектів. Ця проблема виникає через те, що деякі квадрати моментів можуть дорівнювати нулеві, й це може помилково підказувати, що між двома сигналами існує невелика «кореляція» (у сенсі статистичної залежності), хоча насправді ці два сигнали сильно пов'язані нелінійною динамікою.
Див. також
- Автоковаріація
- Автокореляція
- Взаємна коваріація
- [en]
- [en]
- Згортка
- [en]
- Кореляційна функція
- Кореляція
- [en]
- [en]
- Спектральна густина
- [en]
- Фазова кореляція
Примітки
- Bracewell, R. "Pentagram Notation for Cross Correlation." The Fourier Transform and Its Applications. New York: McGraw-Hill, pp. 46 and 243, 1965. (англ.)
- Papoulis, A. The Fourier Integral and Its Applications. New York: McGraw-Hill, pp. 244–245 and 252—253, 1962. (англ.)
- Weisstein, Eric W. "Cross-Correlation." From MathWorld--A Wolfram Web Resource. http://mathworld.wolfram.com/Cross-Correlation.html [ 30 серпня 2020 у Wayback Machine.] (англ.)
- Rabiner, L.R.; Schafer, R.W. (1978). Digital Processing of Speech Signals. Signal Processing Series. Upper Saddle River, NJ: Prentice Hall. с. 147–148. ISBN . (англ.)
- Rabiner, Lawrence R.; Gold, Bernard (1975). Theory and Application of Digital Signal Processing. Englewood Cliffs, NJ: Prentice-Hall. с. 401. ISBN . (англ.)
- Wang, Chen (2019). Kernel learning for visual perception, Chapter 2.2.1. Doctoral thesis. Nanyang Technological University, Singapore. с. 17–18. (англ.)
- Wang, Chen; Zhang, Le; Yuan, Junsong; Xie, Lihua (2018). . The Thirty-second AAAI Conference On Artificial Intelligence. Association for the Advancement of Artificial Intelligence. с. 4179—4186. Архів оригіналу за 19 грудня 2021. Процитовано 12 січня 2022. (англ.)
- Campbell; Lo; MacKinlay (1996). The Econometrics of Financial Markets. NJ: Princeton University Press. ISBN . (англ.)
- Kapinchev, Konstantin; Bradu, Adrian; Barnes, Frederick; Podoleanu, Adrian (2015). GPU implementation of cross-correlation for image generation in real time. 2015 9th International Conference on Signal Processing and Communication Systems (ICSPCS). с. 1—6. doi:10.1109/ICSPCS.2015.7391783. ISBN . (англ.)
- Gubner, John A. (2006). Probability and Random Processes for Electrical and Computer Engineers. Cambridge University Press. ISBN . (англ.)
- Kun Il Park, Fundamentals of Probability and Stochastic Processes with Applications to Communications, Springer, 2018, 978-3-319-68074-3 (англ.)
- Rhudy, Matthew; Brian Bucci; Jeffrey Vipperman; Jeffrey Allanach; Bruce Abraham (November 2009). Microphone Array Analysis Methods Using Cross-Correlations. Proceedings of 2009 ASME International Mechanical Engineering Congress, Lake Buena Vista, FL. с. 281—288. doi:10.1115/IMECE2009-10798. ISBN . (англ.)
- Rhudy, Matthew (November 2009). . University of Pittsburgh, Master's Thesis. Архів оригіналу за 14 липня 2014. Процитовано 16 листопада 2021. (англ.)
- Billings, S. A. (2013). Nonlinear System Identification: NARMAX Methods in the Time, Frequency, and Spatio-Temporal Domains. Wiley. ISBN . (англ.)
Література
- Tahmasebi, Pejman; Hezarkhani, Ardeshir; Sahimi, Muhammad (2012). Multiple-point geostatistical modeling based on the cross-correlation functions. Computational Geosciences. 16 (3): 779—797. doi:10.1007/s10596-012-9287-1. (англ.)
Посилання
- Взаємна кореляція від Mathworld [ 30 серпня 2020 у Wayback Machine.] (англ.)
- http://scribblethink.org/Work/nvisionInterface/nip.html [ 22 квітня 2022 у Wayback Machine.] (англ.)
- http://www.staff.ncl.ac.uk/oliver.hinton/eee305/Chapter6.pdf [ 1 серпня 2020 у Wayback Machine.](англ.)
Вікіпедія, Українська, Україна, книга, книги, бібліотека, стаття, читати, завантажити, безкоштовно, безкоштовно завантажити, mp3, відео, mp4, 3gp, jpg, jpeg, gif, png, малюнок, музика, пісня, фільм, книга, гра, ігри, мобільний, телефон, android, ios, apple, мобільний телефон, samsung, iphone, xiomi, xiaomi, redmi, honor, oppo, nokia, sonya, mi, ПК, web, Інтернет
V obrobci signaliv vzayemna korelyaciya angl cross correlation ce mira podibnosti dvoh ryadiv yak funkciya zmishennya odnogo vidnosno inshogo Vona takozh vidoma yak kovznij skalyarnij dobutok angl sliding dot product ta kovznij vnutrishnij dobutok angl sliding inner product Yiyi zazvichaj vikoristovuyut dlya poshuku v dovgomu signali korotshoyi vidomoyi oznaki Vona maye zastosuvannya v rozpiznavanni obraziv en en userednyuvanni kriptoanalizi ta nejrofiziologiyi Vzayemna korelyaciya za svoyeyu prirodoyu podibna do zgortki dvoh funkcij V avtokorelyaciyi yaka ye vzayemnoyu korelyaciyeyu signalu z samim soboyu zavzhdi bude pik na nulovij zatrimci i jogo rozmir bude energiyeyu signalu Naochne porivnyannya zgortki vzayemnoyi korelyaciyi ta avtokorelyaciyi Dlya operacij sho vklyuchayut funkciyu f i vihodyachi z pripushennya sho visota f stanovit 1 0 znachennya rezultatu v 5 riznih tochkah pokazano zatinenoyu oblastyu pid kozhnoyu tochkoyu Takozh vertikalna simetriya f ye prichinoyu togo sho f g displaystyle f g ta f g displaystyle f star g v comu prikladi identichni U teoriyi jmovirnostej ta statistici termin vzayemni korelyaciyi stosuyetsya korelyacij mizh elementami dvoh vipadkovih vektoriv X displaystyle mathbf X ta Y displaystyle mathbf Y todi yak korelyaciyi vipadkovogo vektora X displaystyle mathbf X ye korelyaciyami mizh elementami samogo X displaystyle mathbf X sho utvoryuyut korelyacijnu matricyu X displaystyle mathbf X Yaksho yak X displaystyle mathbf X tak i Y displaystyle mathbf Y ye skalyarnimi vipadkovimi velichinami yaki bagatorazovo realizuyutsya v chasovomu ryadi to korelyaciyi riznih chasovih primirnikiv X displaystyle mathbf X vidomi yak avtokorelyaciyi angl autocorrelations X displaystyle mathbf X a vzayemni korelyaciyi X displaystyle mathbf X iz Y displaystyle mathbf Y u chasi ye chasovimi vzayemnimi korelyaciyami angl temporal cross correlations U teoriyi jmovirnostej ta statistici viznachennya korelyaciyi zavzhdi vklyuchaye takij standartuvalnij koeficiyent shobi korelyaciyi mali znachennya vid 1 do 1 Yaksho X displaystyle X ta Y displaystyle Y dvi nezalezhni vipadkovi velichini z funkciyami gustini jmovirnosti f displaystyle f ta g displaystyle g vidpovidno to gustina jmovirnosti riznici Y X displaystyle Y X formalno zadayetsya vzayemnoyu korelyaciyeyu u sensi obrobki signaliv f g displaystyle f star g prote cyu terminologiyu v teoriyi jmovirnostej ta statistici ne vikoristovuyut Na protivagu comu zgortka f g displaystyle f g ekvivalentna vzayemnij korelyaciyi f t displaystyle f t ta g t displaystyle g t daye funkciyu gustini jmovirnosti sumi X Y displaystyle X Y Vzayemna korelyaciya determinovanih signalivDlya bezperervnih funkcij f displaystyle f ta g displaystyle g vzayemnu korelyaciyu viznachayut yak f g t f t g t t d t displaystyle f star g tau triangleq int infty infty overline f t g t tau dt 1 sho rivnoznachne f g t f t t g t d t displaystyle f star g tau triangleq int infty infty overline f t tau g t dt de f t displaystyle overline f t poznachuye kompleksne spryazhene f t displaystyle f t a t displaystyle tau zmishennya vidome takozh yak zapiznyuvannya angl lag oznaka v f displaystyle f z t displaystyle t traplyayetsya v g displaystyle g na t t displaystyle t tau Yaksho f displaystyle f ta g displaystyle g obidvi ye bezperervnimi periodichnimi funkciyami z periodom T displaystyle T to integruvannya z displaystyle infty do displaystyle infty zaminyuyetsya integruvannyam za bud yakim intervalom t 0 t 0 T displaystyle t 0 t 0 T dovzhini T displaystyle T f g t t 0 t 0 T f t g t t d t displaystyle f star g tau triangleq int t 0 t 0 T overline f t g t tau dt 2 sho rivnoznachne f g t t 0 t 0 T f t t g t d t displaystyle f star g tau triangleq int t 0 t 0 T overline f t tau g t dt Analogichno dlya diskretnih funkcij vzayemnu korelyaciyu viznachayut yak f g n m f m g m n displaystyle f star g n triangleq sum m infty infty overline f m g m n 3 sho rivnoznachne f g n m f m n g m displaystyle f star g n triangleq sum m infty infty overline f m n g m Dlya skinchennih diskretnih funkcij f g C N displaystyle f g in mathbb C N ciklichnu angl circular vzayemnu korelyaciyu viznachayut yak f g n m 0 N 1 f m g m n mod N displaystyle f star g n triangleq sum m 0 N 1 overline f m g m n text mod N 4 sho rivnoznachne f g n m 0 N 1 f m n mod N g m displaystyle f star g n triangleq sum m 0 N 1 overline f m n text mod N g m Dlya skinchennih diskretnih funkcij f C N displaystyle f in mathbb C N g C M displaystyle g in mathbb C M yadrovu vzayemnu korelyaciyu angl kernel cross correlation viznachayut yak f g n m 0 N 1 f m K g m n mod N displaystyle f star g n triangleq sum m 0 N 1 overline f m K g m n text mod N 5 de K g k g T 0 g k g T 1 g k g T N 1 g displaystyle K g k g T 0 g k g T 1 g dots k g T N 1 g vektor yadrovih funkcij k C M C M R displaystyle k cdot cdot colon mathbb C M times mathbb C M to mathbb R a T i C M C M displaystyle T i cdot colon mathbb C M to mathbb C M afinne peretvorennya Zokrema T i displaystyle T i cdot mozhe buti peretvorennyam ciklichnogo perenesennya povorotnim ta masshtabuvalnim peretvorennyam tosho Yadrova vzayemna korelyaciya uzagalnyuye vzayemnu korelyaciyu z linijnogo prostoru do yadrovogo Vzayemna korelyaciya rivnoznachna perenesennyu yadrova vzayemna korelyaciya rivnoznachna bud yakim afinnim peretvorennyam vklyuchno z perenesennyam povertannyam masshtabuvannyam tosho Poyasnennya Yak priklad rozglyanmo dvi dijsnoznachni funkciyi f displaystyle f ta g displaystyle g sho vidriznyayutsya lishe nevidomim zmishennyam uzdovzh osi x Vzayemnoyu korelyaciyeyu mozhlivo skoristatisya shobi znajti naskilki g displaystyle g musit buti zmisheno vzdovzh osi x shobi zrobiti yiyi identichnoyu do f displaystyle f Cya formula po suti sovaye funkciyu g displaystyle g uzdovzh osi x obchislyuyuchi integral vid yihnogo dobutku v kozhnomu polozhenni Koli funkciyi zbigayutsya znachennya f g displaystyle f star g ye maksimalnim Ce tomu sho koli piki dodatni oblasti virivnyano voni roblyat velikij vnesok do integralu Analogichno koli virivnyuyutsya zapadini vid yemni oblasti voni takozh roblyat dodatnij vnesok do integralu oskilki dobutok dvoh vid yemnih chisel ye dodatnim Animaciya yaka naochno pokazuye yak obchislyuyetsya vzayemna korelyaciya Z kompleksnoznachnimi funkciyami f displaystyle f ta g displaystyle g vzyattya spryazhennya f displaystyle f zabezpechuye sho virivnyani piki abo virivnyani zapadini z uyavnimi komponentami robitimut do integralu dodatnij vnesok V ekonometriyi vzayemnu korelyaciyu z zapiznyuvannyam inodi nazivayut vzayemnoyu avtokorelyaciyeyu angl cross autocorrelation s 74 Vlastivosti Vzayemna korelyaciya funkcij f t displaystyle f t ta g t displaystyle g t rivnoznachna zgortci poznachuvanij cherez displaystyle funkcij f t displaystyle overline f t ta g t displaystyle g t Tobto f t g t t f t g t t displaystyle f t star g t t overline f t g t t f t g t t g t f t t displaystyle f t star g t t overline g t star overline f t t Yaksho funkciya f displaystyle f ye en to f g f g displaystyle f star g f g Yaksho yak f displaystyle f tak i g displaystyle g ye ermitovimi to f g g f displaystyle f star g g star f f g f g f f g g displaystyle left f star g right star left f star g right left f star f right star left g star g right Analogichno en vzayemna korelyaciya zadovolnyaye F f g F f F g displaystyle mathcal F left f star g right overline mathcal F left f right cdot mathcal F left g right de F displaystyle mathcal F poznachuye peretvorennya Fur ye a f displaystyle overline f znovu poznachuye kompleksne spryazhennya f displaystyle f oskilki F f t F f t displaystyle mathcal F left overline f t right overline mathcal F left f t right U poyednanni z algoritmami shvidkogo peretvorennya Fur ye cyu vlastivist chasto vikoristovuyut dlya efektivnogo chiselnogo obchislennya vzayemnih korelyacij div en Vzayemna korelyaciya pov yazana zi spektralnoyu gustinoyu div en Vzayemna korelyaciya zgortki f displaystyle f ta h displaystyle h z funkciyeyu g displaystyle g ce zgortka vzayemnoyi korelyaciyi g displaystyle g ta f displaystyle f z yadrom h displaystyle h g f h g f h displaystyle g star left f h right left g star f right h Vzayemna korelyaciya vipadkovih vektorivDokladnishe en Viznachennya Dlya vipadkovih vektoriv X X 1 X m T displaystyle mathbf X X 1 ldots X m rm T ta Y Y 1 Y n T displaystyle mathbf Y Y 1 ldots Y n rm T kozhen z yakih skladayetsya z vipadkovih elementiv z vidomimi matematichnim spodivannyami ta dispersiyami matricyu vzayemnoyi korelyaciyi X displaystyle mathbf X ta Y displaystyle mathbf Y viznachayut cherez s 337 R X Y E X Y T displaystyle operatorname R mathbf X mathbf Y triangleq operatorname E left mathbf X mathbf Y rm T right 6 j vona maye rozmiri m n displaystyle m times n U zapisi po skladovih R X Y E X 1 Y 1 E X 1 Y 2 E X 1 Y n E X 2 Y 1 E X 2 Y 2 E X 2 Y n E X m Y 1 E X m Y 2 E X m Y n displaystyle operatorname R mathbf X mathbf Y begin bmatrix operatorname E X 1 Y 1 amp operatorname E X 1 Y 2 amp cdots amp operatorname E X 1 Y n operatorname E X 2 Y 1 amp operatorname E X 2 Y 2 amp cdots amp operatorname E X 2 Y n vdots amp vdots amp ddots amp vdots operatorname E X m Y 1 amp operatorname E X m Y 2 amp cdots amp operatorname E X m Y n end bmatrix Vipadkovi vektori X displaystyle mathbf X ta Y displaystyle mathbf Y ne zobov yazani mati odnakovi rozmiri j bud yakij z nih mozhe buti skalyarnim znachennyam Priklad Napriklad yaksho X X 1 X 2 X 3 T displaystyle mathbf X left X 1 X 2 X 3 right rm T ta Y Y 1 Y 2 T displaystyle mathbf Y left Y 1 Y 2 right rm T vipadkovi vektori to R X Y displaystyle operatorname R mathbf X mathbf Y matricya 3 2 displaystyle 3 times 2 chiyim i j displaystyle i j m elementom ye E X i Y j displaystyle operatorname E X i Y j Viznachennya dlya kompleksnih vipadkovih vektoriv Yaksho Z Z 1 Z m T displaystyle mathbf Z Z 1 ldots Z m rm T ta W W 1 W n T displaystyle mathbf W W 1 ldots W n rm T en kozhen z yakih mistit vipadkovi velichini z vidomimi matematichnimi spodivannyami ta dispersiyami to matricyu vzayemnoyi korelyaciyi Z displaystyle mathbf Z ta W displaystyle mathbf W viznachayut cherez R Z W E Z W H displaystyle operatorname R mathbf Z mathbf W triangleq operatorname E mathbf Z mathbf W rm H de H displaystyle rm H poznachuye ermitove transponuvannya Vzayemna korelyaciya stohastichnih procesivV analizi chasovih ryadiv i statistici vzayemna korelyaciya pari vipadkovih procesiv ce korelyaciya mizh znachennyami cih procesiv u rizni momenti chasu yak funkciya vid cih dvoh momentiv chasu Nehaj X t Y t displaystyle X t Y t para vipadkovih procesiv a t displaystyle t bud yaka tochka v chasi t displaystyle t mozhe buti cilim chislom dlya en procesu abo dijsnim chislom dlya procesu en Todi X t displaystyle X t ce znachennya abo en realizovane v rezultati zadanogo perebigu procesu v moment chasu t displaystyle t Vzayemna korelyacijna funkciya Pripustimo sho cej proces u moment chasu t displaystyle t maye seredni znachennya m X t displaystyle mu X t ta m Y t displaystyle mu Y t i dispersiyi s X 2 t displaystyle sigma X 2 t ta s Y 2 t displaystyle sigma Y 2 t dlya bud yakogo t displaystyle t Todi viznachennyam vzayemnoyi korelyaciyi mizh momentami chasu t 1 displaystyle t 1 ta t 2 displaystyle t 2 ye s 392 R X Y t 1 t 2 E X t 1 Y t 2 displaystyle operatorname R XY t 1 t 2 triangleq operatorname E left X t 1 overline Y t 2 right 7 de E displaystyle operatorname E operator matematichnogo spodivannya Zauvazhte sho cej viraz mozhe buti ne viznachenim Vzayemna kovariacijna funkciya Vidnimannya serednogo znachennya pered mnozhennyam daye perehresnu kovariaciyu momentiv chasu t 1 displaystyle t 1 ta t 2 displaystyle t 2 s 392 K X Y t 1 t 2 E X t 1 m X t 1 Y t 2 m Y t 2 displaystyle operatorname K XY t 1 t 2 triangleq operatorname E left left X t 1 mu X t 1 right overline Y t 2 mu Y t 2 right 8 Zauvazhte sho cej viraz ne ye odnoznachno viznachenim dlya vsih chasovih ryadiv ta procesiv oskilki serednye znachennya abo dispersiya mozhut ne isnuvati Viznachennya dlya stacionarnogo v shirokomu sensi stohastichnogo procesu Nehaj X t Y t displaystyle X t Y t podaye paru stohastichnih procesiv en Todi vzayemnu kovariacijnu ta vzayemnu korelyacijnu funkciyi zadayut nastupnim chinom Vzayemna korelyacijna funkciya R X Y t E X t Y t t displaystyle operatorname R XY tau triangleq operatorname E left X t overline Y t tau right 9 abo rivnoznachno R X Y t E X t t Y t displaystyle operatorname R XY tau operatorname E left X t tau overline Y t right Vzayemna kovariacijna funkciya K X Y t E X t m X Y t t m Y displaystyle operatorname K XY tau triangleq operatorname E left left X t mu X right overline left Y t tau mu Y right right 10 abo rivnoznachno K X Y t E X t t m X Y t m Y displaystyle operatorname K XY tau operatorname E left left X t tau mu X right overline left Y t mu Y right right de m X displaystyle mu X ta s X displaystyle sigma X serednye znachennya ta standartne vidhilennya procesu X t displaystyle X t stali v chasi cherez stacionarnist i tak samo dlya Y t displaystyle Y t vidpovidno E displaystyle operatorname E pokazuye matematichne spodivannya Te sho vzayemni kovariaciya ta korelyaciya ne zalezhat vid t displaystyle t same dodatkova informaciya poza individualnoyu stacionarnistyu v shirokomu sensi yaku peredaye vimoga sho X t Y t displaystyle X t Y t spilno stacionarni v shirokomu sensi Vzayemnu korelyaciyu pari spilno stacionarnih u shirokomu sensi stohastichnih procesiv mozhlivo ocinyuvati userednyuvannyam dobutku zrazkiv vimiryanih za odnim procesom i zrazkiv vimiryanih za inshim ta za jogo zsuvami v chasi Zrazki vklyucheni do cogo userednyuvannya mozhut buti dovilnoyu pidmnozhinoyu vsih zrazkiv u signali napriklad zrazki v mezhah skinchennogo chasovogo vikna abo pidvibirka yaka odnogo z signaliv Za velikoyi kilkosti zrazkiv ce userednennya zbigayetsya do istinnoyi vzayemnoyi korelyaciyi Unormovuvannya Poshirenoyu praktikoyu v deyakih disciplinah napriklad u statistici ta analizi chasovih ryadiv ye unormovuvati vzayemno korelyacijnu funkciyu shob otrimuvati zalezhnij vid chasu koeficiyent korelyaciyi Pirsona Prote v deyakih inshih disciplinah napriklad v inzheneriyi unormovuvannya zazvichaj propuskayut a termini vzayemna korelyaciya ta vzayemna kovariaciya vikoristovuyut yak vzayemozaminni Viznachennya normovanoyi vzayemnoyi korelyaciyi stohastichnogo procesu r X X t 1 t 2 K X X t 1 t 2 s X t 1 s X t 2 E X t 1 m t 1 X t 2 m t 2 s X t 1 s X t 2 displaystyle rho XX t 1 t 2 frac operatorname K XX t 1 t 2 sigma X t 1 sigma X t 2 frac operatorname E left left X t 1 mu t 1 right overline left X t 2 mu t 2 right right sigma X t 1 sigma X t 2 Yaksho funkciya r X X displaystyle rho XX odnoznachno viznachena yiyi znachennya musyat lezhati v diapazoni 1 1 displaystyle 1 1 prichomu 1 vkazuye na idealnu korelyaciyu a 1 na idealnu antikorelyaciyu Dlya spilno stacionarnih u shirokomu sensi stohastichnih procesiv viznachennya take r X Y t K X Y t s X s Y E X t m X Y t t m Y s X s Y displaystyle rho XY tau frac operatorname K XY tau sigma X sigma Y frac operatorname E left left X t mu X right overline left Y t tau mu Y right right sigma X sigma Y Unormovuvannya vazhlive yak tomu sho interpretaciya avtokorelyaciyi yak korelyaciyi zabezpechuye bezmasshtabnu miru sili statistichnoyi zalezhnosti tak i tomu sho unormovuvannya vplivaye na statistichni vlastivosti ocinyuvanih avtokorelyacij Vlastivosti Vlastivist simetriyi Dlya spilno stacionarnih u shirokomu sensi stohastichnih procesiv vzayemno korelyacijna funkciya maye taku vlastivist simetriyi s 173 R X Y t 1 t 2 R Y X t 2 t 1 displaystyle operatorname R XY t 1 t 2 overline operatorname R YX t 2 t 1 Vidpovidno dlya spilno SShS stohastichnih procesiv R X Y t R Y X t displaystyle operatorname R XY tau overline operatorname R YX tau Analiz chasovoyi zatrimkiVzayemni korelyaciyi korisni dlya viznachannya chasovoyi zatrimki mizh dvoma signalami napriklad dlya viznachannya chasovih zatrimok poshirennya akustichnih signaliv sistemoyu spryamovanih mikrofoniv proyasniti kom Pislya obchislennya vzayemnoyi korelyaciyi mizh dvoma signalami maksimum abo minimum yaksho signali korelovani negativno vzayemno korelyacijnoyi funkciyi vkazuye moment chasu koli signali uzgodzheni najkrashe tobto zatrimka chasu mizh cimi dvoma signalami viznachayetsya argumentom maksimumu abo arg max vzayemnoyi korelyaciyi yak u t d e l a y a r g m a x t R f g t displaystyle tau mathrm delay underset t in mathbb R operatorname arg max f star g t Terminologiya v obrobci zobrazhenCentrovana normovana vzayemna korelyaciya CNVK Dlya zastosuvan v obrobci zobrazhen u yakih yaskravist zobrazhennya ta shablonu mozhe zminyuvatisya zalezhno vid umov osvitlennya ta ekspoziciyi zobrazhennya mozhut spochatku unormovuvati Zazvichaj ce roblyat na kozhnomu kroci shlyahom vidnimannya serednogo znachennya ta dilennya na standartne vidhilennya Tobto vzayemna korelyaciya shablonu t x y displaystyle t x y z pidzobrazhennyam f x y displaystyle f x y ce 1 n x y 1 s f s t f x y m f t x y m t displaystyle frac 1 n sum x y frac 1 sigma f sigma t left f x y mu f right left t x y mu t right de n displaystyle n chislo pikseliv u t x y displaystyle t x y ta f x y displaystyle f x y m f displaystyle mu f userednennya f displaystyle f a s f displaystyle sigma f standartne vidhilennya f displaystyle f Z poglyadu funkcionalnogo analizu ce mozhlivo rozglyadati yak dobutok dvoh unormovanih vektoriv Tobto yaksho F x y f x y m f displaystyle F x y f x y mu f ta T x y t x y m t displaystyle T x y t x y mu t to navedena vishe suma dorivnyuye F F T T displaystyle left langle frac F F frac T T right rangle de displaystyle langle cdot cdot rangle skalyarnij dobutok a displaystyle cdot norma L Z Koshi Bunyakovskogo todi viplivaye sho CNVK angl zero normalized cross correlation ZNCC maye diapazon 1 1 displaystyle 1 1 Takim chinom yaksho f displaystyle f ta t displaystyle t ye dijsnoznachnimi matricyami to yih normovana vzayemna korelyaciya dorivnyuye kosinusu kuta mizh odinichnimi vektorami F displaystyle F ta T displaystyle T buduchi vidtak 1 displaystyle 1 todi j lishe todi koli F displaystyle F dorivnyuye T displaystyle T pomnozhenomu na dodatnij skalyar Normovana korelyaciya ce odin iz metodiv yaki vikoristovuyut dlya en procesu yakij vikoristovuyut dlya poshuku zrazkiv abo ob yektiv u zobrazhenni Vona takozh ye dvovimirnoyu versiyeyu koeficiyentu korelyaciyi momentu dobutku Pirsona Normovana vzayemna korelyaciya NVK NVK angl normalized cross correlation NCC podibna do CNVK z tiyeyu lishe vidminnistyu sho ne vidnimayetsya lokalne serednye znachennya osvitlenostej 1 n x y 1 s f s t f x y t x y displaystyle frac 1 n sum x y frac 1 sigma f sigma t f x y t x y Nelinijni sistemiPri vikoristanni vzayemnoyi korelyaciyi dlya nelinijnih sistem neobhidno buti oberezhnimi Za pevnih obstavin yaki zalezhat vid vlastivostej vhidnih danih vzayemna korelyaciya mizh vhodom i vihodom sistemi z nelinijnoyu dinamikoyu mozhe buti povnistyu slipoyu do pevnih nelinijnih efektiv Cya problema vinikaye cherez te sho deyaki kvadrati momentiv mozhut dorivnyuvati nulevi j ce mozhe pomilkovo pidkazuvati sho mizh dvoma signalami isnuye nevelika korelyaciya u sensi statistichnoyi zalezhnosti hocha naspravdi ci dva signali silno pov yazani nelinijnoyu dinamikoyu Div takozhAvtokovariaciya Avtokorelyaciya Vzayemna kovariaciya en en Zgortka en Korelyacijna funkciya Korelyaciya en en Spektralna gustina en Fazova korelyaciyaPrimitkiBracewell R Pentagram Notation for Cross Correlation The Fourier Transform and Its Applications New York McGraw Hill pp 46 and 243 1965 angl Papoulis A The Fourier Integral and Its Applications New York McGraw Hill pp 244 245 and 252 253 1962 angl Weisstein Eric W Cross Correlation From MathWorld A Wolfram Web Resource http mathworld wolfram com Cross Correlation html 30 serpnya 2020 u Wayback Machine angl Rabiner L R Schafer R W 1978 Digital Processing of Speech Signals Signal Processing Series Upper Saddle River NJ Prentice Hall s 147 148 ISBN 0132136031 angl Rabiner Lawrence R Gold Bernard 1975 Theory and Application of Digital Signal Processing Englewood Cliffs NJ Prentice Hall s 401 ISBN 0139141014 angl Wang Chen 2019 Kernel learning for visual perception Chapter 2 2 1 Doctoral thesis Nanyang Technological University Singapore s 17 18 angl Wang Chen Zhang Le Yuan Junsong Xie Lihua 2018 The Thirty second AAAI Conference On Artificial Intelligence Association for the Advancement of Artificial Intelligence s 4179 4186 Arhiv originalu za 19 grudnya 2021 Procitovano 12 sichnya 2022 angl Campbell Lo MacKinlay 1996 The Econometrics of Financial Markets NJ Princeton University Press ISBN 0691043019 angl Kapinchev Konstantin Bradu Adrian Barnes Frederick Podoleanu Adrian 2015 GPU implementation of cross correlation for image generation in real time 2015 9th International Conference on Signal Processing and Communication Systems ICSPCS s 1 6 doi 10 1109 ICSPCS 2015 7391783 ISBN 978 1 4673 8118 5 angl Gubner John A 2006 Probability and Random Processes for Electrical and Computer Engineers Cambridge University Press ISBN 978 0 521 86470 1 angl Kun Il Park Fundamentals of Probability and Stochastic Processes with Applications to Communications Springer 2018 978 3 319 68074 3 angl Rhudy Matthew Brian Bucci Jeffrey Vipperman Jeffrey Allanach Bruce Abraham November 2009 Microphone Array Analysis Methods Using Cross Correlations Proceedings of 2009 ASME International Mechanical Engineering Congress Lake Buena Vista FL s 281 288 doi 10 1115 IMECE2009 10798 ISBN 978 0 7918 4388 8 angl Rhudy Matthew November 2009 University of Pittsburgh Master s Thesis Arhiv originalu za 14 lipnya 2014 Procitovano 16 listopada 2021 angl Billings S A 2013 Nonlinear System Identification NARMAX Methods in the Time Frequency and Spatio Temporal Domains Wiley ISBN 978 1 118 53556 1 angl LiteraturaTahmasebi Pejman Hezarkhani Ardeshir Sahimi Muhammad 2012 Multiple point geostatistical modeling based on the cross correlation functions Computational Geosciences 16 3 779 797 doi 10 1007 s10596 012 9287 1 angl PosilannyaVzayemna korelyaciya vid Mathworld 30 serpnya 2020 u Wayback Machine angl http scribblethink org Work nvisionInterface nip html 22 kvitnya 2022 u Wayback Machine angl http www staff ncl ac uk oliver hinton eee305 Chapter6 pdf 1 serpnya 2020 u Wayback Machine angl