Коефіцієнт Пірсона

У статистиці, коефіціє́нт кореля́ції Пі́рсона (ККП, англ. Pearson correlation coefficient, PCC) — це коефіцієнт кореляції, який вимірює ^[en] кореляцію між двома наборами даних. Це відношення коваріації двох змінних до добутку їхніх стандартних відхилень; таким чином, це, по суті, унормована міра коваріації, така, що її результат завжди має значення між −1 та 1. Як і сама коваріація, ця міра може відображати лише лінійну кореляцію змінних, і не враховує багатьох інших типів взаємозв'язків і кореляцій. Як простий приклад, можна було би очікувати, що вік і зріст групи підлітків із середньої школи матимуть коефіцієнт кореляції Пірсона значно більший за 0, але менший за 1 (оскільки 1 означало би нереалістично ідеальну кореляцію).

Приклади діаграм розсіювання з різними значеннями коефіцієнта кореляції (ρ)

Не плутати з коефіцієнтом детермінації.

Декілька наборів точок (x, y), з коефіцієнтом кореляції між x та y для кожного набору. Кореляція відображує силу та напрямок лінійного зв'язку (верхній ряд), але не нахил цього зв'язку (середній), ані багато аспектів нелінійних зв'язків (нижній). Примітка: фігура в центрі має нахил 0, але в цьому випадку коефіцієнт кореляції невизначений, оскільки дисперсія Y нульова.

Назва й історія

Розробив його Карл Пірсон на основі спорідненої ідеї, запропонованої Френсісом Гальтоном у 1880-х роках, математичну формулу для якої вивів та опублікував Огюст Браве 1844 року. Назва цього коефіцієнта є одним із прикладів закону Стіглера.

Визначення

Коефіцієнт кореляції Пірсона це коваріація двох змінних, поділена на добуток їхніх стандартних відхилень. Вигляд цього визначення містить «момент добутку», тобто середнє значення (перший момент відносно початку координат) добутку змінних, скоригованих на їхні середні значення; тому в назві й використовують означення «моменту добутку».

Для сукупності

Коефіцієнт кореляції Пірсона, коли його застосовують до сукупності, зазвичай позначують грецькою літерою ρ (ро), й можуть називати коефіцієнтом кореляції сукупності (англ. population correlation coefficient) або коефіцієнтом кореляції Пірсона для сукупності (англ. population Pearson correlation coefficient). Для пари випадкових змінних ${\displaystyle (X,Y)}$ (наприклад, Зріст та Вага), формулою для ρ є

$${\displaystyle \rho _{X,Y}={\frac {\operatorname {cov} (X,Y)}{\sigma _{X}\sigma _{Y}}}}$$

де

• ${\displaystyle \operatorname {cov} }$ — коваріація
• ${\displaystyle \sigma _{X}}$ — стандартне відхилення ${\displaystyle X}$
• ${\displaystyle \sigma _{Y}}$ — стандартне відхилення ${\displaystyle Y}$.

Формулу для ${\displaystyle \operatorname {cov} (X,Y)}$ можливо виразити через середнє значення та математичне сподівання. Оскільки

${\displaystyle \operatorname {cov} (X,Y)=\operatorname {\mathbb {E} } [(X-\mu _{X})(Y-\mu _{Y})],}$

формулу для ${\displaystyle \rho }$ також можливо записати як

$${\displaystyle \rho _{X,Y}={\frac {\operatorname {\mathbb {E} } [(X-\mu _{X})(Y-\mu _{Y})]}{\sigma _{X}\sigma _{Y}}}}$$

де

• ${\displaystyle \sigma _{Y}}$ та ${\displaystyle \sigma _{X}}$ визначено як вище
• ${\displaystyle \mu _{X}}$ — середнє значення ${\displaystyle X}$
• ${\displaystyle \mu _{Y}}$ — середнє значення ${\displaystyle Y}$
• ${\displaystyle \operatorname {\mathbb {E} } }$ — математичне сподівання.

Формулу для ${\displaystyle \rho }$ можливо виразити через нецентровані моменти. Оскільки

${\displaystyle {\begin{aligned}\mu _{X}={}&\operatorname {\mathbb {E} } [\,X\,]\\\mu _{Y}={}&\operatorname {\mathbb {E} } [\,Y\,]\\\sigma _{X}^{2}={}&\operatorname {\mathbb {E} } \left[\,\left(X-\operatorname {\mathbb {E} } [X]\right)^{2}\,\right]=\operatorname {\mathbb {E} } \left[\,X^{2}\,\right]-\left(\operatorname {\mathbb {E} } [\,X\,]\right)^{2}\\\sigma _{Y}^{2}={}&\operatorname {\mathbb {E} } \left[\,\left(Y-\operatorname {\mathbb {E} } [Y]\right)^{2}\,\right]=\operatorname {\mathbb {E} } \left[\,Y^{2}\,\right]-\left(\,\operatorname {\mathbb {E} } [\,Y\,]\right)^{2}\\&\operatorname {\mathbb {E} } [\,\left(X-\mu _{X}\right)\left(Y-\mu _{Y}\right)\,]=\operatorname {\mathbb {E} } [\,\left(X-\operatorname {\mathbb {E} } [\,X\,]\right)\left(Y-\operatorname {\mathbb {E} } [\,Y\,]\right)\,]=\operatorname {\mathbb {E} } [\,X\,Y\,]-\operatorname {\mathbb {E} } [\,X\,]\operatorname {\mathbb {E} } [\,Y\,]\,,\end{aligned}}}$

формулу для ${\displaystyle \rho }$ також можливо записати як $${\displaystyle \rho _{X,Y}={\frac {\operatorname {\mathbb {E} } [\,X\,Y\,]-\operatorname {\mathbb {E} } [\,X\,]\operatorname {\mathbb {E} } [\,Y\,]}{{\sqrt {\operatorname {\mathbb {E} } \left[\,X^{2}\,\right]-\left(\operatorname {\mathbb {E} } [\,X\,]\right)^{2}}}~{\sqrt {\operatorname {\mathbb {E} } \left[\,Y^{2}\,\right]-\left(\operatorname {\mathbb {E} } [\,Y\,]\right)^{2}}}}}.}$$

Для вибірки

Коефіцієнт кореляції Пірсона, коли його застосовують до вибірки, зазвичай позначують через ${\displaystyle r_{xy}}$ і можуть називати коефіцієнтом кореляції вибірки (англ. sample correlation coefficient) або коефіцієнтом кореляції Пірсона для вибірки (англ. sample Pearson correlation coefficient). Формулу для ${\displaystyle r_{xy}}$ можливо отримати, підставивши оцінки коваріацій та дисперсій на основі вибірки до наведеної вище формули. Для парних даних ${\displaystyle \left\{(x_{1},y_{1}),\ldots ,(x_{n},y_{n})\right\}}$, що складаються з ${\displaystyle n}$ пар, ${\displaystyle r_{xy}}$ визначають як

$${\displaystyle r_{xy}={\frac {\sum _{i=1}^{n}(x_{i}-{\bar {x}})(y_{i}-{\bar {y}})}{{\sqrt {\sum _{i=1}^{n}(x_{i}-{\bar {x}})^{2}}}{\sqrt {\sum _{i=1}^{n}(y_{i}-{\bar {y}})^{2}}}}}}$$

де

• ${\displaystyle n}$ — розмір вибірки
• ${\displaystyle x_{i},y_{i}}$ — окремі точки вибірки з індексом i
• ${\textstyle {\bar {x}}={\frac {1}{n}}\sum _{i=1}^{n}x_{i}}$ (середнє значення вибірки); й аналогічно для ${\displaystyle {\bar {y}}}$.

Перегрупування дає таку формулу для ${\displaystyle r_{xy}}$:

${\displaystyle r_{xy}={\frac {n\sum x_{i}y_{i}-\sum x_{i}\sum y_{i}}{{\sqrt {n\sum x_{i}^{2}-\left(\sum x_{i}\right)^{2}}}~{\sqrt {n\sum y_{i}^{2}-\left(\sum y_{i}\right)^{2}}}}},}$

де ${\displaystyle n,x_{i},y_{i}}$ визначено як вище.

Ця формула пропонує зручний однопрохідний алгоритм обчислення кореляцій вибірок, хоча, залежно від задіяних чисел, вона іноді може бути чисельно нестійкою.

Подальше перегрупування дає таку формулу для ${\displaystyle r_{xy}}$:

${\displaystyle r_{xy}={\frac {\sum _{i}x_{i}y_{i}-n{\bar {x}}{\bar {y}}}{{\sqrt {\sum _{i}x_{i}^{2}-n{\bar {x}}^{2}}}~{\sqrt {\sum _{i}y_{i}^{2}-n{\bar {y}}^{2}}}}},}$

де ${\displaystyle n,x_{i},y_{i},{\bar {x}},{\bar {y}}}$ визначено як вище.

Еквівалентний вираз дає формулу для ${\displaystyle r_{xy}}$ як середнє добутків стандартних оцінок наступним чином:

${\displaystyle r_{xy}={\frac {1}{n-1}}\sum _{i=1}^{n}\left({\frac {x_{i}-{\bar {x}}}{s_{x}}}\right)\left({\frac {y_{i}-{\bar {y}}}{s_{y}}}\right)}$

де

• ${\displaystyle n,x_{i},y_{i},{\bar {x}},{\bar {y}}}$ визначено як вище, а ${\displaystyle s_{x},s_{y}}$ визначено нижче
• ${\textstyle \left({\frac {x_{i}-{\bar {x}}}{s_{x}}}\right)}$ — стандартна оцінка (й аналогічно для стандартної оцінки ${\displaystyle y}$).

Доступні й альтернативні формули для ${\displaystyle r_{xy}}$. Наприклад, можливо використовувати наступну формулу для ${\displaystyle r_{xy}}$:

${\displaystyle r_{xy}={\frac {\sum x_{i}y_{i}-n{\bar {x}}{\bar {y}}}{(n-1)s_{x}s_{y}}}}$

де

• ${\displaystyle n,x_{i},y_{i},{\bar {x}},{\bar {y}}}$ визначено як вище, а
• ${\textstyle s_{x}={\sqrt {{\frac {1}{n-1}}\sum _{i=1}^{n}(x_{i}-{\bar {x}})^{2}}}}$ (ви́біркове стандартне відхилення); й аналогічно для ${\displaystyle s_{y}}$.

Для спільно гауссових розподілів

Якщо ${\displaystyle (X,Y)}$ спільно гауссові, з нульовим середнім значенням і дисперсією ${\displaystyle \Sigma }$, то ${\displaystyle \Sigma ={\begin{bmatrix}\sigma _{X}^{2}&\rho _{X,Y}\sigma _{X}\sigma _{Y}\\\rho _{X,Y}\sigma _{X}\sigma _{Y}&\sigma _{Y}^{2}\\\end{bmatrix}}}$.

Практичні проблеми

В умовах сильного шуму виділяння коефіцієнта кореляції між двома наборами стохастичних змінних нетривіальне, особливо коли канонічно-кореляційний аналіз показує зниження значень кореляції через значний внесок шуму. Узагальнення цього підходу наведено в іншому місці.

У випадку відсутності даних, Ґаррен вивів оцінювання максимальною правдоподібністю.

Деякі розподіли (наприклад, стійкі розподіли, відмінні від нормального) не мають визначеної дисперсії.

Математичні властивості

Значення коефіцієнта кореляції Пірсона як для вибірки, так і для сукупності перебувають на або між −1 та 1. Кореляції, які дорівнюють +1 чи −1, відповідають точкам даних, що лежать точно на прямій (у випадку коефіцієнта кореляції вибірки), або двовимірному розподілу, ^[en] якого лежить на прямій (у випадку коефіцієнта кореляції сукупності). Коефіцієнт кореляції Пірсона симетричний: corr(X,Y) = corr(Y,X).

Ключовою математичною властивістю коефіцієнта кореляції Пірсона є його ^[en] щодо окремих змін розташування та масштабу в обох змінних. Тобто ми можемо перетворити X на a + bX, і перетворити Y на c + dY, де a, b, c, та d сталі, а b, d > 0, не змінивши коефіцієнта кореляції. (Це справджується як для коефіцієнта кореляції сукупності, так і для коефіцієнта кореляції вибірки.) Загальніші лінійні перетворення кореляцію змінюють: щодо того, як це застосовувати, див. § Декореляція n випадкових змінних.

Тлумачення

Коефіцієнт кореляції набуває значень з −1 по 1. Абсолютне рівне значення 1 означає, що лінійне рівняння описує взаємозв'язок між X та Y ідеально, з усіма точками даних на одній прямій. Знак кореляції визначається нахилом регресії: значення +1 означає, що всі точки даних лежать на прямій, за якої Y зростає зі зростанням X, і навпаки для −1. Значення 0 означає, що між змінними немає лінійної залежності.

Загальніше, (X_i − X)(Y_i − Y) додатний тоді й лише тоді, коли X_i та Y_i перебувають з одного боку від своїх середніх значень. Відтак, коефіцієнт кореляції додатний, коли X_i та Y_i схильні бути одночасно більшими або одночасно меншими за свої середні значення. Коефіцієнт кореляції від'ємний (антикореляція), коли X_i та Y_i схильні перебувати по різні боки від своїх середніх значень. Більше того, що сильніша будь-яка з цих тенденцій, то більше абсолютне значення коефіцієнта кореляції.

Роджерс та Найсвандер перелічили тринадцять способів тлумачення кореляції або простих функцій від неї:

• Функція від сирих оцінок та середніх значень
• Стандартизована коваріація
• Стандартизований нахил лінії регресії
• Геометричне середнє двох нахилів регресії
• Квадратний корінь відношення двох дисперсій
• Середній векторний добуток стандартизованих змінних
• Функція кута між двома стандартизованими регресійними лініями
• Функція кута між двома векторами змінних
• Перемасштабована дисперсія різниці стандартизованих оцінок
• Оцінка за правилом повітряної кульки
• Пов'язана з двовимірними еліпсами ізоконцентрації
• Функція статистичного критерію із запланованих експериментів
• Відношення двох середніх

Геометричне тлумачення

Лінії регресії для y = g_X(x) [червона] та x = g_Y(y) [синя]

Для нецентрованих даних існує зв'язок між коефіцієнтом кореляції та кутом φ між двома регресійними лініями, y = g_X(x) та x = g_Y(y), отриманими в результаті регресії y на x та x на y відповідно. (Тут φ відкладають проти годинникової стрілки в першому квадранті, утвореному навколо точки перетину ліній, якщо r > 0, чи проти годинникової стрілки з четвертого до другого квадранту, якщо r < 0.) Можливо показати, що якщо стандартні відхилення рівні, то r = sec φ − tg φ, де sec та tg — тригонометричні функції.

Для центрованих даних (тобто даних, зміщених на середні значення їхніх відповідних змінних, таким чином, щоби середнє значення кожної змінної було нульовим) коефіцієнт кореляції також можливо розглядати як косинус кута θ між двома спостережуваними векторами в N-вимірному просторі (для N спостережень кожної змінної).

Коефіцієнти як нецентрованої (не пірсоново сумісної), так і центрованої кореляції можливо визначати для набору даних. Наприклад, припустімо, що виявлено, що п'ять країн мають валовий національний продукт 1, 2, 3, 5 та 8 мільярдів доларів відповідно. Припустімо, що ці ж п'ять країн (у тому ж порядку) мають 11 %, 12 %, 13 %, 15 % та 18 % бідності. Тоді нехай x та y будуть впорядкованими 5-елементними векторами, що містять наведені вище дані: x = (1, 2, 3, 5, 8) та y = (0.11, 0.12, 0.13, 0.15, 0.18).

За звичайною процедурою визначення кута θ між двома векторами (див. скалярний добуток) коефіцієнт нецентрованої кореляції становить

${\displaystyle \cos \theta ={\frac {\mathbf {x} \cdot \mathbf {y} }{\left|\mathbf {x} \right|\left|\mathbf {y} \right|}}={\frac {2.93}{{\sqrt {103}}{\sqrt {0.0983}}}}=0.920814711.}$

Цей коефіцієнт нецентрованої кореляції ідентичний косинусній подібності. Наведені вище дані було свідомо обрано так, щоби вони бути ідеально корельованими: y = 0.10 + 0.01 x. Тому коефіцієнт кореляції Пірсона мусить дорівнювати рівно одиниці. Центрування даних (зміщення x на ℰ(x) = 3.8 та y на ℰ(y) = 0.138) дає x = (−2.8, −1.8, −0.8, 1.2, 4.2) та y = (−0.028, −0.018, −0.008, 0.012, 0.042), звідки

${\displaystyle \cos \theta ={\frac {\mathbf {x} \cdot \mathbf {y} }{\left|\mathbf {x} \right|\left|\mathbf {y} \right|}}={\frac {0.308}{{\sqrt {30.8}}{\sqrt {0.00308}}}}=1=\rho _{xy},}$

як і очікувалося.

Тлумачення розміру кореляції

Цей рисунок дає уявлення про те, як корисність кореляції Пірсона для передбачування значень змінюється залежно від її величини. Для спільно нормальних X, Y з кореляцією ρ, ${\displaystyle 1-{\sqrt {1-\rho ^{2}}}}$ (зображений тут як функція ρ) це коефіцієнт, на який може бути зменшено заданий ^[en] для Y з урахуванням відповідного значення X. Наприклад, якщо ρ = 0.5, то 95 %-вий інтервал передбачення Y|X буде приблизно на 13 % меншим за 95 %-вий інтервал передбачення Y.

Декілька авторів запропонували настанови для тлумачення коефіцієнта кореляції. Проте всі такі критерії дещо довільні. Тлумачення коефіцієнта кореляції залежить від контексту та цілей. Кореляція 0,8 може бути дуже низькою, якщо йдеться про перевірку фізичного закону з використанням високоякісних інструментів, але може вважатися дуже високою в соціальних науках, де внесок від ускладнювальних чинників може бути більшим.

Висновування

Статистичне висновування на основі коефіцієнті кореляції Пірсона часто зосереджується на одній з наступних двох цілей:

• Одна мета полягає в перевірці нульової гіпотези, що істинний коефіцієнт кореляції ρ дорівнює 0, на основі значення коефіцієнта кореляції вибірки r.
• Інша мета полягає в тому, щоби вивести довірчий інтервал, який при повторюваному вибиранні має задану ймовірність містити ρ.

Методи досягнення однієї або обох цих цілей обговорюються нижче.

Використання перестановкового критерію

Перстановкові критерії забезпечують прямий підхід до здійснення перевірок гіпотез і побудови довірчих інтервалів. Перестановковий критерій для коефіцієнта кореляції Пірсона містить наступні два кроки:

1. Використовуючи первинні паровані дані (x_i, y_i), випадково визначити пари заново, створивши новий набір даних (x_i, y_i′), де i′ — перестановка множини {1,…,n}. Перестановку i′ вибирають випадково, з рівними ймовірностями для всіх n! можливих перестановок. Це рівнозначне вибиранню i′ випадково без повторів з множини {1, …, n}. У натяжці, тісно пов'язаному підході, i та i′ є рівними й вибираються з {1, …, n} з повторами;
2. Побудувати коефіцієнт кореляції r з цих увипадковлених даних.

Щоби виконати перевірку перестановкового критерію, повторіть кроки (1) та (2) велику кількість разів. p-значення для перестановкового критерію — це частка значень r, породжених на кроці (2), більших за коефіцієнт кореляції Пірсона, обчислений із первинних даних. Тут «більший» може означати як більший за абсолютним значенням, так і більший за значенням зі знаком, залежно від того, чи потрібен ^[en], чи ^[en] критерій.

Використання натяжки

Для побудови довірчих інтервалів для коефіцієнта кореляції Пірсона можливо використовувати натяжку. В «непараметричній» натяжці n пар (x_i, y_i) перевибирають зі спостережуваного набору з n пар «з повторами», й коефіцієнт кореляції r обчислюють на основі цих перевибраних даних. Цей процес повторюють велику кількість разів, і цей емпіричний розподіл перевибраних значень r використовують для наближення вибіркового розподілу цієї статистики. 95 %-вий довірчий інтервал для ρ можливо визначити як інтервал, що простягається від 2,5-го до 97,5-го перцентиля перевибраних значень r.

Стандартна похибка

Якщо ${\displaystyle x}$ та ${\displaystyle y}$ — випадкові змінні, то стандартною похибкою, пов'язаною з кореляцією у випадку нульової гіпотези, є

${\displaystyle \sigma _{r}={\sqrt {\frac {1-r^{2}}{n-2}}}}$

де ${\displaystyle r}$ — кореляція (за припущення r≈0), а ${\displaystyle n}$ — розмір вибірки.

Перевірка з використанням розподілу Ст'юдента

Критичні значення коефіцієнта кореляції Пірсона, які має бути перевищено, щоби вважати його значно ненульовим на рівні 0,05.

Для пар з некорельованого двовимірного нормального розподілу, вибірковий розподіл ст'юдентованого коефіцієнта кореляції Пірсона дотримується t-розподілу Ст'юдента зі ступенями вільності n − 2. Зокрема, якщо змінні в основі мають двовимірний нормальний розподіл, то змінна

${\displaystyle t={\frac {r}{\sigma _{r}}}=r{\sqrt {\frac {n-2}{1-r^{2}}}}}$

у випадку нульової гіпотези (нульової кореляції) має розподіл Ст'юдента. Це приблизно виконується у випадку не нормальних спостережуваних значень, якщо розміри вибірок достатньо великі. Для визначення критичних значень для r потрібна обернена функція:

${\displaystyle r={\frac {t}{\sqrt {n-2+t^{2}}}}.}$

Також можливо використовувати асимптотичні підходи для великих вибірок.

Інша рання стаття пропонує графіки та таблиці для загальних значень ρ, для малих розмірів вибірки, та обговорює підходи до обчислень.

У випадку, якщо змінні в основі не нормальні, вибірковий розподіл коефіцієнта кореляції Пірсона дотримується розподілу Ст'юдента, але ступені вільності знижуються.

Використання точного розподілу

Для даних, що слідують двовимірному нормальному розподілу, точною функцією густини f(r) для вибіркового коефіцієнта кореляції r нормального двовимірного розподілу є

${\displaystyle f(r)={\frac {(n-2)\,\mathrm {\Gamma } (n-1)\left(1-\rho ^{2}\right)^{\frac {n-1}{2}}\left(1-r^{2}\right)^{\frac {n-4}{2}}}{{\sqrt {2\pi }}\,\operatorname {\Gamma } {\mathord {\left(n-{\tfrac {1}{2}}\right)}}(1-\rho r)^{n-{\frac {3}{2}}}}}{}_{2}\mathrm {F} _{1}{\mathord {\left({\tfrac {1}{2}},{\tfrac {1}{2}};{\tfrac {1}{2}}(2n-1);{\tfrac {1}{2}}(\rho r+1)\right)}}}$

де ${\displaystyle \Gamma }$ — це гамма-функція, а ${\displaystyle {}_{2}\mathrm {F} _{1}(a,b;c;z)}$ — гауссова гіпергеометрична функція.

В окремому випадку, коли ${\displaystyle \rho =0}$ (нульова кореляція в сукупності), точну функцію густини f(r) можливо записати як

${\displaystyle f(r)={\frac {\left({\frac {1}{1-r^{2}}}\right)^{-{\frac {n-1}{2}}}}{{\sqrt {n-2}}\,\operatorname {\mathrm {B} } {\mathord {\left({\tfrac {1}{2}},{\tfrac {n-2}{2}}\right)}}}},}$

де ${\displaystyle \mathrm {B} }$ — це бета-функція, що є одним зі способів запису густини t-розподілу Ст'юдента для ст'юдентованого вибіркового коефіцієнта кореляції, як зазначено вище.

Використання точного довірчого розподілу

Довірчі інтервали та критерії можливо розраховувати з ^[en]. Точна довірча густина для ρ становить

$${\displaystyle \pi (\rho \mid r)={\frac {\nu (\nu -1)\Gamma (\nu -1)}{{\sqrt {2\pi }}\Gamma \left(\nu +{\frac {1}{2}}\right)}}\left(1-r^{2}\right)^{\frac {\nu -1}{2}}\cdot \left(1-\rho ^{2}\right)^{\frac {\nu -2}{2}}\cdot \left(1-r\rho \right)^{\frac {1-2\nu }{2}}\operatorname {F} \left({\tfrac {3}{2}},-{\tfrac {1}{2}};\nu +{\tfrac {1}{2}};{\tfrac {1+r\rho }{2}}\right)}$$

де ${\displaystyle \operatorname {F} }$ — це гауссова гіпергеометрична функція, а ${\displaystyle \nu =n-1>1}$.

Використання перетворення Фішера

Докладніше: ^[en]

На практиці обчислення довірчих інтервалів та перевірки гіпотез щодо ρ зазвичай виконують за допомогою ^[en], ${\displaystyle F}$:

${\displaystyle F(r)\equiv {\tfrac {1}{2}}\,\ln \left({\frac {1+r}{1-r}}\right)=\operatorname {arth} (r)}$

F(r) приблизно дотримується нормальному розподілу, де

${\displaystyle {\text{середнє}}=F(\rho )=\operatorname {arth} (\rho ),}$    а стандартна похибка ${\displaystyle ={\text{SE}}={\frac {1}{\sqrt {n-3}}},}$

де n — розмір вибірки. Похибка наближення найнижча для великого розміру вибірки ${\displaystyle n}$ і малих значень ${\displaystyle r}$ та ${\displaystyle \rho _{0}}$, і збільшується в іншому випадку.

За використання цього наближення z-оцінка становить

${\displaystyle z={\frac {x-{\text{середнє}}}{\text{SE}}}=[F(r)-F(\rho _{0})]{\sqrt {n-3}}}$

за нульовою гіпотезою, що ${\displaystyle \rho =\rho _{0}}$, за припущення, що пари вибірки незалежні й однаково розподілені та дотримуються двовимірного нормального розподілу. Відтак, можливо отримати наближене p-значення з таблиці нормальної ймовірності. Наприклад, якщо спостерігається z = 2.2 й потрібне двобічне p-значення для перевірки нульової гіпотези, що ${\displaystyle \rho =0}$, то p-значення становитиме 2 Φ(−2.2) = 0.028, де Φ — це стандартна нормальна функція розподілу.

Щоб отримати довірчий інтервал для ρ, спочатку обчислімо довірчий інтервал для F(${\displaystyle \rho }$):

${\displaystyle 100(1-\alpha )\%{\text{CI}}:\operatorname {arth} (\rho )\in [\operatorname {arth} (r)\pm z_{\alpha /2}{\text{SE}}]}$

Обернене перетворення Фішера повертає інтервал до шкали кореляції.

${\displaystyle 100(1-\alpha )\%{\text{CI}}:\rho \in [\operatorname {th} (\operatorname {arth} (r)-z_{\alpha /2}{\text{SE}}),\operatorname {th} (\operatorname {arth} (r)+z_{\alpha /2}{\text{SE}})]}$

Наприклад, припустімо, що ми спостерігаємо r = 0.7 з розміром вибірки n=50, і хочемо отримати 95 %-вий довірчий інтервал для ρ. Перетворене значення становить ${\textstyle \operatorname {arth} \left(r\right)=0.8673}$, тому довірчий інтервал у перетвореній шкалі становить ${\displaystyle 0.8673\pm {\frac {1.96}{\sqrt {47}}}}$, або (0.5814, 1.1532). Перетворення назад до шкали кореляції дає (0.5237, 0.8188).

В регресійному аналізі методом найменших квадратів

Про загальнішу, не лінійну залежність див. [[:^[en]|^[en]]].

Квадрат коефіцієнта кореляції вибірки зазвичай позначують через r², він є окремим випадком коефіцієнта детермінації. У цьому випадку він оцінює частку дисперсії Y, яку пояснює X через просту лінійну регресію. Отже, якщо є спостережуваний набір даних ${\displaystyle Y_{1},\dots ,Y_{n}}$ та допасований набір даних ${\displaystyle {\hat {Y}}_{1},\dots ,{\hat {Y}}_{n}}$, то як відправну точку повну дисперсію Y_i навколо їхнього середнього значення можливо розкласти як

${\displaystyle \sum _{i}(Y_{i}-{\bar {Y}})^{2}=\sum _{i}(Y_{i}-{\hat {Y}}_{i})^{2}+\sum _{i}({\hat {Y}}_{i}-{\bar {Y}})^{2},}$

де ${\displaystyle {\hat {Y}}_{i}}$ — це допасовані значення з регресійного аналізу. Це можливо переформулювати як

${\displaystyle 1={\frac {\sum _{i}(Y_{i}-{\hat {Y}}_{i})^{2}}{\sum _{i}(Y_{i}-{\bar {Y}})^{2}}}+{\frac {\sum _{i}({\hat {Y}}_{i}-{\bar {Y}})^{2}}{\sum _{i}(Y_{i}-{\bar {Y}})^{2}}}.}$

Обидва доданки вище — це частка дисперсії в Y, яку пояснює X (правий), та яку X не пояснює (лівий).

Далі, ми застосовуємо властивість регресійних моделей найменших квадратів, що вибіркова коваріація між ${\displaystyle {\hat {Y}}_{i}}$ та ${\displaystyle Y_{i}-{\hat {Y}}_{i}}$ нульова. Тож вибірковий коефіцієнт кореляції між спостережуваними та допасованими значеннями відгуку в регресії можливо записати (обчислення виконується виходячи з очікування гауссової статистики) як

${\displaystyle {\begin{aligned}r(Y,{\hat {Y}})&={\frac {\sum _{i}(Y_{i}-{\bar {Y}})({\hat {Y}}_{i}-{\bar {Y}})}{\sqrt {\sum _{i}(Y_{i}-{\bar {Y}})^{2}\cdot \sum _{i}({\hat {Y}}_{i}-{\bar {Y}})^{2}}}}\\[6pt]&={\frac {\sum _{i}(Y_{i}-{\hat {Y}}_{i}+{\hat {Y}}_{i}-{\bar {Y}})({\hat {Y}}_{i}-{\bar {Y}})}{\sqrt {\sum _{i}(Y_{i}-{\bar {Y}})^{2}\cdot \sum _{i}({\hat {Y}}_{i}-{\bar {Y}})^{2}}}}\\[6pt]&={\frac {\sum _{i}[(Y_{i}-{\hat {Y}}_{i})({\hat {Y}}_{i}-{\bar {Y}})+({\hat {Y}}_{i}-{\bar {Y}})^{2}]}{\sqrt {\sum _{i}(Y_{i}-{\bar {Y}})^{2}\cdot \sum _{i}({\hat {Y}}_{i}-{\bar {Y}})^{2}}}}\\[6pt]&={\frac {\sum _{i}({\hat {Y}}_{i}-{\bar {Y}})^{2}}{\sqrt {\sum _{i}(Y_{i}-{\bar {Y}})^{2}\cdot \sum _{i}({\hat {Y}}_{i}-{\bar {Y}})^{2}}}}\\[6pt]&={\sqrt {\frac {\sum _{i}({\hat {Y}}_{i}-{\bar {Y}})^{2}}{\sum _{i}(Y_{i}-{\bar {Y}})^{2}}}}.\end{aligned}}}$

Тож

${\displaystyle r(Y,{\hat {Y}})^{2}={\frac {\sum _{i}({\hat {Y}}_{i}-{\bar {Y}})^{2}}{\sum _{i}(Y_{i}-{\bar {Y}})^{2}}}}$

де ${\displaystyle r(Y,{\hat {Y}})^{2}}$ — частка дисперсії Y, пояснювана лінійною функцією X.

У наведеному вище виведенні той факт, що

${\displaystyle \sum _{i}(Y_{i}-{\hat {Y}}_{i})({\hat {Y}}_{i}-{\bar {Y}})=0}$

можливо довести, відмітивши, що частинні похідні ^[en] (RSS) за β₀ та β₁ у моделі найменших квадратів дорівнюють 0, де

${\displaystyle {\text{RSS}}=\sum _{i}(Y_{i}-{\hat {Y}}_{i})^{2}}$.

Кінець кінцем, рівняння можливо записати як

${\displaystyle r(Y,{\hat {Y}})^{2}={\frac {{\text{SS}}_{\text{reg}}}{{\text{SS}}_{\text{tot}}}}}$

де

• ${\displaystyle {\text{SS}}_{\text{reg}}=\sum _{i}({\hat {Y}}_{i}-{\bar {Y}})^{2}}$
• ${\displaystyle {\text{SS}}_{\text{tot}}=\sum _{i}(Y_{i}-{\bar {Y}})^{2}}$.

Символ ${\displaystyle {\text{SS}}_{\text{reg}}}$ називають сумою квадратів регресії, також відомою як пояснена сума квадратів, а ${\displaystyle {\text{SS}}_{\text{tot}}}$ — ^[en] (пропорційна дисперсії даних).

Чутливість до розподілу даних

Докладніше: (Кореляція і залежність § Чутливість до розподілу даних)

Існування

Коефіцієнт кореляції Пірсона для сукупності визначено через моменти, й тому він існує для будь-якого двовимірного розподілу ймовірності, для якого визначені коваріація сукупності та відособлені дисперсії сукупності, й вони ненульові. Деякі розподіли ймовірності, такі як розподіл Коші, мають невизначену дисперсію, й відтак якщо X або Y відповідають такому розподілові, то ρ невизначений. У деяких практичних застосуваннях, дані в яких підозрюють на відповідність ^[en], це важливий аспект. Проте, існування коефіцієнта кореляції зазвичай не проблема; наприклад, якщо діапазон розподілу обмежений, ρ завжди визначений.

Розмір вибірки

• Якщо розмір вибірки помірний або великий і сукупність нормальна, то у випадку двовимірного нормального розподілу вибірковий коефіцієнт кореляції є максимально-правдоподібнісною оцінкою коефіцієнта кореляції сукупності, ^[en][en] та ^[en], що приблизно означає неможливість побудувати оцінку, точнішу за вибірковий коефіцієнт кореляції.
• Якщо розмір вибірки великий і сукупність не нормальна, то вибірковий коефіцієнт кореляції залишається приблизно незміщеним, але може не бути ефективним.
• Якщо розмір вибірки великий, то вибірковий коефіцієнт кореляції є слушною оцінкою коефіцієнта кореляції сукупності, за умови, що середні значення вибірки, дисперсії та коваріація слушні (що гарантовано, коли можливо застосувати закон великих чисел).
• Якщо розмір вибірки малий, то вибірковий коефіцієнт кореляції r не є незміщеною оцінкою ρ. Замість цього слід використовувати скоригований коефіцієнт кореляції: визначення див. далі у цій статті.
• Кореляції можуть бути різними для незбалансованих дихотомних даних, коли у вибірці є помилка дисперсії.

Робастність

Як і багато інших часто використовуваних статистик, вибіркова статистика r не робастна, тож за наявності викидів її значення може бути оманливим. Зокрема, коефіцієнт кореляції моменту добутку не робастний ані щодо розподілу, ані щодо викидів (див. (Робастність у статистиці § Поняття робастності)). Перевірка діаграми розсіяння між X та Y зазвичай виявляє ситуацію, коли робастність може бути проблемою, і в таких випадках може бути рекомендовано використовувати робастну міру пов'язаності. Проте слід зазначити, що хоч більшість робастних оцінювачів пов'язаності і вимірюють якимось чином статистичну залежність, вони зазвичай не інтерпретовні тою ж мірою, що й коефіцієнт кореляції Пірсона.

Статистичне висновування для коефіцієнта кореляції Пірсона чутливе до розподілу даних. Точні критерії та асимптотичні критерії на основі ^[en] можливо застосовувати, якщо дані розподілені приблизно нормально, але в іншому разі вони можуть бути оманливими. У деяких ситуаціях можливо використовувати натяжку для створення довірчих інтервалів, а перестановкові критерії — для здійснення перевірки гіпотез. Ці ^[en] підходи можуть давати змістовніші результати в деяких ситуаціях, коли двовимірна нормальність не виконується. Проте стандартні версії цих підходів покладаються на ^[en] даних, що означає, що не існує впорядкування чи групування аналізованих пар даних, які могли би вплинути на поведінку оцінки кореляції.

Стратифікований аналіз — це один зі способів або пристосування до відсутності двовимірної нормальності, або для відокремлення кореляції, що випливає з одного чинника при контролі над іншим. Якщо W подає приналежність до кластеру або інший чинник, який хочеться контролювати, можливо стратифікувати дані на основі значення W, а потім обчислити коефіцієнт кореляції в межах кожної страти. Оцінки на рівні страт потім можливо об'єднати для оцінки загальної кореляції при контролі над W.

Варіанти

Див. також: (Кореляція і залежність#Інші міри залежності між випадковими величинами)

Існують різні варіації коефіцієнта кореляції, які можливо обчислювати для різних цілей. Ось декілька прикладів.

Скоригований коефіцієнт кореляції

Вибірковий коефіцієнт кореляції r не є незміщеною оцінкою ρ. Для даних, що дотримуються двовимірному нормальному розподілу, математичне сподівання E[r] вибіркового коефіцієнта кореляції r нормальної двовимірності становить

${\displaystyle \operatorname {\mathbb {E} } \left[r\right]=\rho -{\frac {\rho \left(1-\rho ^{2}\right)}{2n}}+\cdots ,\quad }$ тож r є зміщеним оцінювачем ${\displaystyle \rho .}$

Унікальний мінімально-дисперсійний незміщений оцінювач (англ. unique minimum variance unbiased estimator) r_adj задається як

${\displaystyle r_{\text{adj}}=r\,\mathbf {_{2}F_{1}} \left({\frac {1}{2}},{\frac {1}{2}};{\frac {n-1}{2}};1-r^{2}\right),}$

(1)

де:

• ${\displaystyle r,n}$ визначено як вище,
• ${\displaystyle \mathbf {_{2}F_{1}} (a,b;c;z)}$ — гауссова гіпергеометрична функція.

Приблизно незміщений оцінювач (англ. approximately unbiased estimator) r_adj можливо отримати^[] шляхом утинання E[r] та розв'язання цього утятого рівняння:

${\displaystyle r=\operatorname {\mathbb {E} } [r]\approx r_{\text{adj}}-{\frac {r_{\text{adj}}\left(1-r_{\text{adj}}^{2}\right)}{2n}}.}$

(2)

Приблизним розв'язком^[] рівняння (2) є

${\displaystyle r_{\text{adj}}\approx r\left[1+{\frac {1-r^{2}}{2n}}\right],}$

(3)

де у (3)

• ${\displaystyle r,n}$ визначено як вище,
• r_adj — субоптимальний оцінювач,^{[][: ком.]}
• r_adj також можливо отримати максимізуванням log(f(r)),
• r_adj має мінімальну дисперсію за великих значень n,
• r_adj має зміщення порядку 1⁄(n − 1).

Іншим запропонованим скоригованим коефіцієнтом кореляції (англ. adjusted correlation coefficient) є^[]

${\displaystyle r_{\text{adj}}={\sqrt {1-{\frac {(1-r^{2})(n-1)}{(n-2)}}}}.}$

r_adj ≈ r за великих значень n.

Коефіцієнт зваженої кореляції

Покладімо, що спостереження, які потрібно скорелювати, мають різні ступені важливості, які можливо виразити ваговим вектором w. Щоб обчислити кореляцію між векторами x та y з ваговим вектором w (всі довжиною n),

• Зважене середнє: $${\displaystyle \operatorname {m} (x;w)={\frac {\sum _{i}w_{i}x_{i}}{\sum _{i}w_{i}}}.}$$
• Зважена коваріація: $${\displaystyle \operatorname {cov} (x,y;w)={\frac {\sum _{i}w_{i}\cdot (x_{i}-\operatorname {m} (x;w))(y_{i}-\operatorname {m} (y;w))}{\sum _{i}w_{i}}}.}$$
• Зважена кореляція (англ. weighted correlation): $${\displaystyle \operatorname {corr} (x,y;w)={\frac {\operatorname {cov} (x,y;w)}{\sqrt {\operatorname {cov} (x,x;w)\operatorname {cov} (y,y;w)}}}.}$$

Віддзеркалювальний коефіцієнт кореляції

Віддзеркалювальна кореляція (англ. reflective correlation) — це варіант пірсонової кореляції, в якому дані не центровано навколо їхніх середніх значень.^[] Віддзеркалювальна кореляція сукупності це

${\displaystyle \operatorname {corr} _{r}(X,Y)={\frac {\operatorname {\mathbb {E} } [\,X\,Y\,]}{\sqrt {\operatorname {\mathbb {E} } [\,X^{2}\,]\cdot \operatorname {\mathbb {E} } [\,Y^{2}\,]}}}.}$

Віддзеркалювальна кореляція симетрична, але не інваріантна щодо паралельного перенесення:

${\displaystyle \operatorname {corr} _{r}(X,Y)=\operatorname {corr} _{r}(Y,X)=\operatorname {corr} _{r}(X,bY)\neq \operatorname {corr} _{r}(X,a+bY),\quad a\neq 0,b>0.}$

Віддзеркалювальна кореляція вибірки еквівалентна косинусній подібності:

${\displaystyle rr_{xy}={\frac {\sum x_{i}y_{i}}{\sqrt {(\sum x_{i}^{2})(\sum y_{i}^{2})}}}.}$

Зважена версія вибіркової віддзеркалювальної кореляції це

${\displaystyle rr_{xy,w}={\frac {\sum w_{i}x_{i}y_{i}}{\sqrt {(\sum w_{i}x_{i}^{2})(\sum w_{i}y_{i}^{2})}}}.}$

Масштабний коефіцієнт кореляції

Докладніше: ^[en]

Масштабна кореляція (англ. scaled correlation) — це варіант кореляції Пірсона, в якому діапазон даних обмежують навмисно й контрольовано, щоби виявляти кореляції між швидкими складовими в часових рядах. Масштабну кореляцію визначають як середню кореляцію над короткими сегментами даних.

Нехай ${\displaystyle K}$ це кількість сегментів, які можуть вміститися в загальну довжину сигналу ${\displaystyle T}$ для заданого масштабу ${\displaystyle s}$:

${\displaystyle K=\operatorname {round} \left({\frac {T}{s}}\right).}$

Тоді масштабну кореляцію над усім сигналом ${\displaystyle {\bar {r}}_{s}}$ обчислюють як

${\displaystyle {\bar {r}}_{s}={\frac {1}{K}}\sum \limits _{k=1}^{K}r_{k},}$

де ${\displaystyle r_{k}}$ — коефіцієнт кореляції Пірсона для сегмента ${\displaystyle k}$.

Шляхом обирання параметра ${\displaystyle s}$ зменшують діапазон значень, і кореляції на довгих часових масштабах відфільтровуються, так, що виявляються лише кореляції на коротких часових масштабах. Таким чином усувають внески повільних складових і зберігають внески швидких складових.

Відстань Пірсона

Метрику відстані для двох змінних X та Y, відому як відстань Пірсона (англ. Pearson's distance), можливо визначати з коефіцієнта їхньої кореляції як

${\displaystyle d_{X,Y}=1-\rho _{X,Y}.}$

Враховуючи те, що коефіцієнт кореляції Пірсона перебуває в межах [−1, +1], відстань Пірсона лежить на проміжку [0, 2]. Відстань Пірсона використовували в кластерному аналізі та виявлянні даних для передавання та зберігання з невідомими передавальним коефіцієнтом та зміщенням.

Визначена таким чином «відстань» Пірсона для від'ємних кореляцій встановлює відстань понад 1. Насправді, значення мають як сильна додатна, так і сильна від'ємна кореляції, тому потрібно бути обережними при використанні «відстані» Пірсона в алгоритмах найближчих сусідів, оскільки такі алгоритми включатимуть лише сусідів із додатною кореляцією й виключати сусідів із від'ємною. Як альтернативу, можливо застосовувати відстань з абсолютним значенням, ${\displaystyle d_{X,Y}=1-|\rho _{X,Y}|}$, яка враховуватиме як додатні, так і від'ємні кореляції. Інформацію про додатну та від'ємну пов'язаність можливо виділяти окремо пізніше.

Коловий коефіцієнт кореляції

Докладніше: Кругова статистика

Для змінних X = {x₁,…,x_n} та Y = {y₁,…,y_n}, визначених на одиничному колі ${\displaystyle [0,2\pi )}$, можливо визначити коловий (англ. circular) аналог коефіцієнта Пірсона. Це робиться шляхом такого перетворення даних в X та Y за допомогою функції синуса, що коефіцієнт кореляції визначається як

${\displaystyle r_{\text{circular}}={\frac {\sum _{i=1}^{n}\sin(x_{i}-{\bar {x}})\sin(y_{i}-{\bar {y}})}{{\sqrt {\sum _{i=1}^{n}\sin(x_{i}-{\bar {x}})^{2}}}{\sqrt {\sum _{i=1}^{n}\sin(y_{i}-{\bar {y}})^{2}}}}}}$

де ${\displaystyle {\bar {x}}}$ та ${\displaystyle {\bar {y}}}$ — ^[en]X та Y. Ця міра може бути корисною в таких галузях як метеорологія, де важливий кутовий напрямок даних.

Частинна кореляція

Докладніше: Частинна кореляція

Якщо сукупність або набір даних характеризується понад двома змінними, коефіцієнт частинної кореляції вимірює силу залежності між парою змінних, яка не пояснюється тим, як вони обидві змінюються у відповідь на варіації в обраній підмножині інших змінних.

Декореляція n випадкових змінних

Докладніше: ^[en]

Завжди можливо усунути кореляції між усіма парами довільного числа випадкових змінних за допомогою перетворення даних, навіть якщо взаємозв'язок між цими змінними нелінійний. Подання цього результату для розподілів сукупностей навели Кокс та Гінклі.

Існує відповідний результат для зведення до нуля й вибіркових кореляцій. Припустімо, що вектор з n випадкових змінних спостерігають m разів. Нехай X — матриця, де ${\displaystyle X_{i,j}}$ — j-та змінна спостереження i. Нехай ${\displaystyle Z_{m,m}}$ — квадратна матриця m на m з усіма елементами 1. Тоді D — це дані, перетворені так, що кожна випадкова змінна має нульове середнє, а T — це дані, перетворені так, що всі змінні мають нульове середнє й нульову кореляцію з усіма іншими змінними, — вибіркова кореляційна матриця T буде одиничною матрицею. Це потрібно додатково поділити на стандартне відхилення, щоб отримати одиничну дисперсію. Перетворені змінні будуть некорельованими, хоч вони й можуть бути не незалежними.

${\displaystyle D=X-{\frac {1}{m}}Z_{m,m}X}$

${\displaystyle T=D(D^{\mathsf {T}}D)^{-{\frac {1}{2}}},}$

де степінь −+1⁄2 подає квадратний корінь оберненої матриці. Матриця кореляції T буде одиничною. Якщо нове спостереження даних x це рядковий вектор з n елементів, то те саме перетворення можливо застосувати й до x, щоб отримати перетворені вектори d та t:

${\displaystyle d=x-{\frac {1}{m}}Z_{1,m}X,}$

${\displaystyle t=d(D^{\mathsf {T}}D)^{-{\frac {1}{2}}}.}$

Декореляція пов'язана з аналізом головних компонент для багатовимірних даних.

Програмні втілення

• У базовому пакеті статистики R цей коефіцієнт кореляції втілено через cor(x, y), або (з P-значенням) через cor.test(x, y).
• У бібліотеці Python SciPy — через pearsonr(x, y).
• Бібліотека Python Pandas втілює обчислення коефіцієнта кореляції Пірсона як варіант за замовчуванням для методу pandas.DataFrame.corr
• Wolfram Mathematica — через функцію Correlation, або (з P-значенням) через CorrelationTest.
• Бібліотека Boost — через функцію correlation_coefficient.
• Excel має вбудовану функцію correl(array1, array2) для обчислення коефіцієнта кореляції Пірсона.

Див. також

• ^[en]
• ^[en]
• ^[en]
• Квартет Анскомбе
• ^[en]
  • ^[en]
  • ^[en]
• ^[en]
• Коефіцієнт кореляції рангу Спірмена
• ^[en]
• ^[en]
• ^[en]
• Кореляція і залежність
• ^[en]
• ^[en]
• ^[en]
• Пов'язаність (статистика)
• ^[en]
• ^[en]
• Частинна кореляція

Виноски

1. Відомий також як r Пі́рсона (англ. Pearson's r), коефіціє́нт кореля́ції моме́нту до́бутку Пі́рсона (англ. Pearson product-moment correlation coefficient, PPMCC), двови́мірна кореля́ція (англ. bivariate correlation) та просто неконкретизований коефіціє́нт кореля́ції (англ. correlation coefficient)
2. Ще 1877 року Гальтон використовував термін «реверсія» (англ. "reversion", див. регресію до середнього) й символ «r» для того, що згодом стане «регресією» (англ. "regression").

Примітки

1. SPSS Tutorials: Pearson Correlation (англ.).
2. Correlation Coefficient: Simple Definition, Formula, Easy Steps. Statistics How To (англ.).
3. Galton, F. (5–19 April 1877). Typical laws of heredity. Nature (англ.). 15 (388, 389, 390): 492—495, 512—514, 532—533. Bibcode:1877Natur..15..492.. doi:10.1038/015492a0. S2CID 4136393. У додатку «Appendix» на сторінці 532 Гальтон використовує термін «reversion» та символ r.
4. Galton, F. (24 September 1885). The British Association: Section II, Anthropology: Opening address by Francis Galton, F.R.S., etc., President of the Anthropological Institute, President of the Section. Nature (англ.). 32 (830): 507—510.
5. Galton, F. (1886). Regression towards mediocrity in hereditary stature. Journal of the Anthropological Institute of Great Britain and Ireland (англ.). 15: 246—263. doi:10.2307/2841583. JSTOR 2841583.
6. Pearson, Karl (20 June 1895). Notes on regression and inheritance in the case of two parents. Proceedings of the Royal Society of London (англ.). 58: 240—242. Bibcode:1895RSPS...58..240P.
7. Stigler, Stephen M. (1989). Francis Galton's account of the invention of correlation. Statistical Science (англ.). 4 (2): 73—79. doi:10.1214/ss/1177012580. JSTOR 2245329.
8. Analyse mathematique sur les probabilités des erreurs de situation d'un point. Mem. Acad. Roy. Sci. Inst. France. Sci. Math, et Phys. (фр.). 9: 255—332. 1844 — через Google Books.
9. Wright, S. (1921). Correlation and causation. Journal of Agricultural Research (англ.). 20 (7): 557—585.
10. Real Statistics Using Excel, "Basic Concepts of Correlation" (англ.), отримано 22 лютого 2015 р.
11. Weisstein, Eric W. Statistical Correlation. Wolfram MathWorld (англ.). Процитовано 22 серпня 2020.
12. Moriya, N. (2008). Noise-related multivariate optimal joint-analysis in longitudinal stochastic processes. У Yang, Fengshan (ред.). (англ.). ^[en]. с. 223–260. ISBN .
13. Garren, Steven T. (15 червня 1998). Maximum likelihood estimation of the correlation coefficient in a bivariate normal model, with missing data. Statistics & Probability Letters (англ.). 38 (3): 281—288. doi:10.1016/S0167-7152(98)00035-2.
14. 2.6 - (Pearson) Correlation Coefficient r. STAT 462 (англ.). Процитовано 10 липня 2021.
15. Introductory Business Statistics: The Correlation Coefficient r. opentextbc.ca (англ.). Процитовано 21 серпня 2020.
16. Rodgers; Nicewander (1988). Thirteen ways to look at the correlation coefficient (PDF). The American Statistician (англ.). 42 (1): 59—66. doi:10.2307/2685263. JSTOR 2685263.
17. Schmid, John Jr. (грудень 1947). The relationship between the coefficient of correlation and the angle included between regression lines. The Journal of Educational Research (англ.). 41 (4): 311—313. doi:10.1080/00220671.1947.10881608. JSTOR 27528906.
18. Rummel, R.J. (1976). Understanding Correlation (англ.). гл. 5 (як проілюстровано для особливого випадку в наступному абзаці).
19. Buda, Andrzej; Jarynowski, Andrzej (грудень 2010). Life Time of Correlations and its Applications (англ.). Wydawnictwo Niezależne. с. 5—21. ISBN .
20. Cohen, J. (1988). Statistical Power Analysis for the Behavioral Sciences (англ.) (вид. 2nd).
21. Bowley, A. L. (1928). The Standard Deviation of the Correlation Coefficient. Journal of the American Statistical Association (англ.). 23 (161): 31—34. doi:10.2307/2277400. ISSN 0162-1459. JSTOR 2277400.
22. Derivation of the standard error for Pearson's correlation coefficient. Cross Validated (англ.). Процитовано 30 липня 2021.
23. Rahman, N. A. (1968) A Course in Theoretical Statistics (англ.), Charles Griffin and Company, 1968
24. Kendall, M. G., Stuart, A. (1973) The Advanced Theory of Statistics, Volume 2: Inference and Relationship (англ.), Griffin. (Section 31.19)
25. ; Young, A.W.; Cave, B.M.; Lee, A.; Pearson, K. (1917). On the distribution of the correlation coefficient in small samples. Appendix II to the papers of "Student" and R.A. Fisher. A co-operative study. ^[en] (англ.). 11 (4): 328—413. doi:10.1093/biomet/11.4.328.
26. Davey, Catherine E.; Grayden, David B.; Egan, Gary F.; Johnston, Leigh A. (January 2013). Filtering induces correlation in fMRI resting state data. NeuroImage (англ.). 64: 728—740. doi:10.1016/j.neuroimage.2012.08.022. hdl:11343/44035. PMID 22939874. S2CID 207184701.
27. Hotelling, Harold (1953). New Light on the Correlation Coefficient and its Transforms. Journal of the Royal Statistical Society. Series B (Methodological) (англ.). 15 (2): 193—232. doi:10.1111/j.2517-6161.1953.tb00135.x. JSTOR 2983768.
28. Kenney, J.F.; Keeping, E.S. (1951). Mathematics of Statistics (англ.). Т. Part 2 (вид. 2nd). Princeton, NJ: Van Nostrand.
29. Weisstein, Eric W. Correlation Coefficient—Bivariate Normal Distribution. Wolfram MathWorld (англ.).
30. Taraldsen, Gunnar (2020). Confidence in Correlation. ResearchGate (англ.). doi:10.13140/RG.2.2.23673.49769.
31. Lai, Chun Sing; Tao, Yingshan; Xu, Fangyuan; Ng, Wing W.Y.; Jia, Youwei; Yuan, Haoliang; Huang, Chao; Lai, Loi Lei; Xu, Zhao; Locatelli, Giorgio (січень 2019). A robust correlation analysis framework for imbalanced and dichotomous data with uncertainty (PDF). Information Sciences (англ.). 470: 58—77. doi:10.1016/j.ins.2018.08.017. S2CID 52878443.
32. Wilcox, Rand R. (2005). Introduction to robust estimation and hypothesis testing (англ.). Academic Press.
33. ; Gnanadesikan, R.; Kettenring J.R. (1975). Robust estimation and outlier detection with correlation coefficients. Biometrika (англ.). 62 (3): 531—545. doi:10.1093/biomet/62.3.531. JSTOR 2335508.
34. Huber, Peter. J. (2004). Robust Statistics (англ.). Wiley.^[]
35. Vaart, A. W. van der (13 жовтня 1998). Asymptotic Statistics (англ.). Cambridge University Press. ISBN .
36. Katz., Mitchell H. (2006) Multivariable Analysis – A Practical Guide for Clinicians. 2nd Edition. Cambridge University Press. (англ.) .
37. Hotelling, H. (1953). New Light on the Correlation Coefficient and its Transforms. Journal of the Royal Statistical Society. Series B (Methodological) (англ.). 15 (2): 193—232. doi:10.1111/j.2517-6161.1953.tb00135.x. JSTOR 2983768.
38. Olkin, Ingram; Pratt,John W. (March 1958). Unbiased Estimation of Certain Correlation Coefficients. The Annals of Mathematical Statistics (англ.). 29 (1): 201—211. doi:10.1214/aoms/1177706717. JSTOR 2237306..
39. Re: Compute a weighted correlation. sci.tech-archive.net (англ.).
40. (англ.). Архів оригіналу за 15 травня 2021. Процитовано 14 січня 2024.
41. Nikolić, D; Muresan, RC; Feng, W; Singer, W (2012). Scaled correlation analysis: a better way to compute a cross-correlogram (PDF). European Journal of Neuroscience (англ.). 35 (5): 1—21. doi:10.1111/j.1460-9568.2011.07987.x. PMID 22324876. S2CID 4694570.
42. Fulekar (Ed.), M.H. (2009) Bioinformatics: Applications in Life and Environmental Sciences, Springer (англ.) (pp. 110)
43. Immink, K. Schouhamer; Weber, J. (жовтень 2010). Minimum Pearson distance detection for multilevel channels with gain and / or offset mismatch. IEEE Transactions on Information Theory (англ.). 60 (10): 5966—5974. CiteSeerX 10.1.1.642.9971. doi:10.1109/tit.2014.2342744. S2CID 1027502. Процитовано 11 лютого 2018.
44. Jammalamadaka, S. Rao; SenGupta, A. (2001). Topics in circular statistics (англ.). New Jersey: World Scientific. с. 176. ISBN . Процитовано 21 вересня 2016.
45. Cox, D.R.; Hinkley, D.V. (1974). Theoretical Statistics (англ.). Chapman & Hall. Appendix 3. ISBN .

Посилання

• cocor. comparingcorrelations.org (англ.). — Безкоштовний вебінтерфейс та пакет R для статистичного порівняння двох залежних або незалежних кореляцій з перетинними або неперетинними змінними.
• Correlation. nagysandor.eu (англ.). — інтерактивна флешсимуляція кореляції двох нормально розподілених змінних.
• Correlation coefficient calculator. hackmath.net. Linear regression (англ.).
• Critical values for Pearson's correlation coefficient (PDF). frank.mtsu.edu/~dkfuller. — велика таблиця.
• Guess the Correlation (англ.). — Гра, в якій гравці вгадують, наскільки корельовані дві змінні на діаграмі розсіювання, щоби краще зрозуміти поняття кореляції.