Розподіл хі-квадрат

Розподіл хі-квадрат (χ²-розподіл) з 'n' ступенями вільності — неперервний розподіл, що визначається як розподіл суми квадратів 'n' незалежних випадкових величин з стандартним нормальним розподілом. Тобто якщо ξ₁, ..., ξ_n — незалежні стандартні нормальні випадкові величини, то випадкова величина X_n²=ξ₁²+...+ξ_n² матиме розподіл хі-квадрат з 'n' ступенями вільності.

Хі-квадрат
Функція розподілу ймовірностей
Параметри	${\displaystyle k\in N_{1}}$ — ступенів свободи
Носій функції	${\displaystyle x\in [0,+\infty )}$
Розподіл імовірностей	${\displaystyle {\frac {1}{2^{k/2}\Gamma (k/2)}}\;x^{k/2-1}e^{-x/2}\,}$
Функція розподілу ймовірностей (cdf)	${\displaystyle {\frac {1}{\Gamma (k/2)}}\;\gamma (k/2,\,x/2)}$
Середнє	k
Медіана	${\displaystyle \approx k{\bigg (}1-{\frac {2}{9k}}{\bigg )}^{3}}$
Мода	max{ k − 2, 0 }
Дисперсія	2k
Коефіцієнт асиметрії	${\displaystyle \scriptstyle {\sqrt {8/k}}\,}$
Коефіцієнт ексцесу	12 / k
Ентропія	${\displaystyle {\frac {k}{2}}\!+\!\ln(2\Gamma (k/2))\!+\!(1\!-\!k/2)\psi (k/2)}$
Твірна функція моментів (mgf)	(1 − 2 t)^−k/2   for  t  < ½
Характеристична функція	(1 − 2 i t)^−k/2

Розподіл хі-квадрат є одним з найважливіших у статистиці. Зокрема він використовується у критеріях хі-квадрат (наприклад критерії узгодженості Пірсона).

Розподіл хі-квадрат є частковим випадком гамма-розподілу.

Вступ

Ланкастер показав зв'язок між біноміальним, нормальним і хі-квадрат розподілами, як показано нижче. Де Муавр і Лаплас встановили, що біноміальний розподіл можна наблизити через нормальний розподіл. Точніше вони показали асимптотичну нормальність випадкової величини

${\displaystyle \chi ={m-Np \over {\sqrt {(Npq)}}},}$

де m — це спостережена кількість успіхів в N спробах, де ймовірність успіху p, а q = 1 − p.

Підносимо до квадрату обидві частини рівняння

${\displaystyle \chi ^{2}={(m-Np)^{2} \over (Npq)}}$

Використовуючи N = Np + N(1 − p), N = m + (N − m), та q = 1 − p, це рівняння спрощується до

${\displaystyle \chi ^{2}={(m-Np)^{2} \over (Np)}+{((N-m)-Nq)^{2} \over (Nq)}}$

Вираз праворуч має форму, яку Пірсон узагальнив до:

${\displaystyle \chi ^{2}=\sum _{i=1}^{n}{\frac {(O_{i}-E_{i})^{2}}{E_{i}}},}$

де

${\displaystyle \chi ^{2}}$ — кумулятивна тестова статистика Пірсона, яка асимптотично наближується до ${\displaystyle \chi ^{2}}$ розподілу.

${\displaystyle O_{i}}$ — кількість спостережень типу i.

${\displaystyle E_{i}-Np_{i}}$ — очікувана (теоретична) частота типу i, згідно з нульовою гіпотезою, яка стверджує, що частка типу i в популяції становить ${\displaystyle p_{i}}$

${\displaystyle n}$ — кількість комірок в таблиці.

У випадку біноміального виходу (підкидання монети), біноміальний розподіл можна апроксимувати через нормальний (для досить великих n). З того, що квадрат нормального розподілу — це розподіл хі-квадрат з одним ступенем вільності, ймовірність результату як-от 1 аверс з 10 спроб, можна апроксимувати через нормальний розподіл чи розподіл хі-квадрат. Однак, багато задач потребують більше ніж два виходи як у біноміальному випадку, натомість вони потребують 3 або більше категорій, що призводить до поліноміального розподілу. Просто де Муавр і Лаплас шукали і знайшли нормальне наближення до біноміального, Пірсон шукав і знайшов багатовимірне нормальне наближення до поліноміального розподілу. Пірсон показав, що розподіл хі-квадрат, сума багатьох нормальних розподілів, був таким наближенням до поліноміального розподілу.

Розподіл хі-квадрат

Щільність імовірності

Розподіл хі-квадрат зосереджений на додатній півосі і має щільність:

${\displaystyle P_{x^{2}}(n)(x)={\begin{cases}0,&{\mbox{if }}x<0\\{\frac {1}{\Gamma (n/2)2^{n/2}}}x^{n/2-1}e^{-x/2},&{\mbox{if }}x\geq \ 0\end{cases}}}$,

де ${\displaystyle \Gamma (\alpha )=\int _{0}^{\infty }t^{\alpha -1}e^{-t}\,dt}$ — гамма-функція.

Функція розподілу

Функція розподілу хі-квадрат розподілу записується

${\displaystyle {\frac {1}{\Gamma (k/2)}}\;\gamma (k/2,\,x/2)}$

При n>+2 χ²-розподіл має моду в точці x = n - 2. Характеристична функція χ²-розподілу має вигляд f(t)=(1-2it)^-n/2.
Математичне сподівання і дисперсія розподілу хі-квадрат рівні, відповідно, n і 2n.

Властивості χ²-розподілу

• Розподіл хі-квадрат є стійким відносно додавання. Якщо Y₁, Y₂ незалежні, і ${\displaystyle Y_{1}\sim \chi ^{2}(n_{1}),Y_{2}\sim \chi ^{2}(n_{2})\,}$, то ${\displaystyle Y_{1}+Y_{2}\sim \chi ^{2}(n_{1}+n_{2})\,}$
• З визначення легко отримати моменти розподілу хі-квадрат. Якщо ${\displaystyle Y\sim \chi ^{2}(n)}$ то ${\displaystyle E[Y]=nD[Y]=2n}$
  
• Через центральну граничну теорему, при великому числі ступенів вільності розподіл випадкової величини ${\displaystyle Y\sim \chi ^{2}(n)}$ може бути наближений нормальним ${\displaystyle Y\approx N(n,2n)}$. Точніше ${\displaystyle {\frac {Y-n}{\sqrt {2n}}}\to N(0,1)}$ по розподілу при ${\displaystyle n\to \infty }$.

Застосування

Сума незалежних випадкових величин X_n1²+...+X_nk² з n₁, n₂ ..., n_k ступенями вільності, відповідно, підкоряється хі-квадрат розподілу з n = n₁ + n₂ + ... + n_k ступенями вільності. Завдяки тісному зв'язку з нормальним розподілом χ²-розподіл відіграє важливу роль в теорії ймовірностей і математичній статистиці. χ²-розподіл, і багато інших розподілів, які визначаються за допомогою χ²-розподілу (наприклад — розподіл Стьюдента), описують вибіркові розподіли різних функцій від нормально розподілених результатів спостережень і використовуються для побудови довірчих інтервалів і статистичних критеріїв.

Так, наприклад, для незалежних випадкових величин x₁, x₂ ..., x_n з однаковим нормальним розподілом з математичним сподіванням а і дисперсією δ² відношення s²/δ² ,
де ${\displaystyle s={\sqrt {\frac {\sum _{i=1}^{n}(x_{i}-x_{cp})^{2}}{n-1}}}}$, ${\displaystyle x_{cp}={\frac {\sum _{i=1}^{n}x_{i}}{n}}}$
підкоряється χ²-розподілу з n - 1 ступенями вільності при будь-яких значеннях а і δ2. Цей результат покладений в основу побудови довірчих інтервалів і критерію для перевірки гіпотези про невідоме значення дисперсії у разі, коли середнє значення випадкової величини також невідоме (перевірка статистичних гіпотез і статистична оцінка).

Особливу популярність у зв'язку з хі-квадрат розподілом отримав критерій хі-квадрат, заснований на так званій хі-квадрат статистиці Пірсона. Є детальні таблиці χ²-розподілу, зручні для статистичних розрахунків. При великих обсягах вибірок використовують апроксимацію за допомогою нормального розподілу. При ${\displaystyle n\to \infty }$, згідно з центральною граничною теоремою, розподіл нормальної величини прагне до нормального розподілу.

Вперше χ²-розподіл було розглянуто Р.Хельмертом (1876) і Карлом Пірсоном (1900).

Джерела

• Карташов М. В. Імовірність, процеси, статистика. — Київ : ВПЦ Київський університет, 2007. — 504 с.
• Гнеденко Б. В. Курс теории вероятностей. — 6-е изд. — Москва : Наука, 1988. — 446 с.(рос.)
• Гихман И. И., Скороход А. В., Ядренко М. В. Теория вероятностей и математическая статистика. — Київ : Вища школа, 1988. — 436 с.(рос.)
• William G. Cochran, Annals Math. Stat. 23 (1952), 315-345

Примітки

1. M.A. Sanders. Characteristic function of the central chi-square distribution (PDF). Архів оригіналу (PDF) за 7 липня 2013. Процитовано 6 березня 2009.(англ.)
2. Lancaster, H.O. (1969), The Chi-squared Distribution, Wiley