Дискретний рівномірний розподіл

В теорії ймовірностей і статистиці випадкова величина має дискретний рівномірний розподіл, якщо вона приймає скінченне число значень з однаковими ймовірностями.

Дискретний рівномірний розподіл
Масова функція розподілу імовірностей для рівномірного розподілу із параметром n = 5 n = 5 де n = b − a + 1
Функція розподілу ймовірностей Кумулятивна функція дискретного рівномірного розподілу для n = 5
Параметри	${\displaystyle a\in \{\dots ,-2,-1,0,1,2,\dots \}\,}$ ${\displaystyle b\in \{\dots ,-2,-1,0,1,2,\dots \},b\geq a}$ ${\displaystyle n=b-a+1\,}$
Носій функції	${\displaystyle k\in \{a,a+1,\dots ,b-1,b\}\,}$
Розподіл імовірностей	${\displaystyle {\frac {1}{n}}}$
Функція розподілу ймовірностей (cdf)	${\displaystyle {\frac {\lfloor k\rfloor -a+1}{n}}}$
Середнє	${\displaystyle {\frac {a+b}{2}}\,}$
Медіана	${\displaystyle {\frac {a+b}{2}}\,}$
Мода	N/A
Дисперсія	${\displaystyle {\frac {(b-a+1)^{2}-1}{12}}}$
Коефіцієнт асиметрії	${\displaystyle 0\,}$
Коефіцієнт ексцесу	${\displaystyle -{\frac {6(n^{2}+1)}{5(n^{2}-1)}}\,}$
Ентропія	${\displaystyle \ln(n)\,}$
Твірна функція моментів (mgf)	${\displaystyle {\frac {e^{at}-e^{(b+1)t}}{n(1-e^{t})}}\,}$
Характеристична функція	${\displaystyle {\frac {e^{iat}-e^{i(b+1)t}}{n(1-e^{it})}}}$

Якщо випадкова величина може приймати будь-яке з n значень k₁,k₂,…,k_n, тоді це є дискретним рівномірним розподілом. Ймовірність випадання k_j дорівнює 1/n. Простим прикладом дискретного рівномірного розподілу є випадання гральної кості. k набуває значень 1, 2, 3, 4, 5, 6 і кожен раз ${\displaystyle k}$ випадає з імовірністю 1/6. У випадку, коли випадкова величина є дійсним числом, то функцію розподілу можна виразити у термінах виродженого розподілу таким чином:

${\displaystyle F(k;a,b,n)={1 \over n}\sum _{i=1}^{n}H(k-k_{i})}$

Визначення максимуму

Вибірка із k спостережень отримана із рівномірного розподілу цілих чисел ${\displaystyle 1,2,\dotsc ,N}$, для якої існує задача оцінити невідомий максимум N. Цю задачу іноді називають ^[en], після того як цей метод оцінки максимуму було застосовано для оцінки темпів виробництва німецьких танків під час Другої світової війни.

Незміщена оцінка з мінімальною дисперсією для рівномірного розподілу, яка визначає максимум задається наступним чином

${\displaystyle {\hat {N}}={\frac {k+1}{k}}m-1=m+{\frac {m}{k}}-1}$

де m є вибірковим максимумом, а k - розмір вибірки, для вибірки без повторного заміщення. Цей приклад можна розглядати як спрощений випадок ^[en].

При цьому матимемо дисперсію

${\displaystyle {\frac {1}{k}}{\frac {(N-k)(N+1)}{(k+2)}}\approx {\frac {N^{2}}{k^{2}}}{\text{ для малих вибірок }}k\ll N}$

тож стандартне відхилення приблизно становить ${\displaystyle {\tfrac {N}{k}}}$, середній розмір (для сукупності) проміжку між елементами; порівняємо із вищевказаним ${\displaystyle {\tfrac {m}{k}}}$.

Максимум вибірки є оцінкою максимальної правдоподібності для максимуму сукупності, але, як зазначалося вище, він є зміщеним.

Якщо вибірка не представлена числами, але її можна промаркувати або розрізнити, розмір популяції можливо визначити методом "(Зловити/повторити)".

Виведення

Для будь-якого цілого числа m такого що k ≤ m ≤ N, імовірність того, що вибірковий максимум буде дорівнювати m можна розрахувати наступним чином. Кількість різних груп із k танків, які можуть бути утворені із загальної кількості з N танків визначається через біноміальний коефіцієнт ${\displaystyle {\tbinom {N}{k}}}$. Оскільки при такому способі підрахунку, перестановки танків розраховуються лише раз, ми можемо впорядкувати серійні номери і відмітити максимальний з них в кожній вибірці. Аби розрахувати імовірність ми повинні полічити кількість впорядкованих вибірок, які можуть містити останній елемент, який буде дорівнювати m а всі інші k-1 танків мають номери менші або такий що дорівнює m-1. Кількість таких вибірок з k-1 танків які можна отримати із загальної кількості m-1 танків задається біноміальним коефіцієнтом ${\displaystyle {\tbinom {m-1}{k-1}}}$, тож імовірність отримати максимум m становить ${\displaystyle P(m)={\tbinom {m-1}{k-1}}{\big /}{\tbinom {N}{k}}}$.

Дано загальну кількість  N і розмір вибірки k, математичне сподівання максимуму вибірки визначається як:

${\displaystyle {\begin{aligned}\mu =\mathrm {E} [m]&=\sum _{m=k}^{N}m{\frac {\tbinom {m-1}{k-1}}{\tbinom {N}{k}}}\\&={\frac {1}{(k-1)!{\tbinom {N}{k}}}}\sum _{m=k}^{N}{\frac {m!}{(m-k)!}}\\&={\frac {k!}{(k-1)!{\tbinom {N}{k}}}}\sum _{m=k}^{N}{\tbinom {m}{k}}\\&=k{\frac {\tbinom {N+1}{k+1}}{\tbinom {N}{k}}}\\&={\frac {k(N+1)}{k+1}},\end{aligned}}}$

де було використано ^[en] ${\displaystyle \sum _{m=k}^{N}{\tbinom {m}{k}}={\tbinom {N+1}{k+1}}}$.

Із цього рівняння, невідому кількість N можна розрахувати через сподівання і розмір вибірки, наступним чином

${\displaystyle {\begin{aligned}N&=\mu \left(1+k^{-1}\right)-1.\end{aligned}}}$

Відповідно до лінійності математичного сподівання, отримаємо

${\displaystyle {\begin{aligned}\mu \left(1+k^{-1}\right)-1&=\mathrm {E} \left[m\left(1+k^{-1}\right)-1\right],\end{aligned}}}$

і таким чином незміщена оцінка для N отримується за допомогою заміни сподівання на спостереження,

${\displaystyle {\begin{aligned}{\hat {N}}&=m\left(1+k^{-1}\right)-1.\end{aligned}}}$

Крім того, що ця оцінка є незміщеною вона також досягає мінімальної дисперсії. Аби показати це, відмітимо спершу, що максимум вибірки є достатньою статистикою для визначення максимуму сукупності, оскільки імовірність P(m;N) задається як функція лише від однієї m. Далі необхідно довести, що статистика m також є ^[en], особливим видом достатньої статистики (demonstration pending). Тоді ^[en] передбачає, що ${\displaystyle {\hat {N}}}$ є незміщеною оцінкою для N із найменшою дисперсією.

Дисперсія оцінки розраховується як дисперсія вибіркового максимуму

${\displaystyle {\begin{aligned}\mathrm {Var} [{\hat {N}}]&={\frac {(k+1)^{2}}{k^{2}}}\mathrm {Var} [m].\end{aligned}}}$

Дисперсія максимуму в свою чергу розраховується із математичних сподівань ${\displaystyle m}$ і ${\displaystyle m^{2}}$. Розрахунок математичного сподівання для ${\displaystyle m^{2}}$ є наступним,

${\displaystyle {\begin{aligned}\mathrm {E} [m^{2}]&=\sum _{m=k}^{N}m^{2}{\frac {\tbinom {m-1}{k-1}}{\tbinom {N}{k}}}\\&={\frac {1}{(k-1)!{\tbinom {N}{k}}}}\sum _{m=k}^{N}m{\frac {m!}{(m-k)!}}\\&={\frac {1}{(k-1)!{\tbinom {N}{k}}}}\sum _{m=k}^{N}(m+1-1){\frac {m!}{(m-k)!}}\\&={\frac {1}{(k-1)!{\tbinom {N}{k}}}}\sum _{m=k}^{N}{\frac {(m+1)!}{(m-k)!}}-{\frac {1}{(k-1)!{\tbinom {N}{k}}}}\sum _{m=k}^{N}{\frac {m!}{(m-k)!}}\end{aligned}}}$

де другий терм є математичним сподіванням для ${\displaystyle m}$. Перший терм можна виразити через k і N,

${\displaystyle {\begin{aligned}{\frac {1}{(k-1)!{\tbinom {N}{k}}}}\sum _{m=k}^{N}{\frac {(m+1)!}{(m-k)!}}&={\frac {(k+1)!}{(k-1)!{\tbinom {N}{k}}}}\sum _{m=k}^{N}{\tbinom {m+1}{k+1}}\\&={\frac {k(k+1)}{\tbinom {N}{k}}}\sum _{n=k+1}^{N+1}{\tbinom {n}{k+1}}\\&={\frac {k(k+1)}{\tbinom {N}{k}}}{\tbinom {N+2}{k+2}}\\&={\frac {k(N+2)(N+1)}{(k+2)}}\end{aligned}}}$

де була використана заміна ${\displaystyle n=m+1}$ і використане ^[en]. Підставлення цього результату і математичного сподівання ${\displaystyle m}$ в рівняння для ${\displaystyle E[m^{2}]}$ дає

${\displaystyle {\begin{aligned}\mathrm {E} [m^{2}]&={\frac {k(N+2)(N+1)}{(k+2)}}-{\frac {k(N+1)}{k+1}}\\&=k(N+1){\Big (}{\frac {N+2}{k+2}}-{\frac {1}{k+1}}{\Big )}\\&={\frac {k(N+1)(kN+k+N)}{(k+1)(k+2)}}\end{aligned}}}$

Тоді можна отримати дисперсію для ${\displaystyle m}$,

${\displaystyle {\begin{aligned}\mathrm {Var} [m]&=\mathrm {E} [m^{2}]-\mathrm {E} [m]^{2}\\&={\frac {k(N+1)}{(k+1)}}{\Big (}{\frac {kN+k+N}{k+2}}-{\frac {k(N+1)}{k+1}}{\Big )}\\&={\frac {k(N+1)}{(k+1)}}{\frac {(N-k)}{(k+2)(k+1)}}\\&={\frac {k(N+1)(N-k)}{(k+1)^{2}(k+2)}}\end{aligned}}}$

Зрештою можна розрахувати дисперсію для оцінки ${\displaystyle {\hat {N}}}$,

${\displaystyle {\begin{aligned}\mathrm {Var} [{\hat {N}}]&={\frac {(k+1)^{2}}{k^{2}}}\mathrm {Var} [m]\\&={\frac {(k+1)^{2}}{k^{2}}}{\frac {k(N+1)(N-k)}{(k+1)^{2}(k+2)}}\\&={\frac {(N+1)(N-k)}{k(k+2)}}.\end{aligned}}}$

Див. також

• Провідність графа
• Рівномірно розподілена послідовність

Джерела

• Карташов М. В. Імовірність, процеси, статистика. — Київ : ВПЦ Київський університет, 2007. — 504 с.
• Гнеденко Б. В. Курс теории вероятностей. — 6-е изд. — Москва : Наука, 1988. — 446 с.(рос.)
• Гихман И. И., Скороход А. В., Ядренко М. В. Теория вероятностей и математическая статистика. — Київ : Вища школа, 1988. — 436 с.(рос.)

Примітки

1. Johnson, Roger (1994), , Teaching Statistics, 16 (2 (Summer)), doi:10.1111/j.1467-9639.1994.tb00688.x, архів оригіналу за 26 травня 2009, процитовано 18 березня 2019
2. G. A. Young and R. L Smith (2005) Essentials of Statistical Inference, Cambridge University Press, Cambridge, UK, p. 95