Закон великих чисел в теорії імовірностей стверджує, що емпіричне середнє (арифметичне середнє) великої вибірки із фіксованого розподілу близьке до теоретичного середнього (математичного сподівання) цього розподілу. В залежності від виду збіжності розрізняють слабкий закон великих чисел, коли маємо збіжність за ймовірністю, і посилений закон великих чисел, коли маємо збіжність майже скрізь.
Завжди знайдеться така кількість випробувань, при якій з будь-якою заданою наперед імовірністю частота появи деякої події буде як завгодно мало відрізнятися від її імовірності.
Форми ЗВЧ
Нижче описано дві версії ЗВЧ: Слабкий закон великих чисел та Посилений закон великих чисел. Обидва закони стверджують, що з певною достовірністю середнє вибірки
прямує до математичного сподівання
де X1, X2, ... — скінченна послідовність н.о.р. випадкові величини зі скінченним математичним сподіванням E(X1) = E(X2) = ... = µ < ∞.
Слабкий закон великих чисел
Нехай є нескінченна послідовність однаково розподілених і некорельованих випадкових величин , визначених на одному ймовірнісному просторі . Їх коваріація . Нехай . Позначимо вибіркове середнє перших членів:
- .
Тоді .
Це означає, що для будь-якого додатного числа ε,
Інтерпретувати цей результат можна так, що слабкий закон говорить про те, що для будь-якої заданої похибки, не важливо наскільки вона буде малою, для значно великих вибірок буде існувати дуже висока імовірність, що середнє значення для спостережень буде близьким до значення сподівання; так що воно буде знаходитися в межах похибки.
Як уже згадувалося, слабкий закон застосовується для незалежних однаково розподілених випадкових величин, але існують і інші випадки в яких він може застосовуватися. Наприклад, у кожної випадкової величини у вибірці може бути різна дисперсія, але математичне сподівання залишається сталим. Якщо ці дисперсії обмежені, тоді це правило можна застосувати аналогічно як це показав Чебишов в 1867 році. (Якщо математичні сподівання змінюються, тоді ми можемо застосувати цей закон до середнього відхилення від відповідних значень математичних сподівань. Тоді закон стверджуватиме, що це збігатиметься за імовірністю до нуля.) Насправді, доведення Чебишова буде працювати доки дисперсія середнього для перших n значень збігатиметься до нуля при n що прямує до нескінченності. Як приклад, припустимо що кожна випадкова величина у вибірці має розподіл Гауса із нульовим середнім значенням, але із дисперсією що дорівнює На кожному етапі, середнє матиме нормальний розподіл (оскільки це є середнє множини нормально розподілених величин). Дисперсія суми величин дорівнює сумі дисперсій, яка є асимптотичною до . Дисперсія середнього в свою чергу буде асимптотичною до і прямує до нуля.
Прикладом це закон великих чисел не виконується Розподіл Коші. Нехай випадкові числа дорівнюють тангенсу кута, що рівномірно розподілений між значеннями −90° і +90°. Медіана дорівнює нулю, але математичне сподівання не існує, і насправді середнє із n таких величин матиме той самий розподіл, що і одна така величина. Воно не прямує до нуля при тому що n прямує до нескінченності.
Але існують і приклади, де слабкий закон великих чисел може бути застосований навіть при умові, що математичне сподівання не існує.
Посилений закон великих чисел
Нехай є нескінченна послідовність незалежних однаково розподілених випадкових величин , визначених на одному ймовірнісному просторі . Нехай . Позначимо вибіркове середнє перших членів:
- .
Тоді майже скрізь.
Різниця між слабким і посиленим законами великих чисел
Слабкий закон стверджує, що для великого числа n, середнє значення правдоподібно є близько до μ. Отже, залишається можливість того, що трапляється нескінченну кількість разів, хоча й на рідкісних інтервалах.
Посилений закон стверджує що це майже напевно не станеться. Зокрема, це означає що з імовірністю 1, для кожного ε > 0 нерівність виконується для всіх достатньо великих n.
ЗВЧ Бореля
Закон великих чисел Бореля, на честь Еміля Бореля, стверджує, що якщо повторювати експеримент багато раз за тих самих умов і незалежно від інших спроб, то частота певної події наближено дорівнює ймовірності випадання цієї події в кожному окремому експерименті; чим більша кількість повторень тим краще наближення. Точніше, якщо E — подія, p ймовірність цієї події і Nn(E) — число разів коли в експерименті випадає подія E в n перших спробах, тоді з ймовірністю 1:
Ця теорема строго формалізує інтуїтивне поняття ймовірності як граничної частоти випадання події в експерименті. Теорема є частковим випадком інших загальніших законів великих чисел в теорії ймовірності.
Приклади
Одне підкидання шестигранної гральної кістки може випасти одним із номерів 1, 2, 3, 4, 5, або 6. Кожна з цих подій має однакову імовірність. Таким чином, математичне сподівання для одного підкидання, буде наступним
Відповідно до закону великих чисел, якщо підкинути гральну кістку велику кількість разів, середнє значення отриманих значень (що називають вибірковим середнім) скоріше за все буде мати значення близьке до числа 3,5, так що точність цього наближення буде збільшуватися із тим чим більше буде виконано кидків.
Із закону великих чисел слідує, що емпірична імовірність успішної події для вибірки випробувань Бернуллі буде збігатися до теоретичної імовірності. Для випадкової величини із розподілом Бернуллі, математичне сподівання дорівнює теоретичній імовірності успішної події, а середнє значення для n таких величин (за умови що вони є незалежними і однаково розподіленими) буде відповідати відносній частоті.
Наприклад, підкидання монети є випробуванням Бернуллі. Якщо монету підкинути один раз, теоретична імовірність випадіння у монети герба буде дорівнювати 1/2. Таким чином, відповідно до закону великих чисел, доля випадання гербів при великій кількості незалежних підкидань монети "повинна" приблизно становити 1/2. Зокрема, доля випадання гербів при n незалежних підкиданнях майже певно буде збігатися до 1/2 при n що прямує до нескінченності.
Історія
Італійський математик Джироламо Кардано (1501–1576) стверджував без доказів про те, що точність емпіричної статистики поліпшується із збільшенням кількості випробувань. Згодом цей факт формалізували як закон великих чисел. Окрему форму закону великих чисел для бінарної випадкової величини вперше довів Якоб Бернуллі. Йому знадобилося більше 20 років, аби випрацювати достатньо точне математичне доведення, яке він опублікував у своїй праці [en] (Мистецтво вгадування) в 1713. Він назвав її "Золотою Теоремою", але згодом вона стала загальновідомою як "Теорема Бернулі". Не слід плутати її із Законом Бернуллі, що названий на честь племінника Якоба Бернулі Даніеля Бернуллі. В 1837, С.Д. Пуассон згодом описав її під назвою "la loi des grands nombres" ("Закон великих чисел"). Після чого вона залишилася відома під обома назвами, але назва "Закон великих чисел" вживається частіше.
Після того, як Бернуллі і Пуассон опублікували свої досягнення, над поліпшенням закону працювали і інші математики, до яких належать Чебишов, Марков, Борель, [en], Колмогоров і [en]. Марков показав, що при певних слабших припущеннях цей закон можна застосувати до випадкової величини, що не має скінченної дисперсії, а Хінчін в 1929 показав, що якщо вибірка складається із незалежних однаково розподілених випадкових величин, для виконання слабкого закону великих чисел достатньо того, що існує математичне сподівання. Ці подальші дослідження призвели до появи двох відомих форм закону великих чисел. Перший називається "слабким" законом, а інший "посиленим" законом, що відповідає двом різним формам наближення кумулятивного вибіркового середнього до математичного сподівання; зокрема, виконання посиленого закону передбачає і виконання слабкого.
Джерела
- Гнєденко Б. В. Курс теорії ймовірностей. — Київ : ВПЦ Київський університет, 2010. — 464 с.
- Карташов М. В. Імовірність, процеси, статистика. — Київ : ВПЦ Київський університет, 2007. — 504 с.
- Гихман И. И., Скороход А. В., Ядренко М. В. Теория вероятностей и математическая статистика. — Київ : Вища школа, 1988. — 436 с.(рос.)
Примітки
- . . Encyclopedia of Mathematics. Архів оригіналу за 26 липня 2018. Процитовано 25 липня 2018.
- Ross, (2009)
- Mlodinow, L. The Drunkard's Walk. New York: Random House, 2008. p. 50.
- Jakob Bernoulli, Ars Conjectandi: Usum & Applicationem Praecedentis Doctrinae in Civilibus, Moralibus & Oeconomicis, 1713, Chapter 4, (Translated into English by Oscar Sheynin)
- Poisson names the "law of large numbers" (la loi des grands nombres) in: S.D. Poisson, Probabilité des jugements en matière criminelle et en matière civile, précédées des règles générales du calcul des probabilitiés (Paris, France: Bachelier, 1837), p. 7 [ 2 червня 2016 у Wayback Machine.]. He attempts a two-part proof of the law on pp. 139–143 and pp. 277 ff.
- Hacking, Ian. (1983) "19th-century Cracks in the Concept of Determinism", Journal of the History of Ideas, 44 (3), 455-475 JSTOR 2709176
- Tchebichef, P. (1846). Démonstration élémentaire d'une proposition générale de la théorie des probabilités. Journal für die reine und angewandte Mathematik (Crelles Journal). 1846 (33): 259—267. doi:10.1515/crll.1846.33.259.
- Seneta, 2013.
Вікіпедія, Українська, Україна, книга, книги, бібліотека, стаття, читати, завантажити, безкоштовно, безкоштовно завантажити, mp3, відео, mp4, 3gp, jpg, jpeg, gif, png, малюнок, музика, пісня, фільм, книга, гра, ігри, мобільний, телефон, android, ios, apple, мобільний телефон, samsung, iphone, xiomi, xiaomi, redmi, honor, oppo, nokia, sonya, mi, ПК, web, Інтернет
Zakon velikih chisel v teoriyi imovirnostej stverdzhuye sho empirichne serednye arifmetichne serednye velikoyi vibirki iz fiksovanogo rozpodilu blizke do teoretichnogo serednogo matematichnogo spodivannya cogo rozpodilu V zalezhnosti vid vidu zbizhnosti rozriznyayut slabkij zakon velikih chisel koli mayemo zbizhnist za jmovirnistyu i posilenij zakon velikih chisel koli mayemo zbizhnist majzhe skriz Ilyustraciya zakonu velikih chisel vikoristovuyuchi pevnij perebig kidan kosti Z tim yak kilkist kidkiv zbilshuyetsya serednye znachennya vsih kidkiv nablizhuyetsya do 3 5 Rizni perebigi pokazuvatimut rizni formi krivoyi u chastini sho vidobrazhaye malu kilkist kidkiv liva chastina u chastini sho vidobrazhaye veliku kilkist kidkiv prava chastina voni budut duzhe podibni Zavzhdi znajdetsya taka kilkist viprobuvan pri yakij z bud yakoyu zadanoyu napered imovirnistyu chastota poyavi deyakoyi podiyi bude yak zavgodno malo vidriznyatisya vid yiyi imovirnosti Formi ZVChNizhche opisano dvi versiyi ZVCh Slabkij zakon velikih chisel ta Posilenij zakon velikih chisel Obidva zakoni stverdzhuyut sho z pevnoyu dostovirnistyu serednye vibirki X n 1 n X 1 X n displaystyle overline X n frac 1 n X 1 cdots X n pryamuye do matematichnogo spodivannya X n m n displaystyle overline X n to mu qquad qquad n to infty de X1 X2 skinchenna poslidovnist n o r vipadkovi velichini zi skinchennim matematichnim spodivannyam E X1 E X2 µ lt Slabkij zakon velikih chisel Nehaj ye neskinchenna poslidovnist odnakovo rozpodilenih i nekorelovanih vipadkovih velichin X i i 1 displaystyle X i i 1 infty viznachenih na odnomu jmovirnisnomu prostori W F P displaystyle Omega mathcal F mathbb P Yih kovariaciya c o v X i X j 0 i j displaystyle mathrm cov X i X j 0 forall i not j Nehaj E X i m i N displaystyle E X i mu forall i in mathbb N Poznachimo S n displaystyle displaystyle S n vibirkove serednye pershih n displaystyle displaystyle n chleniv S n 1 n i 1 n X i n N displaystyle S n frac 1 n sum limits i 1 n X i n in mathbb N Todi S n P m displaystyle S n to mathbb P mu Ce oznachaye sho dlya bud yakogo dodatnogo chisla e lim n Pr X n m gt e 0 displaystyle lim n to infty Pr left overline X n mu gt varepsilon right 0 Interpretuvati cej rezultat mozhna tak sho slabkij zakon govorit pro te sho dlya bud yakoyi zadanoyi pohibki ne vazhlivo naskilki vona bude maloyu dlya znachno velikih vibirok bude isnuvati duzhe visoka imovirnist sho serednye znachennya dlya sposterezhen bude blizkim do znachennya spodivannya tak sho vono bude znahoditisya v mezhah pohibki Yak uzhe zgaduvalosya slabkij zakon zastosovuyetsya dlya nezalezhnih odnakovo rozpodilenih vipadkovih velichin ale isnuyut i inshi vipadki v yakih vin mozhe zastosovuvatisya Napriklad u kozhnoyi vipadkovoyi velichini u vibirci mozhe buti rizna dispersiya ale matematichne spodivannya zalishayetsya stalim Yaksho ci dispersiyi obmezheni todi ce pravilo mozhna zastosuvati analogichno yak ce pokazav Chebishov v 1867 roci Yaksho matematichni spodivannya zminyuyutsya todi mi mozhemo zastosuvati cej zakon do serednogo vidhilennya vid vidpovidnih znachen matematichnih spodivan Todi zakon stverdzhuvatime sho ce zbigatimetsya za imovirnistyu do nulya Naspravdi dovedennya Chebishova bude pracyuvati doki dispersiya serednogo dlya pershih n znachen zbigatimetsya do nulya pri n sho pryamuye do neskinchennosti Yak priklad pripustimo sho kozhna vipadkova velichina u vibirci maye rozpodil Gausa iz nulovim serednim znachennyam ale iz dispersiyeyu sho dorivnyuye 2 n log n 1 displaystyle 2n log n 1 Na kozhnomu etapi serednye matime normalnij rozpodil oskilki ce ye serednye mnozhini normalno rozpodilenih velichin Dispersiya sumi velichin dorivnyuye sumi dispersij yaka ye asimptotichnoyu do n 2 log n displaystyle n 2 log n Dispersiya serednogo v svoyu chergu bude asimptotichnoyu do 1 log n displaystyle 1 log n i pryamuye do nulya Prikladom ce zakon velikih chisel ne vikonuyetsya Rozpodil Koshi Nehaj vipadkovi chisla dorivnyuyut tangensu kuta sho rivnomirno rozpodilenij mizh znachennyami 90 i 90 Mediana dorivnyuye nulyu ale matematichne spodivannya ne isnuye i naspravdi serednye iz n takih velichin matime toj samij rozpodil sho i odna taka velichina Vono ne pryamuye do nulya pri tomu sho n pryamuye do neskinchennosti Ale isnuyut i prikladi de slabkij zakon velikih chisel mozhe buti zastosovanij navit pri umovi sho matematichne spodivannya ne isnuye Posilenij zakon velikih chisel Nehaj ye neskinchenna poslidovnist nezalezhnih odnakovo rozpodilenih vipadkovih velichin X i i 1 displaystyle X i i 1 infty viznachenih na odnomu jmovirnisnomu prostori W F P displaystyle Omega mathcal F mathbb P Nehaj E X i m i N displaystyle mathbb E X i mu forall i in mathbb N Poznachimo S n displaystyle displaystyle S n vibirkove serednye pershih n displaystyle displaystyle n chleniv S n 1 n i 1 n X i n N displaystyle S n frac 1 n sum limits i 1 n X i n in mathbb N Todi S n m displaystyle S n to mu majzhe skriz Riznicya mizh slabkim i posilenim zakonami velikih chiselSlabkij zakon stverdzhuye sho dlya velikogo chisla n serednye znachennya X n displaystyle overline X n pravdopodibno ye blizko do m Otzhe zalishayetsya mozhlivist togo sho X n m gt e displaystyle overline X n mu gt varepsilon traplyayetsya neskinchennu kilkist raziv hocha j na ridkisnih intervalah Posilenij zakon stverdzhuye sho ce majzhe napevno ne stanetsya Zokrema ce oznachaye sho z imovirnistyu 1 dlya kozhnogo e gt 0 nerivnist X n m lt e displaystyle overline X n mu lt varepsilon vikonuyetsya dlya vsih dostatno velikih n ZVCh Borelya Zakon velikih chisel Borelya na chest Emilya Borelya stverdzhuye sho yaksho povtoryuvati eksperiment bagato raz za tih samih umov i nezalezhno vid inshih sprob to chastota pevnoyi podiyi nablizheno dorivnyuye jmovirnosti vipadannya ciyeyi podiyi v kozhnomu okremomu eksperimenti chim bilsha kilkist povtoren tim krashe nablizhennya Tochnishe yaksho E podiya p jmovirnist ciyeyi podiyi i Nn E chislo raziv koli v eksperimenti vipadaye podiya E v n pershih sprobah todi z jmovirnistyu 1 N n E n p n displaystyle frac N n E n to p n to infty Cya teorema strogo formalizuye intuyitivne ponyattya jmovirnosti yak granichnoyi chastoti vipadannya podiyi v eksperimenti Teorema ye chastkovim vipadkom inshih zagalnishih zakoniv velikih chisel v teoriyi jmovirnosti PrikladiOdne pidkidannya shestigrannoyi gralnoyi kistki mozhe vipasti odnim iz nomeriv 1 2 3 4 5 abo 6 Kozhna z cih podij maye odnakovu imovirnist Takim chinom matematichne spodivannya dlya odnogo pidkidannya bude nastupnim 1 2 3 4 5 6 6 3 5 displaystyle frac 1 2 3 4 5 6 6 3 5 Vidpovidno do zakonu velikih chisel yaksho pidkinuti gralnu kistku veliku kilkist raziv serednye znachennya otrimanih znachen sho nazivayut vibirkovim serednim skorishe za vse bude mati znachennya blizke do chisla 3 5 tak sho tochnist cogo nablizhennya bude zbilshuvatisya iz tim chim bilshe bude vikonano kidkiv Iz zakonu velikih chisel sliduye sho empirichna imovirnist uspishnoyi podiyi dlya vibirki viprobuvan Bernulli bude zbigatisya do teoretichnoyi imovirnosti Dlya vipadkovoyi velichini iz rozpodilom Bernulli matematichne spodivannya dorivnyuye teoretichnij imovirnosti uspishnoyi podiyi a serednye znachennya dlya n takih velichin za umovi sho voni ye nezalezhnimi i odnakovo rozpodilenimi bude vidpovidati vidnosnij chastoti Napriklad pidkidannya moneti ye viprobuvannyam Bernulli Yaksho monetu pidkinuti odin raz teoretichna imovirnist vipadinnya u moneti gerba bude dorivnyuvati 1 2 Takim chinom vidpovidno do zakonu velikih chisel dolya vipadannya gerbiv pri velikij kilkosti nezalezhnih pidkidan moneti povinna priblizno stanoviti 1 2 Zokrema dolya vipadannya gerbiv pri n nezalezhnih pidkidannyah majzhe pevno bude zbigatisya do 1 2 pri n sho pryamuye do neskinchennosti IstoriyaItalijskij matematik Dzhirolamo Kardano 1501 1576 stverdzhuvav bez dokaziv pro te sho tochnist empirichnoyi statistiki polipshuyetsya iz zbilshennyam kilkosti viprobuvan Zgodom cej fakt formalizuvali yak zakon velikih chisel Okremu formu zakonu velikih chisel dlya binarnoyi vipadkovoyi velichini vpershe doviv Yakob Bernulli Jomu znadobilosya bilshe 20 rokiv abi vipracyuvati dostatno tochne matematichne dovedennya yake vin opublikuvav u svoyij praci en Mistectvo vgaduvannya v 1713 Vin nazvav yiyi Zolotoyu Teoremoyu ale zgodom vona stala zagalnovidomoyu yak Teorema Bernuli Ne slid plutati yiyi iz Zakonom Bernulli sho nazvanij na chest pleminnika Yakoba Bernuli Danielya Bernulli V 1837 S D Puasson zgodom opisav yiyi pid nazvoyu la loi des grands nombres Zakon velikih chisel Pislya chogo vona zalishilasya vidoma pid oboma nazvami ale nazva Zakon velikih chisel vzhivayetsya chastishe Pislya togo yak Bernulli i Puasson opublikuvali svoyi dosyagnennya nad polipshennyam zakonu pracyuvali i inshi matematiki do yakih nalezhat Chebishov Markov Borel en Kolmogorov i en Markov pokazav sho pri pevnih slabshih pripushennyah cej zakon mozhna zastosuvati do vipadkovoyi velichini sho ne maye skinchennoyi dispersiyi a Hinchin v 1929 pokazav sho yaksho vibirka skladayetsya iz nezalezhnih odnakovo rozpodilenih vipadkovih velichin dlya vikonannya slabkogo zakonu velikih chisel dostatno togo sho isnuye matematichne spodivannya Ci podalshi doslidzhennya prizveli do poyavi dvoh vidomih form zakonu velikih chisel Pershij nazivayetsya slabkim zakonom a inshij posilenim zakonom sho vidpovidaye dvom riznim formam nablizhennya kumulyativnogo vibirkovogo serednogo do matematichnogo spodivannya zokrema vikonannya posilenogo zakonu peredbachaye i vikonannya slabkogo DzherelaGnyedenko B V Kurs teoriyi jmovirnostej Kiyiv VPC Kiyivskij universitet 2010 464 s Kartashov M V Imovirnist procesi statistika Kiyiv VPC Kiyivskij universitet 2007 504 s Gihman I I Skorohod A V Yadrenko M V Teoriya veroyatnostej i matematicheskaya statistika Kiyiv Visha shkola 1988 436 s ros Primitki Encyclopedia of Mathematics Arhiv originalu za 26 lipnya 2018 Procitovano 25 lipnya 2018 Ross 2009 Mlodinow L The Drunkard s Walk New York Random House 2008 p 50 Jakob Bernoulli Ars Conjectandi Usum amp Applicationem Praecedentis Doctrinae in Civilibus Moralibus amp Oeconomicis 1713 Chapter 4 Translated into English by Oscar Sheynin Poisson names the law of large numbers la loi des grands nombres in S D Poisson Probabilite des jugements en matiere criminelle et en matiere civile precedees des regles generales du calcul des probabilities Paris France Bachelier 1837 p 7 2 chervnya 2016 u Wayback Machine He attempts a two part proof of the law on pp 139 143 and pp 277 ff Hacking Ian 1983 19th century Cracks in the Concept of Determinism Journal of the History of Ideas 44 3 455 475 JSTOR 2709176 Tchebichef P 1846 Demonstration elementaire d une proposition generale de la theorie des probabilites Journal fur die reine und angewandte Mathematik Crelles Journal 1846 33 259 267 doi 10 1515 crll 1846 33 259 Seneta 2013