Теорія оцінювання — це галузь статистики, яка вивчає способи оцінювання значень параметрів на основі емпіричних/виміряних даних, що мають випадкову складову. Ці параметри описують належне фізичне середовище таким чином, що їхні значення впливають на розподіл виміряних даних. Статистична оцінка дозволяє оцінити ці невідомі параметри на основі даних вимірювань.
Наприклад, необхідно оцінити частину сукупності виборців, які голосуватимуть за певного кандидата. Це співвідношення є шуканим параметром; оцінка ґрунтується на невеликій випадковій вибірці людей, що голосують.
Або, наприклад, задача радару полягає в тому, щоб оцінити віддаленість об'єктів (літаків, човнів тощо) шляхом аналізу часу двобічного проходження отриманих віддзеркалень переданих імпульсів. Оскільки відбиті імпульси неминуче включатимуться в електричний шум, їхні виміряні значення матимуть випадковий розподіл, тому цю тривалість проходження потрібно оцінювати.
У теорії статистичного оцінювання зазвичай розглядають два основні підходи:
- Ймовірнісний підхід ґрунтується на припущенні, що вимірювані дані є випадковими і мають деякий розподіл ймовірностей, що залежить від параметрів, які необхідно знайти
- [en] ґрунтується на припущенні, що виміряний вектор даних належить до множини, що залежить від вектора параметрів.
Наприклад, в теорії електросигналів вимірювання, що містять інформацію про шукані параметри, часто пов'язані із зашумленим сигналом. Без наявності випадковості, або шуму, задача була би детермінованою, і оцінювання не було би потрібним.
Приклади
Наприклад, бажано оцінити частку населення виборців, яке проголосує за конкретного кандидата. Ця пропорція — шуканий параметр; оцінка базується на невеликій випадковій вибірці виборців. Як альтернативу бажано оцінити ймовірність голосування виборців за конкретного кандидата, виходячи з деяких демографічних особливостей, таких як вік.
Або, наприклад, у радіолокації метою є пошук діапазону об'єктів (літаки, катери тощо) шляхом аналізу двостороннього часу транзиту прийнятих відлунь переданих імпульсів. Оскільки відбиті імпульси неминуче вбудовуються в електричний шум, їх виміряні значення випадковим чином розподіляються так, що час проходження потрібно оцінити.
Іншим прикладом у теорії електричного зв'язку можуть бути вимірювання, що містять інформацію щодо цікавих параметрів, які часто пов'язано з шумним сигналом.
Основи
Щоб оцінювач могло бути втілено, для заданої моделі потрібно кілька статистичних «складових». Першим з них є статистична вибірка — набір точок даних, взятих із випадкового вектора (RV) розміру N. Покласти до вектору,
По-друге, є M параметрів
значення яких слід оцінити. По-третє, функція безперервної густини ймовірності (ФГІ) або її дискретний аналог, функція маси ймовірності (ФМІ) основного розподілу, що породжує дані, повинно бути вказано залежно від значень параметрів:
Також можливо, щоби самі параметри мали розподіл імовірностей (наприклад, баєсову статистику). Потім необхідно визначити баєсову ймовірність
Після формування моделі мета полягає в оцінці параметрів, причому оцінки зазвичай позначають через , де «капелюх» означає оцінку.
Одним із загальних оцінювачів є оцінювач [en] (МСКП), який використовує похибку між оцінюваними параметрами та фактичним значенням параметрів
як основу для оптимальності. Потім цей член похибки подносять до квадрату, а очікуване значення цього квадрату мінімізують для оцінювача МСКП.
Оцінювачі
До загальновживаних оцінювачі (методів оцінювання) та тем, пов'язані з ними, належать:
- Оцінювачі максимальної ймовірності
- Оцінки Байєса
- Метод оцінок моментів
- Зв'язаний Крамер — Рао
- Найменші квадрати
- [en] (МСКП), відома також як баєсова мінімально-квадратична похибка (БМКП)
- Оцінка апостеріорного максимуму (ОАМ)
- [en] (МДНО)
- [en]
- Найкращий лінійний незміщений оцінювач (НЛНО)
- Незміщені оцінювачі; див. Незміщена оцінка.
- [en]
- Методи Монте-Карло марковських ланцюгів (МКМЛ)
- Фільтр Калмана, та різні його похідні
- [en]
Приклади
Невідома константа адитивного білого гауссового шуму
Розгляньмо отриманий дискретний сигнал, , з
незалежних зразків, що складається з невідомої сталої
з адитивним білим гауссовим шумом (АБГШ)
з нульовим середнім значенням та відомою дисперсією
(тобто,
). Оскільки дисперсія є відомою, то єдиним невідомим параметром є
.
Тоді моделлю для сигналу є
Двома можливими (з багатьох) оцінювачами параметра є:
Обидві ці оцінювачі мають середнє значення , яке можливо показати, взявши математичне сподівання кожного з оцінювачів
та
На даний момент ці два оцінювачі, здається, виконують однакові дії. Однак різниця між ними стає очевидною при порівнянні дисперсій.
та
Видається, що середнє значення вибірки є кращим оцінювачем, оскільки його дисперсія нижча для кожного N > 1.
Максимальна ймовірність
Продовжуючи приклад, використовуючи оцінювач методу максимальної правдоподібності, густиною ймовірності (ФГІ) шуму для одного зразку є
І ймовірність стає (
можливо розглядати як
)
Згідно незалежності, ймовірність стає
Беручи натуральний логарифм ФГІ
а оцінювач максимальної правдоподібності —
Беремо першу похідну функції логарифмічної правдоподобності
і встановлюємо її в нуль
Це дає оцінку максимальної ймовірності
Що є просто середнім значенням вибірки. З цього прикладу було встановлено, що середнє значення вибірки є оцінювачем максимальної правдоподібності для зразків фіксованого, невідомого параметра, спотвореного АБГШ.
Нижня межа Крамера-Рао
Щоби знайти нижню межу Крамера — Рао (НМКР) оцінювача середнього значення вибірки, спочатку необхідно знайти значення інформації за Фішером
і, скопіювавши зверху,
Взяття другої похідної
та пошук від'ємного математичного сподівання є тривіальними, оскільки тепер це є детермінованою сталою
Нарешті, підставлення цієї інформації за Фішером до
дає в результаті
Порівняння цього з дисперсією вибіркового середнього (визначеною раніше) показує, що вибіркове середнє дорівнює нижній межі Крамера — Рао для всіх значень та
. Іншими словами, вибіркове середнє є (обов'язково унікальним) ефективним оцінювачем, а отже, також [en] (МДНО), крім того, що є оцінювачем максимальної ймовірності.
Максимум рівномірного розподілу
Одним з найпростіших нетривіальних прикладів оцінки є оцінка максимуму рівномірного розподілу. Його використовують як практичну вправу в класних заняттях, та для ілюстрування основних принципів теорії оцінювання. Далі, у випадку оцінки на основі одного зразку, вона демонструє філософські проблеми та можливі непорозуміння при використанні оцінювачів максимальної ймовірності та функцій правдоподібності.
Для заданого дискретного рівномірного розподілу з невідомим максимумом оцінювач [en] для максимуму задають як
де m — [en], а k — обсяг вибірки, вибирання без повертання. Ця задача є широко відомою як [en], завдяки застосуванню максимального оцінювання до оцінювання виробництва німецьких танків під час Другої світової війни.
Формулу можливо інтуїтивно розуміти як
- «Максимум вибірки плюс середній розрив між спостереженнями у вибірці»,
розрив додається для компенсації негативного зміщення максимуму вибірки як оцінки максимуму сукупності.
Це має дисперсію
а отже, стандартне відхилення приблизно , середній (за сукупністю) розмір розриву між зразками; порівняйте з
вище. Це можливо розглядати як дуже простий випадок [en].
Вибірковий максимум є максимально-правдоподібнісним оцінювачем для максимуму сукупності, але, як обговорювалося вище, він є зміщеним.
Застосування
Використання теорії оцінювання вимагають численні галузі. До них, зокрема, належать:
- Інтерпретування наукових експериментів
- Обробка сигналів
- Клінічні випробування
- Опитування громадської думки
- Контроль якості
- Телекомунікації
- Управління проєктами
- Розробка програмного забезпечення
- Теорія керування (зокрема, адаптивне керування)
- Система виявляння вторгнень до мереж
- [en]
Вимірювані дані можуть бути схильні до шуму або невизначеності, і саме через статистичну ймовірність шукають оптимальні рішення для витягування якнайбільше інформації з даних.
Див. також
- Найкращий лінійний незміщений оцінювач (НЛНО)
- [en]
- [en]
- Нерівність Крамера — Рао
- Виявляння сигналу
- [en]
- Статистична оцінка, Незміщена оцінка
- Алгоритм очікування-максимізації (ЕМ-алгоритм)
- [en]
- Модель Сірий ящик
- Теорія інформації
- Фільтр Калмана
- [en]
- Методи Монте-Карло марковських ланцюгів (МКМЛ)
- [en]
- Оцінка апостеріорного максимуму (ОАМ)
- Метод максимальної правдоподібності
- [en]
- Метод моментів, [en]
- [en] (МСКП)
- [en] (МДНО)
- [en]
- [en]
- Параметричне рівняння
- Принцип Парето
- [en]
- Теорема Рао — Блеквела
- Правило трійки (статистика)
- Спектральна густина, [en]
- Статистична обробка сигналів
- Достатня статистика
- [en]
Примітки
Коментарі
- Максимум вибірки ніколи не перевищує максимум сукупності, але може бути і меншим, отже, це зміщений оцінювач: він буде схильним недооцінювати максимум сукупності.
Джерела
- Вальтер, E.; Пронзато, Л. (1997). Ідентифікація параметричних моделей за експериментальним даними. Лондон, Англія: Springer-Verlag.
- Джонсон, Роджер (1994), Оцінка чисельності населення, Статистика викладання, 16 (2 (літо)): 50—52, doi:10.1111/j.1467-9639.1994.tb00688.x
- Джонсон, Роджер (2006), , Отримання Найкращого із Статистики Викладання, архів оригіналу (PDF) за Листопад 20, 2008
Література
- Теорія оцінки точок Е. Л. Леманн та Г. Казелла. ()
- Інженерія системних витрат Дейла Шермона. ()
- Математична статистика та аналіз даних Джон Райс. ()
- Основи статистичної обробки сигналів: теорія оцінки Стівена М. Кей ()
- Вступ до виявлення та оцінки сигналу Х. Вінсент Поор ()
- Теорія виявлення, оцінки та модуляції, Частина 1 Гаррі Л. Ван Тресс (; )
- Оптимальна оцінка стану: Калман, Н-нескінченість та нелінійні підходи Ден Сімон website [ 30 грудня 2010 у Wayback Machine.]
- [en], Адаптивні фільтри, Уайлі, Нью-Джерсі, 2008, .
- [en], Основи адаптивного фільтрування, Уайлі, Нью-Джерсі, 2003, .
- [en], [en], та [en], Лінійна оцінка, Прентис-Холл, Нью-Джерсі, 2000, .
- [en], [en], та [en], Невизначена квадратична оцінка та контроль: уніфікований підхід до H2 та H
теорій, Товариство промислової та прикладної математики (ТППМ), Пенсильванія, 1999, .
- В. Г. Войнов, М. С. Нікулін, «Безсторонні оцінювачі та їх застосування. Т.1: Одновимірний випадок», Kluwer Academic Publishers, 1993, .
- В. Г. Войнов, М. С. Нікулін, « Безсторонні оцінювачі та їх застосування. Т.2: Багатовимірний випадок», Kluwer Academic Publishers, 1996, .
Посилання
Вікісховище має мультимедійні дані за темою: Теорія оцінювання
Вікіпедія, Українська, Україна, книга, книги, бібліотека, стаття, читати, завантажити, безкоштовно, безкоштовно завантажити, mp3, відео, mp4, 3gp, jpg, jpeg, gif, png, малюнок, музика, пісня, фільм, книга, гра, ігри, мобільний, телефон, android, ios, apple, мобільний телефон, samsung, iphone, xiomi, xiaomi, redmi, honor, oppo, nokia, sonya, mi, ПК, web, Інтернет
Teoriya ocinyuvannya ce galuz statistiki yaka vivchaye sposobi ocinyuvannya znachen parametriv na osnovi empirichnih vimiryanih danih sho mayut vipadkovu skladovu Ci parametri opisuyut nalezhne fizichne seredovishe takim chinom sho yihni znachennya vplivayut na rozpodil vimiryanih danih Statistichna ocinka dozvolyaye ociniti ci nevidomi parametri na osnovi danih vimiryuvan Napriklad neobhidno ociniti chastinu sukupnosti viborciv yaki golosuvatimut za pevnogo kandidata Ce spivvidnoshennya ye shukanim parametrom ocinka gruntuyetsya na nevelikij vipadkovij vibirci lyudej sho golosuyut Abo napriklad zadacha radaru polyagaye v tomu shob ociniti viddalenist ob yektiv litakiv chovniv tosho shlyahom analizu chasu dvobichnogo prohodzhennya otrimanih viddzerkalen peredanih impulsiv Oskilki vidbiti impulsi neminuche vklyuchatimutsya v elektrichnij shum yihni vimiryani znachennya matimut vipadkovij rozpodil tomu cyu trivalist prohodzhennya potribno ocinyuvati U teoriyi statistichnogo ocinyuvannya zazvichaj rozglyadayut dva osnovni pidhodi Jmovirnisnij pidhid gruntuyetsya na pripushenni sho vimiryuvani dani ye vipadkovimi i mayut deyakij rozpodil jmovirnostej sho zalezhit vid parametriv yaki neobhidno znajti en gruntuyetsya na pripushenni sho vimiryanij vektor danih nalezhit do mnozhini sho zalezhit vid vektora parametriv Napriklad v teoriyi elektrosignaliv vimiryuvannya sho mistyat informaciyu pro shukani parametri chasto pov yazani iz zashumlenim signalom Bez nayavnosti vipadkovosti abo shumu zadacha bula bi determinovanoyu i ocinyuvannya ne bulo bi potribnim PrikladiNapriklad bazhano ociniti chastku naselennya viborciv yake progolosuye za konkretnogo kandidata Cya proporciya shukanij parametr ocinka bazuyetsya na nevelikij vipadkovij vibirci viborciv Yak alternativu bazhano ociniti jmovirnist golosuvannya viborciv za konkretnogo kandidata vihodyachi z deyakih demografichnih osoblivostej takih yak vik Abo napriklad u radiolokaciyi metoyu ye poshuk diapazonu ob yektiv litaki kateri tosho shlyahom analizu dvostoronnogo chasu tranzitu prijnyatih vidlun peredanih impulsiv Oskilki vidbiti impulsi neminuche vbudovuyutsya v elektrichnij shum yih vimiryani znachennya vipadkovim chinom rozpodilyayutsya tak sho chas prohodzhennya potribno ociniti Inshim prikladom u teoriyi elektrichnogo zv yazku mozhut buti vimiryuvannya sho mistyat informaciyu shodo cikavih parametriv yaki chasto pov yazano z shumnim signalom OsnoviShob ocinyuvach moglo buti vtileno dlya zadanoyi modeli potribno kilka statistichnih skladovih Pershim z nih ye statistichna vibirka nabir tochok danih vzyatih iz vipadkovogo vektora RV rozmiru N Poklasti do vektoru x x 0 x 1 x N 1 displaystyle mathbf x begin bmatrix x 0 x 1 vdots x N 1 end bmatrix Po druge ye M parametriv 8 8 1 8 2 8 M displaystyle mathbf theta begin bmatrix theta 1 theta 2 vdots theta M end bmatrix znachennya yakih slid ociniti Po tretye funkciya bezperervnoyi gustini jmovirnosti FGI abo yiyi diskretnij analog funkciya masi jmovirnosti FMI osnovnogo rozpodilu sho porodzhuye dani povinno buti vkazano zalezhno vid znachen parametriv p x 8 displaystyle p mathbf x mathbf theta Takozh mozhlivo shobi sami parametri mali rozpodil imovirnostej napriklad bayesovu statistiku Potim neobhidno viznachiti bayesovu jmovirnist p 8 displaystyle pi mathbf theta Pislya formuvannya modeli meta polyagaye v ocinci parametriv prichomu ocinki zazvichaj poznachayut cherez 8 displaystyle hat mathbf theta de kapelyuh oznachaye ocinku Odnim iz zagalnih ocinyuvachiv ye ocinyuvach en MSKP yakij vikoristovuye pohibku mizh ocinyuvanimi parametrami ta faktichnim znachennyam parametriv e 8 8 displaystyle mathbf e hat mathbf theta mathbf theta yak osnovu dlya optimalnosti Potim cej chlen pohibki podnosyat do kvadratu a ochikuvane znachennya cogo kvadratu minimizuyut dlya ocinyuvacha MSKP OcinyuvachiDokladnishe Ocinyuvach statistika Do zagalnovzhivanih ocinyuvachi metodiv ocinyuvannya ta tem pov yazani z nimi nalezhat Ocinyuvachi maksimalnoyi jmovirnosti Ocinki Bajyesa Metod ocinok momentiv Zv yazanij Kramer Rao Najmenshi kvadrati en MSKP vidoma takozh yak bayesova minimalno kvadratichna pohibka BMKP Ocinka aposteriornogo maksimumu OAM en MDNO en Najkrashij linijnij nezmishenij ocinyuvach NLNO Nezmisheni ocinyuvachi div Nezmishena ocinka en Metodi Monte Karlo markovskih lancyugiv MKML Filtr Kalmana ta rizni jogo pohidni en PrikladiNevidoma konstanta aditivnogo bilogo gaussovogo shumu Rozglyanmo otrimanij diskretnij signal x n displaystyle x n z N displaystyle N nezalezhnih zrazkiv sho skladayetsya z nevidomoyi staloyi A displaystyle A z aditivnim bilim gaussovim shumom ABGSh w n displaystyle w n z nulovim serednim znachennyam ta vidomoyu dispersiyeyu s 2 displaystyle sigma 2 tobto N 0 s 2 displaystyle mathcal N 0 sigma 2 Oskilki dispersiya ye vidomoyu to yedinim nevidomim parametrom ye A displaystyle A Todi modellyu dlya signalu ye x n A w n n 0 1 N 1 displaystyle x n A w n quad n 0 1 dots N 1 Dvoma mozhlivimi z bagatoh ocinyuvachami parametra A displaystyle A ye A 1 x 0 displaystyle hat A 1 x 0 A 2 1 N n 0 N 1 x n displaystyle hat A 2 frac 1 N sum n 0 N 1 x n sho ye serednim znachennyam vibirki Obidvi ci ocinyuvachi mayut serednye znachennya A displaystyle A yake mozhlivo pokazati vzyavshi matematichne spodivannya kozhnogo z ocinyuvachiv E A 1 E x 0 A displaystyle mathrm E left hat A 1 right mathrm E left x 0 right A ta E A 2 E 1 N n 0 N 1 x n 1 N n 0 N 1 E x n 1 N N A A displaystyle mathrm E left hat A 2 right mathrm E left frac 1 N sum n 0 N 1 x n right frac 1 N left sum n 0 N 1 mathrm E left x n right right frac 1 N left NA right A Na danij moment ci dva ocinyuvachi zdayetsya vikonuyut odnakovi diyi Odnak riznicya mizh nimi staye ochevidnoyu pri porivnyanni dispersij v a r A 1 v a r x 0 s 2 displaystyle mathrm var left hat A 1 right mathrm var left x 0 right sigma 2 ta v a r A 2 v a r 1 N n 0 N 1 x n independence 1 N 2 n 0 N 1 v a r x n 1 N 2 N s 2 s 2 N displaystyle mathrm var left hat A 2 right mathrm var left frac 1 N sum n 0 N 1 x n right overset text independence frac 1 N 2 left sum n 0 N 1 mathrm var x n right frac 1 N 2 left N sigma 2 right frac sigma 2 N Vidayetsya sho serednye znachennya vibirki ye krashim ocinyuvachem oskilki jogo dispersiya nizhcha dlya kozhnogo N gt 1 Maksimalna jmovirnist Dokladnishe Metod maksimalnoyi pravdopodibnosti Prodovzhuyuchi priklad vikoristovuyuchi ocinyuvach metodu maksimalnoyi pravdopodibnosti gustinoyu jmovirnosti FGI shumu dlya odnogo zrazku w n displaystyle w n ye p w n 1 s 2 p exp 1 2 s 2 w n 2 displaystyle p w n frac 1 sigma sqrt 2 pi exp left frac 1 2 sigma 2 w n 2 right I jmovirnist x n displaystyle x n staye x n displaystyle x n mozhlivo rozglyadati yak N A s 2 displaystyle mathcal N A sigma 2 p x n A 1 s 2 p exp 1 2 s 2 x n A 2 displaystyle p x n A frac 1 sigma sqrt 2 pi exp left frac 1 2 sigma 2 x n A 2 right Zgidno nezalezhnosti jmovirnist x displaystyle mathbf x staye p x A n 0 N 1 p x n A 1 s 2 p N exp 1 2 s 2 n 0 N 1 x n A 2 displaystyle p mathbf x A prod n 0 N 1 p x n A frac 1 left sigma sqrt 2 pi right N exp left frac 1 2 sigma 2 sum n 0 N 1 x n A 2 right Beruchi naturalnij logarifm FGI ln p x A N ln s 2 p 1 2 s 2 n 0 N 1 x n A 2 displaystyle ln p mathbf x A N ln left sigma sqrt 2 pi right frac 1 2 sigma 2 sum n 0 N 1 x n A 2 a ocinyuvach maksimalnoyi pravdopodibnosti A arg max ln p x A displaystyle hat A arg max ln p mathbf x A Beremo pershu pohidnu funkciyi logarifmichnoyi pravdopodobnosti A ln p x A 1 s 2 n 0 N 1 x n A 1 s 2 n 0 N 1 x n N A displaystyle frac partial partial A ln p mathbf x A frac 1 sigma 2 left sum n 0 N 1 x n A right frac 1 sigma 2 left sum n 0 N 1 x n NA right i vstanovlyuyemo yiyi v nul 0 1 s 2 n 0 N 1 x n N A n 0 N 1 x n N A displaystyle 0 frac 1 sigma 2 left sum n 0 N 1 x n NA right sum n 0 N 1 x n NA Ce daye ocinku maksimalnoyi jmovirnosti A 1 N n 0 N 1 x n displaystyle hat A frac 1 N sum n 0 N 1 x n Sho ye prosto serednim znachennyam vibirki Z cogo prikladu bulo vstanovleno sho serednye znachennya vibirki ye ocinyuvachem maksimalnoyi pravdopodibnosti dlya N displaystyle N zrazkiv fiksovanogo nevidomogo parametra spotvorenogo ABGSh Nizhnya mezha Kramera Rao Dokladnishe div Nerivnist Kramera Rao Shobi znajti nizhnyu mezhu Kramera Rao NMKR ocinyuvacha serednogo znachennya vibirki spochatku neobhidno znajti znachennya informaciyi za Fisherom I A E A ln p x A 2 E 2 A 2 ln p x A displaystyle mathcal I A mathrm E left left frac partial partial A ln p mathbf x A right 2 right mathrm E left frac partial 2 partial A 2 ln p mathbf x A right i skopiyuvavshi zverhu A ln p x A 1 s 2 n 0 N 1 x n N A displaystyle frac partial partial A ln p mathbf x A frac 1 sigma 2 left sum n 0 N 1 x n NA right Vzyattya drugoyi pohidnoyi 2 A 2 ln p x A 1 s 2 N N s 2 displaystyle frac partial 2 partial A 2 ln p mathbf x A frac 1 sigma 2 N frac N sigma 2 ta poshuk vid yemnogo matematichnogo spodivannya ye trivialnimi oskilki teper ce ye determinovanoyu staloyu E 2 A 2 ln p x A N s 2 displaystyle mathrm E left frac partial 2 partial A 2 ln p mathbf x A right frac N sigma 2 Nareshti pidstavlennya ciyeyi informaciyi za Fisherom do v a r A 1 I displaystyle mathrm var left hat A right geq frac 1 mathcal I daye v rezultati v a r A s 2 N displaystyle mathrm var left hat A right geq frac sigma 2 N Porivnyannya cogo z dispersiyeyu vibirkovogo serednogo viznachenoyu ranishe pokazuye sho vibirkove serednye dorivnyuye nizhnij mezhi Kramera Rao dlya vsih znachen N displaystyle N ta A displaystyle A Inshimi slovami vibirkove serednye ye obov yazkovo unikalnim efektivnim ocinyuvachem a otzhe takozh en MDNO krim togo sho ye ocinyuvachem maksimalnoyi jmovirnosti Maksimum rivnomirnogo rozpodilu Dokladnishe en Odnim z najprostishih netrivialnih prikladiv ocinki ye ocinka maksimumu rivnomirnogo rozpodilu Jogo vikoristovuyut yak praktichnu vpravu v klasnih zanyattyah ta dlya ilyustruvannya osnovnih principiv teoriyi ocinyuvannya Dali u vipadku ocinki na osnovi odnogo zrazku vona demonstruye filosofski problemi ta mozhlivi neporozuminnya pri vikoristanni ocinyuvachiv maksimalnoyi jmovirnosti ta funkcij pravdopodibnosti Dlya zadanogo diskretnogo rivnomirnogo rozpodilu 1 2 N displaystyle 1 2 dots N z nevidomim maksimumom ocinyuvach en dlya maksimumu zadayut yak k 1 k m 1 m m k 1 displaystyle frac k 1 k m 1 m frac m k 1 de m en a k obsyag vibirki vibirannya bez povertannya Cya zadacha ye shiroko vidomoyu yak en zavdyaki zastosuvannyu maksimalnogo ocinyuvannya do ocinyuvannya virobnictva nimeckih tankiv pid chas Drugoyi svitovoyi vijni Formulu mozhlivo intuyitivno rozumiti yak Maksimum vibirki plyus serednij rozriv mizh sposterezhennyami u vibirci rozriv dodayetsya dlya kompensaciyi negativnogo zmishennya maksimumu vibirki yak ocinki maksimumu sukupnosti Ce maye dispersiyu 1 k N k N 1 k 2 N 2 k 2 for small samples k N displaystyle frac 1 k frac N k N 1 k 2 approx frac N 2 k 2 text for small samples k ll N a otzhe standartne vidhilennya priblizno N k displaystyle N k serednij za sukupnistyu rozmir rozrivu mizh zrazkami porivnyajte z m k displaystyle frac m k vishe Ce mozhlivo rozglyadati yak duzhe prostij vipadok en Vibirkovij maksimum ye maksimalno pravdopodibnisnim ocinyuvachem dlya maksimumu sukupnosti ale yak obgovoryuvalosya vishe vin ye zmishenim ZastosuvannyaVikoristannya teoriyi ocinyuvannya vimagayut chislenni galuzi Do nih zokrema nalezhat Interpretuvannya naukovih eksperimentiv Obrobka signaliv Klinichni viprobuvannya Opituvannya gromadskoyi dumki Kontrol yakosti Telekomunikaciyi Upravlinnya proyektami Rozrobka programnogo zabezpechennya Teoriya keruvannya zokrema adaptivne keruvannya Sistema viyavlyannya vtorgnen do merezh en Vimiryuvani dani mozhut buti shilni do shumu abo neviznachenosti i same cherez statistichnu jmovirnist shukayut optimalni rishennya dlya vityaguvannya yaknajbilshe informaciyi z danih Div takozhGolovna kategoriya Teoriya ocinyuvannya Najkrashij linijnij nezmishenij ocinyuvach NLNO en en Nerivnist Kramera Rao Viyavlyannya signalu en Statistichna ocinka Nezmishena ocinka Algoritm ochikuvannya maksimizaciyi EM algoritm en Model Sirij yashik Teoriya informaciyi Filtr Kalmana en Metodi Monte Karlo markovskih lancyugiv MKML en Ocinka aposteriornogo maksimumu OAM Metod maksimalnoyi pravdopodibnosti en Metod momentiv en en MSKP en MDNO en en Parametrichne rivnyannya Princip Pareto en Teorema Rao Blekvela Pravilo trijki statistika Spektralna gustina en Statistichna obrobka signaliv Dostatnya statistika en PrimitkiKomentari Maksimum vibirki nikoli ne perevishuye maksimum sukupnosti ale mozhe buti i menshim otzhe ce zmishenij ocinyuvach vin bude shilnim nedoocinyuvati maksimum sukupnosti Dzherela Valter E Pronzato L 1997 Identifikaciya parametrichnih modelej za eksperimentalnim danimi London Angliya Springer Verlag Dzhonson Rodzher 1994 Ocinka chiselnosti naselennya Statistika vikladannya 16 2 lito 50 52 doi 10 1111 j 1467 9639 1994 tb00688 x Dzhonson Rodzher 2006 Otrimannya Najkrashogo iz Statistiki Vikladannya arhiv originalu PDF za Listopad 20 2008LiteraturaTeoriya ocinki tochok E L Lemann ta G Kazella ISBN 0387985026 Inzheneriya sistemnih vitrat Dejla Shermona ISBN 978 0 566 08861 2 Matematichna statistika ta analiz danih Dzhon Rajs ISBN 0 534 209343 Osnovi statistichnoyi obrobki signaliv teoriya ocinki Stivena M Kej ISBN 0 13 345711 7 Vstup do viyavlennya ta ocinki signalu H Vinsent Poor ISBN 0 387 94173 8 Teoriya viyavlennya ocinki ta modulyaciyi Chastina 1 Garri L Van Tress ISBN 0 471 09517 6 Optimalna ocinka stanu Kalman N neskinchenist ta nelinijni pidhodi Den Simon website 30 grudnya 2010 u Wayback Machine en Adaptivni filtri Uajli Nyu Dzhersi 2008 ISBN 978 0 470 25388 5 en Osnovi adaptivnogo filtruvannya Uajli Nyu Dzhersi 2003 ISBN 0 471 46126 1 en en ta en Linijna ocinka Prentis Holl Nyu Dzhersi 2000 ISBN 978 0 13 022464 4 en en ta en Neviznachena kvadratichna ocinka ta kontrol unifikovanij pidhid do H2 ta H displaystyle infty teorij Tovaristvo promislovoyi ta prikladnoyi matematiki TPPM Pensilvaniya 1999 ISBN 978 0 89871 411 1 V G Vojnov M S Nikulin Bezstoronni ocinyuvachi ta yih zastosuvannya T 1 Odnovimirnij vipadok Kluwer Academic Publishers 1993 ISBN 0 7923 2382 3 V G Vojnov M S Nikulin Bezstoronni ocinyuvachi ta yih zastosuvannya T 2 Bagatovimirnij vipadok Kluwer Academic Publishers 1996 ISBN 0 7923 3939 8 PosilannyaVikishovishe maye multimedijni dani za temoyu Teoriya ocinyuvannya