Наївний баєсів класифікатор — ймовірнісний класифікатор, що використовує теорему Баєса для визначення ймовірності приналежності спостереження (елемента вибірки) до одного з класів при припущенні (наївному) незалежності змінних.
Тобто, якщо на основі значень змінних можна однозначно визначити, до якого класу належить спостереження, баєсів класифікатор повідомить ймовірність приналежності до цього класу.
У проміжних же випадках, коли спостереження може з різною ймовірністю належати до різних класів, результатом роботи класифікатора буде вектор, компоненти якого є ймовірностями приналежності до того чи іншого класу.
Можна бачити, що ідеальний баєсів класифікатор в якомусь сенсі є оптимальним. Його результат не може бути поліпшений, тому що в усіх випадках, коли можлива однозначна відповідь, він її дасть — а в тих випадках, коли відповідь неоднозначна, результат кількісно характеризує міру цієї неоднозначності.
Разом з тим, в оптимальності криється і основний недолік ідеального баєсового класифікатора: для його побудови потрібна вибірка, що містить всі можливі комбінації змінних — а розмір такої вибірки експоненціально зростає із зростанням числа змінних (див. «прокляття розмірності»). Для подолання описаної вище проблеми на практиці використовують наївний баєсів класифікатор — класифікатор, побудований на основі припущення про незалежність змінних, тобто припущення про те, що використання цього припущення дозволяє не вивчати взаємодію всіх можливих поєднань змінних, обмежившись лише впливом кожної змінної окремо на приналежність образу до одного з класів.
Перевагою цього підходу є те, що вимоги до розміру вибірки скорочуються від експоненційних до лінійних. Недоліком — те, що модель є точною лише у випадку, коли виконується припущення про незалежність. В іншому випадку, щиро кажучи, обчислені ймовірності вже не є точними (і навіть більше того, їх сума може не дорівнювати одиниці, через що потрібно нормувати результат). Однак на практиці незначні відхилення від незалежності призводять лише до незначного зниження точності, і навіть у разі істотної залежності між змінними результат роботи класифікатора продовжує корелювати з істинною приналежністю образу до класів. При цьому переваги класифікатора (висока швидкість роботи, простота і масштабованість, помірні вимоги до пам'яті) часто переважують недоліки.
Див. також
Література
- Domingos, Pedro & Michael Pazzani (1997) «On the optimality of the simple Bayesian classifier under zero-one loss». Machine Learning, 29:103-137. (also online at : [1])
- Rish, Irina. (2001). «An empirical study of the naive Bayes classifier». IJCAI 2001 Workshop on Empirical Methods in Artificial Intelligence. (available online: PDF, PostScript)
- Hand, DJ, & Yu, K. (2001). «Idiot's Bayes — not so stupid after all?» International Statistical Review. Vol 69 part 3, pages 385—399. ISSN 0306-7734.
- Mozina M, Demsar J, Kattan M, & Zupan B. (2004). «Nomograms for Visualization of Naive Bayesian Classifier». In Proc. of PKDD-2004, pages 337—348.
- Maron, M. E. (1961). «Automatic Indexing: An Experimental Inquiry.» Journal of the ACM (JACM) 8(3):404-417. (available online: PDF)
- Minsky, M. (1961). «Steps toward Artificial Intelligence.» Proceedings of the IRE 49(1):8-30.
- McCallum, A. and Nigam K. «A Comparison of Event Models for Naive Bayes Text Classification». In AAAI/ICML-98 Workshop on Learning for Text Categorization, pp. 41-48. Technical Report WS-98-05. AAAI Press. 1998. (available online: PDF)
- Субботин С. В., Большаков Д. Ю. Применение байесовского классификатора для распознавания классов целей. // «Журнал Радиоэлектроники», 2006, № 4 (available online)
Ця стаття потребує додаткових для поліпшення її . (січень 2016) |
В іншому мовному розділі є повніша стаття Naive Bayes classifier(англ.). Ви можете допомогти, розширивши поточну статтю за допомогою з англійської.
|
![]() | Це незавершена стаття зі штучного інтелекту. Ви можете проєкту, виправивши або дописавши її. |
Вікіпедія, Українська, Україна, книга, книги, бібліотека, стаття, читати, завантажити, безкоштовно, безкоштовно завантажити, mp3, відео, mp4, 3gp, jpg, jpeg, gif, png, малюнок, музика, пісня, фільм, книга, гра, ігри, мобільний, телефон, android, ios, apple, мобільний телефон, samsung, iphone, xiomi, xiaomi, redmi, honor, oppo, nokia, sonya, mi, ПК, web, Інтернет
Nayivnij bayesiv klasifikator jmovirnisnij klasifikator sho vikoristovuye teoremu Bayesa dlya viznachennya jmovirnosti prinalezhnosti sposterezhennya elementa vibirki do odnogo z klasiv pri pripushenni nayivnomu nezalezhnosti zminnih Tobto yaksho na osnovi znachen zminnih mozhna odnoznachno viznachiti do yakogo klasu nalezhit sposterezhennya bayesiv klasifikator povidomit jmovirnist prinalezhnosti do cogo klasu U promizhnih zhe vipadkah koli sposterezhennya mozhe z riznoyu jmovirnistyu nalezhati do riznih klasiv rezultatom roboti klasifikatora bude vektor komponenti yakogo ye jmovirnostyami prinalezhnosti do togo chi inshogo klasu Mozhna bachiti sho idealnij bayesiv klasifikator v yakomus sensi ye optimalnim Jogo rezultat ne mozhe buti polipshenij tomu sho v usih vipadkah koli mozhliva odnoznachna vidpovid vin yiyi dast a v tih vipadkah koli vidpovid neodnoznachna rezultat kilkisno harakterizuye miru ciyeyi neodnoznachnosti Razom z tim v optimalnosti kriyetsya i osnovnij nedolik idealnogo bayesovogo klasifikatora dlya jogo pobudovi potribna vibirka sho mistit vsi mozhlivi kombinaciyi zminnih a rozmir takoyi vibirki eksponencialno zrostaye iz zrostannyam chisla zminnih div proklyattya rozmirnosti Dlya podolannya opisanoyi vishe problemi na praktici vikoristovuyut nayivnij bayesiv klasifikator klasifikator pobudovanij na osnovi pripushennya pro nezalezhnist zminnih tobto pripushennya pro te sho vikoristannya cogo pripushennya dozvolyaye ne vivchati vzayemodiyu vsih mozhlivih poyednan zminnih obmezhivshis lishe vplivom kozhnoyi zminnoyi okremo na prinalezhnist obrazu do odnogo z klasiv Perevagoyu cogo pidhodu ye te sho vimogi do rozmiru vibirki skorochuyutsya vid eksponencijnih do linijnih Nedolikom te sho model ye tochnoyu lishe u vipadku koli vikonuyetsya pripushennya pro nezalezhnist V inshomu vipadku shiro kazhuchi obchisleni jmovirnosti vzhe ne ye tochnimi i navit bilshe togo yih suma mozhe ne dorivnyuvati odinici cherez sho potribno normuvati rezultat Odnak na praktici neznachni vidhilennya vid nezalezhnosti prizvodyat lishe do neznachnogo znizhennya tochnosti i navit u razi istotnoyi zalezhnosti mizh zminnimi rezultat roboti klasifikatora prodovzhuye korelyuvati z istinnoyu prinalezhnistyu obrazu do klasiv Pri comu perevagi klasifikatora visoka shvidkist roboti prostota i masshtabovanist pomirni vimogi do pam yati chasto perevazhuyut nedoliki Div takozhBayesova merezha Bayesova filtraciya spamuLiteraturaDomingos Pedro amp Michael Pazzani 1997 On the optimality of the simple Bayesian classifier under zero one loss Machine Learning 29 103 137 also online at 1 Rish Irina 2001 An empirical study of the naive Bayes classifier IJCAI 2001 Workshop on Empirical Methods in Artificial Intelligence available online PDF PostScript Hand DJ amp Yu K 2001 Idiot s Bayes not so stupid after all International Statistical Review Vol 69 part 3 pages 385 399 ISSN 0306 7734 Mozina M Demsar J Kattan M amp Zupan B 2004 Nomograms for Visualization of Naive Bayesian Classifier In Proc of PKDD 2004 pages 337 348 Maron M E 1961 Automatic Indexing An Experimental Inquiry Journal of the ACM JACM 8 3 404 417 available online PDF Minsky M 1961 Steps toward Artificial Intelligence Proceedings of the IRE 49 1 8 30 McCallum A and Nigam K A Comparison of Event Models for Naive Bayes Text Classification In AAAI ICML 98 Workshop on Learning for Text Categorization pp 41 48 Technical Report WS 98 05 AAAI Press 1998 available online PDF Subbotin S V Bolshakov D Yu Primenenie bajesovskogo klassifikatora dlya raspoznavaniya klassov celej Zhurnal Radioelektroniki 2006 4 available online Cya stattya potrebuye dodatkovih posilan na dzherela dlya polipshennya yiyi perevirnosti Bud laska dopomozhit udoskonaliti cyu stattyu dodavshi posilannya na nadijni avtoritetni dzherela Zvernitsya na storinku obgovorennya za poyasnennyami ta dopomozhit vipraviti nedoliki Material bez dzherel mozhe buti piddano sumnivu ta vilucheno sichen 2016 V inshomu movnomu rozdili ye povnisha stattya Naive Bayes classifier angl Vi mozhete dopomogti rozshirivshi potochnu stattyu za dopomogoyu perekladu z anglijskoyi Divitis avtoperekladenu versiyu statti z movi anglijska Perekladach povinen rozumiti sho vidpovidalnist za kincevij vmist statti u Vikipediyi nese same avtor redaguvan Onlajn pereklad nadayetsya lishe yak korisnij instrument pereglyadu vmistu zrozumiloyu movoyu Ne vikoristovujte nevichitanij i nevidkorigovanij mashinnij pereklad u stattyah ukrayinskoyi Vikipediyi Mashinnij pereklad Google ye korisnoyu vidpravnoyu tochkoyu dlya perekladu ale perekladacham neobhidno vipravlyati pomilki ta pidtverdzhuvati tochnist perekladu a ne prosto skopiyuvati mashinnij pereklad do ukrayinskoyi Vikipediyi Ne perekladajte tekst yakij vidayetsya nedostovirnim abo neyakisnim Yaksho mozhlivo perevirte tekst za posilannyami podanimi v inshomovnij statti Dokladni rekomendaciyi div Vikipediya Pereklad Ce nezavershena stattya zi shtuchnogo intelektu Vi mozhete dopomogti proyektu vipravivshi abo dopisavshi yiyi