Ймовірнісна нейронна мережа — вид штучних нейронних мереж, який використовує баєсову статистику для виконання певних завдань. Ймовірнісна нейронна мережа була розроблена Дональдом Спехтом (англ. Donald Specht).
Функціонування мережі
Виходи мережі можна інтерпретувати як оцінки ймовірності належності елементу певному класу. Ймовірнісна мережа вчиться оцінювати функцію густини ймовірності, її вихід розглядається як очікуване значення моделі в даній точці простору входів. Це значення пов'язане з густиною ймовірності спільного розподілу вхідних і вихідних даних.
Задача оцінки густини ймовірності відноситься до області баєсової статистики. Звичайна статистика по заданій моделі показує, яка ймовірність того або іншого виходу. Баєсова статистика інтерпретує по-іншому: правильність моделі оцінюється по наявних достовірних даних, тобто надає можливість оцінювати густину ймовірності розподілу параметрів моделі по наявних даних.
При рішенні задач класифікації можна оцінити густину ймовірності для кожного класу, порівняти між собою ймовірності приналежності до різних класів і обрати модель з параметрами, при яких густина ймовірності буде найбільшою.
Оцінка густини ймовірності в мережі заснована на ядерних оцінках. Якщо приклад розташований в даній точці простору, тоді в цій точці є певна густина ймовірності. Кластери з близько розташованих точок свідчать, що в цьому місці густина ймовірності велика. Поблизу спостереження є більша довіра до рівня густини, а по мірі віддалення від нього довіра зменшується і плине до нуля. В методі ядерних оцінок в точку, що відповідає кожному прикладу, поміщається деяка проста функція, потім вони всі додаються і в результаті утворюється оцінка для загальної густини ймовірності. Найчастіше як ядерні функції беруть дзвоноподібні функції (гаусові). Якщо є достатня кількість навчальних прикладів, такий метод дає добрі наближення до істинної густини ймовірності.
Архітектура мережі
Ймовірнісна мережа має три прошарки: вхідний, радіальний та вихідний. Радіальні елементи беруться по одному на кожний приклад. Кожний з них містить гаусову функцію з центром в цьому прикладі. Кожному класу відповідає один вихідний елемент. Вихідний елемент з'єднаний лише з радіальними елементами, що відносяться до його класу і підсумовує виходи всіх елементів, що належать до його класу. Значення вихідних сигналів утворюються пропорційно ядерних оцінок ймовірності приналежності відповідним класам.
Модифікації
Базова модель ймовірнісної мережі має модифікації. Припустимо, що пропорції класів у навчальній множині відповідають їх пропорціям у всій досліджуваній вибірці (апріорна ймовірність). Наприклад, якщо серед всіх людей хворими є 2%, то в навчальній множині для мережі, яка діагностує захворювання, хворих також повинно бути 2%. Якщо ж апріорні ймовірності відрізняються від пропорції в навчальній виборці, мережа буде видавати невірний результат. Це можна врахувати, вводячи корегуючі коефіцієнти для різноманітних класів.
Переваги та недоліки
Навчання ймовірнісної нейронної мережі є набагато простішим, ніж метод зворотного поширення помилки. Істотним недоліком мережі є її розмір, оскільки вона фактично вміщує в собі всі навчальні дані, потребує багато пам'яті і може повільно працювати.
Література
- http://www.inf.ufrgs.br/~engel/Common/CMP121/PNN.pdf[недоступне посилання з липня 2019] Donald Specht Probabilistic Neural Networks for Classification, 1988
- Donald Specht Mapping or Associative Memory and Probabilistic Neural Networks, 1990
Посилання
Вікіпедія, Українська, Україна, книга, книги, бібліотека, стаття, читати, завантажити, безкоштовно, безкоштовно завантажити, mp3, відео, mp4, 3gp, jpg, jpeg, gif, png, малюнок, музика, пісня, фільм, книга, гра, ігри, мобільний, телефон, android, ios, apple, мобільний телефон, samsung, iphone, xiomi, xiaomi, redmi, honor, oppo, nokia, sonya, mi, ПК, web, Інтернет
Jmovirnisna nejronna merezha vid shtuchnih nejronnih merezh yakij vikoristovuye bayesovu statistiku dlya vikonannya pevnih zavdan Jmovirnisna nejronna merezha bula rozroblena Donaldom Spehtom angl Donald Specht Arhitektura jmovirnisnoyi nejronnoyi merezhi sho vikoristovuyetsya dlya klasifikaciyi ob yektiv v kategoriyiFunkcionuvannya merezhiVihodi merezhi mozhna interpretuvati yak ocinki jmovirnosti nalezhnosti elementu pevnomu klasu Jmovirnisna merezha vchitsya ocinyuvati funkciyu gustini jmovirnosti yiyi vihid rozglyadayetsya yak ochikuvane znachennya modeli v danij tochci prostoru vhodiv Ce znachennya pov yazane z gustinoyu jmovirnosti spilnogo rozpodilu vhidnih i vihidnih danih Zadacha ocinki gustini jmovirnosti vidnositsya do oblasti bayesovoyi statistiki Zvichajna statistika po zadanij modeli pokazuye yaka jmovirnist togo abo inshogo vihodu Bayesova statistika interpretuye po inshomu pravilnist modeli ocinyuyetsya po nayavnih dostovirnih danih tobto nadaye mozhlivist ocinyuvati gustinu jmovirnosti rozpodilu parametriv modeli po nayavnih danih Pri rishenni zadach klasifikaciyi mozhna ociniti gustinu jmovirnosti dlya kozhnogo klasu porivnyati mizh soboyu jmovirnosti prinalezhnosti do riznih klasiv i obrati model z parametrami pri yakih gustina jmovirnosti bude najbilshoyu Ocinka gustini jmovirnosti v merezhi zasnovana na yadernih ocinkah Yaksho priklad roztashovanij v danij tochci prostoru todi v cij tochci ye pevna gustina jmovirnosti Klasteri z blizko roztashovanih tochok svidchat sho v comu misci gustina jmovirnosti velika Poblizu sposterezhennya ye bilsha dovira do rivnya gustini a po miri viddalennya vid nogo dovira zmenshuyetsya i pline do nulya V metodi yadernih ocinok v tochku sho vidpovidaye kozhnomu prikladu pomishayetsya deyaka prosta funkciya potim voni vsi dodayutsya i v rezultati utvoryuyetsya ocinka dlya zagalnoyi gustini jmovirnosti Najchastishe yak yaderni funkciyi berut dzvonopodibni funkciyi gausovi Yaksho ye dostatnya kilkist navchalnih prikladiv takij metod daye dobri nablizhennya do istinnoyi gustini jmovirnosti Arhitektura merezhiJmovirnisna merezha maye tri prosharki vhidnij radialnij ta vihidnij Radialni elementi berutsya po odnomu na kozhnij priklad Kozhnij z nih mistit gausovu funkciyu z centrom v comu prikladi Kozhnomu klasu vidpovidaye odin vihidnij element Vihidnij element z yednanij lishe z radialnimi elementami sho vidnosyatsya do jogo klasu i pidsumovuye vihodi vsih elementiv sho nalezhat do jogo klasu Znachennya vihidnih signaliv utvoryuyutsya proporcijno yadernih ocinok jmovirnosti prinalezhnosti vidpovidnim klasam ModifikaciyiBazova model jmovirnisnoyi merezhi maye modifikaciyi Pripustimo sho proporciyi klasiv u navchalnij mnozhini vidpovidayut yih proporciyam u vsij doslidzhuvanij vibirci apriorna jmovirnist Napriklad yaksho sered vsih lyudej hvorimi ye 2 to v navchalnij mnozhini dlya merezhi yaka diagnostuye zahvoryuvannya hvorih takozh povinno buti 2 Yaksho zh apriorni jmovirnosti vidriznyayutsya vid proporciyi v navchalnij viborci merezha bude vidavati nevirnij rezultat Ce mozhna vrahuvati vvodyachi koreguyuchi koeficiyenti dlya riznomanitnih klasiv Perevagi ta nedolikiNavchannya jmovirnisnoyi nejronnoyi merezhi ye nabagato prostishim nizh metod zvorotnogo poshirennya pomilki Istotnim nedolikom merezhi ye yiyi rozmir oskilki vona faktichno vmishuye v sobi vsi navchalni dani potrebuye bagato pam yati i mozhe povilno pracyuvati Literaturahttp www inf ufrgs br engel Common CMP121 PNN pdf nedostupne posilannya z lipnya 2019 Donald Specht Probabilistic Neural Networks for Classification 1988 Donald Specht Mapping or Associative Memory and Probabilistic Neural Networks 1990Posilannya