Гра́фова моде́ль, або імові́рнісна гр́афова моде́ль (ІГМ, англ. probabilistic graphical model, PGM) — це ймовірнісна модель, для якої [en] між випадковими змінними виражено графом. Вони поширені в теорії ймовірностей, статистиці, — зокрема, баєсовій, — та в машинному навчанні.
![image](https://www.wikidata.uk-ua.nina.az/image/aHR0cHM6Ly93d3cud2lraWRhdGEudWstdWEubmluYS5hei9pbWFnZS9hSFIwY0hNNkx5OTFjR3h2WVdRdWQybHJhVzFsWkdsaExtOXlaeTkzYVd0cGNHVmthV0V2WTI5dGJXOXVjeTkwYUhWdFlpOHpMek01TDBkeVlYQm9YMjF2WkdWc0xuTjJaeTh5TWpCd2VDMUhjbUZ3YUY5dGIyUmxiQzV6ZG1jdWNHNW4ucG5n.png)
Типи графових моделей
Як правило, ймовірнісні графові моделі як основу для кодування повного розподілу над багатовимірним простором використовують представлення на основі графів, і граф, що є компактним або [en] представленням набору незалежностей, що містяться у певному розподілі. Зазвичай застосовують дві галузі графових представлень розподілів, а саме баєсові та марковські мережі. Обидва сімейства охоплюють властивості розкладу та незалежностей, але вони мають відмінності в наборі незалежностей, що вони можуть кодувати, та факторизації розподілу, що вони спричиняють.
Баєсова мережа
Якщо мережеву структуру моделі представлено як орієнтований ациклічний граф, то ця модель представляє розклад спільної ймовірності всіх випадкових змінних. Точніше, якщо подіями є , то спільна ймовірність задовольняє
де є набором батьків вершини
. Іншими словами, спільний розподіл розкладається у добуток умовних розподілів. Наприклад, зображена вище статистична модель (що насправді є не орієнтованим ациклічним, а [en]) складається з випадкових змінних
з густиною спільного розподілу ймовірності, що розкладається як
Будь-які дві вершини є [en] для заданих значень їх батьків. Загалом, будь-які дві множини вершин є умовно незалежними для заданої третьої множини, якщо в графі виконується критерій, що називається о-розділеністю. В баєсових мережах локальна та глобальна незалежності є еквівалентними.
Цей тип графової моделі відомий як орієнтована графова модель, баєсова мережа, або мережа переконань. Класичні методи машинного навчання, такі як приховані марковські моделі, нейронні мережі, та новіші моделі, такі як [en], можуть розглядатися як окремі випадки баєсових мереж.
Марковське випадкове поле
Марковське випадкове поле, відоме також як марковська мережа, є моделлю над неорієнтованим графом. Графічну модель з багатьма повторюваними підблоками може бути представлено за допомогою [en].
Інші типи
- [en] — це неорієнтований двочастковий граф, що з'єднує змінні та фактори. Кожен фактор представляє функцію над змінними, з якими його з'єднано. Це представлення є корисним для розуміння та реалізації [en].
- Дерево клік або дерево злук, є деревом, що складається з клік, яке застосовується в [en].
- [en] — це граф, що може мати як орієнтовані, так і неорієнтовані ребра, але без жодних орієнтованих циклів (тобто, якщо ми почали з будь-якої вершини і рухаємось графом, дотримуючись напрямків наявних стрілок, то ми не зможемо повернутися до початкової вершини, якщо ми пройшли стрілку). Як орієнтовані ациклічні графи, так і неорієнтовані графи є окремими випадками ланцюгових графів, що відтак забезпечують спосіб уніфікації та узагальнення баєсових та марковських мереж.
- [en] є подальшим розширенням, що має орієнтовані, біорієнтовані та неорієнтовані ребра.
- Умовне випадкове поле є розрізнювальною моделлю, визначеною над неорієнтованим графом.
- Обмежена машина Больцмана є двочастковою породжувальною моделлю, визначеною над неорієнтованим графом.
Застосування
Система моделей, що забезпечує алгоритми для виявлення та аналізу структур складних розподілів для їх стислого опису та витягування не структурованої інформації, дозволяє будувати та використовувати їх ефективно. Застосування графових моделей включають витягування інформації, розпізнавання мовлення, комп'ютерний зір, декодування кодів з малою щільністю перевірок на парність, моделювання генних регуляторних мереж, пошуку генів та діагностування захворювань, та [en].
Див. також
- [en]
- [en]
Примітки
- Koller; Friedman (2009). Probabilistic Graphical Models. Massachusetts: MIT Press. . (англ.)
- Frydenberg, Morten (1990). The Chain Graph Markov Property. Scandinavian Journal of Statistics. 17 (4): 333—353. JSTOR 4616181. MR 1096723. (англ.)
- Richardson, Thomas; Spirtes, Peter (2002). Ancestral graph Markov models. [en]. 30 (4): 962—1030. doi:10.1214/aos/1031689015. MR 1926166. Zbl 1033.60008. (англ.)
Навчальні посібники
- Graphical models and Conditional Random Fields [ 4 березня 2016 у Wayback Machine.] (англ.)
- Probabilistic Graphical Models taught by Eric Xing at CMU [ 24 вересня 2015 у Wayback Machine.] (англ.)
Джерела та література
Книги та глави книг
- (2006). . Pattern Recognition and Machine Learning. Springer. с. 359—422. ISBN . MR 2247587. Архів оригіналу (PDF) за 3 жовтня 2008. Процитовано 23 вересня 2015. (англ.)
- Cowell, Robert G.; [en]; Lauritzen, Steffen L.; [en] (1999). Probabilistic networks and expert systems. Berlin: Springer. ISBN . MR 1697175. (англ.) Досконаліша та статистично орієнтована книга
- Jensen, Finn (1996). An introduction to Bayesian networks. Berlin: Springer. ISBN .
- Koller, D.; [en] (2009). [http://pgm.stanford.edu/ Probabilistic Graphical Models]. Massachusetts: MIT Press. с. 1208. ISBN . (англ.)
- Pearl, Judea (1988). Probabilistic Reasoning in Intelligent Systems (вид. 2nd revised). San Mateo, CA: [en]. ISBN . MR 0965765. (англ.) Обчислювальний підхід до аргументації, в якому було формально представлено взаємозв'язки між графами та ймовірностями.
Статті в наукових журналах
- Edoardo M. Airoldi (2007). Getting Started in Probabilistic Graphical Models. PLoS Computational Biology. 3 (12): e252. doi:10.1371/journal.pcbi.0030252. PMC 2134967. PMID 18069887.
{{}}
: Обслуговування CS1: Сторінки із непозначеним DOI з безкоштовним доступом () (англ.) - (2004). Graphical Models. Statistical Science. 19: 140—155. doi:10.1214/088342304000000026. (англ.)
Інше
- Heckerman's Bayes Net Learning Tutorial [ 1 травня 2015 у Wayback Machine.] (англ.)
- A Brief Introduction to Graphical Models and Bayesian Networks [ 12 листопада 2020 у Wayback Machine.] (англ.)
- Sargur Srihari's lecture slides on probabilistic graphical models [ 16 серпня 2015 у Wayback Machine.] (англ.)
Вікіпедія, Українська, Україна, книга, книги, бібліотека, стаття, читати, завантажити, безкоштовно, безкоштовно завантажити, mp3, відео, mp4, 3gp, jpg, jpeg, gif, png, малюнок, музика, пісня, фільм, книга, гра, ігри, мобільний, телефон, android, ios, apple, мобільний телефон, samsung, iphone, xiomi, xiaomi, redmi, honor, oppo, nokia, sonya, mi, ПК, web, Інтернет
Gra fova mode l abo imovi rnisna gr afova mode l IGM angl probabilistic graphical model PGM ce jmovirnisna model dlya yakoyi en mizh vipadkovimi zminnimi virazheno grafom Voni poshireni v teoriyi jmovirnostej statistici zokrema bayesovij ta v mashinnomu navchanni Priklad grafovoyi modeli Kozhna strilka pokazuye zalezhnist U comu prikladi D zalezhit vid A D zalezhit vid B D zalezhit vid C C zalezhit vid B ta C zalezhit vid D Tipi grafovih modelejYak pravilo jmovirnisni grafovi modeli yak osnovu dlya koduvannya povnogo rozpodilu nad bagatovimirnim prostorom vikoristovuyut predstavlennya na osnovi grafiv i graf sho ye kompaktnim abo en predstavlennyam naboru nezalezhnostej sho mistyatsya u pevnomu rozpodili Zazvichaj zastosovuyut dvi galuzi grafovih predstavlen rozpodiliv a same bayesovi ta markovski merezhi Obidva simejstva ohoplyuyut vlastivosti rozkladu ta nezalezhnostej ale voni mayut vidminnosti v nabori nezalezhnostej sho voni mozhut koduvati ta faktorizaciyi rozpodilu sho voni sprichinyayut Bayesova merezha Dokladnishe Bayesova merezha Yaksho merezhevu strukturu modeli predstavleno yak oriyentovanij aciklichnij graf to cya model predstavlyaye rozklad spilnoyi jmovirnosti vsih vipadkovih zminnih Tochnishe yaksho podiyami ye X1 Xn displaystyle X 1 ldots X n to spilna jmovirnist zadovolnyaye P X1 Xn i 1nP Xi pai displaystyle P X 1 ldots X n prod i 1 n P X i pa i de pai displaystyle pa i ye naborom batkiv vershini Xi displaystyle X i Inshimi slovami spilnij rozpodil rozkladayetsya u dobutok umovnih rozpodiliv Napriklad zobrazhena vishe statistichna model sho naspravdi ye ne oriyentovanim aciklichnim a en skladayetsya z vipadkovih zminnih A B C D displaystyle A B C D z gustinoyu spilnogo rozpodilu jmovirnosti sho rozkladayetsya yak P A B C D P A P B P C B D P D A B C displaystyle P A B C D P A cdot P B cdot P C B D cdot P D A B C Bud yaki dvi vershini ye en dlya zadanih znachen yih batkiv Zagalom bud yaki dvi mnozhini vershin ye umovno nezalezhnimi dlya zadanoyi tretoyi mnozhini yaksho v grafi vikonuyetsya kriterij sho nazivayetsya o rozdilenistyu V bayesovih merezhah lokalna ta globalna nezalezhnosti ye ekvivalentnimi Cej tip grafovoyi modeli vidomij yak oriyentovana grafova model bayesova merezha abo merezha perekonan Klasichni metodi mashinnogo navchannya taki yak prihovani markovski modeli nejronni merezhi ta novishi modeli taki yak en mozhut rozglyadatisya yak okremi vipadki bayesovih merezh Markovske vipadkove pole Dokladnishe Markovske vipadkove pole Markovske vipadkove pole vidome takozh yak markovska merezha ye modellyu nad neoriyentovanim grafom Grafichnu model z bagatma povtoryuvanimi pidblokami mozhe buti predstavleno za dopomogoyu en Inshi tipi en ce neoriyentovanij dvochastkovij graf sho z yednuye zminni ta faktori Kozhen faktor predstavlyaye funkciyu nad zminnimi z yakimi jogo z yednano Ce predstavlennya ye korisnim dlya rozuminnya ta realizaciyi en Derevo klik abo derevo zluk ye derevom sho skladayetsya z klik yake zastosovuyetsya v en en ce graf sho mozhe mati yak oriyentovani tak i neoriyentovani rebra ale bez zhodnih oriyentovanih cikliv tobto yaksho mi pochali z bud yakoyi vershini i ruhayemos grafom dotrimuyuchis napryamkiv nayavnih strilok to mi ne zmozhemo povernutisya do pochatkovoyi vershini yaksho mi projshli strilku Yak oriyentovani aciklichni grafi tak i neoriyentovani grafi ye okremimi vipadkami lancyugovih grafiv sho vidtak zabezpechuyut sposib unifikaciyi ta uzagalnennya bayesovih ta markovskih merezh en ye podalshim rozshirennyam sho maye oriyentovani bioriyentovani ta neoriyentovani rebra Umovne vipadkove pole ye rozriznyuvalnoyu modellyu viznachenoyu nad neoriyentovanim grafom Obmezhena mashina Bolcmana ye dvochastkovoyu porodzhuvalnoyu modellyu viznachenoyu nad neoriyentovanim grafom ZastosuvannyaSistema modelej sho zabezpechuye algoritmi dlya viyavlennya ta analizu struktur skladnih rozpodiliv dlya yih stislogo opisu ta vityaguvannya ne strukturovanoyi informaciyi dozvolyaye buduvati ta vikoristovuvati yih efektivno Zastosuvannya grafovih modelej vklyuchayut vityaguvannya informaciyi rozpiznavannya movlennya komp yuternij zir dekoduvannya kodiv z maloyu shilnistyu perevirok na parnist modelyuvannya gennih regulyatornih merezh poshuku geniv ta diagnostuvannya zahvoryuvan ta en Div takozh en en PrimitkiKoller Friedman 2009 Probabilistic Graphical Models Massachusetts MIT Press ISBN 0 262 01319 3 angl Frydenberg Morten 1990 The Chain Graph Markov Property Scandinavian Journal of Statistics 17 4 333 353 JSTOR 4616181 MR 1096723 angl Richardson Thomas Spirtes Peter 2002 Ancestral graph Markov models en 30 4 962 1030 doi 10 1214 aos 1031689015 MR 1926166 Zbl 1033 60008 angl Navchalni posibnikiGraphical models and Conditional Random Fields 4 bereznya 2016 u Wayback Machine angl Probabilistic Graphical Models taught by Eric Xing at CMU 24 veresnya 2015 u Wayback Machine angl Dzherela ta literaturaKnigi ta glavi knig 2006 Pattern Recognition and Machine Learning Springer s 359 422 ISBN 0 387 31073 8 MR 2247587 Arhiv originalu PDF za 3 zhovtnya 2008 Procitovano 23 veresnya 2015 angl Cowell Robert G en Lauritzen Steffen L en 1999 Probabilistic networks and expert systems Berlin Springer ISBN 0 387 98767 3 MR 1697175 angl Doskonalisha ta statistichno oriyentovana kniga Jensen Finn 1996 An introduction to Bayesian networks Berlin Springer ISBN 0 387 91502 8 Koller D en 2009 http pgm stanford edu Probabilistic Graphical Models Massachusetts MIT Press s 1208 ISBN 0 262 01319 3 angl Pearl Judea 1988 Probabilistic Reasoning in Intelligent Systems vid 2nd revised San Mateo CA en ISBN 1 55860 479 0 MR 0965765 angl Obchislyuvalnij pidhid do argumentaciyi v yakomu bulo formalno predstavleno vzayemozv yazki mizh grafami ta jmovirnostyami Statti v naukovih zhurnalah Edoardo M Airoldi 2007 Getting Started in Probabilistic Graphical Models PLoS Computational Biology 3 12 e252 doi 10 1371 journal pcbi 0030252 PMC 2134967 PMID 18069887 a href wiki D0 A8 D0 B0 D0 B1 D0 BB D0 BE D0 BD Cite journal title Shablon Cite journal cite journal a Obslugovuvannya CS1 Storinki iz nepoznachenim DOI z bezkoshtovnim dostupom posilannya angl 2004 Graphical Models Statistical Science 19 140 155 doi 10 1214 088342304000000026 angl Inshe Heckerman s Bayes Net Learning Tutorial 1 travnya 2015 u Wayback Machine angl A Brief Introduction to Graphical Models and Bayesian Networks 12 listopada 2020 u Wayback Machine angl Sargur Srihari s lecture slides on probabilistic graphical models 16 serpnya 2015 u Wayback Machine angl