Azərbaycanca AzərbaycancaБеларускі БеларускіDansk DanskDeutsch DeutschEspañola EspañolaFrançais FrançaisIndonesia IndonesiaItaliana Italiana日本語 日本語Қазақ ҚазақLietuvos LietuvosNederlands NederlandsPortuguês PortuguêsРусский Русскийසිංහල සිංහලแบบไทย แบบไทยTürkçe TürkçeУкраїнська Українська中國人 中國人United State United StateAfrikaans Afrikaans
Підтримка
www.wikidata.uk-ua.nina.az

Принцип WTA Winner take all Переможець отримує все застосовується в штучних нейронних мережах при прийнятті рішень і зав

Winner-take-all

Winner-take-all

Принцип WTA (Winner-take-all, Переможець отримує все) застосовується в штучних нейронних мережах при прийнятті рішень і завдань класифікації. Він полягає в тому, що рішенням вважається така альтернатива, у якої вихідне значення відповідного нейрона є максимальним.

Цей принцип вважається аналогією принципу плюралізму.

Штучні нейронні мережі

В теорії штучних нейронних мереж, нейромережі winner-take-all є прикладом конкурентного навчання в нейронних мережах зі зворотніми зв'язками. Вихідні нейрони нейромережі інгібують один одного, активуючи в цей час самих себе через зворотні зв'язки. Через деякий час лише один нейрон буде активним, а саме той, який відповідає найбільшому входу нейромережі. Таким чином, нейронна мережа використовує нелінійне інгібування для того, щоб визначити вхідний нейрон найбільшим сигналом. Winner-take-all — це один із загальних обчислювальних принципів, який може бути використаний для різних типів нейромереж, включаючи нейромережі в неперервному часі і спайкові нейронні мережі.

Нейромережі типу winner-take-all часто використовуються в обчислювальних моделях мозку, а саме для розподіленого прийняття рішень в неокортексі. Приклади включають ієрархічні моделі зору і моделі селективної уваги і розпізнавання. Цей принцип також часто використовується в нейроморфних аналогах VLSI. Формально було доведено що операція winner-take-all більш обчислювально потужна, ніж інші нелінійні операції, наприклад порогова функція. Будь-яка неперервна функція може бути апроксимована з допомогою нейромережі із алгоритмом winner-take-all як єдиною нелінійною операцією.

У багатьох практичних випадках застосовують принцип k-winners-take-all. Згідно з цим принципом k нейронів стають активними для фіксованого числа k.

Посилання

  1. Grossberg, 1973
  2. Oster et al. 2009
  3. Riesenhuber et al. 1999
  4. Carpenter and Grossberg, 1987
  5. Itti et al. 1998
  6. Maass, W. 2000. On the computational power of winner-take-all. Neural Computation 12:2519-2535.
  • G.A. Carpenter and S. Grossberg, [1] [ 19 липня 2011 у Wayback Machine.] A massively parallel architecture for a self-organizing neural pattern recognition machine, «Computer Vision, Graphics, and Image Processing», «'37:54»', 1987.
  • S. Grossberg, [2] [ 2 квітня 2015 у Wayback Machine.] Contour enhancement, short-term memory, and constancies in reverberating neural networks, «Studies in Applied Mathematics», «'52:213»', 1973.
  • M. Oster, R. Douglas and S.-C. Liu, Computation with spikes in a winner-take-all network, Neural Computation, 21:9, 2009.
  • M. Riesenhuber and T. Poggio, Hierarchical models of object recognition in cortex, Nature Neuroscience, 2:11, 1999.
  • L. Itti, C. Koch and E. Niebur, A model of saliency-based visual attention for rapid scene analysis, IEEE Transactions on Pattern Analysis and Machine Intelligence, 20:11, 1998.
  • W. Maass, On the computational power of winner-take-all, Neural Computation, 12:11, 2000.
  • J. Lazzaro, S. Ryckebusch, M. A. Mahowald and C. A. Mead, Winner-take-all networks of O(N) complexity, in Advances in Neural Information Processing Systems 1, Morgan Kaufmann Publishers, San Francisco, CA, 1989. Also available online at John Lazzaro's website [ 9 березня 2012 у Wayback Machine.].
  • article on various types of winner-take-all transistor-level circuits fabricated in the CMOS technology.
  • D. Scharstein, R. Szeliski, A taxonomy and evaluation of dense two-frame stereo correspondence algorithms, International Journal of Computer Vision, 47:1, 2002.

Див. також

Вікіпедія, Українська, Україна, книга, книги, бібліотека, стаття, читати, завантажити, безкоштовно, безкоштовно завантажити, mp3, відео, mp4, 3gp, jpg, jpeg, gif, png, малюнок, музика, пісня, фільм, книга, гра, ігри, мобільний, телефон, android, ios, apple, мобільний телефон, samsung, iphone, xiomi, xiaomi, redmi, honor, oppo, nokia, sonya, mi, ПК, web, Інтернет

Princip WTA Winner take all Peremozhec otrimuye vse zastosovuyetsya v shtuchnih nejronnih merezhah pri prijnyatti rishen i zavdan klasifikaciyi Vin polyagaye v tomu sho rishennyam vvazhayetsya taka alternativa u yakoyi vihidne znachennya vidpovidnogo nejrona ye maksimalnim Cej princip vvazhayetsya analogiyeyu principu plyuralizmu Shtuchni nejronni merezhiV teoriyi shtuchnih nejronnih merezh nejromerezhi winner take all ye prikladom konkurentnogo navchannya v nejronnih merezhah zi zvorotnimi zv yazkami Vihidni nejroni nejromerezhi ingibuyut odin odnogo aktivuyuchi v cej chas samih sebe cherez zvorotni zv yazki Cherez deyakij chas lishe odin nejron bude aktivnim a same toj yakij vidpovidaye najbilshomu vhodu nejromerezhi Takim chinom nejronna merezha vikoristovuye nelinijne ingibuvannya dlya togo shob viznachiti vhidnij nejron najbilshim signalom Winner take all ce odin iz zagalnih obchislyuvalnih principiv yakij mozhe buti vikoristanij dlya riznih tipiv nejromerezh vklyuchayuchi nejromerezhi v neperervnomu chasi i spajkovi nejronni merezhi Nejromerezhi tipu winner take all chasto vikoristovuyutsya v obchislyuvalnih modelyah mozku a same dlya rozpodilenogo prijnyattya rishen v neokorteksi Prikladi vklyuchayut iyerarhichni modeli zoru i modeli selektivnoyi uvagi i rozpiznavannya Cej princip takozh chasto vikoristovuyetsya v nejromorfnih analogah VLSI Formalno bulo dovedeno sho operaciya winner take all bilsh obchislyuvalno potuzhna nizh inshi nelinijni operaciyi napriklad porogova funkciya Bud yaka neperervna funkciya mozhe buti aproksimovana z dopomogoyu nejromerezhi iz algoritmom winner take all yak yedinoyu nelinijnoyu operaciyeyu U bagatoh praktichnih vipadkah zastosovuyut princip k winners take all Zgidno z cim principom k nejroniv stayut aktivnimi dlya fiksovanogo chisla k PosilannyaGrossberg 1973 Oster et al 2009 Riesenhuber et al 1999 Carpenter and Grossberg 1987 Itti et al 1998 Maass W 2000 On the computational power of winner take all Neural Computation 12 2519 2535 G A Carpenter and S Grossberg 1 19 lipnya 2011 u Wayback Machine A massively parallel architecture for a self organizing neural pattern recognition machine Computer Vision Graphics and Image Processing 37 54 1987 S Grossberg 2 2 kvitnya 2015 u Wayback Machine Contour enhancement short term memory and constancies in reverberating neural networks Studies in Applied Mathematics 52 213 1973 M Oster R Douglas and S C Liu Computation with spikes in a winner take all network Neural Computation 21 9 2009 M Riesenhuber and T Poggio Hierarchical models of object recognition in cortex Nature Neuroscience 2 11 1999 L Itti C Koch and E Niebur A model of saliency based visual attention for rapid scene analysis IEEE Transactions on Pattern Analysis and Machine Intelligence 20 11 1998 W Maass On the computational power of winner take all Neural Computation 12 11 2000 J Lazzaro S Ryckebusch M A Mahowald and C A Mead Winner take all networks of O N complexity in Advances in Neural Information Processing Systems 1 Morgan Kaufmann Publishers San Francisco CA 1989 Also available online at John Lazzaro s website 9 bereznya 2012 u Wayback Machine article on various types of winner take all transistor level circuits fabricated in the CMOS technology D Scharstein R Szeliski A taxonomy and evaluation of dense two frame stereo correspondence algorithms International Journal of Computer Vision 47 1 2002 Div takozhShtuchna nejronna merezha Teorema Cibenka Sigmoyida

Дата публікації:
Топ