Генеративні змага́льні мере́жі (англ. Generative adversarial networks, GANs) — це клас алгоритмів штучного інтелекту, що використовуються в некерованому навчанні, реалізовані системою двох штучних нейронних мереж, які змагаються одна з одною в рамках гри з нульовою сумою. Вони були запроваджені Яном Ґудфелоу в 2014 році. Ця методика дозволяє створювати фотографії, які для побіжного огляду людиною виглядають як справжні та мають багато реалістичних елементів (хоча в тестах люди можуть відрізнити реальні зображення від згенерованих у багатьох випадках).
Метод
Одна мережа генерує кандидатів (генератор), а інша оцінює їх (дискримінатор). Як правило, генеративна мережа навчається будувати відповідності з латентного простору до певного розподілу даних, тоді як дискримінаційна мережа розрізняє представників справжнього розподілу даних та кандидатів, вироблених генератором. Метою тренувальної мережі є збільшення частоти помилок дискримінаційної мережі (тобто «обдурити» дискримінатор шляхом створення нових синтезованих екземплярів, які повинні походити на представників справжнього розподілу даних).
На практиці заздалегідь відомий набір даних використовують як початкові навчальні данні для дискримінатора. Навчання дискримінатора передбачає забезпечення його зразками з набору даних, доки він не досягне певного рівня точності. Зазвичай генератор на початку отримує випадково відбирані дані із заздалегідь визначеного латентного простору (наприклад, за допомогою багатовимірного нормального розподілу. Після цього зразки, синтезовані генератором, оцінюються дискримінатором. Метод зворотного поширення помилки застосовується в обох мережах, так що генератор створює кращі зображення, тоді як дискримінатор стає більш кваліфікованим при визначенні синтезованих зображень. Генератор, як правило, є деконволюційною нейронною мережею, а дискримінатор — згортковою нейронною мережею.
Ідея вивести моделі в конкурентному середовищі (модель проти дискримінатора) була запропонована Лі, Гаучі та Гросом в 2013 році.. Їх метод використовується для висновків поведінки. Це називається навчання по Тюрінгу (англ. Turing Learning), оскільки цей параметр схожий на тест Тюрінга. Навчання по Тюрінгу є узагальненням генеративної змагальної мережі. У них можуть розглядатись і моделі, відмінні від нейронних мереж. Крім того, дискримінаторам дозволяється впливати на процеси, з яких отримані набори даних, що робить їх активними учасниками, як у тесті Тюрінга. Ідею змагального навчання можна знайти й у більш ранніх роботах, таких як стаття Шмідхубера (англ. Schmidhuber) 1992 року.
Застосування
ГЗМ використовуються для створення зразків фотореалістичних зображень з метою візуалізації нових дизайнів інтер'єру та промислового дизайну, взуття, сумок, одягу та предметів для сцен у комп'ютерних іграх. Відомо, що ці мережі використовуються Facebook. Нещодавно ГЗМ змоделювали закономірності руху у відео. Вони також використовувались для реконструкції 3D-моделей об'єктів зображень і для покращення зображень в астрономії. У 2017 для суттєвого поліпшення якості фотографій використовувалася удосконалена ГЗМ з автоматичною генерацією текстур. Від системи вимагалось скоріше створення реалістичних текстур ніж піксельна деталізація. Результатом була висока якість зображення при високій роздільній здатності.
Посилання
- Goodfellow, Ian; Pouget-Abadie, Jean; Mirza, Mehdi; Xu, Bing; Warde-Farley, David; Ozair, Sherjil; Courville, Aaron; Bengio, Joshua (2014). Generative Adversarial Networks. arXiv:1406.2661 [cs.LG].
- Salimans, Tim; Goodfellow, Ian; Zaremba, Wojciech; Cheung, Vicki; Radford, Alec; Chen, Xi (2016). Improved Techniques for Training GANs. arXiv:1606.03498 [cs.LG].
- Goodfellow, Ian J.; Pouget-Abadie, Jean; Mirza, Mehdi; Xu, Bing; Warde-Farley, David; Ozair, Sherjil; Courville, Aaron; Bengio, Yoshua (2014). Generative Adversarial Networks. arXiv:1406.2661 [stat.ML].
- Thaler, SL, US Patent 05659666, Device for the autonomous generation of useful information, 08/19/1997.
- Thaler, SL, US Patent, 07454388, Device for the autonomous bootstrapping of useful information, 11/18/2008.
- Thaler, SL, The Creativity Machine Paradigm, Encyclopedia of Creativity, Invention, Innovation, and Entrepreneurship, (ed.) E.G. Carayannis, Springer Science+Business Media, LLC, 2013.
- Luc, Pauline; Couprie, Camille; Chintala, Soumith; Verbeek, Jakob (25 листопада 2016). Semantic Segmentation using Adversarial Networks. NIPS Workshop on Adversarial Training, Dec , Barcelona, Spain. 2016. arXiv:1611.08408. Bibcode:2016arXiv161108408L.
- Andrej Karpathy, Pieter Abbeel, Greg Brockman, Peter Chen, Vicki Cheung, Rocky Duan, Ian Goodfellow, Durk Kingma, Jonathan Ho, Rein Houthooft, Tim Salimans, John Schulman, Ilya Sutskever, And Wojciech Zaremba, , OpenAI, архів оригіналу за 22 квітня 2021, процитовано 7 квітня 2016
- Li, Wei; Gauci, Melvin; Gross, Roderich (6 липня 2013). A Coevolutionary Approach to Learn Animal Behavior Through Controlled Interaction. Proceedings of the 15th Annual Conference on Genetic and Evolutionary Computation (GECCO 2013). Amsterdam, The Netherlands: ACM. с. 223—230.
- Li, Wei; Gauci, Melvin; Groß, Roderich (30 серпня 2016). Turing learning: a metric-free approach to inferring behavior and its application to swarms. Swarm Intelligence. 10 (3): 211—243. doi:10.1007/s11721-016-0126-1.
- Gross, Roderich; Gu, Yue; Li, Wei; Gauci, Melvin (6 грудня 2017). . Proceedings of the Thirty-first Annual Conference on Neural Information Processing Systems (NIPS 2017). Long Beach, CA, USA. с. 1—11. Архів оригіналу за 30 червня 2018. Процитовано 30 червня 2018.
- Schmidhuber, Jürgen (November 1992). . Neural Computation (англ.). 4 (6): 863—879. doi:10.1162/neco.1992.4.6.863. Архів оригіналу за 18 вересня 2020. Процитовано 29 червня 2018.
- Greenemeier, Larry (20 червня 2016). . Scientific American. Архів оригіналу за 24 липня 2016. Процитовано 31 липня 2016.
- . web.mit.edu. Архів оригіналу за 20 березня 2017. Процитовано 12 січня 2018.
- . 3dgan.csail.mit.edu. Архів оригіналу за 27 жовтня 2019. Процитовано 12 січня 2018.
- Schawinski, Kevin; Zhang, Ce; Zhang, Hantian; Fowler, Lucas; Santhanam, Gokula Krishnan (1 лютого 2017). Generative Adversarial Networks recover features in astrophysical images of galaxies beyond the deconvolution limit. Monthly Notices of the Royal Astronomical Society: Letters: slx008. arXiv:1702.00403. doi:10.1093/mnrasl/slx008.
- Sajjadi, Mehdi S. M.; Schölkopf, Bernhard; Hirsch, Michael (23 грудня 2016). . arXiv:1612.07919 [cs]. Архів оригіналу за 31 грудня 2017. Процитовано 12 січня 2018.
Вікіпедія, Українська, Україна, книга, книги, бібліотека, стаття, читати, завантажити, безкоштовно, безкоштовно завантажити, mp3, відео, mp4, 3gp, jpg, jpeg, gif, png, малюнок, музика, пісня, фільм, книга, гра, ігри, мобільний, телефон, android, ios, apple, мобільний телефон, samsung, iphone, xiomi, xiaomi, redmi, honor, oppo, nokia, sonya, mi, ПК, web, Інтернет
Generativni zmaga lni mere zhi angl Generative adversarial networks GANs ce klas algoritmiv shtuchnogo intelektu sho vikoristovuyutsya v nekerovanomu navchanni realizovani sistemoyu dvoh shtuchnih nejronnih merezh yaki zmagayutsya odna z odnoyu v ramkah gri z nulovoyu sumoyu Voni buli zaprovadzheni Yanom Gudfelou v 2014 roci Cya metodika dozvolyaye stvoryuvati fotografiyi yaki dlya pobizhnogo oglyadu lyudinoyu viglyadayut yak spravzhni ta mayut bagato realistichnih elementiv hocha v testah lyudi mozhut vidrizniti realni zobrazhennya vid zgenerovanih u bagatoh vipadkah MetodPriklad polipshennya yakosti zobrazhennya za dopomogoyu GAN Odna merezha generuye kandidativ generator a insha ocinyuye yih diskriminator Yak pravilo generativna merezha navchayetsya buduvati vidpovidnosti z latentnogo prostoru do pevnogo rozpodilu danih todi yak diskriminacijna merezha rozriznyaye predstavnikiv spravzhnogo rozpodilu danih ta kandidativ viroblenih generatorom Metoyu trenuvalnoyi merezhi ye zbilshennya chastoti pomilok diskriminacijnoyi merezhi tobto obduriti diskriminator shlyahom stvorennya novih sintezovanih ekzemplyariv yaki povinni pohoditi na predstavnikiv spravzhnogo rozpodilu danih Na praktici zazdalegid vidomij nabir danih vikoristovuyut yak pochatkovi navchalni danni dlya diskriminatora Navchannya diskriminatora peredbachaye zabezpechennya jogo zrazkami z naboru danih doki vin ne dosyagne pevnogo rivnya tochnosti Zazvichaj generator na pochatku otrimuye vipadkovo vidbirani dani iz zazdalegid viznachenogo latentnogo prostoru napriklad za dopomogoyu bagatovimirnogo normalnogo rozpodilu Pislya cogo zrazki sintezovani generatorom ocinyuyutsya diskriminatorom Metod zvorotnogo poshirennya pomilki zastosovuyetsya v oboh merezhah tak sho generator stvoryuye krashi zobrazhennya todi yak diskriminator staye bilsh kvalifikovanim pri viznachenni sintezovanih zobrazhen Generator yak pravilo ye dekonvolyucijnoyu nejronnoyu merezheyu a diskriminator zgortkovoyu nejronnoyu merezheyu Ideya vivesti modeli v konkurentnomu seredovishi model proti diskriminatora bula zaproponovana Li Gauchi ta Grosom v 2013 roci Yih metod vikoristovuyetsya dlya visnovkiv povedinki Ce nazivayetsya navchannya po Tyuringu angl Turing Learning oskilki cej parametr shozhij na test Tyuringa Navchannya po Tyuringu ye uzagalnennyam generativnoyi zmagalnoyi merezhi U nih mozhut rozglyadatis i modeli vidminni vid nejronnih merezh Krim togo diskriminatoram dozvolyayetsya vplivati na procesi z yakih otrimani nabori danih sho robit yih aktivnimi uchasnikami yak u testi Tyuringa Ideyu zmagalnogo navchannya mozhna znajti j u bilsh rannih robotah takih yak stattya Shmidhubera angl Schmidhuber 1992 roku ZastosuvannyaGZM vikoristovuyutsya dlya stvorennya zrazkiv fotorealistichnih zobrazhen z metoyu vizualizaciyi novih dizajniv inter yeru ta promislovogo dizajnu vzuttya sumok odyagu ta predmetiv dlya scen u komp yuternih igrah Vidomo sho ci merezhi vikoristovuyutsya Facebook Neshodavno GZM zmodelyuvali zakonomirnosti ruhu u video Voni takozh vikoristovuvalis dlya rekonstrukciyi 3D modelej ob yektiv zobrazhen i dlya pokrashennya zobrazhen v astronomiyi U 2017 dlya suttyevogo polipshennya yakosti fotografij vikoristovuvalasya udoskonalena GZM z avtomatichnoyu generaciyeyu tekstur Vid sistemi vimagalos skorishe stvorennya realistichnih tekstur nizh pikselna detalizaciya Rezultatom bula visoka yakist zobrazhennya pri visokij rozdilnij zdatnosti PosilannyaGoodfellow Ian Pouget Abadie Jean Mirza Mehdi Xu Bing Warde Farley David Ozair Sherjil Courville Aaron Bengio Joshua 2014 Generative Adversarial Networks arXiv 1406 2661 cs LG Salimans Tim Goodfellow Ian Zaremba Wojciech Cheung Vicki Radford Alec Chen Xi 2016 Improved Techniques for Training GANs arXiv 1606 03498 cs LG Goodfellow Ian J Pouget Abadie Jean Mirza Mehdi Xu Bing Warde Farley David Ozair Sherjil Courville Aaron Bengio Yoshua 2014 Generative Adversarial Networks arXiv 1406 2661 stat ML Thaler SL US Patent 05659666 Device for the autonomous generation of useful information 08 19 1997 Thaler SL US Patent 07454388 Device for the autonomous bootstrapping of useful information 11 18 2008 Thaler SL The Creativity Machine Paradigm Encyclopedia of Creativity Invention Innovation and Entrepreneurship ed E G Carayannis Springer Science Business Media LLC 2013 Luc Pauline Couprie Camille Chintala Soumith Verbeek Jakob 25 listopada 2016 Semantic Segmentation using Adversarial Networks NIPS Workshop on Adversarial Training Dec Barcelona Spain 2016 arXiv 1611 08408 Bibcode 2016arXiv161108408L Andrej Karpathy Pieter Abbeel Greg Brockman Peter Chen Vicki Cheung Rocky Duan Ian Goodfellow Durk Kingma Jonathan Ho Rein Houthooft Tim Salimans John Schulman Ilya Sutskever And Wojciech Zaremba OpenAI arhiv originalu za 22 kvitnya 2021 procitovano 7 kvitnya 2016 Li Wei Gauci Melvin Gross Roderich 6 lipnya 2013 A Coevolutionary Approach to Learn Animal Behavior Through Controlled Interaction Proceedings of the 15th Annual Conference on Genetic and Evolutionary Computation GECCO 2013 Amsterdam The Netherlands ACM s 223 230 Li Wei Gauci Melvin Gross Roderich 30 serpnya 2016 Turing learning a metric free approach to inferring behavior and its application to swarms Swarm Intelligence 10 3 211 243 doi 10 1007 s11721 016 0126 1 Gross Roderich Gu Yue Li Wei Gauci Melvin 6 grudnya 2017 Proceedings of the Thirty first Annual Conference on Neural Information Processing Systems NIPS 2017 Long Beach CA USA s 1 11 Arhiv originalu za 30 chervnya 2018 Procitovano 30 chervnya 2018 Schmidhuber Jurgen November 1992 Neural Computation angl 4 6 863 879 doi 10 1162 neco 1992 4 6 863 Arhiv originalu za 18 veresnya 2020 Procitovano 29 chervnya 2018 Greenemeier Larry 20 chervnya 2016 Scientific American Arhiv originalu za 24 lipnya 2016 Procitovano 31 lipnya 2016 web mit edu Arhiv originalu za 20 bereznya 2017 Procitovano 12 sichnya 2018 3dgan csail mit edu Arhiv originalu za 27 zhovtnya 2019 Procitovano 12 sichnya 2018 Schawinski Kevin Zhang Ce Zhang Hantian Fowler Lucas Santhanam Gokula Krishnan 1 lyutogo 2017 Generative Adversarial Networks recover features in astrophysical images of galaxies beyond the deconvolution limit Monthly Notices of the Royal Astronomical Society Letters slx008 arXiv 1702 00403 doi 10 1093 mnrasl slx008 Sajjadi Mehdi S M Scholkopf Bernhard Hirsch Michael 23 grudnya 2016 arXiv 1612 07919 cs Arhiv originalu za 31 grudnya 2017 Procitovano 12 sichnya 2018