Напівкероване навчання

Слабке́ керува́ння (англ. weak supervision) або слабокеро́ване навча́ння, яке також називають напівкеро́ваним навча́нням (англ. semi-supervised learning), — це одна з парадигм машинного навчання, актуальність і помітність якої зросли з появою великих мовних моделей через велику кількість даних, необхідних для того, щоби їх тренувати. Вона характеризується використанням поєднання невеликої кількості даних, ^[en] людьми (лише які й використовують у дорожчій та часовитратнішій парадигмі керованого навчання), разом із великою кількістю немічених даних (лише які й використовують у парадигмі некерованого навчання). Іншими словами, бажані значення виходу надають лише для підмножини тренувальних даних. Решта даних не мічені, або мічені неточно. Інтуїтивно це можливо розглядати як іспит, а мічені дані — як приклади задач, які вчитель розв'язує для класу як допомогу у розв'язанні іншого набору задач. У трансдуктивній постановці ці нерозв'язані задачі діють як питання іспиту. В індуктивній постановці вони стають практичними задачами такого вигляду, які складатимуть іспит. Технічно це можливо розглядати як виконання кластерування з наступним міченням кластерів за допомогою мічених даних, відсуванням меж рішень від областей із високою густиною, або навчання одновимірного многовида в основі даних, на якому вони перебувають.

Задача

Схильність завдань використовувати керовані та некеровані методи. Перетин кіл назвами завдань навмисний. Він показує, що класичне відокремлення творчих завдань (ліворуч) із застосуванням некерованих методів у сучасних схемах навчання розмите.

Отримання мічених даних для задачі навчання часто вимагає кваліфікованого агента-людини (наприклад, для транскрибування аудіосегменту) або фізичного експерименту (наприклад, визначення тривимірної структури білка або визначення наявності нафти в певному місці). Таким чином, витрати, пов'язані з процесом мічення, можуть виявитися величезними, повністю мічені тренувальні набори — неможливими, в той час як отримання немічених даних відносно невитратне. В таких ситуаціях напівкероване навчання може мати велике практичне значення. Напівкероване навчання також становить теоретичний інтерес для машинного навчання та як модель людського навчання.

Методика

Див. також: ^[en]

Приклад впливу немічених даних у напівкерованому навчанні. Верхня панель показує межу рішення, яку ми можемо ухвалити, побачивши лише один позитивний (білій кружечок) й один негативний (чорний кружечок) приклади. На нижній панелі показано межі рішення, які ми могли б ухвалити, якби крім двох мічених прикладів ми отримали набір немічених даних (сірі кружечки).

Формальніше, напівкероване навчання розглядає обробку набору ${\displaystyle l}$ незалежних однаково розподілених прикладів ${\displaystyle x_{1},\dots ,x_{l}\in X}$ з відповідними мітками ${\displaystyle y_{1},\dots ,y_{l}\in Y}$, та ${\displaystyle u}$ немічених прикладів ${\displaystyle x_{l+1},\dots ,x_{l+u}\in X}$. Напівкероване навчання поєднує цю інформацію, щоби перевершити якість класифікації, яку можливо було би отримати, відкинувши немічені дані й виконавши кероване навчання, або відкинувши мітки й виконавши некероване навчання.

Напівкероване навчання може стосуватися або ^[en], або індуктивного навчання. Мета трансдуктивного навчання полягає у висновуванні правильних міток лише для наданих немічених даних ${\displaystyle x_{l+1},\dots ,x_{l+u}}$. Метою індуктивного навчання є висновування правильного відображення ${\displaystyle X}$ в ${\displaystyle Y}$.

Непотрібно (і, відповідно до принципу Вапника, необачно) виконувати трансдуктивне навчання шляхом висновування правила класифікації над усім простором входу; проте на практиці алгоритми, формально розроблені для трансдукції або індукції, часто використовують як взаємозамінні.

Припущення

Щоб отримати з немічених даних хоч якусь користь, має існувати певний зв'язок із розподілом в їхній основі. Алгоритми напівкерованого навчання використовують принаймні одне з наступних припущень:

Припущення неперервності/гладкості

Точки, близькі одна до одної, швидше за все, мають спільну мітку. Це також зазвичай припускають у керованім навчанні, воно віддає перевагу геометрично простим ^[en]. У випадку напівкерованого навчання припущення про плавність додатково дає перевагу межам рішень в областях із низькою густиною, тож менше точок знаходяться близько одна до одної, але в різних класах.^[]

Припущення кластерованості

Дані схильні утворювати окремі кластери, й точки в одному кластері, швидше за все, мають спільну мітку (хоча дані, які мають спільну мітку, можуть поширюватися на декілька кластерів). Це особливий випадок припущення про плавність, він дає початок навчанню ознак за допомогою алгоритмів кластерування.

Многовидне припущення

Докладніше: ^[en]

Дані приблизно лежать на многовиді набагато меншої розмірності, ніж простір входу. В цьому випадку навчання цього многовида з використанням як мічених, так і немічених даних може уникати прокляття розмірності. Тоді навчання можливо здійснювати з використанням відстаней і густин, визначених на цьому многовиді.

Многовидне припущення практичне, коли багатовимірні дані породжуються деяким процесом, який може бути важко змоделювати безпосередньо, але який має лише кілька ступенів вільності. Наприклад, людський голос контролюється декількома голосовими зв'я́зками, а зображення різних виразів обличчя — кількома м'язами. У цих випадках краще розглядати відстані та гладкість у природному просторі породжувальної задачі, а не в просторі всіх можливих акустичних хвиль чи зображень відповідно.

Історія

Евристичний підхід самотренування (англ. self-training, відомий також як самонавчання, англ. self-learning, та самомічення, англ. self-labeling) — історично найстаріший підхід напівкерованого навчання, приклади застосування якого починаються з 1960-х років.

Концепцію трансдуктивного навчання офіційно представив Володимир Вапник у 1970-х роках. Інтерес до індуктивного навчання з використанням породжувальних моделей також виник у 1970-х роках. Імовірно приблизно коректне навчання для напівкерованого навчання суміші гауссіанів продемонстровали Рацабі та Венкатеш 1995 року.

Методи

Породжувальні моделі

Породжувальні підходи до статистичного навчання спочатку спрямовані на оцінку ${\displaystyle p(x|y)}$,^{[ ]} розподілу точок даних, що належать кожному класові. Ймовірність ${\displaystyle p(y|x)}$ що дана точка ${\displaystyle x}$ має мітку ${\displaystyle y}$ відтак пропорційна ${\displaystyle p(x|y)p(y)}$ за правилом Баєса. Напівкероване навчання з породжувальними моделями можливо розглядати або як розширення керованого навчання (класифікування плюс інформація про ${\displaystyle p(x)}$), або як розширення некерованого навчання (кластерування плюс трохи міток).

Породжувальні моделі виходять із припущення, що розподіли мають певний вигляд ${\displaystyle p(x|y,\theta )}$, параметрований вектором ${\displaystyle \theta }$. Якщо ці припущення неправильні, немічені дані можуть насправді знизити точність розв'язку порівняно з тим, що було б отримано лише з мічених даних. Проте якщо вони правильні, то немічені дані обов'язково покращать продуктивність.

Немічені дані розподілено відповідно до суміші розподілів окремих класів. Щоби навчитися цієї суміші розподілів із немічених даних, вона повинна бути ідентифіковною, тобто різні параметри повинні давати різні сумарні розподіли. Гауссові сумішеві розподіли ідентифіковні, і їх часто використовують для породжувальних моделей.

Параметрований спільний розподіл за допомогою ланцюгового правила можливо записати як ${\displaystyle p(x,y|\theta )=p(y|\theta )p(x|y,\theta )}$. Кожен вектор параметрів ${\displaystyle \theta }$ пов'язується з функцією рішення ${\displaystyle f_{\theta }(x)={\underset {y}{\operatorname {argmax} }}\ p(y|x,\theta )}$. Потім цей параметр обирають на основі допасованості як до мічених, так і до немічених даних, зважених ${\displaystyle \lambda }$:

${\displaystyle {\underset {\Theta }{\operatorname {argmax} }}\left(\log p(\{x_{i},y_{i}\}_{i=1}^{l}|\theta )+\lambda \log p(\{x_{i}\}_{i=l+1}^{l+u}|\theta )\right)}$

Низькогустинне розділення

Інший важливий клас методів намагається встановлювати межі в областях із невеликою кількістю точок даних (мічених чи немічених). Один із найчастіше вживаних алгоритмів — (трансдуктивна опорновекторна машина), або ТОВМ (англ. TSVM, яку, незважаючи на її назву, можна використовувати й для індуктивного навчання). У той час як опорновекторні машини для керованого навчання шукають межу рішення з максимальним розділенням над міченими даними, мета ТОВМ — мічення немічених даних так, щоби межа рішення мала максимальне розділення над усіма даними. На додачу до стандартних заві́сних втрат ${\displaystyle (1-yf(x))_{+}}$ для мічених даних запроваджують функцію втрат ${\displaystyle (1-|f(x)|)_{+}}$ над неміченими даними, покладаючи ${\displaystyle y=\operatorname {sign} {f(x)}}$. ТОВМ відтак обирає ${\displaystyle f^{*}(x)=h^{*}(x)+b}$ із ^[en]${\displaystyle {\mathcal {H}}}$ мінімізуванням регуляризованого емпіричного ризику:

${\displaystyle f^{*}={\underset {f}{\operatorname {argmin} }}\left(\displaystyle \sum _{i=1}^{l}(1-y_{i}f(x_{i}))_{+}+\lambda _{1}\|h\|_{\mathcal {H}}^{2}+\lambda _{2}\sum _{i=l+1}^{l+u}(1-|f(x_{i})|)_{+}\right)}$

Точне розв'язання непіддатливе через неопуклість члена ${\displaystyle (1-|f(x)|)_{+}}$, тож дослідження зосереджуються на корисних наближеннях.

До інших підходів, які втілюють низькогустинне розділення (англ. low-density separation), належать моделі гауссових процесів, регуляризація інформації, та мінімізація ентропії (окремим випадком якої є ТОВМ).

Лапласова регуляризація

До лапласової регулярізації (англ. laplacian regularization) історично підходили через матрицю Лапласа (Кірхгофа). Методи на основі графів для напівкерованого навчання використовують графове подання даних із вузлами для кожного з мічених і немічених прикладів. Граф можна побудувати, використовуючи знання предметної області, або схожість прикладів; двома поширеними методами є з'єднувати кожну точку даних з її ${\displaystyle k}$ найближчими сусідами, або з прикладами на деякій відстані ${\displaystyle \epsilon }$. Вагу ${\displaystyle W_{ij}}$ ребра між ${\displaystyle x_{i}}$ та ${\displaystyle x_{j}}$ відтак встановлюють в ${\displaystyle e^{\frac {-\|x_{i}-x_{j}\|^{2}}{\epsilon }}}$.

В системі ^[en] цей граф слугує посередником для многовида. До стандартної задачі регуляризації Тихонова додають додатковий член, щоби забезпечити гладкість розв'язку відносно многовиду (у внутрішньому просторі задачі), а також відносно навколишнього простору входу. Задача мінімізації набуває вигляду

${\displaystyle {\underset {f\in {\mathcal {H}}}{\operatorname {argmin} }}\left({\frac {1}{l}}\displaystyle \sum _{i=1}^{l}V(f(x_{i}),y_{i})+\lambda _{A}\|f\|_{\mathcal {H}}^{2}+\lambda _{I}\int _{\mathcal {M}}\|\nabla _{\mathcal {M}}f(x)\|^{2}dp(x)\right)}$

де ${\displaystyle {\mathcal {H}}}$ — гільбертів простір із відтворювальним ядром, а ${\displaystyle {\mathcal {M}}}$ — многовид, на якому лежать дані. Параметри регуляризації ${\displaystyle \lambda _{A}}$ та ${\displaystyle \lambda _{I}}$ контролюють гладкість у навколишньому (англ. ambient) та внутрішньому (англ. intrinsic) просторах відповідно. Цей граф використовують для наближення члена внутрішньої регуляризації. Визначивши матрицю Лапласа (Кірхгофа) ${\displaystyle L=D-W}$, де ${\displaystyle D_{ii}=\sum _{j=1}^{l+u}W_{ij}}$, а ${\displaystyle \mathbf {f} }$ це вектор ${\displaystyle [f(x_{1})\dots f(x_{l+u})]}$, ми отримуємо

${\displaystyle \mathbf {f} ^{T}L\mathbf {f} =\displaystyle \sum _{i,j=1}^{l+u}W_{ij}(f_{i}-f_{j})^{2}\approx \int _{\mathcal {M}}\|\nabla _{\mathcal {M}}f(x)\|^{2}dp(x)}$ .

Графовий підхід до лапласової регулярізації пов'язують із методом скінченних різниць.^[][]

Матрицю Лапласа (Кірхгофа) також можливо використовувати для розширення алгоритмів керованого навчання: ^[en] та опорновекторних машин (ОВМ) до напівкерованих версій лапласових регуляризованих найменших квадратів (англ. Laplacian regularized least squares) та лапласових ОВМ (англ. Laplacian SVM).

Евристичні підходи

Деякі методи напівкерованого навчання за своєю суттю не орієнтовані на навчання як із немічених, так і з мічених даних, а натомість використовують немічені дані в рамках керованого навчання. Наприклад, мічені та немічені приклади ${\displaystyle x_{1},\dots ,x_{l+u}}$ на некерованому першому кроці можуть інформувати вибір подання, міри відстані, або ядра для даних. Потім продовжується кероване навчання лише з мічених прикладів. У цьому ключі деякі методи навчаються низьковимірного подання, використовуючи керовані дані, а потім застосовують до навченого подання або низькогустинне розділення, або графові методи. Ітеративне вдосконалення подання з наступним виконанням напівкерованого навчання на цьому поданні можуть ще далі підвищувати продуктивність.

Самотренування (англ. self-training) — це обгортковий метод напівкерованого навчання. Спершу тренують алгоритм керованого навчання лише на мічених даних. Відтак цей класифікатор застосовують до немічених даних для породження більшої кількості мічених прикладів як даних входу для алгоритму керованого навчання. Зазвичай на кожному кроці додають лише ті мітки, в яких класифікатор найупевненіший.

^[en] (англ. co-training) — це розширення самотренування, в якому декілька класифікаторів тренуються на різних (в ідеалі неперетинних) наборах ознак і породжують мічені приклади один для одного.

У людському пізнанні

Реакції людей на формальні задачі напівкерованого навчання дали мінливі висновки щодо ступеню впливу немічених даних. Природніші задачі навчання також можна розглядати як зразки напівкерованого навчання. Значна частина людського ^[en] передбачає невелику кількість прямих інструкцій (як-то позначення об'єктів батьками у дитинстві) у поєднанні з великою кількістю неміченого досвіду (як-то спостереження за об'єктами без їхніх назв чи кількостей, або принаймні без зворотного зв'язку).

Людські немовлята чутливі до структури немічених природних категорій, таких як зображення собак чи котів, та чоловічих чи жіночих облич. Немовлята та діти враховують не лише немічені приклади, але й процес вибирання зразків, у результаті якого виникають мічені приклади.

Див. також

• ^[en]

Примітки

1. Ілюшик, Т. С. (2021). Класифікація гістологічних зображень раку простати (PDF) (Магістерська дисертація) (укр.). Київ: НТУУ «КПІ ім. Ігоря Сікорського». Процитовано 16 серпня 2023.
2. Клейн, О. М. (2023). Метод та засоби виявлення аномалій в кіберфізичних системах комп’ютерного зору (Кваліфікаційна робота магістра) (укр.). Хмельницький: Хмельницький національний університет. Процитовано 16 серпня 2023.
3. Синєглазов, Віктор; Чумаченко, Олена (2022). Бідюк, П. І.; Шугалей, Л. П. (ред.). Методи та технології напівкерованого навчання: Курс лекцій (PDF) (укр.). Київ: НТУУ «КПІ ім. Ігоря Сікорського».
4. Кропивницька, В. Б.; Магас, Д. М. (30 квітня 2023). Напівкероване машинне навчання для виявлення несправностей нафтогазопроводів. Modern engineering and innovative technologies (укр.). 1 (18): 33—36. doi:10.30890/2567-5273.2023-26-01-010.
5. Semi-Supervised Learning Literature Survey, Page 5, 2007
6. Chapelle, Schölkopf та Zien, 2006.
7. Stevens, Kenneth N. (1998). Acoustic phonetics (англ.). Cambridge, Mass.: MIT Press. ISBN . OCLC 42856189.
8. Scudder, H. (July 1965). Probability of error of some adaptive pattern-recognition machines. IEEE Transactions on Information Theory (англ.). 11 (3): 363—371. doi:10.1109/TIT.1965.1053799. ISSN 1557-9654.
9. Вапник, В. Н.; Червоненкис, А. Я. (1974). Теоря распознавания образов (рос.). Москва: Наука. процитована в Chapelle, Schölkopf та Zien, 2006, с. 3
10. Ratsaby, J.; Venkatesh, S. Learning from a mixture of labeled and unlabeled examples with parametric side information (PDF) (англ.). у Proceedings of the eighth annual conference on Computational learning theory - COLT '95 (англ.). New York, New York, USA: ACM Press. 1995. с. 412—417. doi:10.1145/225298.225348. ISBN . S2CID 17561403.. Процитована в Chapelle, Schölkopf та Zien, 2006, с. 4
11. Fabio, Cozman; Ira, Cohen (22 вересня 2006), Risks of Semi-Supervised Learning: How Unlabeled Data Can Degrade Performance of Generative Classifiers, Semi-Supervised Learning (англ.), The MIT Press, с. 56—72, doi:10.7551/mitpress/9780262033589.003.0004, ISBN  У: Chapelle, Schölkopf та Zien, 2006
12. Zhu, Xiaojin. Semi-Supervised Learning University of Wisconsin-Madison.
13. M. Belkin; P. Niyogi (2004). Semi-supervised Learning on Riemannian Manifolds. Machine Learning (англ.). 56 (Special Issue on Clustering): 209—239. doi:10.1023/b:mach.0000033120.25363.1e.
14. M. Belkin, P. Niyogi, V. Sindhwani. On Manifold Regularization. AISTATS 2005. (англ.)
15. Iscen, Ahmet; Tolias, Giorgos; Avrithis, Yannis; Chum, Ondrej (2019). Label Propagation for Deep Semi-Supervised Learning. 2019 IEEE/CVF Conference on Computer Vision and Pattern Recognition (CVPR) (англ.). с. 5065—5074. arXiv:1904.04717. doi:10.1109/CVPR.2019.00521. ISBN . S2CID 104291869. Процитовано 26 березня 2021.
16. Burkhart, Michael C.; Shan, Kyle (2020). Deep Low-Density Separation for Semi-supervised Classification. International Conference on Computational Science (ICCS). Lecture Notes in Computer Science (англ.). 12139: 297—311. doi:10.1007/978-3-030-50420-5_22. ISBN .
17. Triguero, Isaac; García, Salvador; Herrera, Francisco (26 листопада 2013). Self-labeled techniques for semi-supervised learning: taxonomy, software and empirical study. Knowledge and Information Systems (англ.). 42 (2): 245—284. doi:10.1007/s10115-013-0706-y. ISSN 0219-1377. S2CID 1955810.
18. Fazakis, Nikos; Karlos, Stamatis; Kotsiantis, Sotiris; Sgarbas, Kyriakos (29 грудня 2015). Self-Trained LMT for Semisupervised Learning. Computational Intelligence and Neuroscience (англ.). 2016: 3057481. doi:10.1155/2016/3057481. PMC 4709606. PMID 26839531.
19. Didaci, Luca; Fumera, Giorgio; Roli, Fabio (7 листопада 2012). Gimel’farb, Georgy; Hancock, Edwin; Imiya, Atsushi; Kuijper, Arjan; Kudo, Mineichi; Omachi, Shinichiro; Windeatt, Terry; Yamada, Keiji (ред.). Analysis of Co-training Algorithm with Very Small Training Sets. Lecture Notes in Computer Science (англ.). Springer Berlin Heidelberg. с. 719—726. doi:10.1007/978-3-642-34166-3_79. ISBN . S2CID 46063225.
20. Zhu, Xiaojin (2009). Introduction to semi-supervised learning (англ.). Goldberg, A. B. (Andrew B.). [San Rafael, Calif.]: Morgan & Claypool Publishers. ISBN . OCLC 428541480.
21. Younger B. A.; Fearing D. D. (1999). Parsing Items into Separate Categories: Developmental Change in Infant Categorization. Child Development (англ.). 70 (2): 291—303. doi:10.1111/1467-8624.00022.
22. Xu, F. & Tenenbaum, J. B. (2007). Sensitivity to sampling in Bayesian word learning. Developmental Science (англ.). 10 (3): 288—297. CiteSeerX 10.1.1.141.7505. doi:10.1111/j.1467-7687.2007.00590.x. PMID 17444970.
23. Gweon, H., Tenenbaum J.B., and Schulz L.E (2010). Infants consider both the sample and the sampling process in inductive generalization. Proc Natl Acad Sci U S A (англ.). 107 (20): 9066—71. Bibcode:2010PNAS..107.9066G. doi:10.1073/pnas.1003095107. PMC 2889113. PMID 20435914.

Джерела

• Chapelle, Olivier; Schölkopf, Bernhard; Zien, Alexander (2006). Semi-supervised learning (англ.). Cambridge, Mass.: MIT Press. ISBN .

Посилання

• Manifold Regularization Вільно доступне втілення в MATLAB графових напівкерованих алгоритмів лапласових опорновекторних машин та лапласових регуляризованих найменших квадратів.
• KEEL: програмний інструмент для оцінювання еволюційних алгоритмів для задач добування даних (регресії, класифікування, кластерування, добування шаблонів тощо). Модуль KEEL для напівкерованого навчання.
• Програмне забезпечення напівкерованого навчання
• Напівкероване навчання — документація scikit-learn Напівкероване навчання в scikit-learn.