Структура із руху англ Structure from motion SfM це техніка діапазонної візуалізації вона являє собою процес побудови тр

Структура із руху (англ. Structure from motion, SfM) — це техніка діапазонної візуалізації; вона являє собою процес побудови тривимірної структури із послідовності двовимірних зображень, що можуть сполучатися із місцевими ^[en]. Ця техніка вивчається в галузі комп'ютерного бачення і при вивчені зору. В біологічному зорі, під структурою із руху мають на увазі феномен, за допомогою якого люди (та інші зрячі істоти) можуть відновлювати тривимірну структуру із двовимірних проєкцій (на сітківку) слідів руху від рухомих об'єктів або сцени.

Цифрова модель поверхні транспортної розв'язки автомагістралі при будівництві

Отримання тривимірної інформації із двовимірних зображень

Тривимірна цифрова модель місцевості аеродрому Безмігова Горішня, видобута з даних, зібраних протягом 30-хвилинного польоту БПЛА ^[en]

Реальне фото × Структура з руху з текстурним кольором × Структура з руху з простим затіненням. Зроблено за допомогою Python Photogrammetry Toolbox GUI та візуалізовано в Blender with Cycles.

Людина сприймає багато інформації про просторову структуру об'єктів довкілля при переміщенні в ньому. Коли спостерігач рухається і об'єкти зміщуються довкола нього, інформація отримується із образів, що сприймаються протягом часу.

Відбудова структури рухомих об'єктів є задачею, схожою на відбудову структури зі стереоскопічних зображень. В обох випадках необхідно знайти відповідність між зображеннями та реконструювати тривимірний об'єкт.

Для знаходження відповідності між зображеннями на них відстежують такі ознаки як кутові точки (грані із градієнтом в різних напрямках). Одним із найширше вживаних алгоритмів пошуку ознак є алгоритм SIFT (англ. Scale-invariant feature transform). Як ознаки він використовує максимуми піраміди різниць гаусіан. Першим кроком алгоритму SIFT є віднаходження домінантного напряму градієнта. Для того, щоб зробити це інваріантним до обертання, повертають дескриптор таким чином, щоби він збігся з даною орієнтацією. Іншим поширеним алгоритмом виділення ознак є SURF (англ. Speeded Up Robust Features). В алгоритмі SURF різниці гаусіан замінюють операцією виділення областей на базі матриці Гессе. Також замість підрахунку гістограм градієнтів SURF проводить розрахунки на основі сум градієнтних компонент і сум їхніх абсолютних значень. Виділені на всіх зображеннях ознаки потім зіставляються. Одним із алгоритмів такого зіставлення, що відстежує ознаки від одного зображення до іншого, є відстежувач Лукаса-Канаде.

Іноді деякі із зіставлених ознак зіставляються не вірно. Тому знайдені результати має бути також відфільтровано. Зазвичай для усунення викидів відповідності використовується алгоритм RANSAC (англ. Random Sample Consensus). У праці Фішера та Боллза RANSAC використовується для розв'язання задачі визначення положення (англ. Location Determination Problem, LDP), у якій метою є визначення точок у просторі, що проектуються на зображення у множину орієнтирів з відомими положеннями.

Траєкторії виділених елементів зображення, що переміщуються з плином часу, використовуються для реконструкції їхніх положень у тривимірному просторі та руху камери. Альтернативою є так звані прямі підходи, де геометрична інформація (тривимірна структура та рух камери) визначаються із зображень напряму, без проміжного абстрагування до ознак або кутів.

Існує декілька підходів до отримання структури з руху. В інкрементній структурі з руху положення камери розв'язуються та додаються до колекції одне по одному. В глобальній структурі з руху всі положення камери розв'язуються одночасно. Дещо проміжним підходом є структура з руху ^[en], в якій обчислюються деякі часткові реконструкції, що потім інтегруються в глобальний розв'язок.

Див. також

Одночасне визначення місцезнаходження та картографування (англ. SLAM)
^[en]
^[en]
^[en]
Епіполярна геометрія
^[en]

Література

Richard Hartley and Andrew Zisserman (2003). Multiple View Geometry in Computer Vision. Cambridge University Press. ISBN . (англ.)
Olivier Faugeras and Quang-Tuan Luong and Theodore Papadopoulo (2001). The Geometry of Multiple Images. MIT Press. ISBN . (англ.)
Yi Ma, S. Shankar Sastry, Jana Kosecka, Stefano Soatto, Jana Kosecka (November 2003). An Invitation to 3-D Vision: From Images to Geometric Models. Interdisciplinary Applied Mathematics Series, #26. Springer-Verlag New York, LLC. ISBN . (англ.)

Примітки

Linda G. Shapiro, George C. Stockman (2001). Computer Vision. Prentice Hall. ISBN . (англ.)
D. G. Lowe (2004). Distinctive image features from scale-invariant keypoints. International Journal of Computer Vision. (англ.)
H. Bay, T. Tuytelaars, and L. Van Gool (2006). Surf: Speeded up robust features. 9th European Conference on Computer Vision. (англ.)
K. Häming and G. Peters (2010). . Kybernetika. Архів оригіналу за 18 лютого 2015. Процитовано 22 лютого 2015. (англ.)
B. D. Lucas and T. Kanade. An iterative image registration technique with an application to stereo vision. IJCAI81. (англ.)
M. A. Fischler and R. C. Bolles (1981). Random sample consensus: a paradigm for model fitting with applications to image analysis and automated cartography. Commun. ACM. (англ.)
F. Dellaert, S. Seitz, C. Thorpe, and S. Thrun (2000). (PDF). IEEE Computer Society Conference on Computer Vision and Pattern Recognition. Архів оригіналу (PDF) за 24 вересня 2015. Процитовано 22 лютого 2015. (англ.)
Engel, Jakob; Schöps, Thomas; Cremers, Daniel (2014). (PDF). Архів оригіналу (PDF) за 22 жовтня 2014. Процитовано 22 лютого 2015. {{}}: Проігноровано |contribution= () (англ.)

Посилання

Програмні інструментарії структури з руху

Відкриті рішення

C++

Bundler [ 27 січня 2013 у Wayback Machine.] — структура з руху для невпорядкованих колекцій фотографій, автор — Noah Snavely
openMVG [ 22 лютого 2015 у Wayback Machine.] бібліотека Open Multiple View Geometry + демонстратори структури з руху
Libmv [ 18 лютого 2018 у Wayback Machine.] — бібліотека структури з руху
— швидка та масштабована бібліотека структури з руху, випущена на базі ліцензії BSD
MicMac [ 4 березня 2015 у Wayback Machine.] — вільний джерельний код структури з руху, випущений ^[en]
LSD-SLAM — великомасштабне пряме монокулярне одночасне визначення місцезнаходження та картографування в реальному часі, автор — Jakob Engel
, автор — Simon Fuhrmann, TU Darmstadt.
ceres-solver для загальних нелінійних найменших квадратів [ 14 квітня 2015 у Wayback Machine.]. Має функції для зрівнювання зв'язок. Раніше використовувався всередині компанії Google для Google Maps. Випущено в світ у 2012 році.
SBA [ 18 березня 2013 у Wayback Machine.] для загального зрівнювання зв'язок, автор — Manolis Lourakis.

Matlab

, автор — Vincent Rabaud
Matlab Functions for Multiple View Geometry [ 15 березня 2015 у Wayback Machine.], автор — Andrew Zissermann
, автор — Phil Torr
Matlab Code for Non-Rigid Structure from Motion [ 5 грудня 2014 у Wayback Machine.], автор — Lorenzo Torresani

Python

— відкритий ГІК структури із руху (запускач Easy SfM та щільної множини точок), автори — Pierre Moulon та Arc-Team

Інше програмне забезпечення

Smart3DCapture [ 14 березня 2015 у Wayback Machine.], повне рішення для фотограмметрії від Acute3D.
3DF Samantha [ 2 лютого 2015 у Wayback Machine.] — конвеєрна командно-рядкова структура із руху для Windows від 3Dflow SRL. Безкоштовна для некомерційного призначення.
Automatic Camera Tracking System (ACTS) [ 6 лютого 2012 у Wayback Machine.] — система структури із руху для Microsoft Windows, автор — State Key Lab з CAD&CG, Zhejiang University.
VisualSFM: A Visual Structure from Motion System [ 10 жовтня 2016 у Wayback Machine.], автор — Changchang Wu
SFMToolkit [ 23 грудня 2014 у Wayback Machine.], повне рішення для фотограмметрії на базі відкритого програмного забезпечення
, програмне забезпечення для сканувальних електронних мікроскопів. 3D отримується нахилом зразка + фотограмметрією.
Voodoo Camera Tracker [ 30 квітня 2016 у Wayback Machine.], некомерційний інструмент для поєднання віртуальних та реальних сцен.
Первісний сайт, заархівований:
, структура з руху для доповненої реальності на мобільних пристроях.
TacitView [ 2 квітня 2015 у Wayback Machine.] від ^[en]
Catena Python Abstract Workflow Framework з компонентами структури з руху.

[1] Linda G. Shapiro, George C. Stockman (2001). Computer Vision. Prentice Hall. ISBN . (англ.)

[2] D. G. Lowe (2004). Distinctive image features from scale-invariant keypoints. International Journal of Computer Vision. (англ.)

[3] H. Bay, T. Tuytelaars, and L. Van Gool (2006). Surf: Speeded up robust features. 9th European Conference on Computer Vision. (англ.)

[4] K. Häming and G. Peters (2010). . Kybernetika. Архів оригіналу за 18 лютого 2015. Процитовано 22 лютого 2015. (англ.)

[5] B. D. Lucas and T. Kanade. An iterative image registration technique with an application to stereo vision. IJCAI81. (англ.)

[6] M. A. Fischler and R. C. Bolles (1981). Random sample consensus: a paradigm for model fitting with applications to image analysis and automated cartography. Commun. ACM. (англ.)

[7] F. Dellaert, S. Seitz, C. Thorpe, and S. Thrun (2000). (PDF). IEEE Computer Society Conference on Computer Vision and Pattern Recognition. Архів оригіналу (PDF) за 24 вересня 2015. Процитовано 22 лютого 2015. (англ.)

[8] Engel, Jakob; Schöps, Thomas; Cremers, Daniel (2014). (PDF). Архів оригіналу (PDF) за 22 жовтня 2014. Процитовано 22 лютого 2015. {{}}: Проігноровано |contribution= () (англ.)