Матриця Гессе — квадратна матриця елементами якої є часткові похідні деякої функції. Це поняття запровадив Людвіг Отто Гессе (1844), використовуючи іншу назву. Термін «матриця Гессе» належить Джеймсу Джозефу Сильвестрові.
Визначення
Формально, нехай дано дійсну функцію від n змінних:
якщо у функції f існують всі похідні другого порядку, то можна визначити матрицю Гессе для цієї функції:
де тобто
Визначник цієї матриці називається визначником Гессе, або гесіаном.
Значення матриці Гессе пояснюється її появою у формулі Тейлора:
Матриці Гессе використовуються в задачах оптимізації методом Ньютона. Повне обчислення матриці Гессе може бути досить складним, тому були розроблені квазіньютонові алгоритми, засновані на наближених виразах для матриці Гессе. Найвідоміший з них — алгоритм Бройдена — Флетчера — Гольдфарба — Шанно.
Симетрія матриці Гессе
Мішані похідні функції f — це елементи матриці Гессе, що стоять не на головній діагоналі. Якщо вони неперервні, то порядок диференціювання не важливий:
Це можна також записати як
В цьому випадку матриця Гессе є симетричною.
Критичні точки функції
Якщо градієнт (її векторна похідна) рівний нулю в деякій точці
, то ця точка називається критичною.
- Якщо матриця Гессе є додатно визначеною в точці
, то
— точка локального мінімуму функції
.
- Якщо матриця Гессе є від'ємно визначеною в точці
, то
— точка локального максимуму функції
.
- Якщо матриця Гессе не є ні додатно визначеною, ні від'ємно визначеною, причому є невиродженою (тобто
), то
— сідлова точка функції
.
Обрамлена матриця Гессе
У випадку оптимізації з додатковими умовами виникає також поняття обрамленої матриці Гессе. Нехай знову маємо функцію:
але тепер також розглянемо умови:
При оптимізації функції f з додатковими умовами обрамлена матриця Гессе має вигляд:
Для даної матриці можна сформувати різні головні мінори. Позначимо — головний мінор матриці, для якого останнім елементом на головній діагоналі є
Тоді можна сформувати достатні умови екстремуму для функції при виконанні обмежень.
Функція буде мати максимум при виконанні умов, якщо знаки послідовних n - m мінорів будуть чергуватися, при чому знак
буде рівний
Функція буде мати мінімум при виконанні умов, всі послідовні n - m мінорів мають один знак, а саме
Варіації і узагальнення
Якщо f — векторзначна функція, тобто
то її другі часткові похідні утворюють не матрицю, а тензор рангу n+1.
Література
- Григорій Михайлович Фіхтенгольц. Курс диференціального та інтегрального числення. — 2024. — 2200+ с.(укр.)
- Кудрявцев Л. Д. Математический анализ. — М. : Высшая школа, 2004. — Т. 2. — 720 с.(рос.)
- Chiang, Alpha C., Fundamental Methods of Mathematical Economics, third edition, McGraw-Hill, 1984.
- Nocedal, Jorge; Wright, Stephen J. (2006), Numerical Optimization (2nd ed.), Berlin, New York: Springer-Verlag,
Вікіпедія, Українська, Україна, книга, книги, бібліотека, стаття, читати, завантажити, безкоштовно, безкоштовно завантажити, mp3, відео, mp4, 3gp, jpg, jpeg, gif, png, малюнок, музика, пісня, фільм, книга, гра, ігри, мобільний, телефон, android, ios, apple, мобільний телефон, samsung, iphone, xiomi, xiaomi, redmi, honor, oppo, nokia, sonya, mi, ПК, web, Інтернет
Matricya Gesse kvadratna matricya elementami yakoyi ye chastkovi pohidni deyakoyi funkciyi Ce ponyattya zaprovadiv Lyudvig Otto Gesse 1844 vikoristovuyuchi inshu nazvu Termin matricya Gesse nalezhit Dzhejmsu Dzhozefu Silvestrovi ViznachennyaFormalno nehaj dano dijsnu funkciyu vid n zminnih f x 1 x 2 x n displaystyle f x 1 x 2 dots x n yaksho u funkciyi f isnuyut vsi pohidni drugogo poryadku to mozhna viznachiti matricyu Gesse dlya ciyeyi funkciyi H f i j x 2 f x i x j displaystyle H f ij x frac partial 2 f partial x i partial x j de x x 1 x 2 x n displaystyle x x 1 x 2 x n tobto H f 2 f x 1 2 2 f x 1 x 2 2 f x 1 x n 2 f x 2 x 1 2 f x 2 2 2 f x 2 x n 2 f x n x 1 2 f x n x 2 2 f x n 2 displaystyle H f begin bmatrix frac partial 2 f partial x 1 2 amp frac partial 2 f partial x 1 partial x 2 amp cdots amp frac partial 2 f partial x 1 partial x n frac partial 2 f partial x 2 partial x 1 amp frac partial 2 f partial x 2 2 amp cdots amp frac partial 2 f partial x 2 partial x n vdots amp vdots amp ddots amp vdots frac partial 2 f partial x n partial x 1 amp frac partial 2 f partial x n partial x 2 amp cdots amp frac partial 2 f partial x n 2 end bmatrix Viznachnik ciyeyi matrici nazivayetsya viznachnikom Gesse abo gesianom Znachennya matrici Gesse poyasnyuyetsya yiyi poyavoyu u formuli Tejlora y f x D x f x J x D x 1 2 D x T H x D x displaystyle y f mathbf x Delta mathbf x approx f mathbf x J mathbf x Delta mathbf x frac 1 2 Delta mathbf x mathrm T H mathbf x Delta mathbf x Matrici Gesse vikoristovuyutsya v zadachah optimizaciyi metodom Nyutona Povne obchislennya matrici Gesse mozhe buti dosit skladnim tomu buli rozrobleni kvazinyutonovi algoritmi zasnovani na nablizhenih virazah dlya matrici Gesse Najvidomishij z nih algoritm Brojdena Fletchera Goldfarba Shanno Simetriya matrici GesseMishani pohidni funkciyi f ce elementi matrici Gesse sho stoyat ne na golovnij diagonali Yaksho voni neperervni to poryadok diferenciyuvannya ne vazhlivij x f y y f x displaystyle frac partial partial x left frac partial f partial y right frac partial partial y left frac partial f partial x right Ce mozhna takozh zapisati yak f y x f x y displaystyle f yx f xy V comu vipadku matricya Gesse ye simetrichnoyu Kritichni tochki funkciyiDokladnishe Test drugoyi chastkovoyi pohidnoyi Yaksho gradiyent f displaystyle f yiyi vektorna pohidna rivnij nulyu v deyakij tochci x 0 displaystyle x 0 to cya tochka nazivayetsya kritichnoyu Yaksho matricya Gesse ye dodatno viznachenoyu v tochci x 0 displaystyle x 0 to x 0 displaystyle x 0 tochka lokalnogo minimumu funkciyi f x displaystyle f x Yaksho matricya Gesse ye vid yemno viznachenoyu v tochci x 0 displaystyle x 0 to x 0 displaystyle x 0 tochka lokalnogo maksimumu funkciyi f x displaystyle f x Yaksho matricya Gesse ne ye ni dodatno viznachenoyu ni vid yemno viznachenoyu prichomu ye nevirodzhenoyu tobto det H f 0 displaystyle det H f neq 0 to x 0 displaystyle x 0 sidlova tochka funkciyi f x displaystyle f x Obramlena matricya GesseU vipadku optimizaciyi z dodatkovimi umovami vinikaye takozh ponyattya obramlenoyi matrici Gesse Nehaj znovu mayemo funkciyu f x 1 x 2 x n displaystyle f x 1 x 2 dots x n ale teper takozh rozglyanemo umovi g i x 1 x 2 x n 0 1 i m m lt n displaystyle g i x 1 x 2 dots x n 0 1 leqslant i leqslant m m lt n Pri optimizaciyi funkciyi f z dodatkovimi umovami obramlena matricya Gesse maye viglyad H f g 0 0 g 1 x 1 g 1 x 2 g 1 x n 0 0 g m x 1 g m x 2 g m x n g 1 x 1 g m x 1 2 f x 1 2 2 f x 1 x 2 2 f x 1 x n g 1 x 2 g m x 2 2 f x 2 x 1 2 f x 2 2 2 f x 2 x n g 1 x n g m x n 2 f x n x 1 2 f x n x 2 2 f x n 2 displaystyle H f g begin bmatrix 0 amp cdots amp 0 amp frac partial g 1 partial x 1 amp frac partial g 1 partial x 2 amp cdots amp frac partial g 1 partial x n vdots amp ddots amp vdots amp vdots amp vdots amp ddots amp vdots 0 amp cdots amp 0 amp frac partial g m partial x 1 amp frac partial g m partial x 2 amp cdots amp frac partial g m partial x n frac partial g 1 partial x 1 amp cdots amp frac partial g m partial x 1 amp frac partial 2 f partial x 1 2 amp frac partial 2 f partial x 1 partial x 2 amp cdots amp frac partial 2 f partial x 1 partial x n frac partial g 1 partial x 2 amp cdots amp frac partial g m partial x 2 amp frac partial 2 f partial x 2 partial x 1 amp frac partial 2 f partial x 2 2 amp cdots amp frac partial 2 f partial x 2 partial x n vdots amp ddots amp vdots amp vdots amp vdots amp ddots amp vdots frac partial g 1 partial x n amp cdots amp frac partial g m partial x n amp frac partial 2 f partial x n partial x 1 amp frac partial 2 f partial x n partial x 2 amp cdots amp frac partial 2 f partial x n 2 end bmatrix Dlya danoyi matrici mozhna sformuvati rizni golovni minori Poznachimo H i f g 2 i n displaystyle H i f g 2 leqslant i leqslant n golovnij minor matrici dlya yakogo ostannim elementom na golovnij diagonali ye 2 f x i 2 displaystyle frac partial 2 f partial x i 2 Todi mozhna sformuvati dostatni umovi ekstremumu dlya funkciyi pri vikonanni obmezhen Funkciya bude mati maksimum pri vikonanni umov yaksho znaki poslidovnih n m minoriv H i f g m 1 i n displaystyle H i f g m 1 leqslant i leqslant n budut cherguvatisya pri chomu znak H i f g displaystyle H i f g bude rivnij 1 m 1 displaystyle 1 m 1 Funkciya bude mati minimum pri vikonanni umov vsi poslidovni n m minoriv H i f g m 1 i n displaystyle H i f g m 1 leqslant i leqslant n mayut odin znak a same 1 m displaystyle 1 m Variaciyi i uzagalnennyaYaksho f vektorznachna funkciya tobto f f 1 f 2 f n displaystyle f f 1 f 2 dots f n to yiyi drugi chastkovi pohidni utvoryuyut ne matricyu a tenzor rangu n 1 LiteraturaGrigorij Mihajlovich Fihtengolc Kurs diferencialnogo ta integralnogo chislennya 2024 2200 s ukr Kudryavcev L D Matematicheskij analiz M Vysshaya shkola 2004 T 2 720 s ros Chiang Alpha C Fundamental Methods of Mathematical Economics third edition McGraw Hill 1984 Nocedal Jorge Wright Stephen J 2006 Numerical Optimization 2nd ed Berlin New York Springer Verlag ISBN 978 0 387 30303 1