Послідовне квадратичне програмування

Послідовне квадратичне програмування ( SQP ) - це ітеративний метод обмеженої нелінійної оптимізації. Методи SQP використовуються для математичних задач, для яких цільова функція та обмеження двічі безперервно диференціюються.

Методи SQP вирішують послідовність підпроблем оптимізації, кожна з яких оптимізує квадратичну модель об'єкта, що підлягає лінеаризації обмежень. Якщо проблема не обмежена, то метод зводиться до методу Ньютона для пошуку точки, де градієнт об'єкта зникає. Якщо проблема має лише обмеження рівності, то метод еквівалентний застосуванню методу Ньютона до умов оптимальності першого порядку або умов Каруша — Куна — Таккера.

Основи алгоритму

Розглянемо нелінійну задачу програмування даної форми:

${\displaystyle {\begin{array}{rl}\min \limits _{x}&f(x)\\{\mbox{s.t.}}&b(x)\geq 0\\&c(x)=0.\end{array}}}$

Лагранжан для цієї проблеми є

${\displaystyle {\mathcal {L}}(x,\lambda ,\sigma )=f(x)-\lambda ^{T}(b(x)-(y_{i})^{2})-\sigma ^{T}c(x),}$

де ${\displaystyle \lambda }$ і ${\displaystyle \sigma }$ є множниками Лагранжа. На ітерації ${\displaystyle x_{k}}$, основний алгоритм послідовного квадратичного програмування визначає відповідний напрямок пошуку ${\displaystyle d_{k}}$ як рішення підпрограми квадратичного програмування

${\displaystyle {\begin{array}{rl}\min \limits _{d}&f(x_{k})+\nabla f(x_{k})^{T}d+{\tfrac {1}{2}}d^{T}\nabla _{xx}^{2}{\mathcal {L}}(x_{k},\lambda _{k},\sigma _{k})d\\\mathrm {s.t.} &b(x_{k})+\nabla b(x_{k})^{T}d\geq 0\\&c(x_{k})+\nabla c(x_{k})^{T}d=0.\end{array}}}$

Зауважимо, що функція ${\displaystyle f(x_{k})}$ у рівнянні вище може бути залишена для проблеми мінімізації, оскільки вона є постійною.

Альтернативні підходи

• Послідовне лінійне програмування
• Послідовне лінійно-квадратичне програмування
• Доповнений метод Лагрангія

Впровадження

Методами SQP були реалізовані такі добре відомі числові середовища, як MATLAB і GNU Octave. Існують також численні бібліотеки програмного забезпечення, в тому числі з відкритим кодом

• SciPy (фактично стандарт для наукового Python) має розв'язувач scipy.optimize.minimize (метод = 'SLSQP').
• NLopt [ 19 грудня 2017 у Wayback Machine.] (реалізація C / C ++, з численними інтерфейсами, включаючи Python, R, MATLAB / Octave), реалізований Dieter Kraft як частина пакету для оптимального управління та модифікований SG Johnson.
• LabVIEW
• KNITRO (C, C ++, C #, Java, Python, Fortran)
• NPSOL (Фортран)
• SNOPT (Фортран)
• NLPQL (Fortran)
• MATLAB

SuanShu [ 24 грудня 2019 у Wayback Machine.] (Java)

Див. також

• ^[fr]
• Метод Ньютона
• Секретний метод

Примітки

1. Jorge Nocedal and Stephen J. Wright (2006). . Springer. ISBN . Архів оригіналу за 30 травня 2008. Процитовано 24 грудня 2019.
2. Kraft, Dieter (Sep 1994). . Transactions on Mathematical Software. 20 (3): 262—281. CiteSeerX 10.1.1.512.2567. doi:10.1145/192115.192124. Архів оригіналу за 6 травня 2021. Процитовано 1 лютого 2019.
3. Kraft, Dieter (July 1988). . Oberpfaffenhofen: Institut für Dynamik der Flugsysteme. Архів оригіналу за 25 березня 2019. Процитовано 1 лютого 2019.
4. . Архів оригіналу за 3 січня 2018. Процитовано 24 грудня 2019.

Література

• Bonnans, J. Frédéric; Gilbert, J. Charles; Lemaréchal, Claude; Sagastizábal, Claudia A. (2006). . Universitext (вид. Second revised ed. of translation of 1997 French). Berlin: Springer-Verlag. с. xiv+490. doi:10.1007/978-3-540-35447-5. ISBN . MR 2265882. Архів оригіналу за 19 липня 2013. Процитовано 24 грудня 2019.
• Jorge Nocedal and Stephen J. Wright (2006). . Springer. ISBN . Архів оригіналу за 30 травня 2008. Процитовано 24 грудня 2019.

Посилання

• Послідовне квадратичне програмування в путівнику NEOS [ 24 грудня 2019 у Wayback Machine.]