第八章最优性条件

以你之姓@ 2022-10-08 14:25 132阅读 0赞

> 内容来自马昌凤编著的《最优化方法及其Matlab程序设计》，文章仅为个人的学习笔记，感兴趣的朋友详见原书。

# 1.等式约束问题的最优性条件 #

## 拉格朗日定理 ##

假设 x ∗ x^\* x∗是如下问题的局部极小点

m i n f ( x ) min f(x) minf(x)  
 s . t . h i ( x ) = 0 , i = 1 , 2 , . . . , l s.t. h\_i(x)=0, i=1,2,...,l s.t.hi(x)=0,i=1,2,...,l

f ( x ) f(x) f(x)和 h i ( x ) h\_i(x) hi(x)在 x ∗ x^\* x∗的某邻域内连续可微。若向量组 ▽ h i ( x ∗ ) ▽h\_i(x^\*) ▽hi(x∗)线性无关，则存在乘子向量 λ ∗ = ( λ 1 ∗ , λ 2 ∗ , . . . , λ l ∗ ) T λ^\*=(λ\_\{1\}^\*,λ\_\{2\}^\*,...,λ\_\{l\}^\*)^T λ∗=(λ1∗,λ2∗,...,λl∗)T，使得

▽ x L ( x ∗ , λ ∗ ) = 0 ▽\_xL(x^\*,λ^\*)=0 ▽xL(x∗,λ∗)=0

即: ▽ f ( x ∗ ) − ∑ λ i ∗ ▽ h i ( x ∗ ) = 0 ▽f(x^\*)-∑λ\_\{i\}^\*▽h\_\{i\}(x^\*)=0 ▽f(x∗)−∑λi∗▽hi(x∗)=0

# 2.不等式约束问题的最优性条件 #

本节考虑不等式约束问题的最优性条件：  
 m i n f ( x ) min f(x) minf(x)  
 s . t . g i ( x ) ≥ 0 , i = 1 , 2 , . . . , m s.t. g\_i(x)≥0, i=1,2,...,m s.t.gi(x)≥0,i=1,2,...,m

## 有效集 ##

![在这里插入图片描述][watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3FxXzQ1MDYwNjc0_size_16_color_FFFFFF_t_70]

## KT条件 ##

![在这里插入图片描述][watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3FxXzQ1MDYwNjc0_size_16_color_FFFFFF_t_70 1]

# 3.一般约束问题的最优性条件 #

即将上述两种情况结合起来  
![在这里插入图片描述][watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3FxXzQ1MDYwNjc0_size_16_color_FFFFFF_t_70 2]

## KT一阶必要条件 ##

![在这里插入图片描述][watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3FxXzQ1MDYwNjc0_size_16_color_FFFFFF_t_70 3]

## 例题 ##

![在这里插入图片描述][watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3FxXzQ1MDYwNjc0_size_16_color_FFFFFF_t_70 4]

定理：设 ( x ∗ , u ∗ , λ ∗ ) (x^\*,u^\*,λ^\*) (x∗,u∗,λ∗)是凸优化问题（f为凸函数，h是线性函数，g是凹函数）的KT点，则 x ∗ x^\* x∗必为该问题的全局极小点。

[watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3FxXzQ1MDYwNjc0_size_16_color_FFFFFF_t_70]: /images/20221005/3077fa63150d4b78a4f3aa665ecc1215.png
[watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3FxXzQ1MDYwNjc0_size_16_color_FFFFFF_t_70 1]: /images/20221005/2e30688065bc4e39aebe37dad89cd891.png
[watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3FxXzQ1MDYwNjc0_size_16_color_FFFFFF_t_70 2]: /images/20221005/47e3e440323f4f4ca18c813d0e3c09df.png
[watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3FxXzQ1MDYwNjc0_size_16_color_FFFFFF_t_70 3]: /images/20221005/04bee262e82d4b6dbebf42b7bc7ba23c.png
[watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3FxXzQ1MDYwNjc0_size_16_color_FFFFFF_t_70 4]: /images/20221005/62b2df959ded4ccb8513dcaefa38983f.png