第6章 無約束極值與凸性
6.1 駐點、局部極值和全域最小各有條件
若 f 在內點 p 可微且有局部極值，沿每條座標線的一維導數都必為零，所以 ∇f(p)=0。滿足這個條件的點稱駐點；零梯度是必要，不是充分。邊界點與不可微點須另查。
若 f 在 p 附近二階連續可微且 ∇f(p)=0，H(p) 正定時，(1/2)dᵀHd 對任意非零 d 皆正。在單位球面取它的最小值，連續與緊緻保證此值為正，故二次項至少是固定正數乘 ‖d‖²；更小階的餘項不會改號。這給嚴格局部最小。負定給嚴格局部最大；有正有負的方向給鞍點。若只有半正定或半負定，這個測試可能無法下結論。
凸集合包含任兩點的線段。定義在凸集合上的凸函數滿足 f((1−t)p+tq)≤(1−t)f(p)+tf(q)，0≤t≤1。把不等式減 f(p)、除以 t>0，再令 t→0；若 f 在 p 可微，便得 f(q)≥f(p)+∇f(p)·(q−p)。所以凸函數的內點駐點是全域最小；一般函數的局部結論不能照搬。
6.2 四個例題
例題1 平方和直接給全域最小
f=(x−2)²+2(y+1)²，梯度為 (2(x−2),4(y+1))，只在 (2,−1) 為零。兩個平方非負且同時為零只在該點，所以最小值 0 且唯一。沿任一線段，二次導數是 2(dx)²+4(dy)²≥0，故此函數也凸。
例題2 同樣是駐點，卻是鞍點
f=x²−y²，原點梯度零。H=[2,0;0,−2]，沿 x 軸增量 t²，沿 y 軸 −t²。兩種符號出現在任意小鄰域，所以不是極大也不是極小。
例題3 半正定不能替代高階檢查
f=x⁴+y² 與 g=−x⁴+y² 在原點都有 H=[0,0;0,2]。f 在原點有嚴格最小；g 沿 y 軸正、沿 x 軸負，所以是鞍點。同一個 Hessian，結論不同。
例題4 限制區域後，最小值可在邊上
在 0≤x≤2、0≤y≤1 最小化 (x−3)²+(y−1/2)²。第二平方在 y=1/2 為 0；第一平方在區間內隨 x 增加而減小，到 x=2 為 1。故最小點 (2,1/2)，梯度 (−2,0) 非零，不違反內點必要條件。
6.3 練習
- B09-C06-Q01 求 x²+3y²−2x 的駐點與最小值。
- B09-C06-Q02 分類 f=−x²−2y² 的原點。
- B09-C06-Q03 分類 f=xy 的原點。
- B09-C06-Q04 f=x⁴+y⁴ 的 Hessian 在原點為零，能用原函數判斷嗎？
- B09-C06-Q05 單位閉圓盤為何是凸集合？
- B09-C06-Q06 單位圓周（不含內部）是凸集合嗎？
- B09-C06-Q07 對 f(t)=t²，比較 f(1) 與 f(0)、f(2) 的平均。
- B09-C06-Q08 若 f 是嚴格凸函數，能同時有兩個不同全域最小點嗎？
- B09-C06-Q09 在線段 0≤t≤2 上最大化 t²−2t。
- B09-C06-Q10 f(x,y)=eˣ+y² 在整平面有最小值嗎？
6.4 完整解答
Q01
梯度 (2x−2,6y) 給 (1,0)。配方 f=(x−1)²+3y²−1，最小值 −1 且在該點取到。
Q02
梯度零，H 對角是 −2、−4，負定。也可看每個非零點的 f 都負；故原點是唯一全域最大。
Q03
梯度 (y,x) 為零；沿 y=x 得 t²，沿 y=−x 得 −t²。二者任意靠近原點，故是鞍點。
Q04
可以。每項都非負，且只有 x=y=0 時同時為零，所以原點是嚴格全域最小；零矩陣本身並未給出這個結論。
Q05
若 ‖p‖≤1、‖q‖≤1，三角不等式給 ‖(1−t)p+tq‖≤(1−t)‖p‖+t‖q‖≤1，故線段不離開圓盤。
Q06
不是。(1,0)、(−1,0) 在圓周，中點 (0,0) 不在圓周，所以違反線段條件。
Q07
f(1)=1，端點平均 (0+4)/2=2。中點低於弦，這是凸性不等式的一次檢查，不是整體證明。
Q08
不能。兩個最小點若同值 m，嚴格凸性使其中點值嚴格小於 m，矛盾。這不保證一定存在最小點。
Q09
配方 (t−1)²−1，區間內 |t−1|≤1，兩端點給最大值 0，內部駐點 t=1 反而是最小值 −1。
Q10
f>0；沿 y=0、x→−∞，值趨 0。下確界是 0，卻無輸入達到。凸性不等於極值存在。