← 全部笔记

数学分析

多元Taylor展开与Hessian极值判别

文章目录

来源与整理范围 谢惠民等《数学分析习题课讲义》第2版下册第二十一章,印刷209–238页 / PDF221–250页,全部30页已逐页视觉核对。二十个编号例题完整展开;助手补充证明、多解和精选参考题完整解答,不是逐字转录,不推断用户独立掌握。 下册原书

把多元问题限制到一条线段

设ff在pp附近Cm+1C^{m+1},小向量hh使整条p+th,0≤t≤1p+th,0\le t\le1留在域中。对g(t)=f(p+th)g(t)=f(p+th)使用一元Taylor公式,反复链式求导给 g(j)(t)=(∑ihi∂i)jf(p+th).g^{(j)}(t)=\left(\sum_i h_i\partial_i\right)^jf(p+th). 这里hih_i是冻结常数,不能在取幂时再对它们求导;混合偏导交换由相应连续性保证。因此 f(p+h)=∑j=0m1j!Djf(p)[h,…,h]+1(m+1)!Dm+1f(p+θh)[h,…,h].f(p+h)=\sum_{j=0}^m\frac1{j!}D^jf(p)[h,\ldots,h]+\frac1{(m+1)!}D^{m+1}f(p+\theta h)[h,\ldots,h]. 某θ∈(0,1)\theta\in(0,1)可依赖hh。这是一元Lagrange余项沿线段的结果,不能对每个偏导各取一个不同中值点后无证据地合并成同一个点。

若仅f∈Cmf\in C^m、m≥1m\ge1,仍有Peano形式Rm=o(∣h∣m)R_m=o(|h|^m)。可在gg上写积分余项到m−1m-1阶,再减去Dmf(p)[hm]/m!D^mf(p)[h^m]/m!: Rm=1(m−1)!∫01(1−t)m−1(Dmf(p+th)−Dmf(p))[hm]dt.R_m=\frac1{(m-1)!}\int_0^1(1-t)^{m-1}\bigl(D^mf(p+th)-D^mf(p)\bigr)[h^m]dt. 高阶导数在pp连续,括号算子范数在∣h∣≤δ|h|\le\delta内统一趋零,故∣Rm∣≤ω(δ)∣h∣m/m!|R_m|\le\omega(\delta)|h|^m/m!,ω(δ)→0\omega(\delta)\to0。余项统一于全部方向,是后面正定性推出邻域极值的关键。

Taylor多项式的唯一性与例21.3.1

若两个总次数不超过mm的多项式在pp附近都与ff相差o(∣h∣m)o(|h|^m),差多项式PP也为该小量。把PP按齐次次数分解;若最低非零次数为d≤md\le m,取某vv使该齐次项Pd(v)≠0P_d(v)\ne0,则P(tv)/td→Pd(v)P(tv)/t^d\to P_d(v),却由余项性质必须趋零,矛盾。故多项式唯一,系数就是相应偏导除以多指标阶乘。

例21.3.1,原点补零,余处f=(1−ex(x2+y2))/(x2+y2)f=(1-e^{x(x^2+y^2)})/(x^2+y^2)。令s=xr2s=xr^2,r2=x2+y2r^2=x^2+y^2,指数展开给 f=−x−12x2r2+O(r7)=−x−12x4−12x2y2+o(r4).f=-x-\tfrac12x^2r^2+O(r^7)=-x-\tfrac12x^4-\tfrac12x^2y^2+o(r^4). 可用es=1+s+s2/2+O(∣s∣3)e^s=1+s+s^2/2+O(|s|^3),∣s∣≤r3|s|\le r^3来核验统一余项。函数实际上等于−x∫01etxr2dt-x\int_0^1e^{txr^2}dt,此表达在原点光滑,确保系数可以读取为导数。四阶Taylor多项式如上;xyxy系数零,故fxy(0)=0f_{xy}(0)=0;x4x^4系数−1/2-1/2,故fxxxx(0)=4!(−1/2)=−12f_{xxxx}(0)=4!(-1/2)=-12。仅有函数值小量展开本身不应在缺少正则性时自动宣称所有所需偏导存在。

驻点与Hessian判别的证明

f∈C2f\in C^2,内点极值在每条坐标直线上也是极值,Fermat给∇f(p)=0\nabla f(p)=0。驻点的展开为 f(p+h)−f(p)=12hTHh+o(∣h∣2),H=D2f(p)=HT.f(p+h)-f(p)=\tfrac12h^THh+o(|h|^2),\qquad H=D^2f(p)=H^T. 若HH正定,单位球面上uTHuu^THu有正最小值cc,所以hTHh≥c∣h∣2h^THh\ge c|h|^2。取余项绝对值≤c∣h∣2/4\le c|h|^2/4,得到非零小hh时函数差>0>0,严格极小。负定同理严格极大。若不定,选单位v,wv,w令二次型一正一负,沿tv,twtv,tw的小量展开给两种符号,故非极值。

必要性也可证明:极小点沿任意vv的一元二阶导数非负,故HH半正定,极大点半负定。半定只必要,不能给充分结论。例x2+y4x^2+y^4在原点严格极小,x2−y4x^2-y^4无极值,二者Hessian都diag⁡(2,0)\operatorname{diag}(2,0)。

二维令A=fxx,B=fxy,C=fyyA=f_{xx},B=f_{xy},C=f_{yy},Δ=AC−B2\Delta=AC-B^2。Δ>0,A>0\Delta>0,A>0正定,Δ>0,A<0\Delta>0,A<0负定,Δ<0\Delta<0不定;Δ=0\Delta=0继续分析。更高维可用谱分解或Sylvester顺序主子式正定判据,不能把“所有主子式”与“顺序主子式”混成同一个列表。

例21.3.4与21.3.5:计算与退化

例21.3.4,f=cos⁡x/cos⁡yf=\cos x/\cos y在原点邻域光滑,∇f(0)=0,H=diag⁡(−1,1)\nabla f(0)=0,H=\operatorname{diag}(-1,1),故 cos⁡x/cos⁡y=1−12x2+12y2+o(x2+y2).\cos x/\cos y=1-\tfrac12x^2+\tfrac12y^2+o(x^2+y^2). 也可先展开cos⁡x\cos x及1/cos⁡y1/\cos y再乘,余项为O(r4)O(r^4)。这不只是近似计算,同时说明原点是鞍点。

例21.3.5,f=12x2+xy+12y2−2x−2y+5f=\frac12x^2+xy+\frac12y^2-2x-2y+5,驻点为整条x+y=2x+y=2,Hessian半正定且退化。配方 f=12(x+y−2)2+3f=\tfrac12(x+y-2)^2+3 给所有这些点均为非严格全局极小,值3,无其他极值,且无最大值。可微点的必要条件确保没有遗漏;不能把半定矩阵直接判为严格极小。

例21.3.6:每条直线极小却不是局部极小

f=(y−x2)(y−2x2)f=(y-x^2)(y-2x^2)。沿非竖直过原点直线y=kxy=kx,k≠0k\ne0时f=x2(k−x)(k−2x)>0f=x^2(k-x)(k-2x)>0对足够小非零xx成立;k=0k=0时f=2x4>0f=2x^4>0。竖线x=0x=0给f=y2>0f=y^2>0。因此在每条直线上原点都是严格局部极小,但各线所需邻域可依赖kk。

沿曲线y=3x2/2y=3x^2/2却有f=−x4/4<0f=-x^4/4<0,任意小球中都有负值,也有正值,原点不是局部极值。失败在量词交换:“每条线有一个邻域”不等于“有一个共同邻域控制全部点”。这与多元极限的统一估计与路径反例的路径检验限制是同一逻辑。