※ 引述《midarmyman (midarmyman)》之铭言： : 偏微分求极值时，判别式大於零之外， : 还要看fxx如果>0就是极小，反之 : 请问为啥要看fxx不看fyy? : 遇到一题变数不是x.y不知道该看哪个(不过都正) [我先给 Part 1, 假使有必要後面还有 Part 2-5.] 以下将讲多变数函数世界里头的极值判别法则，而单变数中的极值判别法则相对於多变数 中的极值判别法则来的简单，故省略。 (引理) 命 f：S → |R, 其中 S is open in |R^n with a in S, 且 f 於 ａ 点有方向 导数。若 f(ａ) 为极值点，则 D_u f(ａ) ＝ 0. ↓ kth component 特别地，选取 u ＝ u_k ＝ (0,...,1,...,0), 则 D_k f(ａ) ＝ 0 for all k ＝ 1,2,...,n. 也就是说，此时 ▽f(ａ)＝0. 因此，欲深究一内点 ａ 是否为极值点，我们就必须先假定 ▽f(ａ)＝0. 再来回忆 f(ａ＋ｋ) ＝ f(ａ) ＋ ▽f(ａ)．ｋ ＋ (1/2!) ＜Hｋ,ｋ＞ ＋ R_ａ,2(ｋ), 其中 H ＝ H(ａ), Hessian matrix of f at ａ. NOTE. 只要谈论到极值问题往往就会涉及到泰勒定理(具备余项)。 (主定理) 假定 ▽f(ａ)＝0, 即 ａ 点为 critical point, 且二阶偏导数 D_i,j f(ｘ) 存在於 B(ａ), 且连续於 ａ 点上。 (1) 若 ＜ Hｋ,ｋ＞ 恒正 for all ｋ ≠ 0, 则 f(ａ) 为 local minimum. (2) 若 ＜ Hｋ,ｋ＞ 恒负 for all ｋ ≠ 0, 则 f(ａ) 为 local maximum. (3) 若 ＜ Hｋ,ｋ＞ 有正有负，则 ａ 点为 saddle point (鞍点)。 (鞍点定义) 若 ａ 为 critical point 且对於任意的 B(ａ) 中有点 ｘ, ｙ 使得 f(ｘ) ＞ f(ａ) 且 f(ｙ) ＜ f(ａ) 则称 ａ 点为鞍点。 由此可见，鞍点必定不是极值点。 Proof. 我们需要两个 lemmas: (lemma 1) 若 H＞0，则必存在一正数 c, 使得＜ Hｋ,ｋ＞ ≧ c|ｋ|^2 for all ｋ. (lemma 2) |R_ａ,2(ｋ)|/|ｋ|^2 → 0 as ｋ→ 0. 由上述两引理，可证明此主定理。 NOTE. (i) 由二阶偏导数 D_i,j f(ｘ) 存在於 B(ａ), 且连续於 ａ 点上, 可知 H 为对称 矩阵，即 H^t ＝ H. (ii) 对一个对称矩阵 H 而言， 当 ＜ Hｋ,ｋ＞ 恒正 for all ｋ ≠ 0, 我们称 H 为正定，且记为 H ＞ 0. 当 ＜ Hｋ,ｋ＞ 恒负 for all ｋ ≠ 0, 我们称 H 为负定，且记为 H ＜ 0. (正定原文为 positive definite, 负定原文为 negative definite.) 因此根据上述主定理可知： 当 ａ 为 critical point 时，且 Hessian matrix H(ａ) ＞ 0 表示 f(ａ) 有局部极小。 简记为 {▽f(ａ) ＝ 0} ＋ {H(a) ＞ 0} ＝＞ f(ａ): local min. 当 ａ 为 critical point 时，且 Hessian matrix H(ａ) ＜ 0 表示 f(ａ) 有局部极大。 简记为 {▽f(ａ) ＝ 0} ＋ {H(a) ＜ 0} ＝＞ f(ａ): local max. (iii) ╭ D_11 f(ａ) ．．． D_1n f(ａ) ╮╭ k_1 ╮ ╭ k_1 ╮ ＜Hｋ,ｋ＞ ＝ ＜ │ ．．． ．．． ．．． ││ ． │ │ ． │＞ ╰ D_n1 f(ａ) ．．． D_nn f(ａ) ╯╰ k_n ╯ ,╰ k_n ╯ n n ＝ Σ Σ D_ij f(ａ) k_i k_j. i＝1 j＝1 即 H:|R^n→|R by H(k):＝ ＜Hｋ,ｋ＞. 如此之 H 称为二次型 (Quadratic form.) (iv) 主定理告诉了我们一件重要的事情：在主定理的假设底下，余项对我们来说一 点也不重要，也就是说余项不会影响到函数本身的极值问题。即脑海要想着 f(ａ＋ｋ) ～ f(ａ) ＋ (1/2!) ＜Hｋ,ｋ＞ (因 ▽f(ａ) ＝ 0) 这样一来，f(ａ＋ｋ) － f(ａ) ～ (1/2!) ＜Hｋ,ｋ＞. 因此，f(ａ＋ｋ) － f(ａ) 的正负可由 ＜Hｋ,ｋ＞ 决定之。 (v) 最後提到一点线性代数，他将用在 Part 2 里头的推论 1. 对一个对称矩阵 H 而言： H ＞ 0 ＜＝＞ H 的所有 eigenvalues 都必须恒正。 H ＜ 0 ＜＝＞ H 的所有 eigenvalues 都必须恒负。 -- Good taste, bad taste are fine, but you can't have no taste. --

※ 发信站: 批踢踢实业坊(ptt.cc) ◆ From: 220.133.4.14