作者znmkhxrw (QQ)
看板Math
标题[线代] 僞逆矩阵 两个问题(首完整解惑1000p/题)
时间Thu Jun 3 17:49:14 2021
想请教下面两个问题, 我先用文字叙述, 之後再写出详细定义以及要证的东西
---------------------------------------------------------------------
Notation: (1) 如果x是向量, 那|x|表示2-norm
(2) 如果X是矩阵, 那|X|表示Frobenius norm,
即sqrt of sum of square of all entries of X
(3) A^t = transpose of A
(4) A^* = conjugate transpose of A
(5) A^+ = psuedo inverse of A
(6) R(A) = range of A
(7) A^bar = conjugate of A
(8) F = the set of real numbers or the set of complex numbers
(9) M_mxn(F) = the set of m by n matrices with all entries in F
(10) F^n = {(x_1,...x_n):x_i€F}
(11) 如果a是元素, A是集合, 那a€A表示a属於A
(12) 如果A,B都是集合, 那A≦B表示A包含於B
(13) I_n = n by n identity matrix
(14) #A = the number of elements in A
(15) 若T:F^n→F^m是一个线性变换
E_n = {e_1,...,e_n} 是F^n的标准正交基底
则 ([T]_(E_n))^E_m 是 T的标准矩阵表达式, 简写成[T]_repr
---------------------------------------------------------------------
【问题一】
在某个referece中提到, 给定mxn矩阵A跟单位矩阵I_m时,
当限制了
|X|要最小时, 就会存在唯一的一个X使|AX-I|最小, 这矩阵就是伪逆矩阵A^+
而这份reference也提到说把|AX-I|拆成数个线性方程就可以看出这件事情
但是我自己在证的时候发现,
限制条件要更严格, 是
X的每个column vector都要最小
当作限制条件才会有存在唯一解
不过我再经过矩阵改写时, 意外的证出在
原本的限制条件也会有存在唯一解
并且
证出两个解是一样的
因此我想问的是:
(a) 明明前者的范围较大, 後者较小, 理应前者限制条件要有多组解, 有什麽解释吗
(b) 前者的限制条件有其他证明方法可以直接证存在唯一解吗
因为我是用下面这方式改写成矩阵与向量的形式:
|AX-I|
[A O O ... O O] [ x_1 ] [ e_1 ]
[O A O ... O O] [ x_2 ] [ e_2 ]
= | [. . . ... O O] [ . ] - [ . ] |
[. . . ... . .] [ . ] [ . ]
[O O O ... A O] [ x_(m-1)] [ e_(m-1)]
[O O O ... O A] [ x_m ] [ e_m ]
但是这方式对我来说好凑的感觉, 所以才想说有没有几何观念或是其他方法
直接证明Frobenius的限制条件也是存在唯一解
【问题二】
看了几个伪逆矩阵的定义: (1) by SVD
(2) by 【问题一】
(3) by Penrose condition (四个矩阵方程式有唯一解)
我想要一个最有几何意义的定义, 於是回顾结合最佳近似解跟最小平方解的观念:
给定mxn矩阵A, m维向量b, 我们知道存在唯一的
最小范数最佳近似解x去最小化|Ax-b|
而这个x也是在
所有最佳近似解中唯一落在R(A^*)的向量, 而如果已经有定义A^+
的话, 其实x就是A^+b
因此, 我们有两个新方式去定义A^+
《Def1》给定矩阵A, 因为任给向量b, 存在唯一最小范数最佳近似解去最小化|Ax-b|
我们就可以
定义一个函数T使得T(b)就是这个唯一解
《Def2》给定矩阵A, 因为任给向量b, 存在唯一在R(A^*)的最佳近似解去最小化|Ax-b|
我们就可以
定义一个函数T使得T(b)就是这个唯一解
我的问题在, 不管我用哪个定义, 我都只证出了:
(1) T是线性的, 因此可以用标准基底表达成矩阵, 记做A^+
(2) ((A^bar)^+) = (A^+)^bar
而我想要证明:
(a) (A^*)^+ = (A^+)^*
其实在我有(2)的情况下, 等价於证出 (A^t)^+ = (A^+)^t
(b) (A^+)^+ = A
长远来看我是要证
这几个定义等价以及不管哪个定义下手, 伪逆矩阵的性质都成立
只是光进行到(1)跟(2)後就卡关了...
=====================以下是严格数学叙述======================
【Math 问题一】
Let A€M_mxn(F)
Define S := {X€M_nxm(F)│|AX-I_m| <= |AY-I_m| for all Y€M_nxm(F)}
(即
S是|AX-I_m|的所有最佳近似矩阵X所形成的集合)
and S_1 := {X€S│|x_i| <= |y_i| for all Y€M_nxm(F), for all i}
where, x_i is the i-th column vector of X
y_i is the i-th column vector of Y
(即S_1是S中满足column vector限制条件的矩阵)
and S_2 := {X€S│|X|<=|Y| for Y€S}
(即S_2是S中满足Frobenius限制条件的矩阵)
Prove #S_2 = 1
《对照先前文字说明》
很容易证明: (1) S非空集合
(2) S_1≦S_2
(3) #S_1 = 1
但是这些结果都不足以说明#S_2 = 1
直到我用矩阵拆解改写的方式才
独立证明出#S_2=1
因此想问有没有其他直观的证法
【Math 问题二】(采用《Def1》)
Let A€M_mxn(F)
Then for any b€F^m,
define S_b := {w€F^n│|Aw-b| = min_{x€F^n} |Ax-b|}
(即
S_b是|Ax-b|的所有最佳近似向量x所形成的集合)
we already know that there exists uniquely v€F^n
such that (1) v€S_b
(2) |v|<=|w| for any w€S_b
now we define a function T:F^m → F^n with T(b) = v
and T is linear by trivial check
finally, we denote A^+ := [T]_repr
Prove that (0) (A^bar)^+ = (A^+)^bar (已证)
(1) (A^*)^+ = (A^+)^*
(2) (A^t)^+ = (A^+)^t
(3) (A^+)^+ = A
Let A€M_mxn(F)
Then for any b€F^m,
define S_b := {w€F^n│|Aw-b| = min_{x€F^n} |Ax-b|}
(即
S_b是|Ax-b|的所有最佳近似向量x所形成的集合)
we already know that there exists uniquely v€F^n
such that (1) v€S_b
(2) |v|<=|w| for any w€S_b
now we define a function T:F^m → F^n with T(b) = v
and T is linear by trivial check
finally, we denote A^+ := [T]_repr
Prove that (0) (A^bar)^+ = (A^+)^bar (已证)
(1) (A^*)^+ = (A^+)^*
(2) (A^t)^+ = (A^+)^t
(3) (A^+)^+ = A
《对照先前文字说明》
即用存在唯一的
最小范数最佳近似解T(b)来定义伪逆矩阵A^+後,
想要证明他当然要有的那些伪逆矩阵该要有的性质
--
※ 发信站: 批踢踢实业坊(ptt.cc), 来自: 123.110.132.77 (台湾)
※ 文章网址: https://webptt.com/cn.aspx?n=bbs/Math/M.1622713756.A.033.html
1F:推 blackwai : 最好有人会理你,囧QQ0 06/03 23:43
2F:推 THEJOY : 有线代课本是从最小平方解去定义伪逆矩阵06/04 11:00
3F:→ THEJOY : 并证明符合Penrose condition,从这出发会否容易些?06/04 11:00
4F:→ THEJOY : 问题二三的(2)(3)都是该课本的习题XD06/04 11:02
5F:→ THEJOY : 实际上都是从 A^+ = (A^*A)^(-1)A^* 出发去做06/04 11:04
这个approach也蛮合理的 因为从penrose condition去推(2)(3)确实好推, 只是我既然从
最小平方解这个定义出发, 直接证回penrose condition的话有违我想要几何结构的初衷X
D, 所以才想直接从定义推
有书名可以提供吗 谢谢!
※ 编辑: znmkhxrw (114.137.233.220 台湾), 06/04/2021 15:42:38
6F:→ THEJOY : David Poole的Linear Algebra: A Modern Intro., 4e 06/04 19:40
7F:→ znmkhxrw : 感恩~ 06/05 00:30
8F:推 RicciCurvatu: 既然你说几何 概念上都还是投影 可以用矩阵内积 trA 06/07 06:56
9F:→ RicciCurvatu: B 把唯一解换成投影问题 06/07 06:56