问:矩阵论 求最小二乘解的问题
- 答:Ax=b的最小二乘解就是线性方程A^TAx=A^Tb的解
解方程A^TAx=A^Tb就行了
(A^TA A^Tb)--->化成行最简形式=====》求出解
问:矩阵的最小二乘法,目前有一个方程组,四个方程,三个未知数,怎么求解,需要用最小二乘法吗?
- 答:四个方程三个未知数求解方法:只能求最小二乘意义下的最优解。 方程:{aijxj=bi i=1,2,3,4;j=1,2,3}
求x1、x2、x3使:Q(x1,x2,x3)=[b1-(a11x1+a12x2+a13x3)]^2+[b2-(a21x1+a22x2+a23x3)]^2+[b3-(a31x1+a32x2+a33x3)]^2
+[b4-(a41x1+a42x2+a43x3)]^2 (1) 取最小。为此,令:∂Q/∂x1=∂Q/∂x2=∂Q/∂x3=0 (2)得到一个包含三个未知数:x1、x2、x3的三个方程的线性方程组,解出的x1、x2、x3即为最小二乘意义下的最优解!
问:矩阵的最小二乘法
- 答:要求W是列满秩矩阵,如果不是,(W^H*W)^(-1)不存在,(2)式无意义,当然得由式(1)是推不出式(2)的,此时需对矩阵W进满秩分解,下面假设W是列满秩矩阵,由V是P=W*V的最小二乘解的充要条件是V满足法方程(正规方程)
(W^H*W)*V=W^H*P
{这是重要一个定理,相关书上均有}
如果长方形矩阵W是列满秩矩阵,才能确保W^H*W的逆阵存在,对上面同乘W^H*W的逆阵,得V=(W^H*W)^(-1)*W^H*P.