《矩阵理论讲义ppt第四章 内积空间.ppt》由会员分享，可在线阅读，更多相关《矩阵理论讲义ppt第四章 内积空间.ppt（63页珍藏版）》请在taowenge.com淘文阁网|工程机械CAD图纸|机械工程制图|CAD装配图下载|SolidWorks_CaTia_CAD_UG_PROE_设计图分享下载上搜索。
1、Graduate Engineering Mathematics工科研究生数学工科研究生数学-矩阵论矩阵论第第 4 章章 内积空间内积空间王新赠王新赠山东科技大学信息学院山东科技大学信息学院G G E ME M4.1 实内积空间实内积空间定定义义.设设V 是一个实线性空间，是一个实线性空间，R为实数域，为实数域，2若若 a a,b b V,存在唯一的存在唯一的 r R与之对应，与之对应，记作记作(a a,b b)=r,并且满足并且满足(1)(a a,b b)=(b b,a a)(2)(a a+b b,g g)=(a a,g g)+(b b,g g)(3)(ka a,b b)=k(a a,b b
2、)(4)(a a,a a)0,(a a,a a)=0 a a=0则称则称 (a a,b b)为为a a 与与b b 的内积，的内积，V 为为实实内积空间。内积空间。实实内积空间也称欧几里得内积空间也称欧几里得(Euclid)空间。空间。对称性对称性线性性线性性非负性非负性G G E ME M3定义内积定义内积(内积的离散形式内积的离散形式)例例.线性线性空间空间称为称为内积内积空间空间 的标准内积的标准内积。G G E ME M4定义内积（定义内积（内积一般形式）内积一般形式）A为为 n 阶阶实正定矩阵实正定矩阵，例例.线性线性空间空间G G E ME M5定义内积（内积的连续形式）定义内积（
3、内积的连续形式）例例.线性线性空间空间Ca,b，f,gCa,bG G E ME M6由定义知（关于第二个元素的线性性质）由定义知（关于第二个元素的线性性质）(5)(a a,b b+g g)=(a a,b b)+(a a,g g)(6)(a a,kb b)=k(a a,b b)G G E ME M向量长度向量长度,Cauchy-Schwarz不等式不等式定义定义.设设V 为为实实内积空间，称内积空间，称 为向量为向量a a 的长度，的长度，记作记作|a a|。定理定理.设设V 是是实实内积空间，内积空间，a a,b b V,k R，则，则等号成立当且仅当等号成立当且仅当a a,b b 线性相关；
4、线性相关；Cauchy-Schwarz不等式不等式三角不等式三角不等式正定性正定性齐次性齐次性G G E ME MG G E ME MG G E ME MG G E ME M11例：利用例：利用Cauchy-Schwaz不等式证明不等式证明G G E ME M向量的夹角向量的夹角由由Cauchy-Schwaz不等式可知不等式可知G G E ME M向量的正交向量的正交定义定义.设设V 是是实实内积空间，内积空间，a a,b b V,若若(a a,b b)=0=0,则称则称 a a 与与b b 正交，记作正交，记作 a a b b 。a a 与与b b 正交正交这就是实这就是实内积空间中的勾股定
5、理。内积空间中的勾股定理。G G E ME MG G E ME M15向量向量a a 与与b b 在该基下的坐标为在该基下的坐标为G G E ME M16G G E ME M度量矩阵度量矩阵矩阵矩阵 A 称为基的度量矩阵。称为基的度量矩阵。即即 A 为实对称矩阵。为实对称矩阵。即即 A 为为实正定矩阵实正定矩阵。G G E ME M定理：设内积空间定理：设内积空间V 的两个基是：的两个基是：它们的度量矩阵它们的度量矩阵分别分别为为A与与B，则，则A与与B是合同的，是合同的，即存在可逆矩阵即存在可逆矩阵P，使得，使得其中可逆矩阵其中可逆矩阵P 是由前组基到后组基的过渡矩阵。是由前组基到后组基的过
6、渡矩阵。G G E ME M4.2 标准正交基标准正交基若它们两两正交，则称其为一个正交向量组。若它们两两正交，则称其为一个正交向量组。定理：正交向量组必是线性无关的。定理：正交向量组必是线性无关的。G G E ME M20且其中每个向量的长度都是且其中每个向量的长度都是 1 1，注意：注意：(1)标准正交基的度量矩阵是单位矩阵，即标准正交基的度量矩阵是单位矩阵，即(2)向量在标准正交基下的坐标是该向量在对应的向量在标准正交基下的坐标是该向量在对应的基向量上的正投影，即基向量上的正投影，即G G E ME MGram-Schmidt 正交化过程正交化过程Gram-Schmidt 正交化过程：正
7、交化过程：设设是内积空间是内积空间V 中线性无关中线性无关的向量组的向量组，使得，使得则则V 中存在正交向量组中存在正交向量组G G E ME MGram-Schmidt 正交化过程正交化过程 图解图解G G E ME M23令令是是正交向量组，并且正交向量组，并且则则G G E ME M记记G G E ME M或或注意到注意到K是可逆矩阵，因此是可逆矩阵，因此G G E ME M是正交向量组是正交向量组下面用归纳法说明下面用归纳法说明由归纳法假设可知由归纳法假设可知是正交向量组。是正交向量组。即即G G E ME M矩阵矩阵A的的QR分解分解推论推论1：n 维实内积空间维实内积空间V 必存在
8、标准正交基。必存在标准正交基。推论推论2：n 维实内积空间维实内积空间V 中任一中任一正交向量组都可扩充成正交向量组都可扩充成V 的一个正交基。的一个正交基。推论推论3:设设A为可逆阵，则存在为可逆阵，则存在正交阵正交阵Q和可逆上三角阵和可逆上三角阵R使得使得 A=QR，称为矩阵，称为矩阵A的的QR分解。分解。G G E ME M28设设A为为 n 阶可逆阵，则利用阶可逆阵，则利用Gram-Schmidt正交化过程，正交化过程，G G E ME M29G G E ME M30例例:求求矩阵矩阵A的的QR分解，分解，G G E ME MG G E ME MG G E ME MG G E ME M
9、G G E ME M4.3 正交子空间正交子空间定义定义:设设W,U是实内积空间是实内积空间V 的子空间，的子空间，(1)a a V,若若 b b W,都有都有(a,b a,b)=0,则称则称a a 与与W 正交，记作正交，记作a a W;(2)若若 a a W,b b U,都有都有(a,b a,b)=0,则称则称W 与与U 正交，记作正交，记作W U;(3)若若W U，并且，并且W +U=V,则称则称U 为为W 的正交补。的正交补。注意：若注意：若W U，则则 W与与U 的和必是直和。的和必是直和。G G E ME M正交补的存在唯一性正交补的存在唯一性定理定理:设设W 是实内积空间是实内积
10、空间V 的子空间，则的子空间，则W 的正交补的正交补存在且唯一，记该存在且唯一，记该正交补为正交补为 ，并且，并且G G E ME M向量的正投影向量的正投影定义定义:设设W 是实内积空间是实内积空间V 的子空间，的子空间，则称向量则称向量b b 为向量为向量a a 在在W上的正投影，上的正投影，称向量长度称向量长度|g g|为向量为向量a a 到到W 的距离。的距离。Wd db bOa ag gG G E ME M垂线最短定理垂线最短定理定理定理:设设W 是实内积空间是实内积空间V 的子空间，的子空间，a a V,b b 为为a a 在在W上的正投影，则上的正投影，则 d d W,有有并且等
11、号成立当且仅当并且等号成立当且仅当 b b=d d。Wd db ba aG G E ME M最小二乘法最小二乘法 问题提出问题提出:实系数线性方程组实系数线性方程组（1）即任意即任意 都可能使都可能使 （2）不等于零不等于零可能无解，可能无解，G G E ME M 设法找实数组设法找实数组 使使（2）最小最小,这样的这样的 为方程组为方程组（1）的的最小二乘解最小二乘解，此问题叫此问题叫最小二乘法问题最小二乘法问题.最小二乘法的表示最小二乘法的表示:设设（3）G G E ME M用距离的概念，（用距离的概念，（2）就是就是 由由（3）,设设 则则要找要找 使（使（2）最小，等价于找子空间）最小
12、，等价于找子空间 中向量中向量 使使 到它的距离到它的距离 比到比到 中其它向量的距离都短中其它向量的距离都短.G G E ME M设设这等价于这等价于（4）即即 这样（这样（4）等价于）等价于（5）为此必为此必或或这就是最小二乘解所满足的代数方程这就是最小二乘解所满足的代数方程.G G E ME M 已知某种材料在生产过程中的废品率已知某种材料在生产过程中的废品率 与某种与某种 化学成份化学成份 有关下列表中记载了某工厂生产有关下列表中记载了某工厂生产 中中 与相应的与相应的 的几次数值：的几次数值：找出找出 对对 的一个近似公式的一个近似公式.例题例题G G E ME M把表中数值画出图来
13、看，发现它的变化趋势把表中数值画出图来看，发现它的变化趋势近于一条直线近于一条直线 因此我们决定选取因此我们决定选取 的一次式的一次式 来表达当然最好能选到适当的来表达当然最好能选到适当的使得下面的等式使得下面的等式解：解：都成立都成立.G G E ME M实际上是不可能的任何实际上是不可能的任何 代入上面各式都发生代入上面各式都发生 些误差些误差.于是想找到于是想找到 使得上面各式的误差的平方使得上面各式的误差的平方和最小，和最小，即找即找 使使 最小最小.易知易知 G G E ME M 最小二乘解最小二乘解 所满足的方程就是所满足的方程就是 G G E ME M解得解得（取三位有效数字）（
14、取三位有效数字）.即为即为 G G E ME M4.4 正交变换正交变换定义定义:设设T 是实内积空间是实内积空间V 的线性变换，若的线性变换，若 a a V 有有则称则称T 为为V 的正交变换。的正交变换。G G E ME M正交变换的特征刻画正交变换的特征刻画定理定理:设设T 是实内积空间是实内积空间V 的线性变换，的线性变换，a a,b b V，则下列命题等价，则下列命题等价，G G E ME M50推论推论：(1)两个正交变换的积仍是正交变换；两个正交变换的积仍是正交变换；(2)正交变换的逆变换仍是正交变换。正交变换的逆变换仍是正交变换。G G E ME MHouseholder 变换
15、变换构造构造 的正交变换的正交变换讨论正交变换讨论正交变换H 的几何意义。的几何意义。G G E ME M故故H(a a)是是a a关于子空间的反射，关于子空间的反射，d da ag gb bw wO-g-g矩阵矩阵H 称为称为Householder矩阵，矩阵，变换变换H 称为称为Householder变换，变换，变换变换H 也称初等反射也称初等反射变换。变换。G G E ME M53求一个求一个初等反射初等反射变换变换H，使，使H(a a)=b b。只需求一个只需求一个w w 使得使得b b 是是a a 关于子空间关于子空间 的反射，的反射，于是于是w w 与与a-b a-b 平行，故可取平
16、行，故可取G G E ME M4.5 复内积空间复内积空间定定义义.设设V 是一个是一个复复线性空间，线性空间，C 为复数域，为复数域，54若若 a a,b b V,存在唯一的存在唯一的 c C与之对应，与之对应，记作记作(a a,b b)=c,并且满足并且满足(2)(a a+b b,g g)=(a a,g g)+(b b,g g)(3)(ka a,b b)=k(a a,b b)(4)(a a,a a)0,(a a,a a)=0 a a=0则称则称 (a a,b b)为为a a 与与b b 的内积，的内积，V 为为复复内积空间。内积空间。复复内积空间也称酉空间。内积空间也称酉空间。对称性对称性
17、线性性线性性非负性非负性(1)(a a,b b)=(b b,a a)G G E ME M55定义内积定义内积例例.线性线性空间空间称为复内积称为复内积空间空间 的标准内积。的标准内积。G G E ME M56在复内积空间中还有在复内积空间中还有(5)(a a,b b+g g)=(a a,b b)+(a a,g g)(6)(a a,kb b)=k(a a,b b)(8)Cauchy-Schwaz不等式不等式且且(a a,b b)=0=0 a a 与与b b 正交正交(10)Schmidt正交化过程把线性无关的向量组变成正交组正交化过程把线性无关的向量组变成正交组G G E ME M57向量向量a
18、 a 与与b b 在该基下的坐标为在该基下的坐标为G G E ME M58G G E ME M度量矩阵度量矩阵矩阵矩阵 A 称为基的称为基的度量矩阵度量矩阵。，即，即 A 为复正定矩阵。为复正定矩阵。，则称，则称 A 为为Hermite矩阵。矩阵。，即，即A 为为Hermite矩阵。矩阵。称称 A 为复正定矩阵。为复正定矩阵。G G E ME M设设T 是复内积空间是复内积空间V 的线性变换，若的线性变换，若 a a V 有有则称则称T 为为V 的酉变换。的酉变换。G G E ME M定理定理:设设T 是复内积空间是复内积空间V 的线性变换，的线性变换，a a,b b V，则下列命题等价，则下
19、列命题等价，G G E ME M4.6 正规矩阵正规矩阵例如，对角阵，酉矩阵，例如，对角阵，酉矩阵，Hermite阵都是正规阵。阵都是正规阵。定义定义2：设：设 A,B是复方阵，若存在酉矩阵是复方阵，若存在酉矩阵U，使，使则称则称A与与B酉相似。酉相似。G G E ME M定理定理1：任意复方阵必与上三角阵：任意复方阵必与上三角阵酉相似酉相似。对复方阵的阶数用归纳法。对复方阵的阶数用归纳法。引理引理1：正规的三角阵必是对角阵。：正规的三角阵必是对角阵。定理定理2：复方阵：复方阵A与对角阵与对角阵酉相似的充分必要条件是酉相似的充分必要条件是A是正规阵。是正规阵。推论：实对称推论：实对称阵必与对角阵相似的阵必与对角阵相似的。