第二章 内积空间精选文档.ppt

《第二章 内积空间精选文档.ppt》由会员分享，可在线阅读，更多相关《第二章 内积空间精选文档.ppt（54页珍藏版）》请在taowenge.com淘文阁网|工程机械CAD图纸|机械工程制图|CAD装配图下载|SolidWorks_CaTia_CAD_UG_PROE_设计图分享下载上搜索。

1、第二章 内积空间本讲稿第一页，共五十四页例例1 常见几个线性空间上内积的定义：常见几个线性空间上内积的定义：欧氏空间（有限维实内积空间）欧氏空间（有限维实内积空间）：上连续函数的全体构成的空间上连续函数的全体构成的空间 ：注：向量的长度注：向量的长度 或或 正交向量正交向量 ：本讲稿第二页，共五十四页实数域上所有实数域上所有n n次多项式构成的线性空间次多项式构成的线性空间 ：实数域上所有实数域上所有n n阶方阵构成的线性空间阶方阵构成的线性空间 ：性质性质1 （内积的性质）（内积的性质）本讲稿第三页，共五十四页定理定理1（Cauchy-Schwarz不等式）不等式）设设 是内积空间，是内积空

2、间，是是 中任意两个向量，则有：中任意两个向量，则有：当且仅当当且仅当 线性相关时等号成立。线性相关时等号成立。本讲稿第四页，共五十四页 上上Cauchy-Schwarz不等式的分量形式不等式的分量形式：上上Cauchy-Schwarz不等式的积分形式不等式的积分形式：本讲稿第五页，共五十四页例例2 设设 是是 中的一组向量，证明这组中的一组向量，证明这组向量线性无关的充要条件是下列行列式（向量线性无关的充要条件是下列行列式（Gram）证明：设证明：设本讲稿第六页，共五十四页2、正交基与子空间的正交关系、正交基与子空间的正交关系定义定义1（正交组）（正交组）内积空间中两两正交的一组非零向量，称

3、之为正交组。内积空间中两两正交的一组非零向量，称之为正交组。注：注：任何一个正交组都是线性无关的任何一个正交组都是线性无关的。定义定义2（正交基）（正交基）在在n维欧氏空间中，由正交组构成的基，称之为正交基。维欧氏空间中，由正交组构成的基，称之为正交基。如果正交基中每个基向量的长度均为如果正交基中每个基向量的长度均为1 1，则称该组正交基，则称该组正交基为标准（或规范）正交基，通常记为为标准（或规范）正交基，通常记为本讲稿第七页，共五十四页定理定理1（正交基的构造正交基的构造）任一任一n维欧氏空间维欧氏空间 都存在正交基。都存在正交基。证明证明（略）。（略）。证明过程给出了正交基的一种构造方法

4、：著证明过程给出了正交基的一种构造方法：著名的名的Schmidt正交化方法（线性代数学过）。正交化方法（线性代数学过）。定义定义3（正交矩阵）（正交矩阵）设设 ，如果，如果 ，则称，则称 为正交矩阵。为正交矩阵。性质性质1 不同标准正交基之间的过渡矩阵为正交矩阵。不同标准正交基之间的过渡矩阵为正交矩阵。设设n维欧氏空间的两组标准正交基为维欧氏空间的两组标准正交基为本讲稿第八页，共五十四页本讲稿第九页，共五十四页即即注：注：正交矩阵的不同列对应元素乘积的和为零；类似地可以正交矩阵的不同列对应元素乘积的和为零；类似地可以证明正交矩阵的不同行对应元素乘积的和为零。证明正交矩阵的不同行对应元素乘积的和

5、为零。正交矩阵正交矩阵性质（略）性质（略）本讲稿第十页，共五十四页定义定义4（正交子空间）（正交子空间）设设 是内积空间是内积空间 的两个子空间，如果对的两个子空间，如果对 ，均有，均有 ，则称，则称 与与 是正交的子空间，并记为是正交的子空间，并记为 。性质性质2 设内积空间设内积空间 的两个子空间的两个子空间 与与 是正交的，是正交的，则则 是直和。是直和。两种方法说明：交集为零空间；两种方法说明：交集为零空间；零元素表示唯一。零元素表示唯一。定义定义5（正交补空间）（正交补空间）设设 是内积空间是内积空间 的两个子空间，且满足的两个子空间，且满足 ，则称，则称 是是 的正交补空的正交补空

6、间，简称正交补，记为间，简称正交补，记为 。本讲稿第十一页，共五十四页性质性质3 n n维欧氏空间维欧氏空间 的任一子空间的任一子空间 都有唯一的正都有唯一的正交补。交补。证明证明:如果如果 ，则，则 是是 唯一的正交补。唯一的正交补。如果如果 ，在，在 中选取一组正交基中选取一组正交基，并将其扩充为，并将其扩充为 的一组正交基的一组正交基则则 就是就是 的正交补。的正交补。唯一性：唯一性：证明证明:如果如果 ，则，则 是是 唯一的正交补。唯一的正交补。同理同理本讲稿第十二页，共五十四页例例3 已知已知 中：中：，其中，其中求求 。本讲稿第十三页，共五十四页利用利用Schmidt正交化方法将其

7、化为正交基：正交化方法将其化为正交基：将将 扩充为扩充为 的一组基：的一组基：本讲稿第十四页，共五十四页解：解：例例4 设设 ，称，称 的子空间的子空间为矩阵为矩阵 的值域，求的值域，求 。注注：一般来说，称：一般来说，称 为矩阵为矩阵 的零空间。的零空间。本讲稿第十五页，共五十四页3、内积空间的同构、内积空间的同构定义定义1（内积空间的同构）（内积空间的同构）设设 是两个内积空间，如果是两个内积空间，如果 和和 之间存在一个一一对应关系之间存在一个一一对应关系 ，使得对任意的，使得对任意的 满足满足 则称则称 和和 是同构的。是同构的。注：注：首先作为线性空间是同构的，在此同构之下保持内积不

8、变。首先作为线性空间是同构的，在此同构之下保持内积不变。本讲稿第十六页，共五十四页定理定理1 所有所有n n维欧氏空间都同构。维欧氏空间都同构。设设 是是n n维欧氏空间，维欧氏空间，是其一组标准正交是其一组标准正交基，则有基，则有定义定义容易验证该映射为同构映射，且保持内积不变，从而容易验证该映射为同构映射，且保持内积不变，从而 与与 同构。同构。设设 是另一是另一n n维欧氏空间，维欧氏空间，是其一组标准是其一组标准正交基，则有正交基，则有定义定义从而从而 与与 同构。同构。本讲稿第十七页，共五十四页4、正交变换、正交变换定义定义1（正交变换）（正交变换）设设 是内积空间是内积空间 的线性

9、变换，如果的线性变换，如果 对任对任意的意的 ，满足，满足则称线性变换则称线性变换 为为 的一个正交变换。的一个正交变换。定理定理1（正交变换的等价定义）（正交变换的等价定义）设设 是是n n维欧氏空间维欧氏空间 的一个线性变换，则下列命的一个线性变换，则下列命题等价：题等价：是正交变换。是正交变换。保持向量长度不变，即对保持向量长度不变，即对 ，均有，均有 。本讲稿第十八页，共五十四页如果如果 是是 的一组标准正交基，则的一组标准正交基，则 也是也是 的一组标准正交基。的一组标准正交基。在在 中任一标准正交基下的矩阵是正交矩阵。中任一标准正交基下的矩阵是正交矩阵。证明思路：证明思路：是正交变

10、换是正交变换取取本讲稿第十九页，共五十四页 是正交变换是正交变换本讲稿第二十页，共五十四页由由2中中性质性质1：不同标准正交基之间的过渡矩阵为正交：不同标准正交基之间的过渡矩阵为正交矩阵，因此矩阵，因此 为正交矩阵。为正交矩阵。本讲稿第二十一页，共五十四页例例5 几个正交变换的例子：几个正交变换的例子：的一个线性变换的一个线性变换 ，对，对则则 是正交变换。是正交变换。设设 是内积空间是内积空间 的一个线性变换，则的一个线性变换，则 是正交变换是正交变换 。即：保持距离不变的线性变换是正交变换。即：保持距离不变的线性变换是正交变换。设设 是内积空间是内积空间 的一个变换，证明：如果的一个变换，

11、证明：如果 保持保持向量的内积不变，即对向量的内积不变，即对 ，则，则 一定是线性变换，故是正交变换。一定是线性变换，故是正交变换。本讲稿第二十二页，共五十四页5、点到子空间的距离与最小二乘法、点到子空间的距离与最小二乘法定义定义1（距离）（距离）设设 是欧氏空间，是欧氏空间，称称 为为 与与 的距离，记为的距离，记为 。性质性质1（距离的性质）（距离的性质），当且仅当，当且仅当 时等号成立。时等号成立。本讲稿第二十三页，共五十四页定义定义2（点到子空间的距离）（点到子空间的距离）设设 是欧氏空间是欧氏空间 的一个子空间，的一个子空间，称称 为为 到到 的距离。的距离。问题问题:达到最小距离的

12、达到最小距离的 具有什么性质？具有什么性质？设设如果如果本讲稿第二十四页，共五十四页定义定义3 最小二乘法问题最小二乘法问题提法提法1 （矛盾方程组求解）（矛盾方程组求解）设给定不相容（或矛盾）线性代数方程组设给定不相容（或矛盾）线性代数方程组其中其中寻求近似解寻求近似解 ，满足，满足故称之为最小二乘解，相应方法称为最小二乘法。故称之为最小二乘解，相应方法称为最小二乘法。本讲稿第二十五页，共五十四页提法提法2 （数据拟合问题）（数据拟合问题）设给定一组数据设给定一组数据 ，寻，寻求一个近似函数求一个近似函数 （经验函数）来拟合该组（经验函数）来拟合该组数据，使得数据，使得提法提法1的求法的求法

13、记记问题问题 相当于：对于相当于：对于给定的向量给定的向量 ，寻求，寻求 使得使得 之间之间的距离达到最小。的距离达到最小。本讲稿第二十六页，共五十四页记记法（正规）方程组法（正规）方程组本讲稿第二十七页，共五十四页解：解：例例6 6：求下列方程组的求下列方程组的最小二乘解最小二乘解本讲稿第二十八页，共五十四页一、复内积空间的定义一、复内积空间的定义6、复内积空间（酉空间）、复内积空间（酉空间）定义定义1 设设 ,如果对如果对 ，存在复数，存在复数（记为（记为 ）与之对应，且满足下列条件）与之对应，且满足下列条件 ，当且仅当，当且仅当 时等号成立。时等号成立。则称复数则称复数 为向量为向量 的

14、内积，定义了内积的内积，定义了内积的的复线性空间称为复内积空间，或称为酉空间。复线性空间称为复内积空间，或称为酉空间。本讲稿第二十九页，共五十四页例例7 常见几个线性空间上复内积的定义：常见几个线性空间上复内积的定义：n n维酉空间（有限维复内积空间）维酉空间（有限维复内积空间）：实数域上所有实数域上所有n n次多项式构成的线性空间次多项式构成的线性空间 ：实数域上所有实数域上所有n n阶方阵构成的线性空间阶方阵构成的线性空间 ：本讲稿第三十页，共五十四页性质性质1 （复内积的性质）（复内积的性质）定理定理1（Cauchy-Schwarz不等式）不等式）设设 是内积空间，是内积空间，是是 中任

15、意两个向量，则有：中任意两个向量，则有：当且仅当当且仅当 线性相关时等号成立。线性相关时等号成立。本讲稿第三十一页，共五十四页 上上Cauchy-Schwarz不等式的分量形式不等式的分量形式：关于复向量的长度、正交向量、正交基、标准关于复向量的长度、正交向量、正交基、标准正交基的概念完全类似实内积空间中的定义，这儿正交基的概念完全类似实内积空间中的定义，这儿不再一一概述。不再一一概述。本讲稿第三十二页，共五十四页定义定义2（酉变换）（酉变换）设设 是酉空间是酉空间 的线性变换，如果的线性变换，如果 对任意对任意的的 ，满足，满足则称线性变换则称线性变换 为为 的酉变换。的酉变换。二、酉变换二

16、、酉变换定义定义3（酉矩阵）（酉矩阵）设设 ，如果，如果 ，则称，则称 为酉矩阵。为酉矩阵。本讲稿第三十三页，共五十四页定理定理2（酉变换的等价定义）（酉变换的等价定义）设设 是是n n维酉空间维酉空间 的一个线性变换，则下列命题的一个线性变换，则下列命题等价：等价：是酉变换。是酉变换。保持向量长度不变，即对保持向量长度不变，即对 ，均有，均有 。如果如果 是是 的一组标准正交基，则的一组标准正交基，则 也是也是 的一组标准正交基。的一组标准正交基。在在 中任一标准正交基下的矩阵是酉矩阵。中任一标准正交基下的矩阵是酉矩阵。定理定理3 所有所有n n维酉空间都是同构的。维酉空间都是同构的。本讲稿

17、第三十四页，共五十四页7、正规矩阵、正规矩阵定义定义1（正规矩阵）（正规矩阵）设设 ，如果，如果 ，则称，则称 为正规为正规矩阵。矩阵。常见的正规矩阵：常见的正规矩阵：实对称矩阵：实对称矩阵：实反对称矩阵：实反对称矩阵：厄米特矩阵：厄米特矩阵：反厄米特矩阵：反厄米特矩阵：正交矩阵：正交矩阵：酉矩阵：酉矩阵：不属于前述类型的正规矩阵：不属于前述类型的正规矩阵：本讲稿第三十五页，共五十四页引理引理 （酉矩阵的构造）（酉矩阵的构造）设设 是酉空间是酉空间 的一个单位的一个单位向量，则存在一个以向量，则存在一个以 为第一个列向量的酉矩阵为第一个列向量的酉矩阵 。证明：证明：取取 ，且满足，且满足上述关

18、于变量上述关于变量 的方程组的解空间为的方程组的解空间为n-1n-1维，不妨假设维，不妨假设其线性无关组为其线性无关组为 ，将其正交单位化后，将其正交单位化后得到得到 ，则，则 构成构成的一组标准正交基，从而的一组标准正交基，从而本讲稿第三十六页，共五十四页证明：充分性直接利用定义验证易得。证明：充分性直接利用定义验证易得。定理定理1 （正规矩阵的判定条件）（正规矩阵的判定条件）设设 为正规矩阵的充要条件是：存在酉矩阵为正规矩阵的充要条件是：存在酉矩阵 ，使得，使得 酉相似于对角矩阵，即酉相似于对角矩阵，即本讲稿第三十七页，共五十四页必要性必要性：数学归纳法证明（对阶数：数学归纳法证明（对阶数

19、n n归纳）归纳）当当n=1n=1时，结论显然成立。时，结论显然成立。假设结论对假设结论对n-1n-1阶矩阵阶矩阵成立，下证对成立，下证对n n阶矩阵也成立。阶矩阵也成立。设设 是是 的一个特征值，的一个特征值，是相应单位特征向量，是相应单位特征向量，由引理知，存在以由引理知，存在以 为列向量的酉矩阵为列向量的酉矩阵本讲稿第三十八页，共五十四页其中其中 是是n-1n-1阶矩阵阶矩阵下面易证下面易证 矩阵矩阵 和和 均为正规矩阵。均为正规矩阵。因为因为 是是n-1n-1阶正规矩阵，由归纳假设结论阶正规矩阵，由归纳假设结论成立。成立。本讲稿第三十九页，共五十四页由归纳假设，存在由归纳假设，存在n-

20、1n-1阶酉矩阵阶酉矩阵 ，满足，满足记记 ，仍为酉矩阵，仍为酉矩阵，本讲稿第四十页，共五十四页 是矩阵是矩阵 的的n n个特征值。个特征值。推论推论1 设设 是是n n阶正规矩阵，特征值为阶正规矩阵，特征值为 是厄米特矩阵是厄米特矩阵 的特征值全为实数。的特征值全为实数。是反厄米特矩阵是反厄米特矩阵 的特征值为的特征值为0 0或纯虚数。或纯虚数。是酉矩阵是酉矩阵 的每个特征值的每个特征值 的模均为的模均为1 1。推论推论2 厄米特（厄米特（HermiteHermite）矩阵）矩阵 任意两个任意两个不同特征值对应的特征向量是正交的。不同特征值对应的特征向量是正交的。本讲稿第四十一页，共五十四页

21、8、厄米特（、厄米特（HermiteHermite）二次型）二次型定义定义1（厄米特二次型）（厄米特二次型）设设 ，为厄米特矩阵，则二次型为厄米特矩阵，则二次型称之为厄米特二次型，称之为厄米特二次型，的秩为二次型的秩。的秩为二次型的秩。例如：例如：本讲稿第四十二页，共五十四页注意注意：厄米特二次型与实二次型的区别。厄米特二次型与实二次型的区别。二次型矩阵二次型矩阵厄米特二次型中不含交叉项时，称为二次型的厄米特二次型中不含交叉项时，称为二次型的标准型标准型，即此时二次型矩阵为即此时二次型矩阵为对角形对角形矩阵。矩阵。本讲稿第四十三页，共五十四页定理定理1 厄米特二次型厄米特二次型 经满秩线性变换

22、经满秩线性变换 后仍为厄米特二次型，且秩不变。后仍为厄米特二次型，且秩不变。定义定义2（厄米特相合）（厄米特相合）设厄米特二次型设厄米特二次型 经满秩线性变换经满秩线性变换 化为化为 ，则称矩阵，则称矩阵 与与 是是厄米特相合。或者说，存在可逆矩阵厄米特相合。或者说，存在可逆矩阵 ，使得，使得 ，则称，则称 与与 厄米特相合。厄米特相合。注意注意：实二次型时称为合同关系。：实二次型时称为合同关系。本讲稿第四十四页，共五十四页定理定理2 每个厄米特二次型每个厄米特二次型 都可用某个酉都可用某个酉变换变换 ，使其化为，使其化为标准型：标准型：其中其中 是是 的特征值。的特征值。本讲稿第四十五页，共

23、五十四页例例8 化下列厄米特二次型为标准型：化下列厄米特二次型为标准型：解：解：该厄米特二次型的矩阵为该厄米特二次型的矩阵为下面先计算矩阵的特征值。下面先计算矩阵的特征值。解：解：该厄米特二次型的矩阵为该厄米特二次型的矩阵为本讲稿第四十六页，共五十四页本讲稿第四十七页，共五十四页下面特征值相应的特征向量。下面特征值相应的特征向量。解方程组解方程组解方程组解方程组本讲稿第四十八页，共五十四页解方程组解方程组将特征向量将特征向量 利用利用SchmiteSchmite方法正交化方法正交化处理（本题处理（本题3 3个向量已经正交：不同特征值对应的特个向量已经正交：不同特征值对应的特征向量一定正交），然

24、后再进行单位化。征向量一定正交），然后再进行单位化。本讲稿第四十九页，共五十四页将上述三个向量按照列排起来的矩阵就是酉矩阵将上述三个向量按照列排起来的矩阵就是酉矩阵 。所求标准型为：所求标准型为：本讲稿第五十页，共五十四页定义定义3（正（负）定二次型）（正（负）定二次型）如果对如果对 ，厄米特二次型，厄米特二次型 恒为正（负）数，则称该二次型是正恒为正（负）数，则称该二次型是正（负）定的，此时厄米特矩阵（负）定的，此时厄米特矩阵 称为正（负）定的；称为正（负）定的；若若 恒不为负（正）数，即恒不为负（正）数，即 ，则称，则称 为半正（负）定的，相应的矩阵为半正（负）定的，相应的矩阵 称为半正（

25、负）定称为半正（负）定的。的。定理定理3 厄米特二次型厄米特二次型 为正定（或半正定）为正定（或半正定）的充要条件是的充要条件是 的特征值全为正数（或全为非负数）的特征值全为正数（或全为非负数）。本讲稿第五十一页，共五十四页证明：证明：充分性由充分性由定理定理2易证，必要性（采用反证法）易证，必要性（采用反证法）设存在特征值为非负，不妨假设设存在特征值为非负，不妨假设取非零向量取非零向量类似地可以证明半正定的情况。类似地可以证明半正定的情况。本讲稿第五十二页，共五十四页定理定理4 如果如果 为厄米特矩阵，则下列两个条件中的任为厄米特矩阵，则下列两个条件中的任何一个都是何一个都是 为正定矩阵的充要条件：为正定矩阵的充要条件：存在满秩矩阵存在满秩矩阵 ，使得，使得 ；存在满秩矩阵存在满秩矩阵 ，使得，使得 。本讲稿第五十三页，共五十四页定理定理5 厄米特二次型厄米特二次型 为正定的充要条件为正定的充要条件是是 的各阶顺序主子式大于零的各阶顺序主子式大于零。定理定理6 设设 ，是两个厄米特是两个厄米特二次型，且二次型，且 正定，则存在满秩线性变换正定，则存在满秩线性变换 ，使这两个二次型同时化为标准型：，使这两个二次型同时化为标准型：利用利用定理定理4证明。证明。本讲稿第五十四页，共五十四页