第一章线性空间和线性变换概况优秀PPT.ppt
《第一章线性空间和线性变换概况优秀PPT.ppt》由会员分享,可在线阅读,更多相关《第一章线性空间和线性变换概况优秀PPT.ppt(85页珍藏版)》请在得力文库 - 分享文档赚钱的网站上搜索。
1、矩阵分析常新功常新功邮箱:邮箱:c_x_g126 c_x_g126 v教材及参考资料教材及参考资料v11矩阵分析,史荣昌,魏丰编著,北京理工高矩阵分析,史荣昌,魏丰编著,北京理工高校出版社,校出版社,2010.62010.6,第,第3 3版版v22Matrix Methods in Data Mining and Matrix Methods in Data Mining and Pattern RecognitionPattern Recognition,Lars EldnLars Eldn,The SIAM The SIAM series on Fundamentals of Algori
2、thmsseries on Fundamentals of Algorithms,2007.22007.2v33Foundations of Data ScienceFoundations of Data Science,John John HopcroftHopcroft,Ravindran KannanRavindran Kannan,Version 11/4/2014Version 11/4/2014v预习、听课、复习、练习预习、听课、复习、练习(每章至少每章至少5 5题题)、阅读相关、阅读相关文献、考试文献、考试 作为一门重要的数学工具,矩阵分析极大地推作为一门重要的数学工具,矩阵分析
3、极大地推动了信息处理(机器学习、商务智能、数据挖掘、动了信息处理(机器学习、商务智能、数据挖掘、网络分析)的发展。网络分析)的发展。1.1.线性空间与线性变换线性空间与线性变换2.2.矩阵与矩阵的矩阵与矩阵的JordanJordan标准形标准形3.3.内积空间、正规则阵、内积空间、正规则阵、HermiteHermite矩阵矩阵4.4.矩阵分解矩阵分解5.5.范数、序列、级数范数、序列、级数6.6.矩阵函数矩阵函数7.7.函数矩阵与矩阵微分方程函数矩阵与矩阵微分方程8.8.矩阵的广义逆矩阵的广义逆9.9.KroneckerKronecker积积主要内容主要内容v线性空间与线性变换:以前我们谈集合
4、和映射线性空间与线性变换:以前我们谈集合和映射(自自己到自己的映射称为变换,一般映射总可以化为变己到自己的映射称为变换,一般映射总可以化为变换换),现在谈空间与变换。一般我们指具有结构的,现在谈空间与变换。一般我们指具有结构的集合称为空间。集合称为空间。(代数代数)结构是指定义了某些运算的结构是指定义了某些运算的集合。如定义了线性运算集合。如定义了线性运算(加和数乘加和数乘)且运算满足确且运算满足确定性质的集合称为线性空间。第一章是全书的基础,定性质的集合称为线性空间。第一章是全书的基础,重要概念有线性空间、线性子空间、线性变换及其重要概念有线性空间、线性子空间、线性变换及其矩阵表示、核空间,
5、值空间、线性变换的特征值与矩阵表示、核空间,值空间、线性变换的特征值与特征向量。特征向量。v矩阵与矩阵的矩阵与矩阵的Jordan标准形:元素为标准形:元素为 的多项式的的多项式的矩阵称为矩阵称为 矩阵。特征矩阵矩阵。特征矩阵 E-A就是就是 矩阵的特例。矩阵的特例。利用这个概念我们可以导出任一矩阵均相像于其利用这个概念我们可以导出任一矩阵均相像于其Jordan标准形这一重要结果。特征值与特征向量标准形这一重要结果。特征值与特征向量在求在求Jordan标准形的过程中起到了重要的作用。标准形的过程中起到了重要的作用。而而Jordan标准形有助于解决很多问题。标准形有助于解决很多问题。v内积空间、正
6、规则阵、内积空间、正规则阵、HermiteHermite矩阵:引入内矩阵:引入内积的线性空间称为内积空间积的线性空间称为内积空间(欧氏空间和酉空欧氏空间和酉空间间),内积将度量的概念引入到了线性空间中,内积将度量的概念引入到了线性空间中,这样我们就可以在其中求距离、夹角、极限这样我们就可以在其中求距离、夹角、极限等等。正规则阵、等等。正规则阵、HermiteHermite矩阵、二次型是本矩阵、二次型是本章的主要概念。章的主要概念。v矩阵分解:矩阵分解讲解满秩分解,正交三矩阵分解:矩阵分解讲解满秩分解,正交三角分解,奇异值分解,非负矩阵分解和谱分角分解,奇异值分解,非负矩阵分解和谱分解。解。v范
7、数、序列、级数:定义了范数,我们就可范数、序列、级数:定义了范数,我们就可以定义矩阵序列、矩阵级数及其极限,并探以定义矩阵序列、矩阵级数及其极限,并探讨其收敛和发散性。讨其收敛和发散性。v矩阵函数:以矩阵为变量的函数称为矩阵函矩阵函数:以矩阵为变量的函数称为矩阵函数。数。JordanJordan标准形在此起了很重要的作用。标准形在此起了很重要的作用。v函数矩阵与矩阵微分方程:将函数矩阵与矩阵微分方程:将矩阵的概念矩阵的概念推广,元素为随意函数的矩阵称为函数矩阵。推广,元素为随意函数的矩阵称为函数矩阵。这样我们可以求矩阵的导数、微分、积分,这样我们可以求矩阵的导数、微分、积分,并求解相应的微分方
8、程。并求解相应的微分方程。v矩阵的广义逆:将逆矩阵的概念在矩阵不行矩阵的广义逆:将逆矩阵的概念在矩阵不行逆的情形正在推广就得到了广义逆或伪逆矩逆的情形正在推广就得到了广义逆或伪逆矩阵的概念,从而使矩阵的求逆运算推广到了阵的概念,从而使矩阵的求逆运算推广到了更广的场合。更广的场合。vKroneckerKronecker积:积:KroneckerKronecker积是矩阵的另一种积是矩阵的另一种乘法,有广泛的应用。乘法,有广泛的应用。第一章第一章 线性空间与线性变换线性空间与线性变换第一章第一章 线性空间与线性变换线性空间与线性变换1.1 1.1 线性空间线性空间1.2 1.2 基与坐标、坐标变换
9、基与坐标、坐标变换1.3 1.3 线性子空间线性子空间1.4 1.4 线性映射线性映射1.5 1.5 线性映射的值域、核线性映射的值域、核1.6 1.6 线性变换的矩阵与线性变换的运算线性变换的矩阵与线性变换的运算1.7 n1.7 n维线性空间的结构维线性空间的结构1.8 1.8 线性变换的特征值与特征向量线性变换的特征值与特征向量1.9 1.9 线性变换的不变子空间线性变换的不变子空间1.10 1.10 矩阵的相像形矩阵的相像形1.1 线性空间线性空间(a)数域数域数域数域(field):关于四则运算封闭的数的集合。:关于四则运算封闭的数的集合。任何数域任何数域都含有元素都含有元素0和元素和
10、元素1;典型数域:复数域典型数域:复数域C,实数域实数域R,有理数域有理数域Q;随意数域随意数域F F都包括有理数域都包括有理数域Q Q。一、线性空间概念一、线性空间概念(b)线性空间线性空间 给定非空集合给定非空集合V,数域,数域F,假如满足:,假如满足:在在V中定义一个中定义一个封闭封闭的加法的加法加法交换律加法交换律加法结合律加法结合律零向量零向量负向量负向量 在在V中定义一个中定义一个封闭封闭的数乘运算的数乘运算数对元素分配律数对元素分配律元素对数分配律元素对数分配律数因子结合律数因子结合律单位向量单位向量则称则称V是是F上的上的线性空间线性空间(linear space)。当。当F是
11、实是实数域时,称数域时,称V为为实线性空间实线性空间;当;当F是复数域时,称是复数域时,称V为为复线性空间。复线性空间。阿贝尔群V和数域F上的线性运算具有良好性质,则构成一个线性空间。例例1 实系数,次数不超过实系数,次数不超过n的一元多项式的集合构的一元多项式的集合构成实数域成实数域R上的线性空间,但由全部次数为上的线性空间,但由全部次数为n的实的实系数多项式构成的集合系数多项式构成的集合V不是实数域不是实数域R上的线性空上的线性空间。间。例例2 2 闭区间闭区间a,ba,b上全部实连续函数集上全部实连续函数集 Ca,b=f(x)|f(x)Ca,b=f(x)|f(x)是是a,ba,b上实连续
12、函数上实连续函数.f,gf,g Ca,b,kCa,b,k R,(f+g)(x)=f(x)+g(x),R,(f+g)(x)=f(x)+g(x),(kf)(x)=kf(x).(kf)(x)=kf(x).不难证明不难证明Ca,bCa,b满足线性空间的满足线性空间的定义定义,故它是实线性空间。故它是实线性空间。例例3 全部全部n阶实向量的集合。阶实向量的集合。Rn例例4 全部全部n阶实矩阵的集合。阶实矩阵的集合。Rnn(c)线性空间的基本性质线性空间的基本性质 1.零元素是唯一的;零元素是唯一的;2.任一元素的负元素是唯一的;任一元素的负元素是唯一的;3.设设 ,有有 若若 ,则则 或或 。给定线性空
13、间给定线性空间V中一组元素中一组元素x1,xm,对于对于xV,若存在数域若存在数域K中的一组数中的一组数c1,cm使得使得则称则称x是是x1,xm的的线性组合线性组合(linear combination),或称或称x能被能被x1,xm线性表示线性表示(线性表出线性表出)。对于线性空间对于线性空间V中一组元素中一组元素x1,xm,若存在数域若存在数域F中的一组不全为零的数中的一组不全为零的数c1,cm使得使得则称则称x1,xm是是线性相关线性相关(linearly dependent)的。的。否则称否则称x1,xm是是线性无关线性无关(linearly independent)的。的。二、向量
14、的线性相关性二、向量的线性相关性例例5 在在Rn中,分别探讨下面两个向量组的线性相中,分别探讨下面两个向量组的线性相关性:关性:例例6 探讨下面探讨下面2阶矩阵的线性相关性:阶矩阵的线性相关性:例例7 设设V是是R上全体实函数构成的线性空间,探讨上全体实函数构成的线性空间,探讨V中元素组中元素组t,et,e2t的线性相关性。的线性相关性。1.一个向量线性相关的充要条件是它是零向量。一个向量线性相关的充要条件是它是零向量。两个以上的的向量线性相关的充要条件是其中有两个以上的的向量线性相关的充要条件是其中有一个向量是其余向量的线性组合。一个向量是其余向量的线性组合。2.假如向量组假如向量组x1,x
15、2,xr线性无关,而且可以被向线性无关,而且可以被向量组量组y1,y2,ys线性表出,则线性表出,则rs。3.两个等价的线性无关的向量组,必含有相同数两个等价的线性无关的向量组,必含有相同数量的向量。量的向量。4.假如向量组假如向量组x1,x2,xr线性无关,但线性无关,但x1,x2,xr,y线性相关,则线性相关,则y必可以由必可以由x1,x2,xr线线性表出,且表法唯一。性表出,且表法唯一。线性空间线性空间V中线性无关向量组所含向量最大个数中线性无关向量组所含向量最大个数n称为称为V的的维数维数(dimension),记为,记为dimV=n。当。当n是有是有限数时,称限数时,称V为为n维线性
16、空间维线性空间。当。当n=时,称时,称V为为无无限维线性空间限维线性空间。例例1 Pnx的维数为的维数为n+1,1,x,x2,xn是一个是一个最大线最大线性无关组性无关组。例例2 微分方程微分方程 的解集为的解集为例例3 全部全部n阶实矩阵的集合阶实矩阵的集合Rnn是是n2维线性空间,维线性空间,Eij=eiejT是一个最大线性无关组。是一个最大线性无关组。则则dimY=2。全部实系数多项式构成的线性空间是无限维的。全部实系数多项式构成的线性空间是无限维的。1.2 1.2 基与坐标、坐标变换基与坐标、坐标变换(a)维数维数(b)基与坐标基与坐标给定数域给定数域F上的线性空间上的线性空间V,x1
17、,x2,xr是是V中的中的r个向量。假如满足:个向量。假如满足:1.x1,x2,xr线性无关;线性无关;2.V中随意一个向量都可以由中随意一个向量都可以由x1,x2,xr线性表出,则线性表出,则称称x1,x2,xr是是V的一组基的一组基(base),并称,并称xi为基向为基向量。量。线性空间的维数就是基中所含基向量个数。线性空间的维数就是基中所含基向量个数。称称n维线性空间维线性空间V的一组基的一组基x1,x2,xn为为坐标系坐标系。对随意对随意xV,在该组基下的线性表示为,在该组基下的线性表示为则称则称x1,x2,xn是是x在该坐标系下的坐标在该坐标系下的坐标(coordinate)或重量,
18、记为或重量,记为(x1,x2,xn)T。(c)基变换基变换假设假设x1,x2,xn是是n维线性空间维线性空间V的基,的基,y1,y2,yn是是V的另一组基,则有的另一组基,则有称称矩阵矩阵(matrix)C是一组基到另一组基的是一组基到另一组基的过渡矩阵过渡矩阵定理定理3:若:若P是从是从x1,x2,xn到到y1,y2,yn的过渡矩阵,的过渡矩阵,则从则从y1,y2,yn到到x1,x2,xn 的过渡矩阵是的过渡矩阵是P-1。定理定理4:假设从:假设从x1,x2,xn到到y1,y2,yn的过渡矩阵是的过渡矩阵是C,从,从y1,y2,yn到到z1,z2,zn的过渡矩阵是的过渡矩阵是B,则从,则从x
19、1,x2,xn到到z1,z2,zn的过渡矩阵是的过渡矩阵是CB。定理定理2:过渡矩阵都是可逆矩阵;反过来,任一可过渡矩阵都是可逆矩阵;反过来,任一可逆矩阵都可看成是两组基之间的过渡矩阵。逆矩阵都可看成是两组基之间的过渡矩阵。(d)坐标变换坐标变换假设假设n维线性空间维线性空间V中的基中的基x1,x2,xn到到y1,y2,yn的的过渡矩阵是过渡矩阵是C,即,即x在两组基的坐标为在两组基的坐标为(x x1,x x2,x xn)T和和(h h1,h h2,h hn)T,则有则有或或例例4 给定给定n维向量空间中的两组基:维向量空间中的两组基:求从求从x1,x2,xn到到y1,y2,yn的过渡矩阵的过
20、渡矩阵C和从和从y1,y2,yn到到x1,x2,xn 的过渡矩阵的过渡矩阵B。并求向量。并求向量a a=(a1,a2,an)在在y1,y2,yn下的坐标。下的坐标。例例5 给定给定4维向量空间中的两组基:维向量空间中的两组基:求从求从x1,x2,x3,x4到到y1,y2,y3,y4的过渡矩阵的过渡矩阵C。例例6 已知已知R22中的两组基:中的两组基:求从求从E11,E12,E21,E22到到F11,F12,F21,F22的过渡矩阵,并的过渡矩阵,并求矩阵求矩阵在基在基F11,F12,F21,F22下的坐标。下的坐标。1.3 线性子空间线性子空间(a)线性子空间线性子空间设设V1是数域是数域F上
21、的线性空间上的线性空间V上一个非空子集合,上一个非空子集合,且对已有的线性运算满足以下条件:且对已有的线性运算满足以下条件:1.假如假如x,yV1,则,则x+yV1;则称则称V1是是V的的线性子空间线性子空间(linear subspace)或或子空子空间间。线性子空间也是线性空间;线性子空间也是线性空间;2.假如假如xV1,kF,则,则kxV1;线性空间的平凡子空间:线性空间自身和线性空间的平凡子空间:线性空间自身和0子空间;子空间;线性子空间的维数小于等于线性空间的维数。线性子空间的维数小于等于线性空间的维数。n元齐次线性方程组元齐次线性方程组的全部解向量所成集合的全部解向量所成集合W对于
22、通常的向量加法和数对于通常的向量加法和数量乘法构成的线性空间是量乘法构成的线性空间是n维向量空间维向量空间Rn的一个子的一个子空间,称为方程组的解空间。空间,称为方程组的解空间。方程组的解空间方程组的解空间W的维数的维数=n-秩秩(A)=n-rankA。方程组的一个基础解系就是解空间方程组的一个基础解系就是解空间W的一组基。的一组基。例例1 推断推断Rn的下列子集合哪些是子空间:的下列子集合哪些是子空间:若为若为Rn的子空间,求出其维数与一组基。的子空间,求出其维数与一组基。V1是子空间,是子空间,dimV1=n-1,一组基为:,一组基为:(-1,0,0,1),(0,-1,0,1),(0,0,
23、-1,1)。V2不是子空间,因为对于不是子空间,因为对于 。V3是子空间,是子空间,dimV3=n-1,一组基为:,一组基为:e1=(1,0,0,0),e2=(0,1,0,0),en-1=(0,0,1,0)。设设x1,x2,xm是数域是数域K上的线性空间上的线性空间V的一组向量,的一组向量,其全部可能的线性组合的集合其全部可能的线性组合的集合 是是V的线性子空间,称为由的线性子空间,称为由x1,x2,xm生成生成(或或张成张成)的子空间的子空间,记为记为假如假如x1,x2,xm是线性无关是线性无关,则它们就是一组基。则它们就是一组基。定理定理5:设:设V1为为n维线性空间维线性空间V的一个的一
24、个 m 维子空间,维子空间,x1,x2,xm为为V1的一组基,则这组向量必定可扩充为的一组基,则这组向量必定可扩充为V的一组基,即在的一组基,即在V中必定可找到中必定可找到nm个向量个向量xm+1,xm+2,xn,使得,使得x1,x2,xn是是V的一组基。的一组基。设设ARmn的的n个列向量为个列向量为a1,a2,an,则,则是是Rm的线性子空间,称为矩阵的线性子空间,称为矩阵A的的值域值域(range)。类似可定义类似可定义AT的值域,它是的值域,它是Rn的线性子空间。的线性子空间。对于矩阵对于矩阵ARmn,集合,集合称为称为A的的核空间核空间(null space),记为,记为N(A)。它
25、是。它是Rn的的线性子空间。它的维数称为线性子空间。它的维数称为A的零度,记为的零度,记为n(A),简洁证明:简洁证明:rankA=dimR(A)=dimR(AT)。例例3 设设ARmn,证明:,证明:例例2 已知已知 ,求,求A,AT的秩和零度。的秩和零度。dimR(AT)+dimN(AT)=m;dimR(A)+dimN(A)=n;n(A)-n(AT)=n-m。(b)线性子空间的交与和线性子空间的交与和定理定理6:设:设V1、V2为线性空间为线性空间V的子空间,则集合的子空间,则集合 也为也为V的子空间,称之为的子空间,称之为V1与与V2的的交交(intersection)空间空间。定理定理
- 配套讲稿:
如PPT文件的首页显示word图标,表示该PPT已包含配套word讲稿。双击word图标可打开word文档。
- 特殊限制:
部分文档作品中含有的国旗、国徽等图片,仅作为作品整体效果示例展示,禁止商用。设计者仅对作品中独创性部分享有著作权。
- 关 键 词:
- 第一章 线性 空间 线性变换 概况 优秀 PPT
限制150内