机器学习教程 一 |
您所在的位置：网站首页 › 矩阵左右两条竖线 › 机器学习教程 一 |
机器学习教程 一
数学是计算机技术的基础，线性代数是机器学习和深度学习的基础，了解数据知识最好的方法我觉得是理解概念，数学不只是上学时用来考试的，也是工作中必不可少的基础知识，实际上有很多有趣的数学门类在学校里学不到，有很多拓展类的数据能让我们发散思维，但掌握最基本的数学知识是前提，本文就以线性代数的各种词条来做一下预热，不懂的记得百度一下。 请尊重原创，转载请注明来源网站www.shareditor.com以及原始链接地址 矩阵与方程组 还记得n*n方程组是怎么求解的吗？这个术语叫“回代法”，即转成三角形方程组再挨个代入求解 一直不理解“代数”这个“代”是什么意思，现在终于理解了，代，英文是substitution，含义是代替，从初中到现在一直以为“代数”就是“代入” 系数矩阵，英文名叫coefficient matrix，怪不得读开源代码里面经常遇到变量名叫做coe，原来是从这来的 “导数”、“可导”还记得吗？不知道“导”是什么含义的有木有？英文derivative（含义是派生的、衍生的），看起来不是疏导的意思，而是音译过来的 矩阵就是矩形的数字阵列，这再简单不过了 n*n的矩阵叫方阵，傻子都知道了 系数矩阵加一列右端项的矩阵叫增广矩阵，英文叫做augmented matrix，记作：(A|B)，科学家们随便想个东西起个名字就让我们抱着书本啃，我把A后面放两个B，叫做“增广矩阵二”行吗 行阶梯型矩阵，这回有点难度了，它就是这样的：非零一行比一行少，第一个元素是1，数字靠右 高斯消元法：把增广矩阵化为行阶梯型矩阵 超定方程组：方程个数比未知量个数多 行最简形：行阶梯形，每行第一个非零元是该列唯一的非零元 高斯-若尔当消元法：将矩阵化为最简形的方法 齐次方程组(homogeneous)：右端项全为零。齐次方程组总是有解的 平凡解，就是零解（0,0,0,.....0），能不能别这么平凡的叫.... 非平凡解：零解以外的解 x上面加水平箭头表示水平数组（行向量），不加则表示列向量，不一样的书里记法不太一样，姑且这么记吧 对称矩阵的性质：转置等于他自己 若A=(1)，则An=(2n-1) 如果AB=BA=I，则称A是可逆的，或A是非奇异的(nonsingular)，B叫做A的逆元，记作A-1 矩阵没有乘法逆元，那么叫做奇异的(singlular) (AB)-1=B-1A-1 (AB)T=BTAT 图的邻接矩阵（相连为1否则为0）是对称的 初等矩阵：乘到方程两端得到行阶梯形，初等矩阵是非奇异的，即有逆 如果B=多个初等矩阵连乘A，那么说A与B是行等价的 如果A与I行等价，那么Ax=0只有平凡解0，而且A有逆矩阵A-1，也就是A是非奇异的，此时Ax=b有唯一解 求逆的方法：对增广矩阵A|I做行列变换，把A变成I，则I变成了A-1 对角矩阵：对角线以外的元素都是0 如果A可以仅利用行运算化简为严格上三角形，则A有一LU分解，L是单位下三角矩阵，矩阵值就是变换中用的系数，这叫LU分解 矩阵分块后满足矩阵乘法规则 内积也叫标量积：行向量和列向量乘积，得出一个数 外积：列向量和行向量乘积，得出一个矩阵 外积展开：两个矩阵分别用向量方式表示，其乘积可以表示为外积展开行列式 行列式：两条竖线间包括的阵列 每个方形矩阵可以和他的行列式对应，行列式数值说明方阵是否是奇异的 行列式算法：展开某一行，每个数乘以他的余子式并加和 如果行列式非0，则方形矩阵为非奇异 det(A)可表示为A的任何行或列的余子式展开 三角形矩阵的行列式等于对角元素乘积 交换矩阵两行，行列式变成原来的负数，即det(EA)=-det(A) 矩阵某行乘以a，行列式变成原来的a倍，即det(EA)=adet(A) 矩阵某行乘以a加到另一行，行列式不变 如果某行为另一行的倍数，则矩阵行列式为零 det(AB)=det(A)det(B) adj A：矩阵的伴随(adjoint)，将元素用余子式替换并转置 求逆方法：A-1=(1/det(A)) adj A，推导：A(adj A)=det(A)I所以A(((1/det(A)) adj A) = I 克拉黙法则：Ax=b的唯一解是xi=det(Ai)/det(A)，这是线性方程组用行列式求解的便利方法 信息加密方法：找到行列式为正负1的整数矩阵A，A-1=+-adj A易求，乘A加密，乘A-1解密，A的构造方法：单位矩阵做初等变换 向量积也是一个向量 微积分中x看做行向量，线性代数中x看做列向量 假设x和y是行向量，则x*y=(x2y3-y2x3)i-(x1y3-y1x3)j+(x1y2-y1x2)k，其中i,j,k是单位矩阵的行向量 向量积可用于定义副法线方向 xT(x*y)=yT(x*y)=0，说明向量积与向量夹角为0 向量空间 向量空间：这个集合中满足加法和标量乘法运算，标量通常指实数 子空间：向量空间S的子集本身也是个向量空间，这个子集叫做子空间 除了{0}和向量空间本身外，其他子空间叫做真子空间，类似于真子集的概念，{0}叫做零子空间 Ax=0的解空间N(A)称为A的零空间，也就是说Ax=0线性方程组的解空间构成一个向量空间 向量空间V中多个向量的线性组合构成的集合成为这些向量的张成(span)，记作span(v1,v2,...,vn) span(e1,e2)为R3的一个子空间，从几何上表示为所有x1x2平面内3维空间的向量 span(e1,e2,e3)=R3 如果span(v1,v2,v3)=R3，那么说向量v1,v2,v3张成R3，{v1,v2,v3}是V的一个张集 最小张集是说里面没有多余的向量 最小张集的判断方法是：这些向量线性组合=0只有0解，这种情况也就是这些向量是线性无关的，如果有非零解那么就说是线性相关的 在几何上看二位向量线性相关等价于平行，三维向量线性相关等价于在同一个平面内 向量构成矩阵的行列式det(A)=0，则线性相关，否则线性无关 线性无关向量唯一地线性组合来表示任意向量 最小张集构成向量空间的基，{e1,e2...en}叫做标准基，基向量数目就是向量空间的维数 转移矩阵：把坐标从一组基到另一组基的变换矩阵 由A的行向量张成的R1*n子空间成为A的行空间，由A的列向量张成的Rm子空间成为A的列空间 A的行空间的维数成为A的秩(rank)，求A的秩方法：把A化为行阶梯形，非零行个数就是秩 矩阵的零空间的维数成为矩阵的零度，一般秩和零度之和等于矩阵的列数 m*n矩阵行空间维数等于列空间的维数 线性变换 线性变换：L(av1+bv2)=aL(v1)+bL(v2) 线性算子：一个向量空间到其自身的线性变换 典型线性算子距离：ax(伸长或压缩a倍)，x1e1（到x1轴的投影），(x1,-x2)T（关于x1轴作对称），(-x2,x1)T逆时针旋转90度 判断是不是线性变换，就看看这种变换能不能转化成一个m*n矩阵 线性变换L的核记为ker(L)，表示线性变换后的向量空间中的0向量 子空间S的象记为L(S)，表示子空间S上向量做L变换的值 整个向量空间的象L(V)成为L的值域 ker(L)为V的一个子空间，L(S)为W的一个子空间，其中L是V到W的线性变换，S是V的子空间 从以E为有序基的向量空间V到以F为有序基的向量空间W的线性变换的矩阵A叫做表示矩阵 B为L相应于[u1,u2]的表示矩阵,A为L相应于[e1,e2]的表示矩阵，U为从[u1,u2]到[e1,e2]的转移矩阵，则B=U-1AU 如果B=S-1AS，则称B相似于A 如果A和B为同一线性算子L的表示矩阵，则A和B是相似的 正交性 两个向量的标量积为零，则称他们正交(orthogonal) R2或R3中的向量x和y之间的距离是：||x-y|| xTy=||x|| ||y|| cos θ，即cos θ=xTy / (||x|| ||y||) 设方向向量u=(1/||x||)x，v=(1/||y||)y，则cos θ=uTv，即夹角余弦等于单位向量的标量积 柯西-施瓦茨不等式：|xTy| = 0; =; =a+b a=/||v||为u到v的标量投影 p=(/) v为u到v的向量投影 柯西-施瓦茨不等式：|| =0; ||av||=|a| ||v||; ||v+w|| |
【本文地址】
今日新闻 |
推荐新闻 |