天天看点

机器学习基础知识学习-线性代数之向量(运算、线性关系)

作者:通过技术看生活

向量包括n维向量及其运算、向量间的线性关系、线性相关线性无关、向量组的秩。跟着宋浩老师的视频复习,前几个知识点还能弄懂原理,在学习向量组的秩时因为涉及到初等变换、矩阵的秩等内容了,导致学习起来有些知识点听不懂,看来数学学习不能"偷工减料",下次要将初等变换、矩阵的秩等内容也补齐。

n维向量及其运算

①n个数a1 ... an组成的有序数组(a1,a2,...an)是向量

②数组中的a1,a2...是分量

③默认行向量

④分量全是0的向量记做0向量

⑤两个向量相等的前提条件是同维向量

⑥延伸复习内容:矩阵相等的前提条件是同行矩阵

⑦延伸复习内容:矩阵秩的定义-不为零的子式最大阶数

向量间的线性关系

用两个向量表示一个向量,就叫做线性组合

机器学习基础知识学习-线性代数之向量(运算、线性关系)

线性组合

线性组合:B,a1,a2...an是m维向量。若存在k1,k2,kn,使B=k1a1+k2a2+...+knan就叫B是a向量组的线性组合或者B是向量组的线性表示。k1称作线性表示系数,可以全取0

线性组合特性:

①零向量可由任意向量表示

0 = 0*a1 + 0*a2 + ... + 0*an

②向量组中任一向量可由向量组表示

a3 = 0*a1 + 0*a2 + 1*a3 + 0*a4

③n维基本单位向量组。任意向量可由= (1,0,...0),= (0,1,0,...0), ... = (0,...0,1)表示。

例:(1,2,3) = 1*(1,0,0) + 2*(0,1,0) + 3*(0,0,1)

看一个向量组合的例子,体会下向量、线性组合、向量组的线性表示、线性表示系数:

机器学习基础知识学习-线性代数之向量(运算、线性关系)

向量计算

向量组的等价

a1...am B1...Bn 是同维向量组

两个向量组可以相互线性表示

相互表示:{a1...am} {B1...Bn}

向量组等价的特性:

①反身性:{a1...am} {a1...am}

向量组等价其本身

②对称性:{a1...am} {B1...Bn}

得{B1...Bn}{a1...am}

③{a1...am} {B1...Bn}

{B1...Bn} {...}

得:{a1...am} {...}

a1...an是n个m维向量,若存在一组不全为0 得k1...kn,k1a1 + k2a2 + ... + knan = 0 (*),

则a1...an是线性相关

线性无关的定义: ①不是线性相关 ②找不到一组不全为0的k1...kn值使(*)成立③(*)成立,k1...kn必全为0

线性相关与无关的特性:

1)向量组中两向量成比例,即为线性相关。

机器学习基础知识学习-线性代数之向量(运算、线性关系)

两向量成比例,既为线性相关

2)含零向量的任一向量组必线性相关

例:0*a1 + 0*a2 + 0*a3 + 1*0 = 0

3)一个零向量必线性相关 例:1 * 0 = 0

4)一个非零向量必线性无关 例:a≠0 ka=0 k=0

5)一个向量a线性相关 a=0

例:a1...ar向量组合线性相关,证明a1...ar...ar+1...as线性相关

证明:设a1,a2,a3线性相关,

∵ a1 a2 a3线性相关 ∴ 存在不全为0的k1 k2 k3

k1a1 + k2a2 + k3a3 = 0

k1a1 + k2a2 + k3a3 + 0a4 + 0a5 = 0

k1 k2 k3 0 0不全为0 ∴a1 ... a5线性相关

即 a1 ... ar ... ar+1 ... as线性相关

由以上例题可推出命题:①部分向量组线性相关,它的整体向量组线性相关②线性相关的向量组,截断的向量组也线性相关

逆否命题:①部分向量组线性无关,它的整体向量组线性无关②线性无关的向量组,它的截长向量组也线性无关

看一个线性无关的证明题:a,B,无关,证明a+B B+ a+无关

设k1 k2 k3 k1(a+B) + k2(B+) + k3(a+) = 0

(k1+k3)a + (k1+k2)B + (k2+k3) = 0

∵ a B 是线性无关,∴ 线性表示系数 k1+k3=0 k1+k2=0 k2+k3=0

最后推出两个特性:

线性相关 非零解

线性无关 只有零解

线性相关线性无关

接下来线性相关线性无关用定理来推导证明

定理:

1)a1...as向量组线性相关 至少一个向量可由其余向量表示

正向推导: ∵ a1...as线性相关,设不全为0的线性表示系数k1...ks

k1a1+...+ksas = 0 假设k1≠0

a1 = - k2a2/k1 ... -ksas/k1

反向推导:设a1 = m1a2+...+ms-1as -a1+m1a2+...+ms-1as=0

∴a1的线性表示系数是-1,m1...ms-1可为0,存在一组不全为0的线性表示系数,即向量组的线性表示复合线性相关的要求。∴a1...as向量组是线性相关

2)a1...as向量组线性无关,a1...as B向量组线性无关 证明:B可由a1...as唯一表示

证明:∵a1...as B是向量组合线性相关 ∴存在不全为0的k1...ks+1

k1a1+...+ksas+ks+1B=0

∵ a1...as向量组线性无关,a1...as B向量组线性无关

∴ k1+...+ks=0,ks+1≠0

即B = -k1a1/ks+1 ...-ksas/ks+1 ∴B可由a1...as表示

继续证明B可由a1...as唯一表示

B = m1a1 + ... + msas

B = n1a1 + ... + nsas

(m1-n1)a1 + ... + (ms-ns)as = 0

∵ a1...as向量组线性无关 ∴ m1-n1=0 ... ms-ns=0

m1=n1 ... ms=ns

即B可由a1...as唯一表示

3)替换 a1...as线性无关,可由B1...Bt表示,则s t

a1...as可由B1...Bt表示 s >t 则a1...as线性相关

m >n m个n维向量线性相关 (向量个数>向量维数)

n+1个n维向量 得到线性相关

向量组的秩

学到向量组的秩,因为牵扯到初等变换、矩阵的秩等知识点,理解起来就有些困难了.先把初等变换和矩阵的秩学习完,再补充向量组的秩。

#头条创作挑战赛#

继续阅读