线性代数-向量空间

- 向量空间

向量空间

向量空间的严格定义：

设

V

$V$

为一向量组，如果

V

$V$

非空，且

V

$V$

对于向量的加法以及数乘两种运算封闭，那么就称

V

$V$

为
向量空间
。

所谓封闭，是指在

V

$V$

中向量进行数乘和加减，其结果依然在

V

$V$

中。具体的说，就是：

若
$\vec{a} \in V, \vec{b} \in V, a ∈ V , b ∈ V , 则 a ⃗ + b ⃗ ∈ V \vec{a} + \vec{b} \in V a + b ∈ V$

若
$\vec{a} \in V, k \in \mathbb{R}, a ∈ V , k ∈ R , 则 k a ⃗ ∈ V k\vec{a} \in V k a ∈ V$

所有

n

$n$

维向量构成的集合是一个
向量空间

n

\mathbb{R}^n

$R^{n}$

:

n

=

{

(

x

1

,

x

2

,

.

.

.

,

x

n

)

∣

n

∈

N

,

x

n

∈

R

}

\mathbb{R}^n = \{(x_1,x_2,…,x_n) | n \in \mathbb{N}, x_n \in \mathbb{R}\}

$R^{n} = {(x_{1}, x_{2}, . . ., x_{n}) ∣ n \in N, x_{n} \in R}$

张成空间

某

向量组

=

{

v

1

⃗

,

v

2

⃗

,

.

.

.

,

v

p

⃗

}

A = \{\vec{v_1}, \vec{v_2}, …, \vec{v_p}\}

$A = {v_{1}, v_{2}, . . ., v_{p}}$

, 其所有

线性组合

构成的集合为

向量空间

, 也称为向量组

A

$A$

的
张成空间
, 记为

p

a

n

(

v

1

⃗

,

v

2

⃗

,

.

.

.

,

v

p

⃗

)

span(\vec{v_1}, \vec{v_2}, …, \vec{v_p})

$s p a n (v_{1}, v_{2}, . . ., v_{p})$

, 即:

=

s

p

a

n

(

v

1

⃗

,

v

2

⃗

,

.

.

.

,

v

p

⃗

)

=

{

k

1

v

1

⃗

+

k

2

v

2

⃗

+

.

.

.

+

k

p

v

p

⃗

,

k

1

,

2

,

.

.

.

,

p

∈

R

}

V = span(\vec{v_1}, \vec{v_2}, …, \vec{v_p}) = \{k_1\vec{v_1} + k_2\vec{v_2} + … + k_p\vec{v_p}, k_{1,2,…,p} \in \mathbb{R}\}

$V = s p a n (v_{1}, v_{2}, . . ., v_{p}) = {k_{1} v_{1} + k_{2} v_{2} + . . . + k_{p} v_{p}, k_{1, 2, . . ., p} \in R}$

也称

p

a

n

(

v

1

⃗

,

v

2

⃗

,

.

.

.

,

v

p

⃗

)

span(\vec{v_1}, \vec{v_2}, …, \vec{v_p})

$s p a n (v_{1}, v_{2}, . . ., v_{p})$

为向量组

A

$A$

所
张成

等价向量组

设有两个

向量组

=

{

a

1

⃗

,

a

2

⃗

,

.

.

.

,

a

m

⃗

}

A = \{\vec{a_1},\vec{a_2},…,\vec{a_m}\}

$A = {a_{1}, a_{2}, . . ., a_{m}}$

及

=

{

b

1

⃗

,

b

2

⃗

,

.

.

.

,

b

n

⃗

}

B = \{\vec{b_1},\vec{b_2},…,\vec{b_n}\}

$B = {b_{1}, b_{2}, . . ., b_{n}}$

, 若

B

$B$

组中的每个向量都能由向量组

A

$A$

线性表示
, 则称向量组

B

$B$

能由向量组

A

$A$

线性表示.

若向量组

A

$A$

与向量组

B

$B$

能互相线性表示, 则称这两个向量组
等价
, 也可以说

A

$A$

和

B

$B$

是
等价向量组

等价向量组
的
张成空间
是相等的

假设有两个向量组

=

{

a

1

⃗

,

a

2

⃗

,

.

.

.

,

a

m

⃗

}

,

B

=

{

b

1

⃗

,

b

2

⃗

,

.

.

.

,

b

n

⃗

}

A = \{\vec{a_1},\vec{a_2},…,\vec{a_m}\}, B = \{\vec{b_1},\vec{b_2},…,\vec{b_n}\}

$A = {a_{1}, a_{2}, . . ., a_{m}}, B = {b_{1}, b_{2}, . . ., b_{n}}$

则

和

B

等

价

⟺

s

p

a

n

(

A

)

=

s

p

a

n

(

B

)

A 和 B 等价 \iff span(A) = span(B)

$A 和 B 等价 ⟺ s p a n (A) = s p a n (B)$

最大无关组

设有

向量组

A

$A$

, 如果在

A

$A$

中能选出

r

$r$

个向量

1

⃗

,

a

2

⃗

,

.

.

.

,

a

r

⃗

\vec{a_1},\vec{a_2},…,\vec{a_r}

$a_{1}, a_{2}, . . ., a_{r}$

满足:

向量组
$A_0 = \{\vec{a_1},\vec{a_2},…,\vec{a_r}\} A 0 = { a 1 , a 2 , . . . , a r } 线性无关$

向量组
$A_0 A 0 是向量组 A A A 的一个最大线性无关组 , 简称最大无关组$

包含零向量的向量组一定不是
最大无关组

向量组的秩

假设

向量组

A

$A$

的

最大无关组

为:

0

=

{

a

1

⃗

,

a

2

⃗

,

.

.

.

,

a

r

⃗

}

A_0 = \{\vec{a_1},\vec{a_2},…,\vec{a_r}\}

$A_{0} = {a_{1}, a_{2}, . . ., a_{r}}$

0

A_0

$A_{0}$

的向量个数

r

$r$

称为向量组

A

$A$

的
秩
, 记做

a

n

k

(

A

)

rank(A)

$r a n k (A)$

, 有时也记做

(

A

)

r(A)

$r (A)$

不变的
秩
反应了向量组的

复杂程度

.
只包含零向量的向量组的
秩
为 0

向量空间的基

V

$V$

为

向量空间

, 如果其中的某向量组:

=

{

a

1

⃗

,

a

2

⃗

,

.

.

.

,

a

r

⃗

}

A = \{\vec{a_1},\vec{a_2},…,\vec{a_r}\}

$A = {a_{1}, a_{2}, . . ., a_{r}}$

是

V

$V$

的

最大无关组

, 那么向量组

A

$A$

被称为向量空间

V

$V$

的一个
基

只包含零向量的向量空间
$\left \{\begin{pmatrix} 0 \\ 0 \end{pmatrix}\right\} { ( 0 0 ) } 该向量空间没有基$

自然基
, 指由某一维为 1 其余维都是 0 的向量组成的一组基, 且该向量组是线性无关的.

所有的

n

\mathbb{R^n}

$R^{n}$

都有自然基:

1

⃗

=

(

1

0

⋮

0

)

,

e

2

⃗

=

(

0

1

⋮

0

)

,

⋯

,

e

n

⃗

=

(

0

0

⋮

1

)

\vec{e_1} = \begin{pmatrix} 1 \\ 0 \\ \vdots \\ 0 \end{pmatrix}, \vec{e_2} = \begin{pmatrix} 0 \\ 1 \\ \vdots \\ 0 \end{pmatrix}, \cdots, \vec{e_n} = \begin{pmatrix} 0 \\ 0 \\ \vdots \\ 1 \end{pmatrix}

$e_{1} = ⎝ ⎜ ⎜ ⎜ ⎛ 10 ⋮ 0 ⎠ ⎟ ⎟ ⎟ ⎞, e_{2} = ⎝ ⎜ ⎜ ⎜ ⎛ 01 ⋮ 0 ⎠ ⎟ ⎟ ⎟ ⎞, \dots, e_{n} = ⎝ ⎜ ⎜ ⎜ ⎛ 00 ⋮ 1 ⎠ ⎟ ⎟ ⎟ ⎞$

基与坐标

在

向量空间

V

$V$

中取一个

基

a

1

⃗

,

a

2

⃗

,

.

.

.

,

a

r

⃗

}

\{\vec{a_1},\vec{a_2},…,\vec{a_r}\}

${a_{1}, a_{2}, . . ., a_{r}}$

, 那么

V

$V$

中的某个向量

⃗

\vec{x}

$x$

可唯一地表示为:

⃗

=

k

1

a

1

⃗

+

k

2

a

2

⃗

+

⋯

+

k

r

a

r

⃗

\vec{x} = k_1\vec{a_1} + k_2\vec{a_2} + \cdots + k_r\vec{a_r}

$x = k_{1} a_{1} + k_{2} a_{2} + \dots + k_{r} a_{r}$

其中,

k

1

,

k

2

,

.

.

.

,

k

r

)

(k_1,k_2,…,k_r)

$(k_{1}, k_{2}, . . ., k_{r})$

称为向量

⃗

\vec{x}

$x$

在基

a

1

⃗

,

a

2

⃗

,

.

.

.

,

a

r

⃗

}

\{\vec{a_1},\vec{a_2},…,\vec{a_r}\}

${a_{1}, a_{2}, . . ., a_{r}}$

中的
坐标
. 如果将基

a

1

⃗

,

a

2

⃗

,

.

.

.

,

a

r

⃗

}

\{\vec{a_1},\vec{a_2},…,\vec{a_r}\}

${a_{1}, a_{2}, . . ., a_{r}}$

简称为基

a

$a$

的话, 那么

⃗

\vec{x}

$x$

还可以写作:

⃗

=

(

k

1

k

2

⋮

k

r

)

a

\vec{x} = \begin{pmatrix} k_1 \\ k_2 \\ \vdots \\ k_r \end{pmatrix}_a

$x = ⎝ ⎜ ⎜ ⎜ ⎛ k_{1} k_{2} ⋮ k_{r} ⎠ ⎟ ⎟ ⎟ ⎞_{a}$

其中, 下标

a

$a$

指明该坐标系的基

向量空间的维度

假设向量空间

V

$V$

的

基

:

=

{

a

1

⃗

,

a

2

⃗

,

.

.

.

,

a

r

⃗

}

A = \{\vec{a_1},\vec{a_2},…,\vec{a_r}\}

$A = {a_{1}, a_{2}, . . ., a_{r}}$

则

A

$A$

的

秩

r

$r$

称为该
向量空间的维度
, 或者称

V

$V$

为

r

$r$

维向量空间

点积(数量积)

欧几里得空间

几

里

得

空

间

向

量

空

间

长

度

角

度

欧几里得空间 = 向量空间 + 长度 + 角度

$欧几里得空间 = 向量空间 + 长度 + 角度$

长度

根据勾股定理可得

∣

a

⃗

∣

∣

=

a

1

2

+

a

2

2

||\vec{a}|| = \sqrt{a_1^2 + a_2^2}

$∣ ∣ a ∣ ∣ = a_{1}^{2} + a_{2}^{2}$

角度

在这里插入图片描述

定义: 在

2

\mathbb{R^2}

$R^{2}$

中, 两个向量间的夹角

\theta

$θ$

, 该夹角的取值范围在

≤

θ

≤

π

0 \leq \theta \leq \pi

$0 \leq θ \leq π$

注意到

⁡

x

\cos{x}

$cos x$

函数在

≤

θ

≤

π

0 \leq \theta \leq \pi

$0 \leq θ \leq π$

这个范围是单调的.

在这里插入图片描述

根据欧氏集合中的余弦定理可以得到如下结论

⁡

θ

=

a

1

b

1

+

a

2

b

2

∣

∣

a

⃗

∣

∣

∣

∣

b

⃗

∣

∣

\cos{\theta} = \frac{a_1b_1 + a_2b_2}{||\vec{a}|| ||\vec{b}||}

$cos θ = \frac{a _{1} b _{1} + a _{2} b _{2}}{∣ ∣ a ∣ ∣ ∣ ∣ b ∣ ∣}$

证明:

根据欧氏几何中余弦定理, 我们可以得到:

→

−

→

⋅

→

cos

⁡

\overrightarrow{AB}^2 = \overrightarrow{OA}^2 + \overrightarrow{OB}^2 – 2\overrightarrow{OA} \cdot \overrightarrow{OB} \cos{\theta}

$A B^{2} = O A^{2} + O B^{2} - 2 O A \cdot O B cos θ$

上式可以通过向量来计算:

∣

⃗

−

⃗

∣

⃗

∣

⃗

∣

−

∣

⃗

∣

⃗

∣

cos

⁡

||\vec{a} – \vec{b}||^2 = ||\vec{a}||^2 + ||\vec{b}||^2 – 2||\vec{a}|| ||\vec{b}|| \cos{\theta}

$∣ ∣ a - b ∣ ∣^{2} = ∣ ∣ a ∣ ∣^{2} + ∣ ∣ b ∣ ∣^{2} - 2 ∣ ∣ a ∣ ∣ ∣ ∣ b ∣ ∣ cos θ$

新的运算

假设定义一个新的运算方式, 将之称为向量的
点积

⃗

⋅

⃗

(

)

⋅

(

)

\vec{a} \cdot \vec{b} = (a_1, a_2) \cdot (b_1, b_2) = a_1b_1 + a_2b_2

$a \cdot b = (a_{1}, a_{2}) \cdot (b_{1}, b_{2}) = a_{1} b_{1} + a_{2} b_{2}$

那么向量空间

\mathbb{R^2}

$R^{2}$

中的长度和角度的计算就可以通过
点积
来完成:

长度

∣

⃗

∣

⃗

⋅

⃗

||\vec{a}|| = \sqrt{a_1^2 + a_2^2} = \sqrt{a_1a_1 + a_2a_2} = \sqrt{\vec{a} \cdot \vec{a}}

$∣ ∣ a ∣ ∣ = a_{1}^{2} + a_{2}^{2} = a_{1} a_{1} + a_{2} a_{2} = a \cdot a$

角度

⁡

∣

⃗

∣

⃗

∣

⃗

⋅

⃗

∣

⃗

∣

⃗

∣

\cos{\theta} = \frac{a_1b_1 + a_2b_2}{||\vec{a}|| ||\vec{b}||} = \frac{\vec{a} \cdot \vec{b}}{||\vec{a}|| ||\vec{b}||}

$cos θ = \frac{a _{1} b _{1} + a _{2} b _{2}}{∣ ∣ a ∣ ∣ ∣ ∣ b ∣ ∣} = \frac{a \cdot b}{∣ ∣ a ∣ ∣ ∣ ∣ b ∣ ∣}$

点积的定义

向量

⃗

=

(

x

1

x

2

⋮

x

n

)

\vec{x} = \begin{pmatrix} x_1 \\ x_2 \\ \vdots \\ x_n \end{pmatrix}

$x = ⎝ ⎜ ⎜ ⎜ ⎛ x_{1} x_{2} ⋮ x_{n} ⎠ ⎟ ⎟ ⎟ ⎞$

和

⃗

=

(

y

1

y

2

⋮

y

n

)

\vec{y} = \begin{pmatrix} y_1 \\ y_2 \\ \vdots \\ y_n \end{pmatrix}

$y = ⎝ ⎜ ⎜ ⎜ ⎛ y_{1} y_{2} ⋮ y_{n} ⎠ ⎟ ⎟ ⎟ ⎞$

的
点积
(dot product), 定义为:

⃗

⋅

y

⃗

=

x

1

y

1

+

⋯

+

x

n

y

n

=

∑

i

=

1

n

x

i

y

i

\vec{x} \cdot \vec{y} = x_1y_1 + \cdots + x_ny_n = \sum_{i=1}^{n}x_iy_i

$x \cdot y = x_{1} y_{1} + \dots + x_{n} y_{n} = i = 1 \sum n x_{i} y_{i}$

点积还可以称为
数量积
或者
标量积
, 这是因为两个向量通过点积运算之后的结果是数量(标量).

长度/角度与自然基

通过点积计算长度/角度时, 向量的坐标必须在
自然基
下.

点积的性质

点积具有以下运算性质:

交换律:
$\vec{a} \cdot \vec{b} = \vec{b} \cdot \vec{a} a ⋅ b = b ⋅ a$
数乘结合律:
$(k\vec{a}) \cdot \vec{b} = k(\vec{b} \cdot \vec{a}) ( k a ) ⋅ b = k ( b ⋅ a )$
分配律:
$(\vec{a} + \vec{b}) \cdot \vec{c} = \vec{a} \cdot \vec{c} + \vec{b} \cdot \vec{c} ( a + b ) ⋅ c = a ⋅ c + b ⋅ c$

以下对

数乘结合律

和

分配律

的证明太惊艳了, 必须记录下来

数乘结合律

根据

点积

可推出

⁡

⃗

⋅

⃗

∣

⃗

∣

⃗

∣

⟹

⃗

⋅

⃗

∣

⃗

∣

⃗

∣

cos

⁡

\cos{\theta} = \frac{\vec{a} \cdot \vec{b}}{||\vec{a}|| ||\vec{b}||} \implies \vec{a} \cdot \vec{b} = ||\vec{a}|| ||\vec{b}|| \cos{\theta}

$cos θ = \frac{a \cdot b}{∣ ∣ a ∣ ∣ ∣ ∣ b ∣ ∣} ⟹ a \cdot b = ∣ ∣ a ∣ ∣ ∣ ∣ b ∣ ∣ cos θ$

其中

∣

⃗

∣

cos

⁡

{\color{Red}||\vec{b}|| \cos{\theta}}

$∣ ∣ b ∣ ∣ cos θ$

可以看做

⃗

\vec{b}

$b$

在 \vec{a} 上的投影

在这里插入图片描述

所以, 可以把

⃗

⋅

⃗

\vec{a} \cdot \vec{b}

$a \cdot b$

看做矩形

A

$A$

的面积:

在这里插入图片描述

自然, 其中一条边放大

k

$k$

倍, 则面积增大

k

$k$

倍

在这里插入图片描述

这样就得到了数乘结合律:

⃗

)

⋅

⃗

(

⃗

⋅

⃗

)

(k\vec{a}) \cdot \vec{b} = k(\vec{b} \cdot \vec{a})

$(k a) \cdot b = k (b \cdot a)$

分配律

在这里插入图片描述

欧氏距离和余弦距离

欧氏距离

表示两个向量间的距离远近;
余弦距离

表示两个向量间的关系远近;

正交
是线性代数的概念, 是垂直这一直观概念的推广, 若两向量的内积为 0, 则称他们是正价的.

小结

在该章中有很多概念很容易混淆, 他们是:

向量空间:

非空

, 由若干向量组成(

向量组

), 这些向量满足

加法/数乘封闭
张成空间: 由

向量组

进行所有

线性组合

后得到的

向量空间
最大无关组: 从

向量组

中选取满足

线性无关

的向量, 且这些向量可以

线性表示

向量组中其他的任意向量
秩: 最大无关组的个数
基: 就是最大无关组. 引入次概念主要是为了后面的坐标概念

原文链接：https://blog.csdn.net/levin_li/article/details/107772416