1.向量范数
之前我们在学欧几里得空间或者酉空间时利用内积定义了两个向量之间的距离。对于
,它作为酉空间已经定义好了向量的长度以及两个向量之间的距离。事实上,对于
我们还可以定义新的长度以及新的距离。由此我们定义向量范数
定义1:
设
的函数
满足
(1)
正定性:
,其中
当且仅当
(2)
齐次性:
,有
(3)
三角不等式:
,有
则称函数
为
上的
向量范数
下面我们看一看常见的四个向量范数
定义2:
常见的
上的向量范数:对于
(1)
1-范数:
(2)
-范数:
(3)
2-范数:
,我们也称2-范数为
欧几里得范数
(4)
p-范数
(
):
情形(1)(2)容易验证,情形(4)证明过程比较繁琐,涉及到Young不等式,Hölder不等式,Minkovski不等式,这些我打算另外写一篇文章予以叙述,这里限于篇幅不予证明,仅针对(3)中三角不等式做说明
此时
在实际问题中我们经常要估计计算出来的向量值与真实的向量值之间的误差,下面定理告诉我们无论用哪个向量范数衡量误差,效果是一样的
定理1(向量范数的等价性):
设
均为
上的向量范数,则一定存在常数
,使得对
有
下面我们仅说明任意一个向量范数与
-范数等价
考虑函数
以及集合
,则
是
上的有界闭集,而
是实函数,在
上一定有最小值与最大值,分别设为
则对任意的
,有
,从而
从而
,从而
2.矩阵范数
对于
复矩阵空间
,我们也希望定义一个长度衡量矩阵的大小,定义距离比较两个矩阵之间的接近程度,由此我们引进了矩阵范数
定义2:
设
的函数
满足
(1)
正定性:
,其中
当且仅当
(2)
齐次性:
,有
(3)
三角不等式:
,有
(4)
乘法相容性:
,有
则称函数
为
上的
矩阵范数
有的资料上直接用条件(1)(2)(3)定义矩阵范数(因为条件(1)(2)(3)也适用于一般的范数,具有某种普适性),然而很多情况下我们要用条件(4)分析矩阵,探究矩阵级数等问题。所以这里我们统一用条件(1)(2)(3)(4)定义矩阵范数。以后谈到矩阵范数,默认矩阵范数满足对乘法的相容性。
很多时候我们要将矩阵级数与向量级数放到一起进行研究,希望能保持对矩阵乘以向量的运算的相容性,即
。由此我们得到如下定理
定理2:
设
为
上的矩阵范数,则一定存在
上的向量范数
满足对
,有
证:任意给定非零向量
,定义向量范数
此时该向量范数满足正定性,齐次性,三角不等式,且
由定理2可知这样定义的向量范数不一定唯一
给定一个向量范数,我们总是可以构造出矩阵范数,并且满足与矩阵范数对矩阵与向量乘法的相容性。由此我们定义矩阵的算子范数
定义3:
设
是
上的向量范数,我们定义矩阵范数
如下(容易验证满足条件(1)(2)(3)(4)):
则称该矩阵范数是由向量范数
诱导出来的
算子范数
。此时
事实上,
,从而
下面我们来看一看常见的算子范数
定理3:
设
,
,则
(1)
(
行范数
)
(2)
(
列范数
)
(3)
(
2-范数
),其中
表示
的最大特征值
证:(1)设
,记
则
设
,令
,则
的第
个分量为
,且
,从而
从而
(2)设
,记
,则
则
令
,
为第
个分量为1,其余分量为0的列向量
则
,
故
(3)注意到
是Hermite矩阵,且
,故
是半正定Hermite矩阵,从而
的特征值全为非负数,不妨设为
,则一定存在酉矩阵
使得
设
,则
从而
而
故
看起来矩阵的行范数以及列范数是容易计算的,编程起来比较容易实现(只需遍历矩阵中的元素,求和后弄一弄排序算法即可实现),而2-范数相对来说计算起来不太方便,通过编程实现不太好操作。但2-范数在理论上应用广泛,性质良好。
下一篇文章我们将继续研究向量范数与矩阵范数