时频分析与小波变换的发展历程（一）
傅立叶分析的发展历程
1807
年，法国学者
Fourier
指出任何周期函数都可以用一系列正弦波来表示，开创了傅立叶分析。
（
1
）操作过程：从数学角度而言，对一个函数进行傅立叶变换（
Fourier Transform
，
FT
）。从信号处理的角度而言，对任意信号
f(t)
的频谱
F(ω)
进行分析。
（
2
）优点：能够准确刻画平稳信号在整个
时（空）域的频率性质。
（
3
）缺点：不能反映非平稳信号在局部区域的频域特征及其对应关系，即
FT
在时域没有任何分辨率，无法确定信号奇异性的位置。
1946
年，
Gabor
提出了短时傅立叶变换（
Short Time Fourier Transform
，
STFT
）。
（
1
）操作过程：对信号进行加窗，再对加窗后的信号进行傅立叶变换，从而得到信号在局部区域的频谱。
（
2
）优点：能够分析信号局部频域特征。
（
3
）
缺点：由于
STFT
中时间窗的宽度与频率无关，它仍然是一种恒分辨率分析。
1948
年，
Ville
提出了维格纳
–
威尔分布（
Wigner-Ville Distribution
，
WVD
），并引入时频信号分析。
（
1
）操作过程：信号中心协方差函数的傅立叶变换。
（
2
）优点：具有对称性、时移不变性、真边缘性、平均瞬时频率等优良性质，
WVD
的时频分辨率比
STFT
的分辨率高。
（
3
）缺点：存在交叉干扰项（
Cross-Term Interference
，
CTI
），这是二次型时频分布的固有结果，大量的
CTI
会淹没或严重干扰信号的自项，模糊信号的原始特征。
小波分析的发展历程
一、
小波分析
1910
年，
Haar
提出了
L
2
(R)
中第一个小波规范正交基，即
Haar
正交基。
（
1
）操作过程：
Haar
正交基是以一个简单的二值函数作为母小波经平移和伸缩而形成的。
（
2
）优点：
Haar
小波变换具有最优的时（空）域分辨率。
（
3
）缺点：
Haar
小波基是非连续函数，因而
Haar
小波变换的频域分辨率非常差。
1936
年，
Littlewood
和
Paley
对傅立叶级数建立了二进制频率分量分组理论，（即
L-P
理论：按二进制频率成分分组，其傅立叶变换的相位并不影响函数的大小和形状），这是多尺度分析思想的最早起源。
1952
年～
1962
年，
Calderon
等人将
L-P
理论推广到高维，建立了奇异积分算子理论。
1965
年，
Calderon
发现了著名的再生公式，给出了抛物型空间上
H
1
的原子分解。
1974
年，
Coifman
实现了对一维空间和高维空间的原子分解。
1976
年，
Peetre
在用
L-P
理论对
Besov
空间进行统一描述的同时，给出了
Besov
空间的一组基。
1981
年，
Stromberg
引入了
Sobolev
空间
H
p
的正交基，对
Haar
正交基进行了改造，证明了小波函数的存在性。
1981
年，法国地球物理学家
Morlet
提出了小波的正式概念。
1985
年，法国数学家
Meyer
提出了连续小波的容许性条件及其重构公式。
1986
年，
Meyer
在证明不可能存在同时在时频域都具有一定正则性（即光滑性）的正交小波基时，意外发现具有一定衰减性的光滑性函数以构造
L
2
(R)
的规范正交基（即
Meyer
基），从而证明了正交小波系的存在。
1984
年～
1988
年，
Meyer
、
Battle
和
Lemarie
分别给出了具有快速衰减特性的小波基函数：
Meyer
小波、
Battle-Lemarie
样条小波。
1987
年，
Mallat
将计算机视觉领域中的多尺度分析思想引入到小波分析中，提出了多分辨率分析的概念，统一了在此前的所有具体正交小波的构造，给出了构造正交小波基的一般方法，提出了快速小波变换（即
Mallat
算法）。
它标志着第一代小波的开始？
（
1
）操作过程：先滤波，再进行抽二采样。
（
2
）优点：
Mallat
算法在小波分析中的地位相当于
FFT
在经典傅立叶分析中的地位。它是小波分析从纯理论走向实际应用。
（
3
）缺点：以傅立叶变换为基础，直接在时（空）域中设计滤波器比较困难，并且计算量大。
1988
年，
Daubechies
基于多项式方式构造出具有有限支集的光滑正交小波基（即
Daubechies
基）。
Chui
和中国学者王建忠基于样条函数构造出单正交小波函数，并提出了具有最优局部化性能的尺度函数和小波函数的一般性构造方法。
1988
年，
Daubechies
在美国
NSF/CBMS
主办的小波专题研讨会上进行了
10
次演讲，引起了广大数学家、物理学家、工程师以及企业家的重视，将小波理论发展与实际应用推向了一个高潮。
1992
年，
Daubechies
对这些演讲内容进行了总结和扩展形成了小波领域的经典著作
——
小波十讲《
Ten Lectures on Wavelet
》。
1992
年
3
月，国际权威杂志《
IEEE Transactions on Information Theory
》专门出版了
“
小波分析及其应用
”
专刊，全面介绍了此前的小波分析理论和应用及其在不同学科领域的发展，从此小波分析开始进入了全面应用阶段。
1992
年，
Kovacevic
和
Vetterli
提出了双正交小波的概念。
1992
年，
Cohen
、
Daubechies
和
Feauveau
构造出具有对称性、紧支撑、消失矩、正则性等性质的双正交小波。
（
1
）操作过程：利用两组互为对偶的尺度函数和小波函数实现函数的分解与重构。
（
2
）
优点：具有正交小波无法同时满足的对称性、紧支撑、消失矩、正则性等性质。
1992
年，
Coifman
和
Wickerhauser
提出了小波包（
Wavelet Packet
，
WP
）分析。
（
1
）操作过程：不仅对低通子带进行分解，而且也对高通分量分解，从而聚焦到感兴趣的任意频段。
（
2
）优点：突破了小波分析对信号频带进行等
Q
划分的局限性。
（
3
）缺点：最优基的搜索问题
1992
年，
Zou
等提出了多带小波（
M-band Wavelet
）理论，将人们对小波变换的研究从
“
二带
”
推广到
“
多带
”
情况。
基于
“
二带
”
小波变换的多分辨率分析中，尺度函数对应一个低通滤波器，而小波函数对应一个高通滤波器。
“
二带
”
小波变换把信号分解成不同的通道，而这些通道的带宽相对于尺度函数的对数是相同的，因此高频通道具有较宽的带宽，而低频通道具有较窄的带宽。
1993
年，
Goodman
等基于
r
阶多尺度函数及多分辨率分析建立了多小波（
Multi-Wavelet
）理论框架。
（
1
）操作过程：将单小波中由多个尺度函数生成的多分辨率空间扩展为由多个尺度函数生成，以此获得更大的自由度。
（
2
）优点：
1994
年，
Geronimo
等提出了多小波变换（
Multi-Wavelet Transform
，
MWT
），将单尺度小波变换推广到多尺度小波变换。
（
1
）操作过程：小波函数的构造是由多个尺度函数完成的。
（
2
）优点：与二带小波、小波包、多带小波等单尺度小波相比，多小波在非常窄的紧支范围内同时具有光滑性、正交性、对称性、利普希茨
Lipschitz
连续性（消失矩）等特性。
——
发展中
1991
年，
Alpert
用多项式构造了第一个多小波。
Geronimo
等利用分形插值函数构造了正交、对称、紧支撑、逼近阶位
2
的
GHM
多小波。
1995
年，
Sweldens
等提出了一种新的小波构造算法
——
提升方案（
Lifting Scheme
）。它标志着第二代小波的开始。
（
1
）操作过程：先将原始离散样本信号进行奇偶剖分，然后对奇偶样本点进行滤波处理。
（
2
）优点：所有的第一代小波都可以用提升方案构造出来。具有运算速度快、对内存需求量小、能实现整
–
整变换等特点。
（
3
）缺点：对于边缘、轮廓和纹理等具有高维奇异性的几何特征，小波不是表示图像的最优基。
小波变换的局限性：
1
）二维小波变换只有
2.5
个方向选择性。
小波是表示具有点奇异性目标函数的最优基（能有效表示信号的零维奇异特征，反映奇异点的位置和特性），但是难以表示更高维的几何特征。
2
）二维小波变换的基函数都是各向同性的。
时频分析与小波变换的发展历程（二）
二、超小波分析
(X-let
，或多尺度几何分析
)
1
、自适应多尺度几何分析
——
指图像变换的基函数随图像内容变化而变化
1997
年，
Meyer
和
Coifman
提出了
Brushlet
变换，即一种自适应频带分割方法。
（
1
）操作过程：
（
2
）优点：非常适合描述周期纹理图像。
（
3
）缺点：对于分片光滑图像的边缘不能提供稀疏表示。
1999
年，美国学者
Donoho
提出了楔波（
Wedgelet
）变换。
（
1
）操作过程：
Wedgelet
是定义在正方形区域上的分片二值函数，该区域被一条直线分成两个楔块，直线的方向可以根据边缘的方向调节，用一系列不同尺寸不同方向的
Wedgelet
可以逼近图像的边缘轮廓。
（
2
）
优点：使用多尺度
Wedgelet
对图像轮廓进行分段线性近似，能较好地捕捉图像中的
“
线
”
和
“
面
”
的特征。
（
3
）缺点：没有基于临界采样的滤波器组（临界采样对于压缩是很方便的）。
1999
年，美国斯坦福大学的
David L. Donoho
教授提出了小线（
Beamlets
）变换。
（
1
）操作过程：以各种方向、尺度和位置信息的小线段为基本单元建立小线库，沿小线库中的小线段对目标图像进行线积分产生小线变换系数，以小线金字塔方式组织变换系数，再以小线图结构为驱动从小线金字塔中提取小线变换系数，从而实现多尺度分析。
（
2
）优点：对于处理强噪背景的图像有无可比拟的优势。
（
3
）缺点：小线库（字典）、小线金字塔扫描等小线变换的前期准备工作过于庞大，需要简化以利于研究。
2000
年，法国学者
Pennec
和
Mallat
提出了第一代
Bandelet
变换。
（
1
）操作过程：根据图像内容将图像分割成大小不一的矩形块，变化剧烈的区域用多一些的小矩形块分割，而变化缓慢的区域用少一些的大矩形块分割。对每一个矩形块应用和边缘同向的几何流对其进行描述。把分割方式和几何流模型作为参数，去优化一个给定的目标函数，从而得到该图像的最优表示。
（
2
）优点：能够自适应地跟踪图像的几何正则方向，适合图像压缩应用。能够对图像的不同变化区域给以不同的处理，并抛弃
“
边缘
”
这一不易于从数学上界定的概念，转而采用
“
几何流
”
这样一个反映图像连续区域变化的概念。
（
3
）缺点：没有基于临界采样的滤波器组。
2001
年，
Cohen
和
Matei
提出了边缘自适应多尺度变换（
Edge-Adapted Multiscale Transform
）。
（
1
）操作过程：基于边缘方向检测的非线性多尺度变换。
（
2
）优点：用于图像压缩，重构图像边缘处的视觉效果明显优于小波变换。
2003
年，
Wakin
等提出了
Wedgeprint
的图像稀疏表示方法。
（
1
）操作过程：利用
Wedgelet
字典（
Wedgelet Dictionary
）来描述图像边缘产生的小波系数。
（
2
）优点：能够得到比小波和
Wedgelet
更为稀疏的图像表示方法。
2005
年，
Peyre
和
Mallat
提出了第二代
Bandelet
变换。
（
1
）操作过程：普通的二维小波变换
+
几何正交投影。
（
2
）优点：不需要计算几何流，算法更加简洁快速。
2005
年，
Velisavljevic
等基于整数格点理论提出了一种可分离多方向多尺度图像表示方法
——Directionlets
。
（
1
）操作过程：利用拉格朗日优化算法对图像进行最优分块操作，每块图像采用不同方向的
Directionlets
来表示。
（
2
）优点：各向异性基函数
Directionlets
在沿着任何两个有着合理斜率的方向上都有方向消失矩（
DVM
）。
时频分析与小波变换的发展历程（三）
2
、非自适应多尺度几何分析——指图像变换的基函数与图像内容无关
1998
年，
Candès
和
Donoho
提出了连续脊波（
Ridgelet
）变换。
（
1
）操作过程：利用
Radon
变换将一维奇异特征（线奇异）映射为零维奇异特征（点奇异），然后再进行小波变换。
（
2
）优点：
Ridgelet
变换是表示具有线奇异性的多变量函数的最优基。
（
3
）缺点：对于图像曲线边缘的描述，其逼近性能只相当于小波变换。
1998
年，
Donoho
提出了正交
Ridgelet
变换的构造方法。
1999
年，
Candès
提出的单尺度
Ridgelet
变换实现了含曲线奇异的多变量函数的构造方法。
2000
年，
Do
和
Vetterli
提出了一种离散
Ridgelet
变换。
1999
年，
Candès
和
Donoho
在
Ridgelet
变换的基础上提出了连续曲波（
Curvelet
）变换
——
第一代
Curvelet
变换中的
Curvelet99
。
操作过程：子带滤波
+
多尺度局部
Ridgelet
变换。
2002
年，
Strack
、
Candès
和
Donoho
提出了第一代
Curvelet
变换中的
Curvelet02
。
操作过程：频域子带滤波
+
离散局部
Ridgelet
变换（由算法简单的伪极坐标
(Pseudo-polar)FFT
变换实现）。
第一代
Curvelet
变换的共同点：
（
1
）优点：对于具有光滑奇异性曲线的目标函数提供了近乎最优的表示。
Curvelet
能够达到的
MSE
衰减率为
O(N
-2
(logN)
1/2
)
。
（
2
）缺点：在实现时首先用子带分解算法对原始图像进行分解，完成对图像子带滤波的功能；然后对不同的子带图像进行分块，再对每个分块进
Ridgelet
变换。为了避免分块效应，块与块之间必须有重叠，因此其实现算法的冗余度较高。并且，没有基于临界采样的滤波器组。
2002
年，
Candès
等人提出了第二代
Curvelet
变换。
（
1
）操作过程：无需分块操作和
Ridgelet
变换。
（
2
）优点：实现简单、便于理解、算法快速。
（
3
）缺点：没有基于临界采样的滤波器组。
2005
年，
Candès
提出了两种基于第二代
Curvelet
变换理论的快速离散实现方法：
1
）非均匀空间抽样的二维
FFT
算法（
Unequally-Spaced Fast Fourier Transform
，
USFFT
）；
2
）
Wrap
算法（
Wrapping-Based Transform
）
2002
年，
Do
和
Vetterli
提出了
Contourlet
变换。
（
1
）操作过程：多尺度分解
+
方向滤波器（
Directional Filter Banks
，
DFB
，也即
2D-DFB
）。首先采用拉普拉斯金字塔（
Laplacian Pyramid
，
LP
）式结构对图像进行多尺度分解以捕获奇异点，再由
DFB
将各尺度的细节子带进行多方向分解，从而将分布在同一尺度同一方向的奇异点合并成一个系数。为满足各向异性尺度关系，各尺度的方向子带的数量应取不同值，每隔一个尺度，方向数加倍。
（
2
）优点：它能用不同尺度、不同频率的自带更准确地捕获图像中的分段二次连续曲线，从而使表示图像边缘的
Contourlet
系数能量更加集中。
Contourlet
能够达到的
MSE
衰减率为
O(N
-2
(logN)
3
)
。
（
3
）缺点：没有基于临界采样的滤波器组。
2007
年，
Yue Lu
和
M.N. Do
提出了多维方向滤波器组（
N-dimensional Directional Filter Banks
，
NDFB
）的
Surfacelet
变换。
（
1
）操作过程：多尺度分解（采用新的塔式结构）
+NDFB
（三维信号时为
3D-DFB
）。首先对信号进行多尺度分解以捕获奇异变化，接着由
NDFB
将同一方向上的奇异变化合成为一个系数。
（
2
）优点：有效地捕捉和表示高维信号中的曲面奇异。
1992
年，
Bamberger
和
Smith
提出无冗余且能完全重构的方向滤波器（
Directional Filter Banks
，
DFB
，也即
2D-DFB
），
DFB
能有效地对二维信号进行方向分解。具有不可分性，把
DFB
从二维扩展多维，至今没有完美的实现方法。
2007
年，
Yue Lu
和
M.N. Do
提出了多维方向滤波器组设计方法
——NDFB
。采用一种简单、高效的树状结构，能够对任意维的信号进行方向分解。
转自：
http://qsshe.spaces.live.com/blog/cns!657A5B42EBAEDCAE!254.entry