小波变换_完美通俗解读

小波变换_完美通俗解读 小波变换 完美通俗解读 这是《小波变换和motion信号处理》系列的第一篇，基础普及。第二篇我准备写深入小波的东西，第三篇讲解应用。 记得我还在大四的时候，在申请出国和保研中犹豫了好一阵，骨子里的保守最后让我选择了先保研。当然后来也退学了，不过这是后话。当时保研就要找老 板，实验室，自己运气还不错，进了一个在本校很牛逼的实验室干活路。我们实验室主要是搞图像的，实力在全国也是很强的，进去后和师兄师姐聊，大家都在搞什 么小波变换，H264之类的。当时的我心思都不在这方面，尽搞什么操作系统移植，ARM+FPGA这些东西了。对小波变换的认识也就停留在神秘的“图像视 频压缩算法之王”上面。 后来我才发现，在别的很广泛的领域中，小波也逐渐开始流行。比如话说很早以前，我们接触的信号频域处理基本都是傅立叶和拉普拉斯的天下。但这些年， 小波在信号中的逐渐兴盛和普及。这让人不得不感到好奇，是什么特性让它在图象压缩，信号处理这些关键应用中更得到信赖呢,说实话，我还在国内的时候， 就开始好奇这个问题了，于是放狗搜，放毒搜，找遍了中文讲小波变换的科普文章，发现没几个讲得清楚的，当时好奇心没那么重，也不是搞这个研究的，懒得找英 文大部头论文了，于是作罢。后来来了这边，有些项目要用信号处理，不得已接触到一些小波变换的东西，才开始硬着头皮看。看了一些材料，听了一些课，才发 现，还是那个老生常谈的论调:国外的技术资料和国内真TNND不是一个档次的。同样的事情，别人说得很清楚，连我这种并不聪明的人也看得懂; 国内的材料则绕来绕去讲得一塌糊涂，除了少数天才没几个人能在短时间掌握的。 牢骚就不继续发挥了。在这个系列文章里，我希望能简单介绍一下小波变换，它和傅立叶变换的比较，以及它在移动平台做motion detection的应用。如果不做特殊，均以离散小波为例子。考虑到我以前看中文资料的痛苦程度，我会尽量用简单，但是直观的方式去介绍。有些必要 的公式是不能少的，但我尽量少用公式，多用图。另外，我不是一个好的翻译者，所以对于某些实在翻译不清楚的术语，我就会直接用英语。我并不claim我会 把整个小波变换讲清楚，这是不可能的事，我只能尽力去围绕要点展开，比如小波变换相对傅立叶变换的好 处，这些好处的原因是什么，小波变换的几个根本性质是 什么，背后的推导是什么。我希望达到的目的就是一个小波变换的初学者在看完这个系列之后，就能用matlab或者别的工具对信号做小波变换的基本分析并且 知道这个分析大概是怎么回事。 最后说明，我不是研究信号处理的专业人士，所以文中必有疏漏或者错误，如发现还请不吝赐教。 要讲小波变换，我们必须了解傅立叶变换。要了解傅立叶变换，我们先要弄清楚什么是”变换“。很多处理，不管是压缩也好，滤波也好，图形处理也好，本 质都是变换。变换的是什么东西呢,是基，也就是basis。如果你暂时有些遗忘了basis的定义，那么简单说，在线性代数里，basis是指空间里一系 列线性独立的向量，而这个空间里的任何其他向量，都可以由这些个向量的线性组合来表示。那basis在变换里面啥用呢,比如说吧，傅立叶展开的本质，就是 把一个空间中的信号用该空间的某个basis的线性组合表示出来，要这样表示的原因，是因为傅立叶变换的本质，是。小波变换自然也不例外的和basis有 关了。再比如你用Photoshop去处理图像，里面的图像拉伸，反转，等等一系列操作，都是和basis的改变有关。 既然这些变换都是在搞基，那我们自然就容易想到，这个basis的选取非常重要，因为basis的特点决定了具体的计算过程。一个空间中可能有很多 种形式的basis，什么样的basis比较好，很大程度上取决于这个basis服务于什么应用。比如如果我们希望选取有利于压缩的话，那么就希望这个 basis能用其中很少的向量来最大程度地表示信号，这样即使把别的向量给砍了，信号也不会损失很多。而如果是图形处理中常见的线性变换，最省计算量的完 美basis就是eigenvector basis了，因为此时变换矩阵T对它们的作用等同于对角矩阵( Tv_n = av_n，a是eigenvalue )。总的来说，抛开具体的应用不谈，所有的basis，我们都希望它们有一个共同的特点，那就是，容易计算，用最简单的方式呈现最多的信号特性。 好，现在我们对变换有了基本的认识，知道他们其实就是在搞基。当然，搞基也是分形式的，不同的变换，搞基的妙处各有不同。接下来先看看，傅立叶变换是在干嘛。 傅立叶级数最早是Joseph Fourier 这个人提出的，他发现，这个basis不仅仅存在与vector space，还存在于function space。这个function space本质上还是一个linear vector space，可以是有限的，可以是无限的，只不过在这个空间里，vector就是function了，而对应的标量就是实数或者复数。在vector space里，你有vector v可以写成vector basis的线性组合，那在function space里，function f(x) 也可以写成对应function basis的线性组合，也有norm。你的vector basis可以是正交的，我的function basis也可以是正交的(比如sin(t)和sin(2t))。唯一不同的是，我的function basis是无穷尽的，因为我的function space的维度是无穷的。好，具体来说，那就是现在我们有一个函数，f(x)。我们希望将它写成一些cos函数和一些sin函数的形式，像这样 again，这是一个无限循环的函数。其中的1，cosx, sinx, cos2x …..这些，就是傅立叶级数。傅立叶级数应用如此广泛的主要原因之一，就是它们这帮子function basis是正交的，这就是有趣的地方了。为什么function basis正交如此重要呢,我们说两个vector正交，那就是他俩的内积为0。那对于function basis呢,function basis怎么求内积呢, 现在先复习一下vector正交的定义。我们说两个vector v,w如果正交的话，应符合: 那什么是function正交呢,假设我们有两个函数f(x)和g(x)，那是什么,我们遵循vector的思路去想，两个vector求内积，就 是把他们相同位置上对应的点的乘积做一个累加。那移过来，就是对每一个x点，对应的f和g做乘积，再累加。不过问题是，f和g都是无限函数阿，x又是一个 连续的值。怎么办呢,向量是离散的，所以累加，函数是连续的，那就是…….积分～ 我们知道函数内积是这样算的了，自然也就容易证明，按照这个形式去写的傅立叶展开，这些级数确实都是两两正交的。证明过程这里就不展开了。好，下一 个 问题就是，为什么它们是正交basis如此重要呢,这就牵涉到系数的求解了。我们研究了函数f，研究了级数，一堆三角函数和常数1，那系数呢,a0, a1, a2这些系数该怎么确定呢,好，比如我这里准备求a1了。我现在知道什么,信号f(x)是已知的，傅立叶级数是已知的，我们怎么求a1呢,很简单，把方程 两端的所有部分都求和cosx的内积，即: 然后我们发现，因为正交的性质，右边所有非a1项全部消失了，因为他们和cosx的内积都是0～所有就简化为 这样，a1就求解出来了。到这里，你就看出正交的奇妙性了吧:) 好，现在我们知道，傅立叶变换就是用一系列三角波来表示信号方程的展开，这个信号可以是连续的，可以是离散的。傅立叶所用的function basis是专门挑选的，是正交的，是利于计算coefficients的。但千万别误解为展开变换所用的basis都是正交的，这完全取决于具体的使用 需求，比如泰勒展开的basis就只是简单的非正交多项式。 有了傅立叶变换的基础，接下来，我们就看看什么是小波变换。首先来说说什么是小波。所谓波，就是在时间域或者空间域的震荡方程，比如正弦波，就是一 种波。什么是波分析,针对波的分析拉(囧)。并不是说小波分析才属于波分析，傅立叶分析也是波分析，因为正弦波也是一种波嘛。那什么是小波呢,这个”小 “，是针对傅立叶波而言的。傅立叶所用的波是什么,正弦波，这玩意以有着无穷的能量，同样的幅度在整个无穷大区间里面振荡，像下面这样: 那小波是什么呢,是一种能量在时域非常集中的波。它的能量是有限的，而且集中在某一点附近。比如下面这样: 这种小波有什么好处呢,它对于分析瞬时时变信号非常有用。它有效的从信号中提取信息，通过伸缩和平移等运算功能对函数或信号进行多尺度细化分析，解 决了傅立叶变换不能解决的许多困难问题。恩，以上就是通常情况下你能在国内网站上搜到的小波变换文章告诉你的。但为什么呢,这是我希望在这个系列文章中讲 清楚的。不过在这篇文章里，我先点到为止，把小波变换的重要特性以及优点cover了，在下一篇文章中再具体推导这些特性。 小波变换的本质和傅立叶变换类似，也是用精心挑选的basis来表示信号方程。每个小波变换都会有一个mother wavelet，我们称之为母小波，同时还有一个scaling function，中文是尺度函数，也被成为父小波。任何小波变换的basis函数，其实就是对这个母小波和父小波缩放和平移后的集合。下面这附图就是某 种小波的示意图: 从这里看出，这里的缩放倍数都是2的级数，平移的大小和当前其缩放的程度有关。这样的好处是，小波的basis函数既有高频又有低频，同时还覆盖了时域。对于这点，我们会在之后详细阐述。 小波展开的形式通常都是这样(注意，这个只是近似表达，严谨的展开形式请参考第二篇): (可以理解k为上图纵坐标的1,2,3.j为上图中的横坐标1,2,3，，，8) 其中的就是小波级数，这些级数的组合就形成了小波变换中的基basis。和傅立叶级数有一点不同的是，小波级数通常是orthonormal basis，也就是说，它们不仅两两正交，还归一化了。小波级数通常有很多种，但是都符合下面这些特性: 1. 小波变换对不管是一维还是高维的大部分信号都能cover很好。这个和傅立叶级数有很大区别。后者最擅长的是把一维的，类三角波连续变量函数信号映射到一维系数序列上，但对于突变信号或任何高维的非三角波信号则几乎无能为力。 2. 围绕小波级数的展开能够在时域和频域上同时定位信号，也就是说，信号的大部分能量都能由非常少的展开系数，比如a_{j,k}，决定。这个特性是得益于小波变换是二维变换。我们从两者展开的表达式就可以看出来，傅立叶级数是 ，而小波级数是。 3. 从信号算出展开系数a需要很方便。普遍情况下，小波变换的复杂度是O(Nlog(N))，和FFT相当。有不少很快的变换甚至可以达到O(N)，也就是 说，计算复杂度和信号长度是线性的关系。小波变换的等式定义，可以没有积分，没有微分，仅仅是乘法和加法即可以做到，和现代计算机的计算指令完全 match。 可能看到这里，你会有点晕了。这些特性是怎么来的,为什么需要有这些特性,具体到实践中，它们到底是怎么给小波变换带来比别人更强的好处的,计算简 单这个可能好理解，因为前面我们已经讲过正交特性了。那么二维变换呢,频域和时域定位是如何进行的呢,恩，我完全理解你的感受，因为当初我看别的文章，也 是有这些问题，就是看不到答案。要说想完全理解小波变换的这些本质，需要详细的讲解，所以我就把它放到下一篇了。 接下来，上几张图，我们以一些基本的信号处理来呈现小波变换比傅立叶变换好的地方，我保证，你看了这个比较之后，大概能隐约感受到小波变换的强大，并对背后的原理充满期待:) 假设我们现在有这么一个信号: 看到了吧，这个信号就是一个直流信号。我们用傅立叶将其展开，会发现形式非常简单:只有一个级数系数不是0，其他所有级数系数都是0。好，我们再看接下来这个信号: 简单说，就是在前一个直流信号上，增加了一个突变。其实这个突变，在时域中看来很简单，前面还是很平滑的直流，后面也是很平滑的直流，就是中间有一 个阶跃嘛。但是，如果我们再次让其傅立叶展开呢,所有的傅立叶级数都为非0了～为什么,因为傅立叶必须用三角波来展开信号，对于这种变换突然而剧烈的信号 来讲，即使只有一小段变换，傅立叶也不得不用大量的三角波去拟合，就像这样: 看看上面这个图。学过基本的信号知识的朋友估计都能想到，这不就是Gibbs现象么,Exactly。用比较八股的说法来解释，Gibbs现象是由 于展开式在间断点邻域不能均匀收敛所引起的，即使在N趋于无穷大时，这一现象也依然存在。其实通俗一点解释，就是当变化太sharp的时候，三角波fit 不过来了，就凑合出Gibbs了:) 接下来我们来看看，如果用刚才举例中的那种小波，展开之后是这样的: 看见了么,只要小波basis不和这个信号变化重叠，它所对应的级数系数都为0～也就是说，假如我们就用这个三级小波对此信号展开，那么只有3个级 数系数不为0 。你可以使用更复杂的小波，不管什么小波，大部分级数系数都会是0。原因,由于小波basis的特殊性，任何小波和常量函数的内积都趋近于0。换句话说， 选小波的时候，就需要保证母小波在一个周期的积分趋近于0。正是这个有趣的性质，让小波变换的计算以及对信号的诠释比傅立叶变换更胜一筹～原因在于，小波 变换允许更加精确的局部描述以及信号特征的分离。一个傅立叶系数通常表示某个贯穿整个时间域的信号分量，因此，即使是临时的信号，其特征也被强扯到了整个 时间周期去描述。而小波展开的系数则代表了对应分量它当下的自己，因此非常容易诠释。 小波变换的优势不仅仅在这里。事实上，对于傅立叶变换以及大部分的信号变换系统，他们的函数基都是固定的，那么变换后的结果只能按部就班被分析推导 出来，没有任何灵活性，比如你如果决定使用傅立叶变换了，那basis function就是正弦波，你不管怎么scale，它都是正弦波，即使你举出余弦波，它还是移相后的正弦波。总之你就只能用正弦波，没有任何商量的余 地。而对于小波变换来讲，基是变的，是可以根据信号来推导或者构建出来的，只要符合小波变换的性质和特点即可。也就是说，如果你有着比较特殊的信号需要处 理，你甚至可以构建一个专门针对这种特殊信号的小波basis function集合对其进行分析。这种灵活性是任何别的变换都无法比拟的。总结来说，傅立叶变换适合周期性的，统计特性不随时间变化的信号; 而小波变换则适用于大部分信号，尤其是瞬时信号。它针对绝大部分信号的压缩，去噪，效果都特别好。 看到这里，你应该大概了解了小波变换针对傅立叶变换的优点了。你也许对背后的原因还存在一些疑问，并希望深入了解一些小波的构建等知识，请移步本系列第二篇:傅立叶变换，小波变换和motion信号处理(二) 这是《小波变换和motion信号处理》系列的第二篇，深入小波。第一篇我进行了基础知识的铺垫，第三篇主要讲解应用。 在上一篇中讲到，每个小波变换都会有一个mother wavelet，我们称之为母小波，同时还有一个father wavelet，就是scaling function。而该小波的basis函数其实就是对这个母小波和父小波缩放和平移形成的。缩放倍数都是2的级数，平移的大小和当前其缩放的程度有关。 还讲到，小波系统有很多种，不同的母小波，衍生的小波基就完全不同。小波展开的近似形式是这样: 其中的就是小波级数，这些级数的组合就形成了小波变换中的基basis。和傅立叶级数有一点不同的是，小波级数通常是orthonormal basis，也就是说，它们不仅两两正交，还归一化了。 我们还讲了一般小波变换的三个特点，就是小波级数是二维的，能定位时域和频域，计算很快。但我们并没有深入讲解，比如，如何理解这个二维,它是如何同时定位频域和时域的, 在这一篇文章里，我们就来讨论一下这些特性背后的原理。 首先，我们一直都在讲小波展开的近似形式。那什么是完整形式呢,之前讲到，小波basis的形成，是基于基本的小波函数，也就是母小波来做缩放和平移的。但是，母小波并非唯一的原始基。在构建小波基函数集合的时候，通常还要用到一个函数叫尺度函数，scaling function，人们通常都称其为父小波。它和母小波一样，也是归一化了，而且它还需要满足一个性质，就是它和对自己本身周期平移的函数两两正交: 另外，为了方便处理，父小波和母小波也需要是正交的。可以说，完整的小波展开就是由母小波和父小波共同定义的。 其中是母小波，是父小波。需要提醒一点的是，这个正交纯粹是为了小波分析的方便而引入的特性，并不是说小波变换的基就一定必须是正交的。但大部分小波变换的基确实是正交的，所以本文就直接默认正交为小波变换的主要性质之一了。引入这个父小波呢，主要是为了方便做多解析度分析(multiresolution analysis, MRA)。说到这里，你的问题可能会井喷了:好好的为什么出来一个父小波呢,这个scaling function是拿来干嘛的,它背后的物理意义是什么,wavelet function背后的物理意义又是什么,这个多解析度分析又是什么呢,不急，下面，我们围绕一个例子来巩固一下前面的知识，同时再引出新的特性。 假设我们有这样一个信号: 该信号长度为8，是离散的一维信号。我们要考虑的，就是如何用小波将其展开。为了方便讲解，我们考虑最简单的一种小波，哈尔小波。下面是它的一种母小波: 那如何构建基于这个母小波的基呢,刚才提到了，要缩放，要平移。我们先试试缩放，那就是ψ(2n): 但这样的话，它与自己的内积就不是1了，不符合小波基orthonormal的要求，所以我们要在前面加一个系数根号二，这样我们就得到了另一个哈尔小波的basis function: 同理，我们可以一直这样推广下去做scale，得到4n，8n，…….下的basis function。当然在这个例子里，我们信号长度就是8，所以做到4n就够了。但推广来说，就是这种scaling对母小波的作用为，这是归一化后的表示形式。 平移的话也很简单，我们可以对母小波进行平移，也可以对scale之后的basis function进行平移。比如对上一幅图中的basis function进行平移，就成了 看得出来，平移后的basis function和母小波以及仅仅scale过的小波，都是正交的，附合小波basis的特点。如果我们用ψ(n)来表示这个mother wavelet，那么这些orthonormal basis函数可以写成: 这里的k是可以看成时域的参数，因为它控制着小波基时域的转移，而j是频域的参数，因为它决定了小波基的频率特性。看到这里，你应该会感觉很熟悉，因为这里的平移和变换本质和刚才对scaling function的平移变换是一模一样的。 这样，我们就有了针对此信号space的哈尔小波basis组合: 图1 可以看出，我们用到了三层频率尺度的小波函数，每往下一层，小波的数量都是上面一层的两倍。在图中，每一个小波基函数的表达形式都写在了波形的下面。 等等，你可能已经发现了，有问题。这里为什么多了个没有函数表达式的波形呢,这货明显不是wavelet function阿。没错，它是之前提到的scaling function，也就是父小波。然后你可能就会问，为啥这个凭空插了一个scaling function出来呢,明明目标信号已经可以用纯的小波基组合表示了。是，确实是，就算不包括scaling function，这些小波函数本身也组成了正交归一基，但如果仅限于此的话，小波变换也就没那么神奇的功效了。引入这个scaling function，才能引入我们提到的多解析度分析的理论，而小波变换的强大，就体现在这个多解析度上。那在这里，我们怎么用这个多解析度呢,这个哈尔小波basis组合是怎么通过多解析度推导出来的呢, 话说在数学定义中，有一种空间叫Lebesgue空间，对于信号处理非常重要，可以用L^p(R)表示，指的是由p次可积函数所组成的函数空间。我们在小波变换中要研究的信号都是属于L^2(R)空间的，这个空间是R上的所有处处平方可积的可测函数的集合，这样就等于对信号提出了一个限制，就是信号能量必须是有限的，否则它就不可积了。小波变换的定义都是基于但不限于L^2(R)中的信号的。这玩意的特性要具体解释起来太数学了，牵涉到太多泛函知识，我就不在这里详述了。而且老实说我也没能力完全讲清楚，毕竟不是学这个的，有兴趣可以参考wiki。总之你记住，小波变换研究中所使用的信号基本都是平方可积的信号，但其应用不限于这种信号，就行了。 对L^2(R)空间做MRA是在干嘛呢,就是说，在L^2(R)空间中，我们可以找出一个嵌套的空间序列，并有下列性质: (i) (ii) (iii) (iv) (v) 有这样一个方程, 是的orthonormal basis。 我来简单解释一下这些性质。这个V_j都是L^2(R)空间中的子空间，然后他们是由小到大的，交集是{0}，因为这是最小的子空间，并集就是L空间。是不是有点难以理解,没关系，看看下面这个图就清楚了: 这个图是圈圈套圈圈，最里面的圈是V0，之后分别是V1，V2，V3，V4 。那他们有趣的性质就是，假如有一个函数f(t)他属于一个某空间，那你将其在时域上平移，它还是属于这个空间。但如果你对它频域的放大或缩小，它就会相应移到下一个或者上一个空间了。 同时我们还知道，你要形容每一个空间的话，都需要有对应的orthonormal basis，这是必然的，那对于V0来讲，它的orthonormal basis就是 这一系列函数是什么呢,是的时域变换，而且我们刚才也说了，时域上平移，是不会跳出这个空间的。这样，我们就可以说，由这一系列basis所定义的L^2(R)子空间V0被这些basis所span，表示成: k从负无穷到正无穷。上面的bar表示这是一个闭包空间，也就是说 这样，我们就定义了基本的V0这个子空间。刚才说了，这个子空间的基都是对的整数时域变换，这里我们称为scaling function，所以换个说法，就是说这里整个子空间V0，由scaling function和其时域变换的兄弟们span。 当然，如果这个scaling function只是用来代表一个子空间的，那它的地位也就不会这么重要了。刚才我们提到，这个嵌套空间序列有一个性质，。这就是这个函数，如果你对它频域的放大或缩小，它就会相应移到下一个或者上一个空间了。这个性质就有意思了，它代表什么呢,对于任何一个包含V0的更上一层的空间来讲，他们的基都可以通过对scaling function做频域的scale后再做时域上的整数变换得到～推广开来就是说，当 我们有 这也就意味着，对于任何属于V_j空间的函数f(t)，都可以表示为: 到这里，我们就明白这些个子空间和那个凭空冒出来的scaling function的作用了。scaling的构建这些不同的子空间的基础，当j越大的时候，每一次你对频率变换后的scaling function所做的时域上的整数平移幅度会越小，这样在这个j子空间里面得到的f(t)表示粒度会很细，细节展现很多。反之亦然。通俗点说，就是对scaling function的变换平移给你不同的子空间，而不同的子空间给你不同的分辨率，这样你就可以用不同的分辨率去看目标信号。 下面就是时候看看什么是MRA equation了，这是更加有趣，也是更加核心的地方。通过刚才的讲解，V0属于V1，那scaling function是在V0中的，自然也在V1中了。我们把他写成V1的基的线性组合，那就是 其中的h(n)是scaling function的系数，也叫做scaling filter或者scaling vector，可以是实数，也可以是虚数。根号2是为了维持norm为1的。看，在这个公式里，我们就把属于V0的函数用V1的基表示出来了。同理，我们可以循环如此，把属于V0的在V2, V3, …, Vn中表示出来。这些方程就是MRA equation，也叫refinement equation，它是scaling function理论的基础，也是小波分析的基础之一。 好，稍微总结一下。到现在，已经讲了关于scaling function的基本理论知识，知道了信号空间可以分为不同精细度的子空间，这些子空间的basis集合就是scaling function或者频率变换之后的scaling function，如下图所示: 上图就是四个子空间的basis集合的展览。通过前面的讨论，我们还知道，一开始的scaling function可以通过更精细的子空间的scaling function(它们都是对应子空间的basis)来构建。比如 对于更加finer的scale: 图2 依此类推。实际上，对于任何scale和translate过的scaling function，都可以用更加精细的scale层面上的scaling function构建出来。 然后，我们有各种scale下的scaling function了，该看看它们分别所对应的嵌套的空间序列了。先看看V0，自然就是以基本的scaling function为基础去span出来的: 这个不新鲜，刚才就讲过了。这个子空间代表什么样的信号,常量信号。道理很简单，这个scaling function在整个信号长度上，没有任何变化。继续往下看: 这个相比V0更加finer的子空间，代表着这样一种信号，它从1-4是常量，从5-8是另一个常量。同理我们有: V2代表的信号，是分别在1，2; 3，4; 5，6; 7，8上有相同值的信号。那么V3呢,则表示任何信号，因为对于V3来讲，任何一个时间刻度上的值都可以不一样。而且现在，我们也可以通过上面的一些scaling functions的波形验证了之前提到的多解析度分析中的一个核心性质，那就是: 我们之前讲了一堆多解析度的理论，但直到现在，通过这些图形化的分析，我们可能才会真正理解它。那好，既然我们有一个现成的信号，那就来看看，对这个信号作多解析度分析是啥样子的: 你看，在不同的子空间，对于同一个信号就有不同的诠释。诠释最好的当然是V3，完全不损失细节。这就是多解析度的意义。我们可以有嵌套的，由scaling function 演变的basis function集合，每一个集合都提供对原始信号的某种近似，解析度越高，近似越精确。 说到这里，可能你对scaling function以及多解析度分析已经比较理解了。但是，我们还没有涉及到它们在小波变换中的具体应用，也就是还没有回答刚才那个问题:凭空插了一个scaling function到小波basis组合中干嘛。也就是说，我们希望理解scaling function是怎么和小波函数结合的呢，多解析度能给小波变换带来什么样的好处呢。这其实就是是小波变换中的核心知识。理解了这个，后面的小波变换就是纯数学计算了。 好，我们已经知道，对于子空间V0，basis是scaling function: 对应的小波函数是: 然后子空间V1的basis集合是这俩哥们: 看出什么规律了么,多看几次这三个图，你会惊讶地发现，在V0中的scaling function和wavelet function的组合，其实就是V1中的basis～继续这样推导，V1本来的的basis是: 然后V1中对应的wavelet function是 他们的组合，本质上也就是V2的basis(参考图2)。你继续推导下去，会得到同样的结论:在scale j的wavelet function，可以被用来将Vj的basis扩展到V(j+1)中去～这是一个非常非常关键的性质，因为这代表着，对任何一个子空间Vj，我们现在有两种去得到它的orthonormal basis: 1. 一种就是它本来的basis ，对任意k。 2. 第二种就是它上一个子空间的basis，对任意k，以及上一级子空间的wavelet function ，对任意k。 第二种选择能给我们带来额外的好处，那就是我们可以循环不断地用上一级子空间的scaling function以及wavelet function的组合来作为当前子空间的基。换句话说，如果针对V3这个子空间，它实际上就有四种不同的，但是等价的orthonormal basis: 1. 本级(V3)的scaling function basis set 2. 上一级(V2)的scaling function + wavelet function; 3 . 上上一级(V1)的scaling function + 上上一级(V1)的wavelet function + 上一级(V2)的wavelet function; 4. 上上上一级(V0)的scaling function + 上上上一级(V0)的wavelet function + 上上一级(V1)的wavelet function + 上一级(V2)的wavelet function 好，看看最后一种选取方式，有没有感到眼熟,对了，它就是我们之前提到的“针对此信号space的哈尔小波basis组合”，参见图1。现在我们知道了，这个scaling function不是凭空插进去的，而是通过不断的嵌套迭代出来的:) 那为什么我们最后选定的是这种选取方式呢,实际上，刚才介绍的这个性质已经告诉我们，对于任何的scale j0，我们都可以给我们的signal space找到一组orthonormal basis，这个basis是通过组合scale j0上的scaling function以及所有在scale j，j>=j0上的wavelets得到的。这样，基于这个orthonormal basis，所有信号空间中的信号都可以写成组成这个basis的functions的线性组合: 对应的系数的计算和平常一样: 这，就是最终的，也是最核心的，小波变换形式。不管是信号压缩，滤波，还是别的方式处理，只要是用小波变换，都逃不出这个基础: 1. 选取合适的wavelet function和scaling function，从已有的信号中，反算出系数c和d。 2. 对系数做对应处理 3. 从处理后的系数中重新构建信号。 这里的系数处理是区别你的应用的重点。比如图像或者视频压缩，就希望选取能将能量聚集到很小一部分系数中的小波，然后抛弃那些能量很小的小波系数，只保留少数的这些大头系数，再反变换回去。这样的话，图像信号的能量并没有怎么丢失，图像体积却大大减小了。 还有一个没有解释的问题是，为什么要强调尺度函数和小波函数组成一个orthonormal basis呢,计算方便是一方面，还有一个原因是，如果他们满足这个性质，就满足瑞利能量定理，也就是说，信号的能量，可以完全用每个频域里面的展开部分的能量，也就是他们的展开系数表示: 到这里，我们对小波变换的形式就讲完了。虽然是用的最简单的哈尔小波为例子，但举一反三即可。我们着重介绍了多解析度分析以及它给小波变换带来的杀手锏:时域频域同时定位。结束之前，再多说几句小波变换的意义。我们拿刚才例子中V3子空间的第二种可选择的orthonormal basis作为例子: 左边这四个basis组成元素，也就是scaling functions，的系数，表征的是信号的local平均(想想它们和信号的内积形式)，而右边的这四个basis组成元素，也就是wavelet functions，的系数则表征了在local平均中丢失的信号细节。得益于此，多解析度分析能够对信号在越来越宽的区域上取平均，等同于做低通滤波，而且，它还能保留因为平均而损失的信号细节，等同于做高通滤波～这样，我们终于可以解释了wavelet function和scaling function背后的物理意义了:wavelet function等同于对信号做高通滤波保留变化细节，而scaling function等同于对信号做低通滤波保留平滑的shape～ 对小波变换的基础知识，我们就讲到这里。需要注意的是，这只是小波变换最基本最基本的知识，但也是最核心的知识。掌握了这些，代表你对小波变换的物理意义有了一定的了解。但对于小波变换本身的讲解，一本书都不一定能将讲透，还有很多的基础知识我都没有讲，比如如何构建自己的scaling function，选取合适的系数集h[k]，并由此构建自己的wavelet functions。所以，如果有深入下去研究的同学，好好买一本书来看吧。而只是希望用小波变换来服务自己的应用的同学，个人觉得这些知识已经足够让你用来起步了。 Published 2011-02-18 Filed in algorithm and tagged 傅立叶变换, 小波变换, 信号处理