PT1300036 杨一君 华北光电技术研究所 Tel:13167305602
信号分析与处理中的数学方法
1
信号分析与处理中的数学方法
PT1300036 杨一君 华北光电技术研究所
Email:yyj.jun@foxmail.com
1、叙述卡享南—洛厄维变换,为什么该变换被称为最佳变换,何为其实用时的
困难所在,举例说明其应用。
答:1.最佳变换:
卡享南—洛厄维变换是一类特殊的正交变换,它对随机信号的处理很有用,既能使变换
后的分量互不相关,又能使得均方误差最小,因而常被称作最佳变换。
2.使用时困难所在:
卡享南—洛厄维变换没有固定的变换矩阵,它依赖于给定的随机向量的协方差矩阵。这
是这种变换的特点,也是它在实用时的困难所在,因为它要依照不固定的矩阵 Cx求特征值
和特征向量。
3. 卡享南—洛厄维变换叙述:
形为 的方程称为齐次佛莱德霍姆积分方程,其中 为未
知函数, 是参数,
,C t s
为已知的“核函数”,它定义在 上,我们假定
它是连续的,且是对称的:
(1-1)
使积分方程(1-1)有解的参数 称为该方程的特征值,相应的解 称为该方程的特征函
数。
固定一个变量 t,则
1
, n n n
n
C t s t s
(1-2)
表示以 s为变量的函数
,C t s
关于正交系
n t 的傅立叶级数展开,而傅立叶系数正
PT1300036 杨一君 华北光电技术研究所 Tel:13167305602
信号分析与处理中的数学方法
2
好是
n n t 。
设
x t
为一随机信号,则其协方差函数
(1-3)
是一个非随机的对称函数,而且是非负定的。为了能方便地应用式(1-2),假定
,C t s
是
正定的,在多数情况下,这是符合实际的。当然,还假定
,C t s
在 上连
续。
现在用特征函数系
n t 作为基来表示 x t :
1
n n
n
x t t
(1-4)
其中
0
T
n nx t t dt 。因为 n t 是归一化正交系,所以展开式类似于傅里叶级
数展开。但是因为
x t
是随机的,从而系数 n
也是随机的,因此这个展开式实际上并不是
通常的傅里叶展开。式(1-4)称为随机信号的卡享南-洛厄维展开。
因为这种变换能使变换后的分量互不相关,又能使均方误差最小,故被称作最佳变换。
设
1, ,
T
Nx x x 为N 维随机向量,存在这样一个正交变换,有
y x
(1-5)
使得变换后的随机向量 y具有对角形的协方差阵,即
(1-6)
其中 1
, , N 为 x
C
的特征值, 1
, , N 是相应的归一正交化特征向量组。上述矩阵
所表示的正交变换称为卡享南-洛厄维变换。变换之后的随机向量 y的诸分量之间不再有
相关性。
4.卡亨南洛维变换法提高探地雷达信号信噪比方面的应用:
针对探地雷达 GPS 信号中背景杂波强分,布范围广,信号信噪比低的特点提出一种用
PT1300036 杨一君 华北光电技术研究所 Tel:13167305602
信号分析与处理中的数学方法
3
卡亨南洛维变换法对 GPS 信号进行多道处理的方法.该方法充分利用了多道 GPS 数据中背
景杂波目标信号,以及随机噪声等成分,所具有的不同相关性这一重要的二阶统计特征.
根据多道数据相关矩阵特征值的大小,与数据中各成分相关性强弱的对应关系,实现了
目标信号与背景杂波和随机噪声的有效分离.与针对消除直达波影响的时窗法和平均相减法
相比, 卡亨南洛维变换法对直达波的去除更彻底不会有拖尾效应,抗噪能力更强信噪比改善
更显著经处理后的信号信噪比可提高.
2、最小二乘法的三种表现形式是什么?以傅里叶级数展开为例说明其各自的优
缺点。
答:一般的说,希尔伯特空间中线性逼近问题的求解方法称为最小二乘法。通常它有三
种不同的表现形式:
1.投影法。
2.求导法。
3.配方法。
下面以傅里叶级数展开为例来说明:
1.投影法
设 X 为希尔伯特空间,
1 2, ,e e 为 X 中的一组归一化正交元素,x为 X 中的某一元
素。在子空间
1 2, ,M span e e 中求一元素 0m ,使得
0 min
m M
x m x m
(2-1)
由于M 中的元素可表示为 1 2
, ,e e
的线性组合,那么问题就转化为求系数 1 2, , ,
使得
1
mink k
k
x e
(2-2)
投影定理指出了最优系数 1 2
, ,
应满足
1
, 1,2,k k m
k
x e e m
(2-3)
由此即得
1
, ,m k k m m
k
x e e e
。也就是说,当且仅当 k
取为 x关于归一化正
PT1300036 杨一君 华北光电技术研究所 Tel:13167305602
信号分析与处理中的数学方法
4
交系
1 2, ,e e 的傅立叶系数 ,k kx e 时式(2-2)成立。
上面的求解方法称为投影法,它是最小二乘法的第一种表现形式。
2.求导法:
第二种方法是求导法,仍以上面的问题为例来说明。记泛函
2
1 2
1
, , k k
k
f x e
(2-4)
为了便于使用求导法求此泛函的最小值,将它表为
1 2
1 1
2 2
1 1
, , ,
2
k k m m
k m
k k k
k k
f x e x e
x c
(2-5)
其中
,k kc x e 。于是最优的 1 2, , 应满足
0, 1,2,
m
f
m
即
2 2 0m mc ,或
, 1,2,m mc m 。
3.配方法
下面再用第三种方法即配方法来求解:
2 2
1 2
1 1
, , 2 k k k
k k
f x c
(2-6)
2 2 2 2
1 1 1 1
2k k k k k
k k k k
x c c c
2 22
1 1
k k k
k k
x c c
min k kc , 1,2,k
又一次得到了相同的结果。
以上三种方法都称为最小二乘法。比较起来,从数学理论上讲,投影法较为高深,求导
法次之,配方法较为初等,只用到了初等数学。从方法难度上讲,求导法最容易,投影法和
配方法各有千秋。从结果上看,配方法最好,它不但求出了最有系数α k,而且由配方结果
立即可知目标函数
1 2, ,f 的极值。此外,配方法和投影法都给出了 f 达到极小的充
PT1300036 杨一君 华北光电技术研究所 Tel:13167305602
信号分析与处理中的数学方法
5
分和必要条件,但求导法给出的仅仅是极值的必要条件,如果是极值,还不知道是极大还是
极小,故是不完整的。
通过以上的比较,我们不能简单地得出结论,说这三种方法孰胜孰劣。因为衡量一种方
法好坏的标准是多方面的。我们还应看到这三种方法的各自困难所在。例如投影法必须把所
讨论的最优化问题放到某个希尔伯特空间的框架中去;求导法必须有可行的求导法则,如果
未知的变元是向量,矩阵或函数,求导法就不那么直捷了;而配方法则是一种技巧性很强的
方法,如果目标函数的表达式比较复杂(例如含有向量和矩阵),那么配方是相当困难的,
甚至会束手无策。因此,在不同的场合,根据不同的需要和可能,灵活地使用恰当的方法,
是掌握最小二乘法的关键。
3、二阶矩有限的随机变量希尔伯特空间中平稳序列的预测问题的法方程称为关
于平稳序列预测问题的 yule-walker方程,试用投影法和求导法推导该方程。
该方程的求解算法称为最小二乘算法,请对这些算法的原理予以描述。
考虑二阶矩有限的随机变量希尔伯特空间中的序列
1 2, ,x x ,记子空间
, 1 1, , ,k N k N k N kM span x x x (3-1)
现在的问题是,用 ,k N
M
中的元素
1
N
N
k m k m
m
x x
(3-2)
来估计 k
x
,并使得均放误差最小,也就是求系数 1
, , N 使得
22
min
NN
k k k kx x E x x
(3-3)
这个问题就是随机序列的预测问题。
1.由投影法推导:
根据投影定理,
N
kx 应是 k
x
在子空间 ,k N
M
中的投影,即 1
, , N 满足
1
, 1, ,
N
k m k m k l
m
x x x l N
(3-4)
根据空间中的正交性定义,上式即为
PT1300036 杨一君 华北光电技术研究所 Tel:13167305602
信号分析与处理中的数学方法
6
1
, 1, ,
N
m k m k l k k l
m
E x x E x x l N
(3-5)
这就是最佳预测的法方程。因为随机序列
1 2, ,x x 是平稳的,故式(3-5)可写作
1
, 1, ,
N
m l m l
m
r r l N
(3-6)
其中
m mr E x x 是该平稳序列的自相关,它满足 r r 。方程 (3-6)即为
Yule-Walker方程,它的分量形式为
0 1 1 1 1
1 0 2 2 2
1 2 0
N
N
N N N N
r r r r
r r r r
r r r r
(3-7)
2.由配方法推导:
我们先将式(3-3)改写为如下形式
2
1
1
, , min
n
n k k
k
f x y
(3-8)
进一步推导有
1 1
2
1 1 1
2
,
2 , ,
2
n n
k k k k
k k
n n n
k k k m k m
k k m
T T
f x y x y
x x y y y
x Y
(3-9)
利用求导公式, 应满足 2 2 0f Y ,即Y 。
3.利用最小二乘算法求解 yule-walker方程的原理:
Levinson-Durbin 算法
Levinson-Durbin递推算法是在满足前向预测均方误差最小的前提下,先求得观测数据的自相
关函数,然后利用yule-walker方程的递推性质,求解yule-walker方程。算法是求解正则方程
组的预测系数的有效算法,这种算法利用了自相关矩阵的对称性,且这个矩阵是托普利兹矩
阵,并利用托普利兹矩阵的特点来进行迭代计算,即首先由一阶预测器开始,计算出相应的
预测系数,然后增加阶数得到下一个高阶的计算结果。
Burg 算法
PT1300036 杨一君 华北光电技术研究所 Tel:13167305602
信号分析与处理中的数学方法
7
Burg 算法的基本思想是直接从观测的数据利用线性预测器的前向和后向预测的总均方误差
之和为最小的准则来估计反射系数,进而通过Levinson-Durbin算法的递推公式。
4、简述卡尔曼滤波的原理,并指出其可能的应用。
答:1.卡尔曼滤波原理
教材中对卡尔曼滤波的介绍是构造性的,即边证明变给出在选取最小方差准则为最佳
准则,及若干噪声统计假设条件下求解卡尔曼滤波问题的方法,从中可以看出卡尔曼滤波作
为一种无偏估计(即估计的均值等于状态的真值)的优越性。
在查阅相关文献后,这里更为简洁的介绍一下卡尔曼滤波的原理:
卡尔曼滤波是以最小均方误差为估计的最佳准则,
来寻求一套递推估计的算法,其基本思想是:采用信号与噪声的状态空间模型,利用前一时
刻的估计值和现时刻的观测值来更新对状态变量的估计,求出现在时刻的估计值。
卡尔曼滤波的实质是由量测值重构系统的状态向量。它以“预测—实测—修正”的顺序
递推,根据系统的量测值来消除随机干扰,再现系统的状态,或根据系统的量测值从被污染
的系统中恢复系统的本来面目。
下列动态系统方程的状态的最佳递推估计:
(4-1)
(4-2)
问题转化为求如下形式的线性最佳估计:
综上所述,我们得到了线性动态系统(4-1)和(4-2)在统计假设及初始估计下的最
小方差线性估计的递推运算格式为:
1l l l l l
l l l l
x x
y H x v
{( )( ) } minTk kk k kP E x x x x
1 1 1 1 1 1 1
1
1 1
1
1
1
( )
( )
( )
T T
k k k k k k k
T T
k k k k k k k
k k k k
k kk k k
k k k k
B P Q
K B H H B H R
A I K H
x A x K y
P I K H B
1k kk k kx A x K y
PT1300036 杨一君 华北光电技术研究所 Tel:13167305602
信号分析与处理中的数学方法
8
2.卡尔曼滤波应用:
卡尔曼滤波器最初是专为飞行器导航而研发的,目前已成功应用在许多领域中。卡尔
曼滤波器主要用来预估那些只能被系统本身间接或不精确观测的系统状态。许多工程系
统和嵌入式系统都需要卡尔曼滤波。
比如,在雷达中,人们感兴趣的是跟踪目标,但目标的位置,速度,加速度的测量值
往往在任何时候都有噪声。卡尔曼滤波利用目标的动态信息,设法去掉噪声的影响,得
到一个关于目标位置的好的估计。这个估计可以是对当前目标位置的估计(滤波),也可
以是对于将来位置的估计(预测),也可以是对过去位置的估计。
卡尔曼滤波器应用领域:
自动驾驶仪;
动态定位系统;
经济学,特别是宏观经济学,时间序列模型以及计量经济学 ;
惯性引导系统;
雷达跟踪器;
卫星导航系统……
5、什么是插值?有多少种插值,举一个教材之外的例子说明其应用。
在有的实际问题中,被逼函数
x t
并不是完全知道的,只是知道其在一些采样点处的
数值:
, 0,1,i ix t x i (5-1)
这时,希望用简单的或可实现的函数
f x
去拟合这些数据。如果恰能做到
i if t x ,
那么这就是插值,如果办不到就要考虑最佳逼近问题。
插值和逼近都是指用某个简单函数在满足一定条件下,在某个范围内近似代替另一个较
为复杂或者解析表达式未给出的函数,以便简化对后者的各种计算或揭示后者的某些性质。
插值的种类:多项式插值,有理插值,指数多项式插值,代数插值(一元插值,二元插
值),Hermite插值,样条插值,三角插值等,按不同的分类方法有不同的分类名称。
教材之外的例子(这里举一个本学期所选数值分析大作业中的一个题目来说明):
1.实际问题:
在飞机制造业中,机翼的加工是一项关键技术。由于机翼的尺寸很大,通常在图纸中只
PT1300036 杨一君 华北光电技术研究所 Tel:13167305602
信号分析与处理中的数学方法
9
能标出某些关键点的数据。下表给出的是某型号飞机的机翼上缘轮廓线的部分数据。
x 0.00 4.74 9.50 19.00 38.00 57.00 76.00
y 0.00 5.32 8.10 11.97 16.15 17.10 16.34
x 96.00 114.00 133.00 152.00 171.00 190.00
y 14.63 12.16 9.69 7.03 3.99 0.00
但是,在使用数控机床加工机翼时,由于机床走刀只能沿 x方向和 y方向走非常小的步
长,因此机床编程时需要计算出轮廓线上 x坐标每改变 1个单位时 y的相应坐标。
请根据加工要求用三次样条插值法,对上表中的数据进行细化。
2.设计算法概述:
本次任务可以看作是完成曲线插值:样条插值。下面介绍这种插值的算法。首先要解决
的问题是插值步长和插值区段的划分。
由于机床加工时的步长应该为固定的,不能恰好达到某些设计型值点(如 x = 4.74 在步
长为 0.5 时不会被取到)。本次任务中对插值区段的规整化进行了算法上的研究(当然,拟
合曲线在计算上仍然通过型值点),目的在于使同一个区段上得到的不同插值结果可以快速
融合优化。例如,高次多项式插值根据计算区间的选取不同,在同一区间内可以有不同的插
值结果,将这些结果融合也许可以获得更佳的结果。插值区间规整化后,实现这种融合更加
方便了。本次任务中,步长选为 0.5。
3.插值区间规整化
void head_end(float x1,float x2,float *head,float *end)//确定本段取值的起末参数
{
if(x1-floor(x1)>0.5)*head = ceil(x1);
else
if(x1 == floor(x1))
*head = x1;
else
*head = floor(x1) + 0.5;
if(x2-floor(x2)>0.5)*end = ceil(x2)-0.5;
PT1300036 杨一君 华北光电技术研究所 Tel:13167305602
信号分析与处理中的数学方法
10
else
if(x2 == floor(x2))
*end = x2 - 0.5;
else
*end = floor(x2);
}
进行规整后,区间划分情况变为:
[0.0, 4.5],[5.0, 9.0],[9.5, 18.5], [19.0, 37.5],[38.0, 56.5], [57.0, 75.5],[76.0,94.5],
[95.0, 113.5],[114.0, 132.5],[133.0, 151.5],[152.0, 170.5],[171.0,189.5]
4.三次样条插值
三次样本插值函数:
3 31
1
1 1
1 1
( ) ( ) ( )
6 6
( )( )
6
( )( ), ( 1,2, , )
6
i i
i i
i i
i i
i i
i
i i
i i i i
i
M M
s x x x x x
h h
y M
h x x
h
y M
h x x x x x i n
h
(5-2)
其中: 1i i ih x x
而M的解法为解线性方程组:
1 12 ( 1,2, , 1)i i i i i iM M M i n (5-3)
其中:
1
1
i
i
i i
h
h h
1i i
1 1
1 1
6
( )i i i ii
i i i i
y y y y
h h h h
任务完成选用了第一种边界条件:
0 0n 0 0n 0 0nM M
于是,线性方程组表达为:
PT1300036 杨一君 华北光电技术研究所 Tel:13167305602
信号分析与处理中的数学方法
11
1 1 1 1
1 1 1 1
2 0 0
2
2
2 0 0
n n n n
M
M
(5-4)
由(5-3)和(5-4)得到M后,将位置 x带入(5-2)即可得 x处的 y值。
5.插值机翼轮廓线演示
整体曲线:
曲线局部:
6.算法总结:
三次样条插值利用三次多项式插值一个区间内的曲线,可以通过规定型值点处的一阶
或二阶导数值来使相邻区间的插值曲线光滑连接,在型值点处达到二阶连续。该方法的优势:
设计时可以为曲线插值提供清晰的几何要求,构造连续性良好的曲线。缺点在于:计算相对
复杂,不具有局部性。