71
1 第第第 Wiener 第第第 Kalman 第第

第二章 Wiener 过滤和 Kalman 过滤

  • Upload
    ruby

  • View
    371

  • Download
    0

Embed Size (px)

DESCRIPTION

第二章 Wiener 过滤和 Kalman 过滤. 过滤:即滤波,将被噪声污染的信号尽可能地提取出来,最大限度的抑制噪声,而将有用信号分离出来。. 引言. 过滤可以看作是估计问题。 通信工程:波形估计 控制工程:动态估计. 滤波、预测和平滑的关系. 滤 波: 预测 ( 外推 ): 平滑 ( 内插 ):. Wiener 滤波. 若信号 是广义平稳的,已知其自相关函数或功率谱,所用的最优评估准则为 MMSE (Mininum Mean Square Error), 即 。. - PowerPoint PPT Presentation

Citation preview

1

第二章

Wiener 过滤和 Kalman 过

2

过滤:即滤波,将被噪声污染的信号尽

可能地提取出来,最大限度的抑制噪声,

而将有用信号分离出来。

引言

3

过滤可以看作是估计问题。

通信工程:波形估计

控制工程:动态估计

4

滤 波:

预测 ( 外推 ):

平滑 ( 内插 ): 1)(ˆ,),2(),1(

0)(ˆ,),2(),1(

)(ˆ,),2(),1(),(

NNnsnxnx

NNnsnxnx

nsnxnxnx

滤波、预测和平滑的关系

5

若信号 是广义平稳的,已知其自相关函数或功率

谱,所用的最优评估准则为 MMSE (Mininum Mean

Square Error), 即 。

)(nx

Wiener 滤波

6

由二次世界大战提出,以后在通信,控制等领域获得广泛应用 , 并在应用之中得到发展。但 Wiener

滤波不能用于实时递推处理 , 也不适用于非平稳信号的滤波。

Wiener 滤波

7

从本世纪四十年代起 , 有人用状态变量分析法来研究随机过程。到六十年代初 , 由于空间技术的发展 , 为了解决对非平稳、多输入 / 输出随机序列的估计问题 ,由 Kalman 提出的 MMSE 准则下滤波称为 Kalman 滤波,并由 Kalman 和 Bucy 一起将其推广到连续的时间随机过程。 Kalman 滤波一出现就引起人们的很大重视,现已成功的应用于许多领域,并在实践中不断丰富和完善。

8

Kalman 滤波

已知前一个估计值和最近一个观测数据,仍然要求满足 MMSE ;用状态方程,观测方程进行估计。

9

特点:对误差抑制能力强。 对小误差不敏感。

MMSE

min]))(ˆ)([()]([

)(ˆ)()(

22

nsnsEneE

nsnsne

10

Wiener 滤波:要求知道随机信号的统计分布规律 ( 自相关函数或功率谱密度),得到的结果是封闭公式 , 适用于平稳随机信号。其物理概念清楚,但不能递推实时处理。 Kalman 滤波:采用递推的处理方法 , 适用于平稳和 / 或非平稳随机过程,是 Wiener 滤波的一种算法。

Wiener 滤波和 Kalman 滤波的比较

11

§2 Wiener 滤波器的离散形式

--- 时域解

12

Wiener 滤波最初是对连续时间信号用模拟滤波的形式出现的 , 而后才有离散形式 , 设计 Wiener 滤波器的过程是在满足 MMSE 准则下,寻找 或 。 ( )H z)(nh

系统是因果的 , ( ) 0 0h n n

13

0

1

22

2

1

ˆ( ) ( ) ( ) ( ) ( ) ( )

ˆ( )

1 ( 1) ( )

( 1) ( )

ˆ( ) ( ) ( ) ( ) ( )

ˆ( ) ( ) ( )

( ) min

m

i ii

i

i

i ii

y n s n x n h n h m x n m

h x s n

i m h h i h m

x x n i x n m

e n s n s n s n y n

E e n E s n s n

E s n h x

14

10)()(

10))((2)(

10)(

1

2

2

jjxneE

jxxhnsEh

neE

jh

neE

ji

iij

j

15

正交性原理

①11

jrhri

xxisx jij

写成矩阵形式:

sx

sx

sx

Nxxxxxx

xxxxxx

xxxxxx

NNNNN

N

N

r

r

r

h

h

h

rrr

rrr

rrr

2

1

21

22212

12111

2

1

16

0)()(

)()()(

0)())()()((

0

0

kkrkh

mkrmhkr

tnxmnxmhnsE

xxopt

mxxoptxs

m

①②称为 Wiener-Hopf 方程。

17

讨论

1. 若 没有因果限制

)(

)()(

)()()(

)()()(

zS

zSzH

zSzHzS

krkhkr

xx

xsopt

xxoptxs

xxoptxs

)(nh

18

2.因果 FIR 网络

写成矩阵形式:

xsxx

xxxs

rrh

hrr1

1,,1,0)()()(

100)(

1

0

Nkmkrmhkr

Nnnh

N

mxxoptxs

19

其中:

NNNN

N

N

N

xxxxxx

xxxxxx

xxxxxx

xx

sx

sx

sx

xs

N

rrr

rrr

rrr

r

r

r

r

r

h

h

h

h

21

22212

12111

2

1

][][ 2

1

20

① N大时,计算工作量很大,并需要计算逆矩阵, 要求的存储量也大。② 计算过程中,若通过增加滤波器的长度 N,提高 逼近精度时,就需要在新N的基础上重新进行计算。

Wiener-Hopf 方程存在的问题

21

例 :

已知: 都是白噪声 , 方差

且 与 与

不相关,并且都是实信号,期望信号为 。设计长

度为 2 的 Wiener 滤波器以得到 的最佳估计。

)(1 nv 2 ( ), ( )v n x n1 2

2 20.27, 0.27, )(),( 21 nvnv

)(ny

)(1 nx

)(1 nx

,9458.0,8458.0 10 bb

22

根据Wiener 滤波理论

求解 为关键。

分析

)(ny)(zW

1̂( )x n

1

1opt yy yxw R R

)(),(1mrmr yxyy

23

解 :

)(1 nv )(1 nx )(nx+)(2 zH)(1 zH

)(2 nv)(ny

因为 与 不相关,并且

所以

)()()( 2 nvnxny

)()()(22mrmrmr vvxxyy

)(nx )(2 nv

24

)(1 nv )(nx)(zH

1 2 1 10 1

1( ) ( ) ( )

(1 )(1 )H z H z H z

b z b z

25

)()2()1()( 221 nvnxanxanx

① 两边同乘以

由①式可以确定 代入上面的方程组中,并取出 m=1,2,0得三个方程 . 确定三个未知数 因为待求滤波器的长度为 2 ,因此自相关函数矩阵的 大小为 22 。

)( mnx

00)2()1()( 21 mmramramr xxxxxx

0)2()1()0( 221 1

mrarar vxxxxxx

21,aa、)0(xxr

).2()1( xxxx rr 、

26

1.00

01.0

)0()1(

)1()0(

15.0

5.01

)0()1(

)1()0(

2222

2222

22vvvv

vvvv

vv

xxxx

xxxxxx

rr

rrR

rr

rrR

1 1

2 1

1

(0) (1) 1.1 0.5( )

(1) (0) 0.5 1.1

( ) ( ) ( )

( ) ( ) ( )

( ) ( )

yy yy

yyyy yy

yx

r rR m

r r

R m E y n x n m

E x n v n x n m

E x n x n m

27

据 的模型)(2 zH

1

1

1

1 1

1 1

1

1

1

1

( ) ( 1) ( )

( ) ( 1) ( )

( ) ( ) ( ) ( 1)

( ) ( 1)

(0) (0) (1) 0.5272

(1) (1) (0) 0.4458

yx

xx xx

yx xx xx

yx xx xx

x n b x n x n

x n b x n x n

R m E x n x n m b x n m

r m b r m

R r b r

R r b r

28

1

1

11.1 0.5 0.5272

0.5 1.1 0.4458

1.1456 0.5208

0.5208 1.1456

opt yy yxw R R

29

估计的最小均方差

)(1 nv )(1 nx)(1 zH

)()1()( 1101 nvnxbnx

30

两边同乘以 并取数学期望:

1 1 1

1 1 1

1

1

2 21

1 0 1 1 0 1

2 20

22

2 20

(0) ( )

( ( ) ( 1))( ( ) ( 1))

(0)

0.27

1 1 8458

x x x

v x x

vx

r E x n

E v n b x n v n b x n

b r

b

)(1 nx

31

§2.Wiener 滤波的离散形式

---Z 域解

32

0)()()(0

kmkrmhkrm

xxoptxs

不能直接转入 求解 )()( nhzH optopt

33

思路:将 白化之后求解 Wiener-Hopf 方程

)()( nvns

)(nx )(ˆ)( nsny )(nh

)(n)(nx)(zG)(1 zB

)(ˆ)( nsny

)()(

)()( zG

zB

zGzH 的求解。

)(nx

34

)(n)(nx)(1 zB

的白化)(nx

)(zB要求 为最小相位系统

35

信号模型)(n )(nx

)(zB

)(nw )(ˆ ns)(zA

)()()( 12 zBzBzSxx

)()()( 12 zAzAzSss

36

一、非因果解

37

k

knkg

ngnnyns

nsnsEneE

)()(

)()()()(ˆ

min]))(ˆ)([()]([ 22

38

2 2

2

2 2

22

2

[ ( )] ( ( ) ( ) ( ))

{[ ( ) 2 ( ) ( ) ( )

( ) ( ) ( ) ( )]}

(0) 2 ( ) ( ) ( )

( ) ( )(0) [ ( ) ]

( )( ) 0

k

k

k r

ss sk k

s sss

k k

s

E e n E s n g k n k

s n g k n k s n

g k g r n k n r

r g k r k g k

r k r kr g k

S kg k

39

)(

)(1

)(

)()(

)()(

)()(

2

2

2

zB

zS

zB

zGzH

zSzG

krkg

soptopt

sopt

sopt

40

因为

所以

一般形式 ①

)(

)(

)(

11)(

)(

)()(

1

1

zB

zS

zBzH

zB

zSzS

xsopt

xss

)(

)()(

zS

zSzH

xx

xsopt

41

当 与 不相关时 , 即)(ns n 0)]()([ nvnsE

)()(

)()]())()([()(

)()()(

)()(

))]()())(()([()(

zSzS

mrmnsnvnsEmr

zSzSzS

mrmr

mnvmnsnvnsEmr

ssxs

ssxs

vvssxx

vvss

xx

42

)()(

)(

)()(

)()(

)()(

)(

)(

)()(

vvss

ssj

vvj

ss

jssj

opt

vvss

ss

xx

xsopt

PP

P

eSeS

eSeH

zSzS

zS

zS

zSzH

0)(,0)(1

0)(,0)(1

0)(,0)(0

)(

vvss

vvss

vvssj

opt

PP

PP

PP

eH

43

)( jopt eH

)( jss eP

)( jvv eP

44

推导

其中 ,应用复卷积定理求解。

用围线积分法求逆Z变换

min2 )]([ neE

22

min 2

( )[ ( )] (0) s

ssk

r kE e n r

2( ) [ ( )]ssr E s n

45

复卷积定理

nc z

dz

zYzX

jnynx )

*

1(*)(

2

1)(*)(

46

取 ,则

)()( nxny

z

dzzSzS

jkr

z

dzzXzX

jnx

sc sk

s

cn

)()(2

1)(

)()(2

1)(

12

12

47

z

dzzSzSzS

jneE sc sss )]()(

1)([

2

1)]([ 1

2min2

)(),( nvns

z

dzzSzHzS

j

z

dz

zB

zS

zB

zSzS

jneE

c xsoptss

xs

c

xsss

)]()()([2

1

])(

)(

)(

)(1)([

2

1)]([

1

1

12min2

[注:当 不相关时 ] )(

)()(

1zB

zSzS ss

s

)(

)()(

1zB

zSzS xs

s --②

48

假定 , 并带入②式且由于 为偶函数)()(0)]()([ zSzSnvnsE ssxs

)(mrss

)()(

)()(

1

zSzS

mrmr

ssss

ssss

49

z

dz

zS

zSzS

j

z

dzzS

zS

zSzS

jneE

cxx

vvss

sscxx

ssss

])(

)()([

2

1

)]()(

)()([

2

1)]([ 1min

2

50

二、因果 Wiener 滤波器 的求解

51

0

)()()(*)()(ˆ

00)(

k

knkgngnns

nng

52

)()(

00

0)(

)(

)(1

))(

)(()0(

]))(ˆ)([()]([

0

22

0

2

22

nunr

n

nnr

ng

krkr

kgr

nsnsEneE

ss

opt

ks

k

sss

53

0

( ) ( )

[ ( )] [ ( ) ( ) ]

[ ( ) ]

ns s

n

ns s

n

ns

n

S z r n z

S z r n u n z

r n z

54

又由于 ,得

)]([1

)(2

zrzG sopt

)(

)()(

1zB

zSzS xs

s

])(

)([

)(

11

)(

)()(

])(

)([

1)(

12

12

zB

zS

zB

zB

zGzH

zB

zSzG

xs

optopt

xsopt

55

z

dzzSzHzS

j

z

dz

zB

zS

zB

zSzS

j

z

dzzSzS

jr

krkukrr

krrneE

c xsoptss

c

xsxsss

c ssss

sk

sss

ksss

))()()((2

1

))(

)(])(

)([

1)((

2

1

)()(1

2

1)0(

)()]()([1

)0(

)(1

)0()]([

1

1

12

12

2

0

22min

2

56

Wiener 滤波器设计的一般解题方法

( )xxS z

1

( )[ ]( )xsS z

B z

① 由 得到信号的时间序列模型 ;

② 求 的 Z反变换,取因果部分,再做 Z 变

换,得 ;

③ 计算 ,积分曲线取单位圆。

( )B z

])(

)([

1zB

zSxs

2min( ), [ ( )]optH z E e n

57

留数内容的复习

58

1. 留数的定义

0z )(zf

c

dzzfj

zzf )(2

1]),(Res[ 0

设 为 的孤立奇点

59

2. Z反变换

ji

n

c

n

zzzX

dzzzXj

nx

],)(Res[

)(2

1)(

1

1

60

ji

c

zzS

dzzSj

neE

]),(Res[

)(2

1)]([ min

2

61

例:已知 )8.01)(8.01(

36.0)(

1 zzzSss

)(10)( 2 nvmr nsv 为白噪声,

求 :

0vm

2min( ), [ ( )]optH z E e n

62

解 :

)()(

)8.01)(8.01(

)5.01)(5.01(6.1

1)8.01)(8.01(

36.0

)()()(

)()()(

12

1

1

1

zBzB

zz

zz

zz

zSzSzS

mrmrmr

vvssxx

vvssxx

须是最小相位系统。 6.1,8.01

5.01)( 2

1

1

z

zzB)(zB

63

① 物理可实现情况

])5.01)(8.01(

36.0[

)5.01(6.1

8.01

])(

)([

)(

11)(

11

1

12

zzz

z

zB

zS

zBzH xs

opt

64

因果,稳定 .

的极点为 0.8 ,2

考虑到因果性,稳定性仅取极点 .

)5.01)(8.01(

36.0)(

1 zzzF

)()()( nfnfzF IZT

)(zF

8.0iz

65

n

z

n

n

zzz

z

zzz

zFIZTnf

8.06.0

)8.0()5.01)(8.01(

36.0

]8.0,)5.01)(8.01(

36.0Res[)]([)(

8.01

1

11

取因果部分 )(8.06.0)( nunf n

66

1

11

1

1

5.01

1

8

3

8.01

6.0

)5.01(6.1

8.01

8.01

6.0

)](8.06.0[)]([)(

z

zz

zH

z

nuZTnfZTzF

opt

n

67

z

dz

zzj

zz

zzzj

z

dzzSzHzS

jneE

c

c

c xsoptss

)5.01)(8.01(85

36.0

2

1

)8.01)(8.01(

36.0

5.01

1

8

3

)8.01)(8.01(

36.0

2

1

))()()((2

1)]([

1

1

11

1min

2

68

单位圆内只有极点

zzzzE

1

)5.01)(8.01(85

36.0)(

1

0.5iz

1)]([]))()([()]([ 2222 vnvEnsnxEneE

69

② 非物理可实现情况

)5.01)(5.01(

225.0

)()(

)(

)(

)()(

1 zz

zSzS

zS

zS

zSzH

vvss

ss

xx

ssopt

70

z

dz

zzzz

zz

j

z

dz

zz

zzzzj

z

dzzSzHzS

jneE

c

c

c xsoptss

)5.01)(5.01)(8.01)(8.01(

)5.05.0025.1(36.0

2

1

])8.01)(8.01(

36.0

)5.01)(5.01(

225.0

)8.01)(8.01(

36.0[

2

1

))()()((2

1)]([

11

1

1

11

1min

2

71

单位圆内有两个极点 0.8,0.5

可见,非物理可实现情况的最小均方差 <物理可实

现情况的最小均方差。

zzzzz

zzzF

)5.01)(5.01)(8.01)(8.01(

)5.05.0025.1(36.0)(

11

1

10

3

]5.0),([Re]8.0),([Re)]([ min2

zFszFsneE