14
) 28 ( ) 2 ( 2006 Tishreen University Journal. Eng. Sciences Series 1 _ ) 28 ( ) 2 ( 2006 Tishreen University Journal for Studies and Scientific Research- Engineering Sciences Series Vol. (28) No (2) 2006 * ** *** ) 21 / 5 / 2006 . 10 / 10 / 2006 ( . Feed-Forward Dual Extended Kalman Filtering . : . * & . ** & . *** & .

ˇ - الموقع الرسمي جامعة تشرين | University Journal. Eng. Sciences Series 2006 (2) (28 ) 211 2006 (2) (28 ) ˘ ˇ _ Tishreen University Journal for Studies and

  • Upload
    lydien

  • View
    219

  • Download
    0

Embed Size (px)

Citation preview

����� ��� ���� ���� ��� ���� ������)28 ( ���)2 (2006 Tishreen University Journal. Eng. Sciences Series

211

������� ���� ������� ����� ����� ���� _ ������������� ����� ������)28 ( �����)2 (2006

Tishreen University Journal for Studies and Scientific Research- Engineering Sciences Series Vol. (28) No (2) 2006

� ������� � �������� �!���� ���"����#!�� $���% �� &��'�� ���(

)��* +��� $��!���*

���� -#� ��!��� **

)!(.� ���� ***

) /����� 0����21 /5 /2006 . )3 ����� -�*10/10/2006(

���� 45"���� ����

���� ����� ����� �������� � ��� !� �� �� "��#�� ���$%� �&'�� (��� )�#�� ��*�� ����� +,-.���/�� �0��� �12�1� ����3� ������ ��&�' "��#�� �1� +- ����2�� �12�1� ($��4 5� 4 �����.

�&'�� 7�� � ($��4 � "��#�� 8&/��� +- ���� �������� � ��*��21� �����2��� �'���� ���9 ����� ( �� �����2* �'�� �� /��� :;�� ����� <=> +-� ?���� � �Feed-Forward ���� ,� ��,� +����

����� +0�@�� ��' A�� ��$���/ �� /���Dual Extended Kalman Filtering �������,��&�� �,��$B!��� �=> +- �����- C � �&'�� � ����� "��#���9 D ��� ������ E����� ���� ;���0���B� <=> ����- � .

���! �����6�:

�����2��� �'���� ��*��21�F (��� "��#��F A�� ��'.

* ��� � ��* )3 ����� 8���9– ��!���!���� ������� ���! &�<����!�� �= ����� �����= ��*8#��=����.

** �!���� ������� ��* )3 +��� – ��!���!���� ������� ���! & ��<����!��= ����� �����= ��*8#��=����. *** ��� � ��* )3 ������� >���= ��!���!���� ������� ���! & ��<����!��= ����� �����– ��*8#��=���� .

�&'�� (��� � "��#�� ���$B ��*��21� �����2��� �'���� �� /��� +� ;9 ���9 +'$G�

212

������� ���� ������� ����� ����� ���� _ ������������� ����� ������)28 ( �����)2 (2006

Tishreen University Journal for Studies and Scientific Research- Engineering Sciences Series Vol. (28) No (2) 2006

Using Artificial Neural Networks for Removing

Noise from Speech Signal

Dr. Lamis Kudsi *

Dr. Bilal Chiha **

Hussain Alazki***

(Received 21 / 5 / 2006. Accepted 10/10/2006)

���� ABSTRACT ����

Improvement of quality and intelligibility of the speech signal by removing its

noise has a wide range of applications; so it is necessary for improving the performance of vocal communications under noisy conditions such as telecommunications in aviation and teleconferencing and cellular communications.

The Artificial Neural Networks are one of the important developments aimed at removing noise from speech recognition devices. In this paper, we will also discuss the use of Feed-forward neural networks training by dual extended Kalman Filtering algorithm (DEKF) to remove nonstationary and colored noise from speech, presenting a number of experimental results supporting such a procedure.

Key Words: Artificial Neural Networks - Noise Signal - Kalman Filtering

*Associate Professor, Communications Department, Faculty of Mechanical & Electrial Engineering,

Tishreen University, Lattakia, Syria. **

Assistant Professor, Computer and Control Department, Faculty of Mechanical & Electrial

Engineering, Tishreen University, Lattakia, Syria. ***

Postgraduate Student, Communications Department, Faculty of Mechanical & Electrial

Engineering, Tishreen University, Lattakia, Syria.

����� ��� ���� ���� ��� ���� ������)28 ( ���)2 (2006 Tishreen University Journal. Eng. Sciences Series

213

?�@��� : �&'�� � "��#�� !����� ����0��� !'��� �>4 �4 � ���# H=�� �2 ����2 +- �'� �&,'�9 ,���

�2��� �'������ +- ���� �������� �4 ��*��21� ��A������ I�� �$�� !�� +�/&��� !� � �,��� �� ������ �&'�� �����) ��+J���� )��9 !�� �����'��� ���������$��..........K�� (.[1] <=,> �, ( ��� !'

�&'�� (��B +�� ������ �����'� ����� +> �������� .�2��� �'���� E���� �=����� �� /��� A������ ��� �� +*��21� �&'�� "��#� +���� �&'�� � ���� �*����=�� �� �&'��D�� �&,'�� "��,# � ����� �9

I���D � ��'� +���� �&'�� � ���� �*�� �E�� ��� L > (��%' � . !&/ � ���- E�M�� N���� <=>E�� ��� �*��9 �,���� �&'� "��# ����� ����- ��� L��# ����� !�� �'�� ) �,* �,���

'� E������ ��� �����2* �'��+- > ��� � .([13] �'���� <=> N���� 7�� ��� +��� ����� ��= ��'� 1������� �'O� ��� �� ���������&��.

������ ( �� ���2* �'�� E�� �� +0�@�� ����� ��' A�� ��$���/ � /��� ����� <=> +- �?���� Feed-Forward �3 ���� !' ���� I&@ � �J�3�� C�,/G� �� ���� !'� ����� ���� �� �� � �J

( ����� ������ �# ���� �- !2�� 1� P�*G� ������ ������ +-. D ��� ��������� ��$���/�� <=> +-� Q�,J� � P�* E� � �����2��� �'����� "��#�� (��� ��- ���(��� � �&' "��#.

����� ��' A�� ��$���/EKF �,����� ( ,���� ���,2��� �'�,��� E�� ,�� �1�4 �,��� Wu and Singhal .[11] ��$���/ �4 �����EKF �,���1� �,�$���/ �, ������'� !;4 ����� ��� ����

+�'��� back-propagation ��$���/ ��'� �* �� !� ��'�� ���� +>�back-propagation �J��#. ���'�� ��?���� � �����2� Feed-Forward ���=��� !��: �'=���� E�� ���9 I,��� �'�,��� ��$�4 �

����� +0�@�� ��' A�� !���� ��� ��$�G� E�� ��� H=�� +-� �'=��� H=��� ��@�9 �'���� <=> ($�� I��� ��'��� H=� ��%� +>��*�� �* ��2J� ��'� 1 !/ �� ���� � E�� ��� .

����� +0�@�� ��' A�� ��$���/!��� (���' �*��� E�� ��� ������� �$�� ����/ *=�� ?�,��� �� !'��� C�/G� ��$���/�� ����( back-propagation ) ������ ��'� ���2 ��$���/�� <=> E��

��� +����'�� !;4.

A3��B9 ���� ���B9: �>4 P����� ��*��21� �����2��� �'���� � �� +��� ( � ��� ��$�� +- I���� H=� H����� ���'� +-

L �� "��#��� ��2�� ����B����� ��2�� (��� "��#�� �9 �,����'��� ��,' ��$���/ ����� �� /����S� "��# ���� �'���� E�� �����/��� ���/&�� ���G� �* Q��4 �4 �� . +'�5&�� (�,�� .4 � ��'�,9

"��#9 ;�� ��T "��# C��� �4. U5��� P�* �� � !�2��� ��2�� (��� � "��#�� 8&/��� P�* (� ��� +> I���� �=> � L ��� �%-

'� ��'4 "��#�� P�� (��� ���� P��� ������� ��&�� +- ����2�� �12�1� ($��4 5� 4 ������9 �,���� ��.�'����9 .���/�� �0�� .Q��4 �4 ��S� "��# �' V5��� "��#�� � ?���4 !�4 � ������� <=> ����� �@ ��.

�&'�� (��� � "��#�� ���$B ��*��21� �����2��� �'���� �� /��� +� ;9 ���9 +'$G�

214

���� �@���: ��� ����� I���� �=> +- �*�' ������� ?��� �� �=� ��#���� ��=���� �������� (���W�:

- ����B� !����� ���� )��2�� & "��#�� ( /����M�� ����' ���� �� MATLAB .

- � �����2��� �'���� #� �@ �"��#��� ��2�� ��=�� ���� �.

- ��� =�J��'E����� �� /��� (.

- ������1� �T�2� ���� �� "0�� ��;�. 1= C8�� �#!��:

�;&��� �&'�� "��# L2�� �* �������W�: (1) ),( kkk nxhy =

I���4 kx :"��#�� ��� L����� �&'�� (���.

).(h :!2�1� (�;. kn :"���� "��#��.

!����(��� !@� �&'��,�ky ��'� �4 �'� +���� H=��� N�; �, !,' , +�/&�� +��=�� ����&

"����� +-#B� ��&�� "��#��: (2) )()),(........,),........1(() kvwMkxkxf +−−=

(3) )()()( knkxky +=

)(kv :"���� "��#��. )(kn :��&�� "��#��.

w :��$�G�. M : *������. (.)f :1 �� ���� ��; � +�/!�����)(kx ��$�4 �� +���. Q��J�� ��'� �4 ����,� �&'�� �,�-

�&'�� 7�� ?�; !'�� (��M2 �*�; N�-H=�� ��'� (�-���� ���&��� L��/)(ky : P,�* .���� +����+-#B� "��#�.

+����� ;���� E����� (����� N���� ��� )](/)([ kykxE ) ;��)(kx �-���)(ky ( � �4 E,��� �J��� ���� � �*�� P�* �'���� E� �)(kx L �' � /����2��� �'�������� .� �,� � ���-� �&,'��

L������� �� �> L ��� ��'�)(kx "��#�� ���; �)(ky ��-. � /��� 7�=�H=�� �2* �'������ ?�,��� � ������ ( �� (FFNN) Feed-Forword E,����

�1� � !'� +0�@�� ;����∧

x �$���� ∧

w (��J�� +- A#��� ��' A�� E���� P�* ( ����2. 2= ����� )<��D�� ����! E���:

� /��� ����� Y��- ��� �# ����B� �� ��� ��' A��)state-space (�� E���'���� �����,2���

����� ��� ���� ���� ��� ���� ������)28 ( ���)2 (2006 Tishreen University Journal. Eng. Sciences Series

215

/�,,���� FF . �,,#� P,,�* ��,,' A,,�� ,,��� I,,�� ,, N�,,��� 3,,����� � Z,,�; ,,� � . !�������' �����Connoreral [9] '�� ����� ��' A�� �� /��� )�����2* ��� �����- ����� �� ��.

�����Poskorios and Feldkamp [10] A�� N���� ����� Y��- ��� �# �$��� �� ��� ������ ��'�2��� �'���� !�- !'������. #��� �'-G� <=> ���� �@ ��B ��$�G�� �1��� � !'� +0�@�� ��' �� �� �

+�*G� !��1� ������ +�/1 3���� !#-4 !'�� �����Eric Wan [14] . +,- ���� �� ����� �*� ���� N��(��� �� "��#�� ���$B �&'��.

����� ��' A�� N�����EKF [1�4 E�� ����1� �� � ��� �,� ��� � +��=��)4 ( �)5 ( !',������� Y��- : (4) )()]1([)( kBvkXFkX +−=

(5) )()()( knkCXkY +=

(6) �4 I�� :

=

0

.

.

0

1

B ,

+−

=

)2(

)1(

)(

)(

MkX

kX

kX

kY

(7)

+−

+−−−−−−

=

)2(

)(

)),1(,),((

)](

MkX

kX

wMkXkXF

kX

Τ= BC I�� �4ΤB �-�J2�� !��� �>B.

M :������. �' �=� > �* +�/ �����)]([ kXF !'��� =/O�)(kXw

Τ � )]([ kXF !',�� E,�'� �4 �,'�)(kAX I�� 9� �A +> �'���� ���; �M�2� �-�J2 .���� "��#�� ���4 Q��J�" )(kv �,�&�� "��#���)(kn ������ �-�� Q��4 "��# > ��2

νσ �2

nσ +������ P�*.

2=1 ������ ���@�:

+- �������+�/ ��' A��)KF (�1��� �� ��� N������ &�; ��'� �4 �'�.[6] (��/ !' !�4 ��

�$�� G� ������ !��� E��� A�������/�� ���M2)(kX∧

3������)(kX

−∧

�* &#- ������ O�/)(kP X

����4� ������ O�/)(kP X

− . �� /��� +�/�� ����� +-��02�� ��,2�T[6] !,��� +,> �1,��1�

�* ���� ���� �� � .�M2G� +������� ������X �=>� +�*G� !��1� �� �� � !���.

�&'�� (��� � "��#�� ���$B ��*��21� �����2��� �'���� �� /��� +� ;9 ���9 +'$G�

216

1 ��' A�� ����� (KF)�2��� �'���� ��� N���� ��'� �4�� ��+- ��'�� +�/&�� ���� E���� �+�/&�� ����� +�/ A�2 . ����� ��' A�� ��$���/ �� /��� �>�EKF #��� �1 ��� �����W�:

(8) ]),1([)( wkxFkx −=∧−∧

(9) T

v

T

xx BBkAkPKAkP2)()1()()( σ+−=−

(10) �4 I�� :)1(

],[)(

−∂

∂=

kx

wxFkA

(11) 12 ))(()()( −Τ−−+= nx

T

x CkCPCkPkK σ

(12) )())(()( KPCkKIkP xx

−−=

(13) ))()()(()()( kXCkykKkXkX∧∧

−∧

−+=

I��I :�-�J2 � �> ����� !����. � �� ���)10( �2��� �'���� +�/�� A�2�� P�� .��� N���� �4 ���� N,����� < ��� �'� �=>� ��

�2* �'��� �����+��; +�'* ����� ��= ��(Bp) . ��$�G� ��'� �*�w !� ,���� E,�� �� ��� ��T

!��1�∧

w. 2=2 ��(.� ���@�:

�4 �H=�� ����� ��' A�� ��$���/ �%- L��� ��T �&'��EKF 1 ������� ��,'� �4 �'� ��� N����[11] .� ����� Y��- �M�2 5��� ��O��� !� �4 �� !'��� P�* ��$�\� !2J+�W�:

(14) )1()( −= kwkw

(15) )()())(),1(()( knkvkwkXFky ++−=

I,,��1� !,,��� �,,� C�,,/4 P,,�� �,,�����,,� ��-�J,,2�� ,,�9 �,,2��� �'�,,�������� ))(),1((( kwkXF − ��M� �$ !&/ ���/1 ���& �� E��� !�����w. A����- �1 � �,���� Y�

� �� ������ ��' A�� ��$�G EKF �/]:

(16) )1()( −=∧−∧

kwkw

(17) )1()( −= −−∧

kPkP ww

(18) 122 ])()()[()()( −−Τ− ++= vnww kPkHkHkPk σσ

(19) )())()(()( kPkHkKIkP www

−−=

(20) �4 I�� :∧

∂=

w

kXkH

)()(

(21) ))()()(()()( kXkykKkwkw w

−∧

−∧

−+=

K(k) :����' A.

����� ��� ���� ���� ��� ���� ������)28 ( ���)2 (2006 Tishreen University Journal. Eng. Sciences Series

217

��' A�� �� /��� ���� ���EKF .���,'��� .�M2G� ���� N���� ����� �� �� !�4 �(RLS) !@� �='>��0& �@'4 ���@ ����� � � � . ��'� �* ��4 ��X �� ��T� �$�,�� A,�� !� �� E�� �-

!��1�∧

X9 � � ��,� ��' A��� +�*G� !��&� ����J�� ������ �4EKF �� /�,�� �,#��X

!��∧

X [8].

�2��� �'���� +�/�� A�2������ �� ��� +- (20) +'��� N��� E��� [14] ��J�� �����'��� ��������� �� �� A����#���� ��� ��' A�� P�* �*1� K(k) ��$�\�.

��'� ������ <=> E��E���� E�2 E��� �'��7�= ;���� �*� !#J�)1( −∧

kX �*∧

w +,-�� ��� (8) ��/��'���� ������ +�/�� A�2�� �� . 2=3 �(�� ������ )<��D�� ���@���:

���/ ��� ����� +0�@�� ��' A�� ��$DEKF A,�� � �,���� ��� ��' A�� N���� P�* !'��� +������ P�* �$��� ��� ��')1 (�� ���� � ��� !����� )(kX �w ���$ ���$� !' !�4 �.

+���� �� ���� ���$ (��/ !' !�4 � !�����)(kX +���� �� ����� �$� A��� ��'��$��� w ��'� P�� !2� �4 P�� .���'� !'�� ��$���/�� N��� ( � ���� �*�� !�4 �� ����� A��� O,�/ �M24

+����� ����.

-!���)1 (E'� ����� )<��D�� ����! E���.

��� E������ �=> ��,'� �4 �'�� +�*G� !��1� !* ��� �# � ��T ��'� �4 �'� +0�@�� �� �

+�*G� ;���� N��� #�4EM [8] ���/�� ��� +- .�#�4� [11] E����� O,�/ �,�$���/� +�2* 3,����� E����� +����� !'�� ����� ������� <=> �&'�� (��B .���'���Lim [7] E����H=� LPC ) ��� $���� 3,�

+�/�� ("��#�� ���/�� �&'��9 I���� �=> +- �� �� ���� !����& �1 ,� (,���� �,����� E���� +�/ �,

�&'�� (��� � "��#�� ���$B ��*��21� �����2��� �'���� �� /��� +� ;9 ���9 +'$G�

218

!���� * � ���� ���� ���/ H=� � �. 3= �� �!���� /��� �� ������Feed –Forward:

�'��FF +> ����� �;&�� ���; �J�'� ������* +>� H�/��� (����� !/� �� ��; ��� �� �* (���� !�@���H=� +'�� .�� �'���� <=> ��$�G� � * wn ���� � � �;��nn ��- +����in !/ �� �* +>

�on H�/ �* +> . � ����� H�/ P�� !/ � ���� ��'� ����1 P��nn ��� =0 �* �4 �,'� �'�,��� ���

L2��+�W':

(22)

+=

Φ

=

=∑

=

ni

i

j

ji

nniforWijYi

nifornU

n.......1

........1)(

) 1

1

I��)(nYi: ���� H�/ +>nn � ���2��� �'����Wij ( ��� +�$��� ����� +>i ( �* P��j.

)(nU: !/� �� +>�'���� in.

Ø: !�J�� ���� +>) ������ � (� /����.

-!���)2 (������ �!�� E'�FF �@���� $�����.

�'��� L2� �=>FF �#����� ���� � ���� ����� �'�����J2 ��$�O.

�'���� H�/ on E�'� �4 �'��W� +�W':

����� ��� ���� ���� ��� ���� ������)28 ( ���)2 (2006 Tishreen University Journal. Eng. Sciences Series

219

(23) ],,...2,1[

].......................................,[))(),( 21

nonon

no

YnnYnnYn

hhhnUnw

+−+−=

=

I��w +> 1×wn ���� ��$�4 �#�� ?�� ijw E���� �=��� �'����

nK ) ����,�� ��,' A,��

!�� ��n ( �-�J2 �* (��* ��'� ���� ow nn × �'�� H�/� (���� FF =,/G� , ��,���� ��$�4

�'����. �'�� !�4 �Ff ��$���/ )Bp( �'��� ����1��$&�� ������ E��� � /��� +. E�� � ��'� ���/&�� �1 ��� ���&� ����� +0�@�� ��' A�� ��$���/ !* ��� �# �'����

�'���� ���* �� +���9 I��� �,����'� ��$���/ �� /��� ��'� �1���� ��$�G� ��� � ) ��,' A,�� ����� +0�@�� ( (��J�� +- ��#���2 ��' A�� �1 � ���&�.

/ N���� �*����� ��' A�� ��$���EKF �2��� �'���� E�� ���� ��$�4 �%- �� ?�,�' ���� �'���� )(nw ��� ?��' E� �� )(nx �����. ��$���/ EKF ��� �� !'� �����$� #�4� ���$ �-�J2 ��

����� O�/ �����. �!�� �'���� P�* ���[��� ��$�G� � �'���� H�/ ��� L&�/&�L ��� �,��� ��M,2��+������� O�/��.

��$�G� A��2� ��'�� ����� �� �� /��Ø(.)=Tanh(.) ) L��,� ��T ?�� !@� ��$�G� �4 I�������� ��� "��#�� ���� � (9 I��� �� !'� ��� ��' A�� ������� G� !,��1� �� �� � +,�*

�������H=���� ����� +��� +> H=��"��#�� . 4= >������ ����*���:

�2��� �'���� �� /��� .������� ��T Q��4 "��# ���� L#�� �&'�� (��� �������� ��*��,21� �� �0����On-Line ����� +0�@�� ��' A�� ��$���/ !* ��� �#DEKF E�� �� �,��� ���� �'�,� .

(��� (=-� N���64[ms] Hamming )512 ���� ��� ����8 KHZ ( (=,-� ,�64[ms] Hamming !' 4 �� ( � �8ms )64 Point (����� �'���� ��� �M2� +����.

������ �M�� ����'�� �&'�� !���� ���� �� /��� �&'�� "��#� �&'�� ���� ��Matlab N,���� !,�;���������� �'���� !/ P�* ���.

�'�� �� /��� ?���� � Feed-Forward ������ ( ��I&@ ����10 +,- �� �� ����4� !/� !��� ��� H�/� ��J/�� ������ ����� �� �� /��� Ø(.)=Tanh(.) . �'�,��� P,�� �,����� !/ %��

!' !/ �� (=-� N1$��.8ms I�����$�4 � �1 ,� E,�� ,��� .=,�� ,��� ?�� P�� �� �'��������� +0�@�� ��' A�� ��$���/ ) �1 ���(8) ......(21) ( ,��� �,> �'���� E�� � � ��M�� ��'��

+������� O�/�� ���� ��M2�� �&'�� (���� �'���� H�/ ��� L&�/&� ���� ��$�G�. ������H=���� � ���) �-����1�� ��$�G� !� ��( A,��� �&' (=-� !'� "��#�� ���� � �����

������� +�*G� !��1� �� �� �4 I�� �&'�� (���� �&'�� H=��� ��$� �� ���H=���� +,��� +��� +> ��' A�� �$ �� /��� "��#�� ��>kK !#-4 ( �� � ��� �1 ,��� �, �$,�� ��(9) �(10)

!� A����� ����� Y��- �� �� 5���� 3����� ��=�� +��� !'�� ����� � ���� ��; � +��G� 3����� 5���B

�&'�� (��� � "��#�� ���$B ��*��21� �����2��� �'���� �� /��� +� ;9 ���9 +'$G�

220

�$��. ��$���/ N���� �* ��4 �� 7�= ��DEKF ����4 ���� � �&'�� (��B ) �, (=�/O, ���*

�� �� �� �� �&'�� ���( [12] !'��� +- �> ' ���� ��T +��� "��# ���� L#��)3( Q���-� E��� (��B� ���� � !' �42

xσ "��#�� �����2

nσ ���*1� ���� =�/O. "��,#�� (�,�B� ���� ����SNR

��'�9,94[db]. �*�2

nσ �2

xσ �,���� "��,#�� (��� !���� ����� ���SNR �� ,�� �,����8,50[db]

���� N���� +J���� )���� ��� �������.1,26[db]

-!���)3 (% F�'��� �#!�� $���% ���� G� )@�� &��' ����SNR=0 dB ����� ���� ��<��� .SNR=9.94 dB

��'������� &:

�2��� �'���� E�� � !�4 ����� ?���� � FF �,���� Y��,- �1 � ! ���� ����� "��#�� ��� �*(3) �(4) ��' A�� ����� N���� !�;9 ����� Y��- �1 � P��� I�� "���� "��#�� ����� 7�=�:

(24) )()1()( kvBkNAkN nnn +−=

(25) )()( kNCkn n=

I��)(kN :,� �J��/ ��; � ?��)(kn Q��4 "��# �* (��* ��'�� �. nA :�'���� ���; �M�2� ����� !���� �-�J2.

nB �nC: !'��� +>,�C � B �J�� �� �� ��� (��.(5)

����� ��� ���� ���� ��� ���� ������)28 ( ���)2 (2006 Tishreen University Journal. Eng. Sciences Series

221

(����� <=>H=��� ��,��� "��#�� (��B ��M2 �� E��� �4 �' ����� "��#�� +��=�� ����1� .=������ 1. �&' P�*.

&�� ��'� ����� "��#�� �M�2�� <=> �� ��$��� �,���� � !'X(k) �$�,���W(k) ,.n(k) �1 ��� +�����(3) �(4) A�2�:

(26)

+

−=

)(

)(

0

0

)1(

)1([

)(

)(

kv

kv

B

B

kNA

kxF

kN

kx

nn

(27) ][

=

)(

)()(

kN

kxCCky n

�1 ����(12) �(13) ����� P�* A�2�+�W�:

(28) )(0

)1(

)1(

0

0

)(

)(kv

BkN

kw

A

I

kN

kwn

nn

+

−+

=

(29) )()())(),1(()( kvkNCkwkxfky n ++−=

��$���/ =0 �*� Q��4 "��# ����� �1 �� "���� "��#�� A�2��DEKF �'� �4 N,��� P,�*

�&'�� (��� �� ��� Q��G� "��#�� .�$��� �� ��� �#�4� ����� �� �� +- �@3� ����� "��#�� �4 I��. +- ' �&'�� (��� P�� L# .���/ L�> +- "��# +>� !/ �� (=-� N1$�� �'���� ���� !/ %�

!'��� )4( +>� ��0� � "��#�� (��� ���� ���/� -0,16[db] ��I �,��� E�� ��� �1 ,� E,�� ���� +0�@�� ����� ��' A�� ��$���/ �����2* �'��FF )10 � !/� 4 ,��� H�/� ��J/ �� �� (. +>� "��#�� P�� (��� ���� "0���� +���.SNR=5,60[db]

�&'�� (��� � "��#�� ���$B ��*��21� �����2��� �'���� �� /��� +� ;9 ���9 +'$G�

222

-!���)4 ( G� )@�� &��' ����% F�'��� H��"�� $���% ����SNR=-0.16 dB ������ ���� ��<�� .SNR=5.60 dB

��-#� ���� �� /���[12] "��# Pink �1� !' +- ��4 Q���-1� �&'�� (��� P�� L#

�%- ����� "��#�� E���H=�� "��#��nA "���� "��#�� �����2

nσ �2

xσ > I,�� ����� �� � +

��=��� ��� ,� N�� 7�� %�)(kx �)(kn "��#� (� � ��; �'���� <=> E� �� ��- �&'��. !� ,����)1 ( "��# ������ "0���� 8/��SNR ���� �J��/���� +J���� )����.

-����)1 (�� ��� ����@� E'� �!�� )6���� I��FF ���(��" J�� �����DEKF.

H��" &��' )6���� I���� DEKF

SNR +0� ���[db] -0,16 -0,16

SNR +0�� 2,48 5,60

SNR +0� ���[db] 10 10

SNR +0�� 3.54 13.99

&��'Pink )6���� I���� DEKF

SNR +0� ���[db] 5 5

SNR +0�� 3,24 8,88

SNR +0� ��� [db] 10 10

SNR +0�� 3.56 13.87

����� ��� ���� ���� ��� ���� ������)28 ( ���)2 (2006 Tishreen University Journal. Eng. Sciences Series

223

������� � ������: • �2��� �'������ �� �* +����� ;���� � E���� ��*��21� �� ���,�B� ��0,2�B� ��,'� ��2�T) ���;�� ��T (�������B ������ ���* �����# ��� �&'��(9 �� /�,�1 .�,; ,-� ��,'� �=>�

2��� �'����������/ ��M�� ��. • N0��� �� /���forward-backward �2��� �'���� +-�� ��*��21� �� ?�,��� �feed-forward

+- �� E��� ��=��� ��/&��� 1 !/ �� ���� �4 I�� �&'�� (��B E�� ��� �*�� �* !2J��. • ����� +0�@�� ��' A�� ��$���/!��� ����� �$�� ����/ * ���,2��� �'�,��� E�� ,�� �,�

��*��21�9 +- 7�= � ���!���� �'���� ���)10 !/� 4 ��� H�/� ��J/ �� ��(. • �,���� +0�@�� ����� ��' A�� ��$���/ !� �# ��*��21� ���2��� �'���� ��$�4 E�� �

���� +��� .�������&�� Q��G� "��#��(��B� "��#�� P��SNR 9,9[db].

• �'�� �� /��� �&'�� (��� ������ ����� "��#�� ���� +- FF A�� ��$���/ �� /��� ��� �� +��� ����� +0�@�� ��'SNR 5,60[db].

• ��$���/ +- .���'��� E������ ����� �� /���DEKF �,��&� .�����,��&�� "��,#�� �@4 5J�;1�� 3����� O�/ ��� �;&��� +��� L����� �&'��� �&'�� "��#� +���SNR 5,60

• �,���� I��� ���� ���� 7��� � /��� +��� ��$���/�� ���� P��� "��#�� ��02�B N�; �� �� ���� /��� �4 ���� ���� <=>� ���� "��#�� ��02�%� ��#�� �-��� ����� +M�� (���� ( � �.

• P��� �&'�� � "��#�� ���$� �,2��� �'����� ��#�� ������� 5�*B . �� ��O��� (� 4 � ,�� �����- �$&�� ������ E��� ������ �@'4 �'�� �� /��� N��� �* 7�=�.

�G�����:

1- DELLER, S.and PROAOKIS, S.- Discrete-Time Prossing of Speech Signals, Macmillan

Publishing Company ,NY, 1993, 800. 2- JULIER, S.J. and UHLMAN, J.K.- A General Method for Approximating Nonlinear

Transformations of Probability Distributions, Technical report, RRG, dept, of engineering science, university of oxford .1996 ,www.robots.ox.ac.uk.

3- LEWIS, F.- Optimal Estimation, Sohn Wiley & Sons, Inc. New York, 1986, 358. 4- Matthews, M. B. and Moschytz, G. S.- Neural-network nonlinear adaptive filtering

using Extended Kalman Filter Algorithm, International Neural Network Conference, Paris, 1995, 115-118.

5- MA, N. and BOUCHARD, M. and GOUBRAN, R.- Perceptual Kalman Filtering for

Speech Enhancement in Colored Noise, Proc. Of IEEE Int. Conf. on Acoustics, Speech and Signal Proc. (ICASSP), volume: 1, 2004, 717-720.

6- NELSON, A.T. and WAN, E.A.- A Two-Observation Kalman Framework for

�&'�� (��� � "��#�� ���$B ��*��21� �����2��� �'���� �� /��� +� ;9 ���9 +'$G�

224

Maximum-Likelihood Modeling of Noisy Time Series, Oregon Graduate Inst, volume: 3, 1999, 2489-2494.

7- NELSON, A.T., and Wan, E.A.- Neural Speech Enhancement Using Dual Extended

Kalman Filtering, in Proc, ICNN’97, Houston, TX, 1997, 2171-2175. 8- NELSON, L. and STEAR, E.- The Simultaneous On-Line Estimation of Parameters and

States in Linear Systems, Volume: 21, 1976, 94- 98. 9- ONNOR, S. MARTIN, R. ATLAS, L.- Recurrent Neural Networks and Robost Time

Series Prediction, IEEE Transactions on Neural Networks, Volume: 5, 1994, 240-254.

10- PUSKORIOUS, G. FELDKAMP L.- Neurocontrol of Nonlinear Dynamics Systems

with Kalman Filter Trained Recurrent Networks, Volume: 5, 1995, 279-297. 11- SINGHAL, S., WU, L.- Training Multilayer Perceptrons with The Extended Kalman

Algorithm, Advances in Neural Information Processing Systems, (Morgan Kaufmann, San Mateo), 1989, 133-140.

12- SPAAR: Speech Enhancement Assessment Resource, Oregon Graduate Institute, http://ece.ogi.edu/NESEL/data.

13- WAN, E. A. and NELSON, A.- Networks for Speech Enhancement, in Handbook of Neural Networks for Speech Processing, Edited by Shigem Katagiti, Attech House, Boston, (First Edition ), 1998.

14- WAN, E. A. and VAN, R.- Kalman Filtering and Neural Networks, Ed. Simon Haykin,. Wiley, 2002, 300.