119
1 Learning and Soft Computing: Rationale, Motivations, Needs, Basics Since the late 1980s there has been an explosion in research activity in neural networks (NNs), support vector machines (SVMs), and fuzzy logic (FL) systems. Together with new algorithms and statements of fundamental principles there has been an increase in real-world applications. Today, these areas are mature to the point where successful applications are reported across a range of ®elds. Examples of applications in diverse ®elds are given in section 1.1. These three modeling tools complement one other. NNs and SVMs are paradigms of learning tools. They recover underlying dependencies between the given inputs and outputs by using training data sets. After training, both NNs and SVMs represent high-dimensional nonlinear functions. They are mathematical models obtained in an experimental way. If there are no data (examples, patterns, observations, or mea- surements), there will be no learning, and consequently no modeling by NNs and SVMs can take place. However, one can still model the causal relations (also known as functions) be- tween some variables provided one has an understanding about the system or process under investigation. This is the purpose of fuzzy logic. It is a tool for embedding existing structured human knowledge into mathematical models. If one has neither prior knowledge nor measurements, it may be di½cult to believe that the problem at hand may be solved easily. This is by all accounts a very hopeless situation indeed. This book does not cover cases where both measurements and prior knowledge are lacking. However, even when faced with a modeling problem without either experi- mental data or knowledge, one is not entirely lost because there is an old scienti®c solution: if one cannot solve the problem posed, one poses another problem. In this book, problems are not reformulated. Rather, the text demonstrates how various real-world (conceptual or practical) tasks can be solved by learning from experimen- tal data or by embedding structured human knowledge into mathematical models. This chapter describes some typical nonlinear and high-dimensional problems from various ®elds in which soft models have been successfully applied. The range of problems that can be solved by using soft modeling approaches is wide, but all the problems belong to two major groups: pattern recognition (classi®cation) tasks or functional approximation (regression) tasks. In this way, soft models can be looked at as being nonlinear extensions to classic linear regression and classi®cation. This is how these standard statistical problems are introduced in section 1.4. Having a sound understanding of the concepts, performance, and limitations of linear statistical models is good preparation for understanding nonlinear modeling tools. NNs and SVMs solve regression and classi®cation problems by changing parame- ters that control how they learn as they cycle through training data. These parame- ters, usually called weights, in¯uence how well the trained model performs. In order

1Learning and Soft Computing: Rationale, Motivations, Needs, Basics

Embed Size (px)

Citation preview

Page 1: 1Learning and Soft Computing: Rationale, Motivations, Needs, Basics

��������� ��� �� �������� ��������� ���������� ������ ������

����� ��� �� ��� � ����� �� ���� � �������� �� ������� ������� �� ����

�������� ������ ������� ������ ������� ������� � !�""� �#�� �$%� �������&

'�#����� ���� ��� #������� � ��������� �! !�� ���� ��������� ����� ��

���� � ������� �� ��(��� ���������& '� �� ����� ��� �� ����� �� ���

����� ����� �������!� ��������� �� ������� ����� ��#� �! )� �& *����� �!

��������� �� ������ )� � �� #���� �� ������� �&�&

'���� ����� �� ���# ���� ��������� ��� �����& ��� � ���� �� �� �#��

�! �����# ����& '��� ������� �� �����# ���� ������ ������� ��� #���� ������ �

������� �� ����# ������# � ����& +!��� ������#� ���� ��� � ���� ���������

��#�( �������� ������� !��������& '��� �� �������� �� �� ������ ��

� ���������� ��& ,! ����� �� �� � �������� �������� ������������ �� ��(

����������� ����� �� �� �� �����#� � �����-����� �� �� ���# �� ��� �

���� �� ��� ���&

.������� ��� �� ��� �� � ��� ��� ������� ��� ����� � !��������� ��(

����� ���� ������ ����� � ��� �� � �� ����� ��# ���� ��� ������ �� �������

�� �� �������#����& '��� �� ��� ������� �! !�""� �#��& ,� �� ��� !�� ���� ��#

�������# ��������� ���� ����� #� ���� �������� �� ��& ,! ��� �� �������

����� ����� #� ��� ������������ �� �� �� �/��� �� ������ ��� ��� ������ �

�� �� �� ���� ����& '��� �� �� ������� ���� ������� �������� �� �� &

'��� ���� ��� ��� ����� ���� ����� ���� ����������� � ����� ����� #� ��

����#& .������� ���� ���� !�� ���� �� ���# ������ ������� ������ ������(

���� � �� ����� #�� ��� �� ��� ������� ��� ������ ����� �� � � �������)�

�������0 �! ��� ����� ���� ��� ������ ���� � ��� ����� ������ ������& ,� ����

����� ������� �� ��� ��!������ & 1����� ��� ���� ���������� ��� ������

��(��� ��������� �� ������� ���� �� �� ���� �� �����# !��� ���������(

� � �� �� ���� ��# ��������� ���� ����� #� ���� �������� �� ��&

'��� ������ �������� ���� ����� ������� � ��#�( �������� �������

!��� ������ )� � �� ����� ��!� �� �� ��� ���� �������!�� ���� & '�� ��#� �!

������� ��� �� �� ���� �� ����# ��!� �� ���# �������� �� �� �� ��� ���

������� ����# �� ��� �2�� #�����0 ������ ����#������ �����)������ ���� ��

!������� ����������� ���#�������� ����& ,� ���� ��� ��!� �� �� �� �� ����

� � ����# ������� ���������� �� ����� ���� ��#������� � ����)�����& '��� ��

��� ����� ��� � �������� ������� �� ����� ��� �� ������� �&3& .���# ����

�� ����� ��# �! ��� ��������� ���!������� � ��������� �! ���� ��������

�� �� �� #�� ��������� !�� �� ����� ��# ������� �� ���# ����&

��� � ���� ���� ��#������� � ����)����� ������� �� ���#��# ����(

���� ��� ������ ��� ���� ��� � ���� ���� �����#� ������# �& '���� ����(

����� ���� �� ���#���� ��4����� ��� �� ��� ����� �� � ���!����& ,� �� ��

Page 2: 1Learning and Soft Computing: Rationale, Motivations, Needs, Basics

�� ������ ��� �� �5� ���!������ ��� ���� �)�� ���� ������ �! #�� ���� �!

��� �� �& ,� �������� ������ ��� ���� �)�� ���� ������ ����& .��� ���

���� �� ����� ��� ����� !������� � �� ��� � ����� ��������� ���� ���� ������� �

����� ������ � ��� ���#���� � � ����&6�!��������� � �������� �� ������� �&7� #������ ��!� �� �� �� �������

����������� �� ��� ����� ��� � ����� !������� � � ���� ���� ���� �� ������

�! �� � #�� ����� ���� � �������� ���� ���#��� ��� �� ��� ���� ���2���� �!

�����#& '��� ���� ��� ��� ����� ��������!�� �� #����� ��� ������ !���(

���� ���� #������ �������& '����!���� ����� !��� ��� ���� ��� �! ��������

����#���� ��� �� ������ ��� ���� ���!������ �! ��� �� � !� ���� ��� ���#��� �!

������� ������"���� �������&

+� �� �� ������ ����� �� �� #���� ������"���� ����� !�� ������� �����#

����& ������� �&7 ����� ���� ������� ��� ������� �� �� ����� � ��� ������ ��

���0 ��� #� ���� ����� & 8������ ����# ������ ��� )���(�� �� #� ���� �����#

#������ ��� ����� � ��� ����� �������#���� #������� �� ��� )��� �����#

����� ��� ��� � � ��� ���������#� �� ������# ������� ���� ��������& 9��

���� ��������� �� �����0 ��� �����# ����� ��� �� ��� ��# � ��� ��� #������

)� ��# ��� ���� ��� �! ���#��� !�� #���� �� ���������& ����� ������������ ��

������� �� ������ ��& ,� ���� �� ������� ��� ��� ��� �:������ ������� ���

� ���� �� �� ��� ����� �� �� ���& +!��� ��� �����# ����� ��� � ���� ��

�������� ��� ���&

��� �������� � ���������� �� !������ "�����

��!� ��������#� ����� ��������� !�""� �#�� �� ���# � ��� ������ � ����(

���� �! ��� ���������� �����# ������-��� ���� � �� ���� � ���� �� ��� �� �

��� ��#� �! ���������& ������������ ��� ������� ������������� �� �������� �

�������� )��� ��� �� � ����� �� ��� ����� ���� ���� �������!�� �� ���

������ ����� �! ��(��� �������& ;������ �� �� �! ���� ������� �� �!�

�������� �� ���� ����� �� !�""� �#�� �� ��& '�� ���� �������� ���������

���� �

� ;����� ������ ���� � �!������ ������ ����#������ ��&�&� ����)������

� '��� ������ !��������# �)����� ������� ��#�������# ���� �������

� 8�#������� ��&#&� �� �� ����� �� ��#�������#�

� 1������� �������� ���#����� ���� ������� ��2��� ����#�������� ;������ ������ �������� � ��������� ������ �! ������ ����� �����

�������� ������� �� ��������

< =����� �& %�����# � ��!� =�������#

Page 3: 1Learning and Soft Computing: Rationale, Motivations, Needs, Basics

� >�����"���� ����������� ������� ��� �������� ���� ���#� ������#�

� ��#� ���������#� ������ � ��� ����#������

� ������ ������ ����������� �� ���!������#� ����� �� ��� !�� ����#������� ��#��

����#�������

� $����� !��������# ��������� ����� ����� �� ����� �����������

� $����� �������� ���� �� ����������� !��������#� � �����#� � ��#����������

�������� !�� �� � ���#�������� �! �������� ��

,� ������ �������� ���� ���� � ������ � ��� ����#������� ���� $% �� ���

�� ���� ������!��� ���������� �������� ����� �& ,� ����� )� �� ���� � �����)�

��� �� �������� � )���� ��������� ���� ���� ��������# �������� �� ��(

��� ���������&

9����� �! ������ ����������#� �! ���� ���� �������� � !�""� �#�� �� ��

� ��� ���#�� �! ��������# ���� ���� ����� �������#���� ����� � �� ��

�������� �� �������# �����& ,� ������ ������ ��(��� ������� ��-����

���� ������ �������� ��� ���#� ������� ��� ���(�� � ������� �� ����� �&

'�� #������ ��!� ��������# ������ �� �������� ��� ���#� �! �������� �� �� �

��#� �! ������ �������& '��� ���� � ������ ��#� ����)������ ���� �

������ ����� ������� ����#������� ��� !��������#� ��/� !��������#� � ��� ��

����� ��� ������&

'�� ��������� !��� ������ ���������� � ��!���� ������-��� ���� ��

������ !�� ����� �:����� ���& '��� ���� �������� ��� ������ !�� ����

��������� � �� �����# �������� �! �������� �����#� ���� ��������� � !�""�

�#�� �� ���# � �� � ���� �! ��� �:������� ������� ����&

+ ���� � ����� ���������� ������ ������� ��!� ��������# �� �� �����

����� � $% �� ��� � ����� ���������& '�� �� �� �������� ���� �� ��

����� � ������� ���������� �! ���� ��#������� � ����)����� ����� �� �����

� ��������& .������� ����� ����# ������������ ��&�&� ������� ���� ���� �!

��� ����������# �� �� ���� �� � ��������� �������� ��� ��������� �! ���

�����# ���� ������& %�����# ���� ���� ������� ������"����� �����

������� ��� ���� �������� ��� �� ���� �� ������ �����# ������& '��� ����

�� ���� ��� ������ ������� ������"���� ������-��� �� ��� !������� �! ���(

��# !��� ���������� �&

9�!��� ����� ����# ���� ����� � �������!� ��������� �! �� �� ��� �� ��

�� ����������# �� ��� � ��� �� � ��#� �! ������� ��� ����� ������ ���������

������� �� ����& ���� ���� �� ����� � ��� ������� �� �� !��� �� ���

��� � �������� �������� ��&#&� +� ����� ��?�@ A������ � B������ ���<�&

�&�& *����� �! +��������� �� 8������ $�� � 7

Page 4: 1Learning and Soft Computing: Rationale, Motivations, Needs, Basics

� *:���� �! ��#� �� ������# ����

� ;������ !������� �� ���# �� �������# ���#�� �����������

� =�������� �! �� ��#��� � ��� ��� �! ��������

� =���)����� �! ��� 9����� +������ � C��� #����� ��� �� ������

�����������

� =���)����� �! ��� ������� �! 4��� ����# � �� �����# 4���

� 9�����(!���� � ���� ���� � ��#�������

� $����� � ����� ����� ����������� ����� ����� ��� ������� ��� �� #�� �

������������ ���� �� ��� ������ ���� ��

� ��� � �! ��� � ����#� ����# � �� ��� ����������� � !����#� �! ������

� +�� ������� � ����)������ ���#� ���� ������ ����)����� � ��� �������

��� � �� ����������� �� ���#� �#��� �! ������ ���# �� �#�#��&

'��� �� ��� ����� ���� ��� �� ����� ��� �� � �������� �! ������� �� ����� ����

��������� �� ���� �������!�� ���� & ,� ��� ��������� ���� �� �� ���!���

��& ,� !��� �������� ����� �� ���� ��� ��#��� �������� ���� ������ �� ��#���(

���� ������� �� ���� �������� !�������� ������� ��� ����� �� ������� �����

��� �� ����� ���� #�� ������ �� �����# ���������� �������� ����&

'� �� �-����� ���� �����!� ��������# ������-��� � ��#�(���!������

������� � �������� �� ��� �� ���� ���� ���� ������ ���#�� ������� �

��#�( ��������� �������& .������� ���� �� ���� ���� ����� �� ���� ��� �����#

������ �! ����� ���� �������@ ���� ���� ����� ���� ��� �� �� �� ��� ����

����#��# � ��������# )� �! ������� ����)����� � ��#������� ��� ��

�����# !��� ���������� �& ,� ������ �� ��������� � ���� ����������� �! ��!�

��������#� !�""� �#�� �� ���# � ��� !�� ���� ��# ��������� ���� ����(

� #� ���� ������ #�������&

'� ��#��� �� �� �� ���!� �� ��� � !�� �������!� ���������� � ����(

����� �! ���� �������� � !�""� �#�� �� �#��& '�� ������� �! ����� ���������

������ �� ����� �������� �! ����� ���� � �����!� ������� �� ���#

������-���& '��� ����� ������ �� !� !��� ���������& ,� �������� ��� !�� �! ���

�������� ��������� �����# �� �� �� � �� � ���� ��� ���������# ����(

����� �! $% �� �� �� �����# ������ �������&

'�� ������������ �! ��� )��� �����# ������� �� ��� ����������� �� $& 1����(

��� �� �� ��D � �� ������� �������� �� ��� ������� �! ��� ���� ������ 7�& '���

�� ��� )��� �� � �! ������ ��� ���� !��� ���������� �� � ���� ��

���� �������� ����� �! �����# !��� � ��#�& '�� ��� ���������� ��

���#�� !�� �����# ������ ����#������ �������� ��� ��� ����)����� ����&

3 =����� �& %�����# � ��!� =�������#

Page 5: 1Learning and Soft Computing: Rationale, Motivations, Needs, Basics

+� ��� ��� ����� ��������� �! �������� �����# ������ �� ����# ������ ��

�& ����� � +& =����������� ���D��& 6���� ��� ���������� ������ �! 1����(

���� ����� ���� !������ ������� ��������� ��������0 �����(=�����������

������� � ��� �����(=����������� ��������� ����� �� ��E3 ������ �� ����

�� ������ �������� �� �������� ���� ������"����& +� ���� ��� ��#�� ����� ����

���� �� ���� �� ����)����� ������� ���� ������ <�&

=����������� 9& B� ��� � �& .�: ������ ��� )��� ����� �����# ���

!�� �����# ���� ��#������� �������0 ��� ��� ��� �-��� �%��� �����# ����

�� ����� � ��� �� �����# ��� ���� ������ 7�& ,� �� ��� !�� ������#

������ ���������# ���� �� ��� ��� � ����� ���� ������� !�� ����� ��#�

)�����# � ����� �-��"����& .����� ���� ���� ������ �� ���!�����# ����

��#������� ����&

9� ��� �� (��� � �� �! ���#���� � ���� � � �� �������# ������"� �� (

��� � ��!���� !�� �����# ��(�!� ������� ������� ��� ������ ���������

�������� ����# ���� �� ��� ������ ����������� ��������� �����# �������&

���� ����������� �����# #������� � �������� ���� �� ������ ����#

��� ����� &� '���� ���� ��� ����� ���������#� �� �����# !��� � � ��

���� ������� ��������� ��� ���� ����� ������ �%� =�� ���?@ ;���� ���?@

1������� .������ � B���� ���D� �� ���� ���� ������� #� ���� ����� �

�� ����� �������#����� !�� ������# �� �� ��� ���#��� ���� ������� 3&��&

,� ���� ����� ���������# ����� ������� �� ��� )� �! �������� �����# �������

����� � =����������� !��� ��� �������� � ��/����� ��� ������ !�� ������(

����� �! ��� ������� ���� ������"���� �� ������ �������� �� ����& ,� ���� ���

��� ������ ��� � !�� �����!� �����# �������� �� �������� � � �� ��� ���

��� � ����� � ��� ��������� ������ ������� ������ ������� ��� � �����#

������� ����)����� � ��#������� ������� ���� ������ <�&

+ �� �! �:��� �� ����� �� ��� �� ��� � �� �������# ��(�� ��#���"����

��������� �� ����� � � � ���� !������� �������� �;��� ���E@ 9������

� %��� ����@ ;�##�� � F����� ���� � ����& '���� �������� ��� )�� ����(

����� ����� �� '�������5� ��#���"���� ������ ���� ������ ?�& + !�� ��(�����

� �������!� ��������� �� ������� ����& '�� ������ !����� �! ���

�� �� �!�������� �� �������� �� ����� ��������� �� ��� ���� ��� ������� ��#�(

��������� ������� !������� ���� ������ ������� #���� ����� � ������ ���(

��� !��� ������# �&

>�� �! ��� )��� �������!� ��������� �� ��� �*'�� ���2��� ���2������ �

1�������# ���E�� ��� � ������# ���� ������� �� ��������� *�#��� ����

���������# �! ����� ����������� �������� !��� ������� ����� �������� �� �����#

��� �� ��� #� �� ����� ��� ����& ����� ������ ���� ������ ������ ��#������

�&�& *����� �! +��������� �� 8������ $�� � ?

Page 6: 1Learning and Soft Computing: Rationale, Motivations, Needs, Basics

��� ��� ��� ����� ��� ��� ��4����� �! ��� !����� � )!�� ����� ������ �� ���

������������ �! ��� �� � ������� �� ��������� ��& '� �����!� ��� ������

�! ������ ���������� ��� �*'�� ������� ����#��"� ��� <� �� ��������0 ��� <D

������� �������� !��� + �� G � ��� ����� ����� � � ����& �� ����������

�� � � ������� ����� � ���� ���� � �������� ��� ���� ��� ��� �!

����� <� ���� �#���� & '���� ��� ����� �� E� <� � < 7( �������� ������& '��

����� ������ �� ������� �� � �� �� ������ �� ������ #������� #����# ���

������������ �! ��� ����� � ��� ������ �! ��� ����� ��� ��& '�� ������� � <D

������ ������ ��� !�����# ��� �! ��� <D �� �� !�� ��� ������� ���� #��������

����� �& '�� �*'�� ������� �� � ����� �������#���� �� � ����# ���

�� �� ��� ���� � ���������# ����� ���������& $�� ��� ������ ���� �� ���� �����

�� �� �������� �� ���"� ��� ���� ��������� ���������� ��#�� ������� ��(

���# !��� < 7( �������� ���� ���� <D( �������� ���� ��&�&� �*'�� �� �

�< 7 � �<D �����#�& '�� ���� ������� �� ����� �� �� <3 ��� � � ������

�����#��� ������ !��� � ������# ������ � �?H ������ !��� ? ������& �+�

����� �� ����� �����#� ��� ������# �&�

F���� � ��2������ ������ ����� ��� ��� ��� �! ������� ���������� ��

�����#���� ������� ��4���� ���� ��#�� !��� ��� ��� � �! ��2���� ���# � ���

������ �! ��� ��0 ����� � ��� ���� ���& '�� ����� ��#� �� ��� !��-�����

�������� �$������ ����!���� �! ��� ��4���� ���� ��#�& '�� ������� � D �����

����� � < ������ �������I��� !�� ����� � ��� !�� ���� ���& ���� ��� ���� ��

���(���(�!(��� ����)����� ������� ����#������� ������& '��� ���� ��� ������

�! �� �� ��� �.%� ������� !��� "��� ����� � �� �� ������� �� �� ���� ��

<3& B������ �� .% ����� ��� ������� ������ ���� � H ������� ���!������ ��

������# �& B��� ��� .% ������ ��� ������� ����� ���� � H ������ ��

����� ������# ���& '���� �� �� ������ ����������� �� ��� ������ �� ��������# ���

������ �! .% ����� !��� �< �� <3& +!��� ������#� ��� ������� �� ����� �� ����

��������� ������� �@ ���� �< .% �������� �� ������ ���� �?H ������� ����)(

�����& B� �� ���� �������� ��������� �� �������� �� � �! ��� ������ ����#

���� & '����!���� ���� ��� ��� ���� ��#�� ����#������ ������� ���!���� ��#��

������� �����# !��� D ( �������� ���� ���� <( �������� ���� ��

�D � �< �����#�&

;����� ������ ������� ������ �� ���#���# � ��(��� �� ����� ������ ���

!������� �! ��� +%�,�� ���������� � ������ �� ���� �������� ���2���&

'�� +%�,�� ������� ���� �� ��#�� !��� ���� �7 � 7< ���� ��#�� �

��� ��#� )� �� ��� 7< ���� ��#�� � ������& ,�� ������ �� �������� �! ���

������ �� �� �� �� !��� ��� �� & '���� ���� <� ������� �� ���#� �� �� ���

� 3D ������� �� ��� ������ ���& '���� ��� ����� ������ �� �<�D( ���������

D =����� �& %�����# � ��!� =�������#

Page 7: 1Learning and Soft Computing: Rationale, Motivations, Needs, Basics

� +%�,�� ���������� ������� !������� �����# !��� �<�D( ��������

���� ���� 3D( �������� ���� �� ��<�D � �3D �����#�&

.� ������� ������� ����#������ �� ������� ��� �! ��� ���� ����������# ��� ��

����� ��� ��� !��� �� � ��������& >�� �! ��� )��� ������� ��������� �� ��

�� %� =�� � ��� ���#��� ������& '�� ������� ����� �� �D� �D ��� ��&�&�

<?D( �������� ������� ��� ������� ���� ��#� �! ������� �� ������� �#��

��� �� ��� � ��"�& '��� ��#� �� !� !���� �����#� ����� �� �� ���� ��

��� ������ ���� ����� �������� ��� ������ ������ ��� ��#��!���# ��� �! ��� �#���

J�& '���� ���� D3 ������� �� ��� )��� .%� �D �� ��� ����� � � 7 �� ��� ���� & '��

������� ��� ��7 G,; �� �� �������� ���� �� ���& +���������� ��� -�����

�<� � �� ��� !�� ��� ����� � �� �� ��� ���� ����# ��� ������#& '��� ��������

��� %������ �� ����� �� ����� �������#����& '�� ����� �� ��� ���� ��� ��

?&�H& ,� �� ����������# ��� ���� �� ������� ������� ����#������ ������ �����

�������� !�� ������ �� � ��� �� ��& 1������� ����������� ������ ����

������� �� �����# ��� ���� ������� ����� !��������� ����� ������ ���(

��� �! 3H �� ���� �& ,� ��� �������� %� =�� � ��� ���#��� ������

%����?� ����� ���!���� ������ ��� ���� �! ��� �������� �� ��& 8���� �! ���(

������ ������ ���� ����� �� �� �� �� !��� �� ����� ������& $��� ��� ����(

���� ����� �! ����� %����� ���������� ������� !������� �����# !���

<?D( �������� ���� ���� � ( �������� ���� �� �<?D � �� �����#�&

'���� !��� ��� ��������� �� ��� !�� �! ��� ������ � ��� �������# �� ���

)� � �! ���� �� ����& +� �������� ����� �� ���� ���� ����� ��������� ��

��� ��� �� �� ��� ��#�( �������� ������� �����#� !��� ������# �

��� �� ���� �����& '��� �� ��� ��� �! �����# !��� � �������� ��� ���

!��������� � ��������� ������ � ��� ������� �� ������ ��������� �����&

+ ����! ������� �! !�""� �#�� � ��� ��������� !����& $�""� �#�� �� )���

������� �� %& +& G �� �� ��D?& .� ������ �� ��� � �� �� ��E7 ����� �����

����� ��� ��� ������� �! ��#������ ������� �� !�""� ����& +����� � �� ��

���� ��� )��� �� �������� !�""� �#�� ����� !�� ��������# ���� #�������� ��

��E3& '�� )��� �� ����� �������� !���� ���� !���0 ����������# !�""� ������

�� ������ ��� ���� �� 8����� �� ��E?& ,���������#�� � ���� ��� ��#� !�""�

������� ���� �#���� �� ��� ������� �! ����� ��������� ���#���� ��� 6���� �����&

>�� �������� �� ��� ����� ������� $% �� �� � �������� ���� ���)��

�����#����� ������ �������� � ����� #�(��� ��#�������#� ����� � ��� �����

� ��� ��� �� �� �����������& ���� ��� �� ���������� ���������� ������ ��

�� �! ��� ������ !�� $% �� 6&�& �� ����� )���&

,� A��� ������� ���� ���2� ���� �������� �� !�""� ������� �� ���� �����#��& '���

��#�� ��� ���� ��� �! ��� ��(�� KK������� ����55 ��� ����� �� ����� �����(

�&�& *����� �! +��������� �� 8������ $�� � E

Page 8: 1Learning and Soft Computing: Rationale, Motivations, Needs, Basics

���� � �� ������� � #�� ���� �������� �! ���� ���� !��� !� ��& ,� �� ����

.�����5� )��� ���������� �� ���?� ��������� ��� ����������� �! !�""� ������

������� !�� ��� ��� � ����& B����� ��� ����� !�""� ������� � ���� ���� ��

������ ��������#� �����#� � �������# �! ��� � �����&

+������ ����� ���� ������� �������� �� !�""� ������� �� A��& 8����# � �����(

����� ������# �� ���E �� '����� '& L��� ��������� ��� ��� �! !�""�

������ �� � KK������� ��� ���55 ����������& '��� �� ����� �������� ������

�� ��������# ������� ������ ������& .� ��������� ��� �! ����� � ����

!�""� �#�� ����� !�� �����# ���� ������� ������ ���&

$�����# ���� ������������ �! $% �� ��5 ���������� !�""� ������� ����

���� ���� ��� A����� �������� #�� �& �������� ����� ������ ��� !���(���

$% ��������� �� 2��� ������� ����� ���� ��# �� ��� ������ ��!�������& .�����

�����# ������� ��������� !�""� ��������� �� � (���#��� !����(���� � ���

������� �� �������� ��� ��� ��� ���� !�� ��� ���� ��� �! ������ ����� �

����#���& =��� ������ � ���(!������# ���� ��� ��� ���#�(�����

����� �� ������ ��� ����� �! ��� ��#� �� ��� ��#���� �! ��� )� �! ���� � ����

��� ��!������� ����� � �� �������� �! ��� ��#� �� �� !����& '�� � ���� $%

���� �� ����� ��� ��� �! ���#� �! ��� �������� ����# !������# � �������

��� ���� �� ������� ���������& '�� ����5� !�""� ������ ������ ��� �< ������0 ���

�� ����� ��� ������� ����� � ����� � �� ��� ���#�(����� ����� � ��� ��

������ ��� ��� �! ���#� �! ��� ��������& '�� ������ �� ��� �������� �! ���

���& '�� !�""� ������ ������ ��� �7 ���� � ��-���� �&� �������� �! ������&

.������� !�� ������� ������� ��� ���� �� ��� ������� � KK!�""�55 ����&

,���� � ��� 2������ KK����55 �� ��� � ����� ������� �! ��� �������� �! ����

!�""� ����� ���� ���� ������� ��&

+������ ����� �! �������� ��� ��� �����������# !�""� ��������� �� �

�� ����� �� ��� ������� ���#�� �� ���������� ��� ��� <? �����# ���� � <?

�����# ����& + ���������� ������ ����� � ������ � !�""� �������� �������

���� !� �� � ��������� ���������� ���� � !� �����& +���� ��# �� �����������

������ �� ��� �������� ���#�� ��� !�""� �������� ���� � ���� )�� �����

!����� �� ��� ����� ����������� �� ��� -������ ������� ���������� ������� ��

!���� �! ���� � ��� !���� �������&

$�����# ��� )��� �������!� ���������� ��� ������ ���� ������� �� )� �

��� ������� � �� ������# ����#������� ����� !�""� �������� ��������� �����(

������� ��������� 4�#��� ������ �! 4�� �! ��� ��� �� )� ���!������ � ��(

���� �������&

B��� �� !�""� ������� �� ������ � �� *����� � ��� 6���� ������ ����#�

��� ���� ��� ��� ��������� � �� A��& ,� *������ � ��� ��� ���� � $% ��

� =����� �& %�����# � ��!� =�������#

Page 9: 1Learning and Soft Computing: Rationale, Motivations, Needs, Basics

����� ��� !�� ������ ��������� .& G�������� � ��� ��������� !��� �� ���!�

�� �� ���# ���� ������� ���������& .������� ���� ���"� ��� ��� ����� $%

������� �� G �� �� ����/����� !�� �� ���# ������ ���� ������� ����������

� ���� ������ ����������� ���� � ����������� ##��#���� ��������& +�

� ���� ��� ����� �! ����� ,�$>1� =��������� ����� ��� ������� �������

������ !�� ���� �� ���D&

'�� ��� �! �#� *������ �������� ��� ����� !�""� �#�� ��� !����� ���� ��

�F�('������� �! $���� � ,�� � �� � C�M�����(������ �������� �

8����(9��" �! F�����& �F�('������� ������� N< ����� �� !�""� �#�� ���

!���� �� =���� ,��& '��� ���2��� ������� ��#��� $% �� ���& ������� �����

� $% ��� !���� � ��� ����� 1O8 !����� �� ������& '��� ��� !���� ������"�

���� ��# $% ������ � �� � ���������# ���������& '�� ������� ���������

���� � �����# �������� ����� ������� ������� ����������� �������� ��#���

� �(���� ���������� ��/� ���������� ����(���������# �������� � .<(��#�

�#����� �������& + ������ ��� �� ���3 � ����)� ��� �! D�3 ��������� �!

!�""� �#�� �� *����� ��� ���� ����)� ���� !��� ���#�����0 �� ����� ��������

�33H�� ������� ������� � � ����� �7 H�� ���� � ������ ���H�� � ���(

���� ������ �EH�&

'�� *���������� ;��������� +#���� �� ��� 6���� ����� �� �������#�� !�""�

������ !�� ����#�(�/����� ������� � �+�+ �� ��� �� !�""� ������ !�� ���(

��� ���� �����#0 ��������� ���� ��� !�""� ������ ������ �� #���� �� ���

!�� �����������& $���� ���� � 9����#� F���� ������� +��(9� ��� =�������

*���� � B������ ��� ����� �� !�""� �#�� !�� ��� �� ��(����� ��!��#�������

������� ��������� ������������� � ����#�(�/����� ������� ������&

1������ � ��������� �� ���������# ��� �� !�""� ��!���� ���#�� !�""�

������ �������� � ����#����� �! !�""� �#�� ���� ���� �������� �� ��(�� ���(

��!�""� �� !�""������ �������& '���� ������ �� ������� �� ���� ��� ��� �� ���

����&

��# ����� $�� � �� �������� ������ �����%�� "�&&' ���� '������ ���

����� (���� ���)����

,� ������ ����� ���� ��������� !�""� �#�� �� ��� � ������� ������ �������

��� ���� ��� �� ��� �:����� )� �& '��� ������� ������� �������� ��� � $%

�� ��& ���� �� ������� �� ���� �� ������ <& .������� ������ �! ���� ��#�

�#��� �! ��������� ������� ��� � ����� ���� �������� ���� ��� ���(

���������� ���������� �! ��� �� �� �� ���� �� ����& 6���� ����� �����(

�&<& 9��� '��� �! ��!� =�������# �

Page 10: 1Learning and Soft Computing: Rationale, Motivations, Needs, Basics

�������� ���������� ��� �����# ��#�� �! ����� ��� �� ���# ���� �� �:�����&

=������ <� 7� � 3 ���!� ��� �:�������&

��� � $% �� �� �� �� ���# ����& '��� ���!��� �� ��� ��� �� !��� ���

�����# ��#� �! ��� �� ��� ���� ��# �! ���� ����� #� ���� ���� �����)�

��� �! $% �� )����� & '��� �� ��� �� �� �! ��� ��� ����&� B������ ��� ����

��������� ��� !�� �����# #���� ������ �� � �� �� � $% �� � ���� � ����

��� ������� �! �������� ����� #� ���� ��� ������ �� �� �� �� � ���

����� �! ������ ������� �&

'�� ����� �� � $% ������ �� �#�� �� � ��� ��� ������� ���� �! ������

�� ���# ���� ��� �&��& +� ��� �� ��� ����� �� ��� ��� ���#� �������� ��

����� ��� ������� �� ������� ������� ��� ����� �� ������ �������������

����� �� ������������ ������ � �����& +� ��� ����� ��� ���� $% �� �� ���

������� �� ��� ������ �� ������ ��� ��� ��������� ���� ����� #� ������������

���������� ����������� ���� ��� ������� ������& '��� ����� �� ����� ��� ��������& ,�

������ ��� ��� �������� ����� #� ������� ��� ���� ���� �� �� ��� � ��� ��� � $%�

������ �� �� ��� �� ������ �������& '�� ���� ����� #� ����� ��� ����

������ ��� ������ �� �� !�� ��� �������� �! !�""� �#�� �� ���#& >� ��� �����

���� ���� �� ��� � �����# ������ ����#������ �����)������ � ��#�������

���������� !������� ������������ ����&

$�� ������ ���� ���� �� ���� �� ������ ������ �� �� ��� �#�� ��#�

���������# )� � ���� �������� �� �� ��#� � � ������� � ����)����� ���&

'��� �� ��� ������ ���������� ���� ��� � � ��( ������ )� �! ���������

�� � ����)����� �! ���� ������ �������& ,� !��� �! ��� ������ � �� �� ����

���� � �� ��� �#������ ���� ���#� ���� ������� � �� ���� ��� ��� ���#���

�! ��� ������ ��� ��������� �� ��� �������� �! ��� ���5� ������� ����!��

!������� ���� ���� ����� 7&D�& B��� ���� �� ����� ����� ��� ������� ���� ���(

���� E&<� ��� ������ �� �� ��� ��� � !�� ���� ������ � ����)������ ��� ���

������� �� ������ ���� ������ ���������& '�� �� �����# ���� ������ ��!

����� �� ��� �� ���� !� !��� ����# ����� � ���� ���������� �� �� ��#��

��� & + ���� �� �� ��� �! ������� �� ��� �� �� � & ,� ���� ��� ��� �������

�� �� � ������� !��������& '��� ���#� ���� � � �� ������ ��� ������� ��

�� ���# ������� ��� ����� �� �����0 ������� ��� �! �����# �� ��� �� ��

���!���� � � ���� �� #����� ��� � ��� ���& .������� ���� �� ��� ����� ����� ���

��� �! ���� �������� � ������� ������ ������� ��#���&

,� �� �� �� ��� ��� ��#� ��� ��� ��� ����������� !�� ����� ��� �������� �!

��������#� �������� !��� ���� ��� ���� �������� ���� �����#����� �� ��#�� ��

���!� �� ��� ���� ���#�� � �� ���#�� ��� ��� ���� ���� !�� ���

� $% �� �� ���� ���� �&< � �&7�& 9����� �! ��� �� � ��#� �! ��������� �!

� =����� �& %�����# � ��!� =�������#

Page 11: 1Learning and Soft Computing: Rationale, Motivations, Needs, Basics

$�*�� ������� ��������� ������� ������ �������� � $�""� %�#�� �� ���# � *����� �! �� ���#+�������� � *������ ;���

���� �������� � ������� ������ ������� $�""� %�#�� �� ��

9�� 9�� B���� 9��

�� �������� ����� #�� ��� ����� �� ������(������ ������������ ����� �� �&�&� � ������� � ��� �� �����& B��#��� ( � + ���������&

��������� ����� #� ������������ ���������� �������������& �� � ��-���� & ,$('.*� ���� ����� ���� ����� ������ �! ��������� ����� #�&

��

� B ��� ��

�< ��< �<

�7

��7 �7

�3

��3 �3

�?

�� �

��� ���� ����������� ��� �������� ������ �������1�0 ,$ ��� ���� �� �� +�8 ��� ������ ��� ���� '.*� ��� !���� �� ���� ���� ��� ���&1<0 ,$ ��� ���� �� ���� +�8 ��� �������� � ���� '.*� ��� !���� �� ���� ���� �����&170 ,$ ��� ���� �� ���� +�8 ��� ������ ��� ���� '.*� ��� !���� �� ���� ���� �� �������&

9���� ��� � ���� ��� � ��� � � �! �����#!��� ��� ������# �&

9���� $% ��� � ��� � � �! ���� ��# ��������� #� ���� ������ #�������&

,� ��� ��������� �� � ��� ���� �� � �������� � �� � ����&

'��� �� ��� ���� ������ ���� ��� �������� ������ �� ��� �� �#� �! �����(!�""� �� !�""�(������� ��&,! �� � ��� ��� �� ����� ����� #� ��� �� � ��� ��� �� ����������� ��� �������� ����

������� �������� �� �� �� �� �� �� �� �� ������ �� ������ ��� ��� ������ � �� �� �� ������� � ���� ����& '��� �� �������� ��� ��������&

�&<& 9��� '��� �! ��!� =�������# ��

Page 12: 1Learning and Soft Computing: Rationale, Motivations, Needs, Basics

$�*�� ��#���� + ���#�� �! ���� �������� � $�""� %�#�� �� ��

���� �������� $�""� %�#�� �� ��

.�� ��� �������� �! �����# !��� ��� ����������# ���� �����# �����

+�� � �/����� ��� !�� ���� ��# �������������� � ����� #� ���� ���!� #�������

=� ��������� �� ��������� �������!�������

=� ��������� �� ��������� �������!�������

8� ��� ��-���� ��� �� ����� ��# �! ��� ��������� ��� ������ ����# ��� ��

+�� ������ ���� �������� �� � ��������� �� ��������� �� �����

+�� ������ �� ��� �������� �! ����� � >����� �������!�� �� �� �� �! ������� ��������!�������

.�� ��� ��������� � �� �� ������������� �� �� ���

+�� ���!� � ��� ��#��� ���� �! ��������������� �������

��� �� �� ����� ��� � �:����� ����� �!����

+�� ��������� ��� �� #������ �������(����#�������

$�*�� ��,���� 8�� ���#�� �! ���� �������� � $�""� %�#�� �� ��

���� �������� $�""� %�#�� �� ��

��� �������� ��# ������# �� �����# ������������ ���� �� ����� �� ������ ������������� ���� ���� !�� ��� ��(���� ���������&

.��� �������� �� ��� ������ ���� ������ � ���� ����� #� ���� �� ��������� & *������ ����� ������� ����������# ��� ����� #�&

8� ��� ������� ���� ������ ������� �! ������������� � � ��� ������� ��� ����� #� ������� �������&

*������ ��� ������� ������� ����0 ��� ������� �� )� �! ���������� �� ��� ��# �� �� � ���������� #�&

+�� ����� �� � #�����"����� ����� �#������� �! ���#���� ��� ���� �� ����)� ��� �@���� ���!������ �� ��������� ������ � ����#��� ���� �����&

������ �! ���� �������� ���������� ����������� �� ��� ������ �! ������ � ������ �!!�""� ������� ��� ����� �����&

%���� �� �� #�� ��� �� �:��� ���� �� ����������� ������"���� ����� ���� �� ��� ���� �! �� ����� !�� ������� ������&

%�����# ����#��# ���������� !��������5 ������ ���������� �� ����� �� ��#�� ��������� @������ ���� ������ ��� ���� ��&

�< =����� �& %�����# � ��!� =�������#

Page 13: 1Learning and Soft Computing: Rationale, Motivations, Needs, Basics

����� �� ���# ����� �� �� �� �� ����� �� ������� ����� ���� � �����������&

>�� ��� �! ��� ������ �� �� !��� �� ���� ����& ,� �� ������ ��� ��������

������# ���� ���� ����� � $% �� �� �� !��� ����� ��� �������� ���� �����

����& .������� ��� #�����# ������ �! �������� � ��� ���� �������# ���

� $% �� �� � ��� ��������# ������ �! ��� ���� ������� � !�""� ���(

�����# �������� � �� �#�� ���� ��� ������ ��� ��� ��� ���� -�������� ����

����� � $% �� �� �� �� � ��(�������� ��#�������# ���� � �� �����(

��# ������ ���������� ���� !�� �����# ��� ��(�!� ���� � �������&

��#�� ������ � ������ �����%�

+���)�� ���� �������� �� ��!���� �� �� ��� �� �� ������� �� ��� ���������

� ������� �! ����#�� ������� � ��� ������� ������� ��� !��� ���� ����� �!

���������� ��������� �� ����#��� ������� �����&

'���� �� ���� ? �:����� ����� �! ���� �������� �� ��� �� �& '��� ����

�������� � �������� ���������� ��� ���� ���������� ��������& '��� ������� ��

���� ��� ���������������� ������������ �! ���& ,� ����� ��� ��� �� �� � � ���

���� �� ��������� ���� �����)� �� �����# !�������� ��� #������ ������# �&

=������ 7� 3� � ? ������� ��� ������ �� ��������I��� ��� ���� ��� �! ���#����

����� ����� � �� �� �� ������� ����������� �� �� ����� ����� � ��

����# ����� ������# �& =����� < �������� ���� ��� �� ������ �! ��������

�����# ������ � �� ��� !������� �������� ������� ������ ������� � �����(

�����# �� �� ���� �����!� �� ���# ������&

$�� !���� ���� �������� �� ��� �� �� ��� ���� �!��� !�� �����# �������

����)����� � ��#������� ���� �� �����# !��� �& ,� ������ !�� !����

��� �� ��������� ���� ����� � ��������� ���� �-������� �� !�""� �#��

�� ��& 9��� �� � $% ����������� ������-��� �� �� #���� #����� �����(

��������� ����� �� �� �� ���� ������� �� !�""� �#�� �� �& B��� ����

������������� �! �� �� $% ����� ������# ��� �� � �� ����������� �������

��� !��� ��� ����� �! ���� �! ������������ �������� �� ��� ����� �! ��� �

������ ��������#� ���� #����� ������������� �� ������ ��������&

'���� �� �����# �������� ���� !�� �������# ��� �� ��� !��� �! ��� !����

C���#���� ������� ���?E�& '��� ������� ������#� ��� ���������� ��� �� ���

������ �! ����������� ���� F����� � ;�##�� ����@ C����� �����& '�� C���#����

������� ������

F���� �� ���������� !������� � 0 � �� � � � � ��� � '� � �� �� ���������

����� �� ������� ���� � ������� �!�(��� �� ��� �� � ����� ���� �<�� ��������� �� ��� �� �� ���� � ���������# ����� ��������� �� ��� ������ ���&

�&<& 9��� '��� �! ��!� =�������# �7

Page 14: 1Learning and Soft Computing: Rationale, Motivations, Needs, Basics

.������� ��� ����! �! ���� �������� ������� �� ��� ������������ �� ��� ����� ��� ��

����� �� ��� !�� ������� ���#�& '��� �� ��� ����� ���� ���� ������� ��� ��� �

������������ �������� ������ �� ��� !������� �! ��� �� ����&

+���)�� ���� �������� �� ������� �! ��� ��������# ����� ������ ����

������ ���� ��#�� �� �������& '�� �����#�� �! ��� ����������� �� ���� �������

��� ������� �� �� ��� ���#��& '�� ���� �! ��� ���#��� �� ���� ������� ����(

���� � ��� ���2���� �! ��� �����# ����� ��� �� ���& 8���� ��# ���� ��� �������

���� ��� �:����� ������ �����#�� � ��������� �� �� �� �� )� �� ������

�����# � & '���� #�������� �����# �� ���� �����& '�� ���#��� �)�� ���

��������� � ����� �! ���� !�������� �� ���� ������� � !�""� �#�� �� ��&

'�� ������� �� ������ ��#��"� ���� ���� �� ����� ��� ������� ����

������� ��� ��� �������� !�������� �+$��& '�� #������ ���� �������� �� �����

���� � ����� ��� � � ��� ��� ���� �! �������I �� �� ��� �.%�� � �

������ ��� �>%�I����� � ��� ��� .% ������� ��� ������� � �:��������

+$�& ���� ��� ���� � �� �� ��� ���� �! 2����� ���#��� ��� �� ������

��#��"� � ��� ������� �! ��� ���#��� ������� ( � +& '�� ����� ( �� ���

����� �! ��� �� �� ��� ���#��� � ��� ����� + ��������� ��� ������ ���

���#���& $�� ���#� >% ������� + �#������� ���� ���#��� ������ �&

'�� ������� �������� !�������� �� ��� �� �� ��� ������� ���� ��� ����

������� �� �� ������� ����������& '��� ��� ���������� �! ��� +$� �����

��� ������� �! �������������& '�� �:����������� �! ��� .% �������5 +$� ����

������� ��� ������� �! ������� �����#& �'� �� ����# �� �� ������"���� (

#������� ��� ��� #������ #������� ��� �� �� ����� �! �����# .% ���#��� ��

���� ����� ��� +$� �! ��� �� �� ��� ������� �� ��� �:��������& $�""� �#��

�� �� �� ��� ���� ����� �������� ����# ��� �:�������� �������� !��������&�

.���� ��� ����� ��� �� ��� ����� � ��� �! ���� ���������# �����& '�� �����

����� �� ����� !�(��� �� ��& F������ ����� �� ��� �� �� ���������# �� ���

����� ���� � ����#� �� ��� #����� ������������� �� ���� ��� ���� ��� �����

��� �� ��� ��� �! �������& 1����� �� �� � ����� ������� ������� �#�����

���� ��� ����� ����� ���������� �� �� !� �� ��� ���� ��� �� �� ������� ���

�! ���� ���������# �����& '�� >% ������� �� �� ���� ���� �!�� ��#������� �����

�! ��������� �� ���� �� ��� ��#��� �������� !�������� �!�� ����)����� ��

������ ����#������ �����& $�� ��(��� ����� ������ ������� �� !�� �)�����

����� ������ ������ >% ������� �� ������ ���� �����& +� �������� ����

�����!�� !�� !���� ���� ������� �� ����� �� )#��� �&�& '��� �� #�����

������������� �! ��� ����������� ������ ��&��0

����(��� *� � ����(��� *� �� ��

���! �� ��� �����

�3 =����� �& %�����# � ��!� =�������#

Page 15: 1Learning and Soft Computing: Rationale, Motivations, Needs, Basics

����� � ��� � !�� ��#��� �������� !��������& '��� ������� �� �� �������

���������� ���� ������� 7 � 3�& ��������� � �� ��� ������ �! .% �������& 9�

�������� ������# � � ����(��� *� �� �������� ������ ��� !�� ��� ��� ������ !���� �� ���� � ���� ��� ���#��� �������� ��!��� �����#� ������� �� (� �� �

*& ,���� ������ �� ��� ���#��� ������ *� .% ���#��� ����� (� � >% ���#��� ������

� �� � !����0

� � �� �< � � � ��! � ���<�

( �

��� � � � ��� � � � ���

��� ��

� ���

�� � � � �� � � � ��

��� ��

� ���

� � � � � � � � � � � �

��������

��������� ���7�

* � �� �< � � � � ! � ���3�� � � < � � � ��! � ���?�+� ���� ������ !�� �������� �� �� ��� � & $�#��� �&� ���������� #����

��������� �! ������� ������������ � � ���� !������� �19$� ��������� �

����& ,� ��� ��� �! ������� ����������� ���� �� �� ��� ������� ���� �-� ��

�� �� ����& '�� ��� ���#��� ������ * �� ����� �� ����#��� ���� � .% ���#���

����� ( � ��� �� �����& +!��� ���� ������������ ��&�� �� �� �����)� ��

� � �!��(��&� $�� 19$ ��������� ���� � � �����# ��� ����� �� �� ��� �����&

.������� �� �� �� ��� �� � >% ���� ������ ?�&

$�� ���� ������� ����������� � 19$ ��������� ��� .% ��� ���� �� ��

��� ��� �� ��� #����� ��� � & '�� .% �������� !�������� ����� �� )#��� �&� ��

��#��� � �� �����# ��� ���� ������� ������� ���������� ������� ����������&

.������� ��� ���������� �! ������� ������������ 19$ ��������� � !�""� �#��

�� �� �� ��� ��� �� ���� �����& '�� ���� ���������� ������� ��#��� �

� � ���� !������� �������� �� ��� ��� ����� �� ��� ������� ������ �� �����

���� ��&D� � ��&E� � )#& �&<�&

'�� ���� ���������� ��� ���� ��� �� � �� �� ���� �����& +!��� �����)�

����� ������ �� �������� �� ��� �������� ��� ����� ��#�� �� .% ������� � ��

������� ������ � ��� � �� �� ������ ��� ���� ������� ��� ���#��� ������� � �

� �!�� ���� �� ��#��� +$� �� � *��� �� ������� ������� ��� ������� � �!

��� 19$ � � �!�� 19$ �������� !���������& + � � ���� +$ �� ������ ��(

������"� �� ��� ���� �! ��������0 ��� ������ �� ����� �)��� ��� ��������� �

����� ��� �! �������� ��� ��������� ��� ���� ��� �� �� !���� �! � 19$& ,� ���

�&<& 9��� '��� �! ��!� =�������# �?

Page 16: 1Learning and Soft Computing: Rationale, Motivations, Needs, Basics

��� �! ���( �������� F����� !������� ���� ����� ��� �! �������� �� ���

��� � ������� �& �8� ��� ���!��� ��� ��� � ������� � ���� ��� ��#���

�������� !������� � #���� �� ��&�� � ����� �� .% ������� �� )#& �&�&� ,� ��� ���

�! ��������� ����� ������ � ��� �������� ��� �)�� ��� ���� �! ��� �����(

F����� !������� �� ������� �! �������� ����� �& '� ��� �� ������ ��� �����

�! .% ��� ���#��� � ����� .% ���#��� �! ��#��� �������� !�������� �����

��������� �� ��� ������� �! 19$ !��������� ������ ���#��� ��� ����� �)�� ���

���� �! ��#��� !�������� ���� ������� �� ��� ����� ������ ��������� �� ���

�� �� ������� �! ��� 19$& '���� ��� ������ �� ��� .% ������� !�� ��#��� +$�

�� #���� �

� � �! �� � �� � � � � � ���D�� !�� 19$ �������� !�������� ��� ������� �� ����� �

� � ��� ��!��� ������������������������������������

� � � � ��� ��� ���E�,� ��� ��� �! �����( �������� ������ ���� � � ��� �<� �7! � � � ��� �<� �7! � ���*��� �� ������ � �� �� �� �� ����� �

� � ��� ��!��� ������������������������������������

� ��� � ���< � ��< � �<�< � ��7 � �7�<�������������������������������������������������������������������������

� �����

"����� ���$�� !���� ���� ������� ��� �� ��������� �� �� � �� ������� �����#&

�D =����� �& %�����# � ��!� =�������#

Page 17: 1Learning and Soft Computing: Rationale, Motivations, Needs, Basics

'�� ������ !��� ��� .% ������ ���� � �� ��� ���� �! �������� !������� ��� &

'�� ���� ������ �������� !�������� �� ������� ����������� �� ��� �-�����#

��#��� !��������0 ��� ������ �#����� !������� ��&�� � ��� ����� ��#��� � ��

��#��� ���������� !������� ��&� �& '���� ��� +$� � ����� ��������� ��# ����(

����� �� �������� �� )#��� 3&7&

� � �

�� ��������

� � ����

<

�� <

�� ���� � ���� �

$�#��� �&< ����� ��� ���� �:������ �� !�����# ��� ����� ��#�� � �� ��� +$� �! ���

������� ���������� � � 19$ ������&

+ ����� �����!� ������� �� ���# ����I ������� ����������� � 19$

�������� � � ���I��� ��� ��� ���������& '���� ����� ������������� ��(

������� �� ��� ��� �� ���� ����� !��� �������!� ������#& + ����� �� �� ���

!��� ��� �! ������# � � ��� �� �� � #�� � ������� �� �� ���# ������

����� � ����� � ���� �� ��#�( �������� ����& ����� ��� ���� �! ��� �����

2������� ��� ���� ��� �����# !��� � ���&� '�� ������ !��� ����� �� �� ��

��������!��� �� � �� �� ����� ����� � �� ��� �������� �! ��� ����� ���� �

"����� ��#$������� �! ��� ����� ��#� � �� ��� ������5� �������� !�������& !��� ��#��� ���� �������� !�������@����� �� ��� ������ �� ��� ��� ��� � � �!�& "���� � 19$ ���� �������� !�������@ ����� �� ��� �������� ������ � ������� � � ��� 19$ ������ � �� � ��� ���� � ���� ��# �� �������� �! ��� ���� ���� �� �! ��� 19$& $�� F����� !�������� ��� �������� ����� � ������� ��� ���� ��������&

�&<& 9��� '��� �! ��!� =�������# �E

Page 18: 1Learning and Soft Computing: Rationale, Motivations, Needs, Basics

�� ��� �������� �! ��� ������ ����& ,� �����# �� )� ��� ���� �� �� ��� ����

�� �� �� ������ ��� ������ �� ���!������ �! ��� �� �& '� � ��� ��� ����(

�� ���� ���� ������ �! #�� ����� ���!������� �� -���� ���� ������� �&7�&

'��� �� ����� ��� ���� �:������ ������� ��� ����� �� �� ���& *�� ���� �!(

!����� ���� ������� ����� �� ���� !�������� ��� ������� ��� #�� ���� �! ��� �� ��

� ��� ������"���� �! ��� �:����� ������� ������ �� �:����� �� ��& '�� ���(

����� �! �:����� ����� �� � � �� �:����� �����# �������"����� ����� ����&

'��� �� ��� �! ��� ���� ������ �� ���� ����& '�� �&3 ������ ��� ���� ����� ����� ��

����� !��������� ���� �� �������# ��� ����� ���� ��������&

��#�# ������ � "�&&' ���� �������

$�""� �#�� ��� � ��� �������� ��� �! ������ �� ���# ���� ������� �� ��� ��

� ��� ����� �& ,� �� ����� ��� ������ ���� ��� �&�� �� ��� ����� ��� �� ��

����� ��� ����� �� �� � ���� ����� #� ���� �������& '����!���� ���

�� �� ������ �� ����� ��&�&� ������& >� ��� �������� ���� $% �� �� ����� ���

� �/����� ��� !�� ���� ��# ��������� ���� ����� #� ���� ���!� #�������&

,� �� �������� ��#�������# ��� ������ �� � #�� 2�� �! �� ��# �: ���������

� ��#��)����& ,� ���� �������� $% �� �� � ��� ���� ����#� ��� ���� ���#

!�� ���� ��# ����& +� �� ���� �������# � ��!������� ��� ����� �! �� ����(

����� ����������� �� ���������� �� ����� �! �#���& '��� �#��� �� ��������

�����#� ��� ���������� !�������� ��� -����!� �������� �#��� �! ����#��# �!

���� ������� ����� �� #���� !�""� �������&

'�� )� �! !�""� �#�� �� ���� ��� � ������ ��� �������� � �#��

�������� �� �����# ��� ��������� �� ������ )� �& '�� ����� �! ����� ��������

!��� ����� �� ������� �� ������ D& ,� �������� ��� ������ �������� ��� !�� (

���� �������� �! ����� � !�""� ����� ����� ���� ���� �#�� �������� �! ���(

2������� �+�8�� ��2������� �>1�� � ��������� �,$('.*�� ������ ��� ��� �!

!�""� �#�� ������ !(����� � !(��������� � �������� ��� �-������� �! ���

� $% �� ��& �.������� ��� ��������� ���������� �! ��� ��������� ������ ��

����� � ��� ����� �! ���� ����&� $����������� !�""� ����� �� �� �$+��� ��

����� ��� � ����� �� ������� ����������� �� ��� ����� ��� ���� �� ������(

$�*�� ��-9��� �� �� � '���� *���� �1���� $��������

������� ;��������� 1 � 9��� $������� ������� ������� ������ ������

� ��#���

��� � � �������<� �� ���������� �� ����

� ��#���

��� � � ��� ����<� �� ���������� �� ����

�� �.� �<� �� �$ ��������

� ��#���

��� � � �������<� �� ���������� �� ����

� ���� �� ��� �� ��������� �� � ������

�� =����� �& %�����# � ��!� =�������#

Page 19: 1Learning and Soft Computing: Rationale, Motivations, Needs, Basics

��� �� ��������� ������� !������� �� ������ ���� �� �� �#��� �!

������& '��� ���� ��� $+�� �� ���� �� ��� ���� �! ���������� !��������� �

���� ���� ���� ���� �����!� �������� ���� ��� � ����&

'��� ������� �������� ��� $+�� ��������� �� ���� ������ ��� �����

�� ��#�������� ����� !������� ���� ����& + $+� �� ������� �! ��� �! ����

�� ��� !��� �! ,$('.*� ��������� ��� ������� ���� ����� #� ���� !�������

�������& ������� �� ��� �� �� � ��� ��� !�������� ����� �� )#��� �&7& ,� �� ���

�� �� � ����� ��� !������� ���� ������ ����� �� )#��� �&7& 9��� �� ��

��� ������ � ��� ����� ,$('.*� ����& 6���# !���� ���� ��� ������ ���

����������� ������� � ����# ���� ���� ��� ������� ��������� � ��� ���� �!

���� ��-���� ���������� ����& '��� �� ��� ����� ��!� ��������# ����I

�� �(�: ������� ����������� � ���������� �� ��� ��� �� � �� ������� �����

���������� � ���������� �� ��� �����& '�� ��������� ���� !�� ��� !�������� ��

)#��� �&7 �� � !����0

%�!� F��� 1�#�� F���

,$ � �� ��� '.*� � �� ����% ,$ � �� ��� '.*� � �� ����&

,$ � �� ���� � '.*� � �� ��% ,$ � �� ���� � '.*� � �� ���� %

,$ � �� ����� '.*� � �� ����% ,$ � �� ����� '.*� � �� ��%

'���� ���� �)�� ����� �#� �����#�� ������ ��� ����� ��� !��������& '��� ��

����� �� )#��� �&3 ��#����� ���� ��� ������� ����������� !�� ��� !�������&

���� ��� ���� ����#� � ��� ��� ��� ����� ����� �� ����� �! ������� !���(

�����& B� � ��� ��� �� KK �� ����� !�������� �� ��� ��� 55 �� ��� �� KK���55 ����

� #�������� ���!���& ,� #����� �� � ��� ������� #�������� )#����� �������

���!���� �� ��������!��� ���� ���!�����# ���� �� ���������# ��� ����� #�& ,�

������ ��� ��������� �� �� �� ����� ��# �! ���� !������� ���� ������ �� ����

"����� ��,'�� �:����� ������� �� ��� !�������� ������#�� �� �� �� �� �� !�""� ����� �� �&

�&<& 9��� '��� �! ��!� =�������# ��

Page 20: 1Learning and Soft Computing: Rationale, Motivations, Needs, Basics

�!��� ��� ��������� ����� �! ����� #� � & B� ������ ���!��� ���� ������

���� ������� ����# �� �� ������� ��� �� �� ��������# ����& '�� ������� �� ��

���� ���� !�� ������ �� ����� �� ���#�� �� ��� !��� �! ,$('.*� ���� ���

�� �� �� ��# ����� ����#��"��# ������� �� ���)�#&

'���� �� ��� ������ ���� ��������� � ��������� ������� ����� #� ��

��������� � )� !�""� �� �& +!��� ��� ���#� ����� � ���������� ���

���� ������� � ���� )� �� � �� ���� �������� �)�� ������� !�������& 9�

�������# ��� ��������� �! ��� ��� ����� ��� �� ������ ��� ��������� �! ��� !�""�

�� � � �� � ��� �: #���� ������� �����& '���� ��� )��� �)��� ��� ���� ���(

��� ����� � ������ ������ !�� ������& ,� !�""� �#�� ������ ��� ���� �)��

��� ��������� �! ��������� �&�&� ��� ����� � ��� ��#�� �! ������ ������&

'��� ��� �����)�� ��� �� ��& ���� & ����& ��������& ����& ���& ����� � �� ��� ��

#���� ���& ,� !�""� �#�� ������ ��� �)��� ��� !�""� ���������� !�������� �!�""�

������� �� ���������� !�� ��� ������ ����� � ������ ������& '��� ��� ����������

��� ����� #� �� ��� !��� �! ,$('.*� ����� ��� ��� !�""� ���� ���� ��������� ���

��� �����& '�� )� ��#� �� �� ���!��� ��� ������� ���I�����# ���� ��!��(

���� #������ ��&#&� �6�(;1>8� �+P(�,�� �6�(�,��I� �� �!�""�!� ���

�������# ����� ���(����� !�""� �������& '�� �� ��� ����� �� ����� � �������

�������� ���������& ' ��!� ��� �� ����� �������� �� ��� ������ �! ������(

���� !�������� � �� � ��������� ��!������ � �!�""�)����� ���������&

+#��� ����� �� �� �(�: ������� ����� � !�� #������� ����# �� ������(

���� ����� � ��� ����� ������& '���� ��� )� ����������# !������� ���� �

���� ��� ���#� �������� ���� ��� ��� �! ��� ������� !�""� ����������� ��

����� �� )#& �&3�& '�� ���#� �������� ���� � ��� ������� ������ � ��������

"����� ��-'�� �:����� !�������� ���� ���� �� ���� #����� ������ �� ����� ������ ��� ��� �� ,$('.*� ����� �� �� �� ��� ������� ����������� � ��� � ���� �������&

< =����� �& %�����# � ��!� =�������#

Page 21: 1Learning and Soft Computing: Rationale, Motivations, Needs, Basics

�! ��� ����� � ������ ���������� !��������� ��� ��!������ �������� ���� � �

��� �!�""�)����� ����� ��� &

%�� �� ��������� ��� !�""� �� ���# �! ����� ���( �������� �����#

� � �<� �7 � � � & =����� !��� !�""� � ������� ��������� �!�""� ������� ��

���������� !�� ����� � ������ ������ � !����0

,���� ������ >����� ������

$�� �7 � � � �<� � �� ���� ��������& $�� 3 � � � � � � �� �����&

$�� �7 � � � ��� � �� �������� ��������& $�� � � � � �� � �� ���� &

$�� �< � � � � � �� ������ ����& $�� � � � 3� � �� � ���&

$�� �� � � � � � �� ���� ������ ����& $�� � � � �� � �� ���� � ���&

'���� !�""� ���������� !�������� �� ����� �� )#��� �&?& '�� ���� ����� !�� !�""�

��!������ �� ��� !��� �! !��� ,$('.*� ���� ��

1�0 ,$ � �� ���� �������� �() �� '.*� � �� ����� �*�&

1<0 ,$ � �� �������� �������� �$) �� '.*� � �� ���� �+ �&

170 ,$ � �� ������ ���� �),�� '.*� � �� � ��� �$�&

130 ,$ � �� ���� ������ ���� �(),�� '.*� � �� ���� � ��� �($�&

,! ��� �� ��� ����)� ���� ��� ��������� ������ � ��� ���� �)�� ���� ����&

'��� �� �� ��������� �� )��� #������� ������# ���� ������� ��� ��

�� ���"� �� �)���# ���� ���������� !��������& '�� !�""� ����������� ���

!���� !��� �� � ���� ����� ���� �� ����� �� )#��� �&D& '�� ����� !�""� ���(

������� !�������� �!�""� ������� �� ���������� !�� ������ � �������� � �� � ���

��������� ��# ��� ����� �� �)�� � !����0

,���� ������ >����� ������

$�� �7� � � � �<�?� � �� ����� ��� ��� ���

����&

$�� D�<? � � � �� � �� ���� �����&

$�� �7� � � � �<� � � �� ���� ��� ��� ����& $�� 3 � � � �� � �� -���� �����&

$�� �<�? � � � ���?� � �� -���� ��� ��� ����& $�� <�<? � � � D�<?� � �� �����&

$�� �<� � � � ��� � � �� ��� ��� ����& $�� � � � � 3� � �� ���� &

$�� ���? � � � � �?� � �� ������ ����& $�� �<? � � � <�<?� � �� � ���&

$�� ��� � � � � � �� ���� ������ ����& $�� � � � �� � �� -���� � ���&

$�� � �? � � � � � �� ����� ��� ����� �� ����& $�� � � � �<?� � �� ���� � ���&

�&<& 9��� '��� �! ��!� =�������# <�

Page 22: 1Learning and Soft Computing: Rationale, Motivations, Needs, Basics

"����� ��/�� ���# ���( �������� �����# � � �< �� !�""� �� � ���� !��� ����&

<< =����� �& %�����# � ��!� =�������#

Page 23: 1Learning and Soft Computing: Rationale, Motivations, Needs, Basics

1�0 ,$ � �� ����� ��� ��� ��� ����� '.*� � �� ���� �����&

1<0 ,$ � �� ���� ��� ��� ����� '.*� � �� -���� �����&

170 ,$ � �� -���� ��� ��� ����� '.*� � �� �����&

130 ,$ � �� ��� ��� ����� '.*� � �� ���� &

1?0 ,$ � �� ������ ����� '.*� � �� � ���&

1D0 ,$ � �� ���� ������ ����� '.*� � �� -���� � ���&

1E0 ,$ � �� ����� ��� ����� �� ����� '.*� � �� ���� � ���

"����� ��0�� ���# ���( �������� �����# � � �< �� !�""� �� � ���� ����� ����&

�&<& 9��� '��� �! ��!� =�������# <7

Page 24: 1Learning and Soft Computing: Rationale, Motivations, Needs, Basics

'�� !�""� ����������# !������� ��� ������ !��� !�""� ����� �� � ����

����� ���� �� �� �����#������ !��� � ���#�� � ����� !������� ���� ����&

1��� �������� ��� ��������� ���� ����� #� �� ������ �� ��� !��� �! ���

���#������� �������� � ��� ����� ��� �� ��� !��� �! �� �������� ����������&

,! ��� ���� ��� �������� ����������� ����� ��� ��� �� ��� !�� ���#���#

!�""� �� �& >�� ��� ����� ��� ���� ����� ���� ���� �� ����� ����� !���&

'�� !�""� ����� �� � �� �� ���������� #������ �� ������� ��� ��� ���

����� �� )#��� �&�& ������� D&< �������� ���� �������� �-�������& '�� �����(

����� ����� !���� !��� �� ����������� �� �� �� �� ���� �� )#��� D&<?& '��

����� ���������� !�������� �! $+� ��������� �� ��� .% �������� ������

!�������� �� ���� � ��� ������� �! ��� $+�5� ������ ���������� !�������� ��

�-������ �� ��� >% ���#��� �� � �� �� ��� �� �&

��, ����� ���)������� � �� �������

'�� )� � �! �����# !��� � � ��!� ��������# �� ��������� ��(!��� �

���������& '��� �� ������� �! ����� ����� ��������� ���� ����� �

KK4���� �! �����# � ��!� ��������#55 �� )#��� �&E& >�� ��� �� ��� ����

�����# � ��!� ��������# �� ������# ��� ���( � ���� ��������� �

���������� ����#� ���� �������� �� �� �� !�� ��� ����� )� � � ��& '���

���� ���� !��� ����� �� ���� ��� ��� �:����� ��� ������ �� )#��� �&E� �����

�������� � ������� ��� �����!� )� � �! �����# !��� � � ��!� ��������#&

"����� ��1+ KK4���� �! �����# � ��!� ��������#55 � ��� ���� �������� ������������&

<3 =����� �& %�����# � ��!� =�������#

Page 25: 1Learning and Soft Computing: Rationale, Motivations, Needs, Basics

.���� ����������� ������� ���� �� ��� ��������(��� ��������� �! ���(

� � ���� �������� � �������� ������-���& '�� �������� �����#

������ �� �������� �� ������ <� � !�""� �#�� �� ��� ���2��� �! ������ D&

'�� ������ �! �� �� ���������� �������� �� �������� !��������� �� �(

�"� ����0 ��� �� ����� �� �� ���������� � ��� � �� ��� ���� ���������

��� �� ��� ���� ��Q '�� )��� �� ��� ������ �� ��������������� ������� �� �������

�&7&�& '�� ����� �� ��� ������ �� ��������� ����� ���� ��� �� ���� ��� � ��

���� ������� ������"���� ������-���& %�����# �� ��� ���� ���2��� �! ���� �����

� �� �� ��"� �� ��� �����#����& .������� � �������� ����������� �! ���

��� !��� � ��� ���#��� �!� ������� ������"���� ������# �� ������#� ���� ��

#���� �� ������� �&7&<&

���� �����)��� ������� �&7&� �������� ��� ����� �! ����� � �� ���

�������� �� ��� ����������� �! ��������� !��������� � ������� �&7&< �����(

���� ������� ������"����& ������� �&3 �������� ��� ����� �! ����� ��������

������ �! ��#������� � ����)�����& =����� < �� ����� �� ��� ����������

����#��# �� �! ������� ������ �������� ����� �������� �������� ���� ����(

��"����� ����� �� �� ���� ������ ������ ��� !������� �! ��� ��������

�����# ������& ���� �� �� ��� � �����# ����)����� � ��#������� ����(

���� ��� ����� ��� ��������� �������� �������� �� ������� �&3� ����� �� ���

�� ����� ��������� ������������� ���� �� ��� )��� �������� �� �� ��� �

��� ����� �� �����)� ��������� ������������ � ��� ��� !��� ����������

�& '���� �������� �&7 � �&3 � ������ < ���#�� ����� ��� ���� ���������

������������ �! ��� KK�����# !��� �55 �� �#�&

��,�� ���������� � ������������ "�������

'��� ������� ����� �� � �������� ����� ������ �� ����������� ������& ,� ��

�������� ��� ����� �! ��� ��������� �����������R������������ ������� �! ��!�

��������# �� ��0 ���� ��������� ������� ������ �������� � !�""� �#��

�� ��&

'�� ����� ���( �������� ������ �� ��� ����������� �! �� ����������

!������� � ��� �� � ����������# !������� ������� ����# )�� )���� ������ �!

�������� � ��� �� ������� �! ���#��� ������ �& �%���� ( � + �� ��� ��

����� ������� �! �� �� ��� ���#��� � ������ ��� ���#���� �����������&� '��

���� ������� �� ���� ���� �� ������� �:�����& >�� ���� ����� �� ���������

���� ���������� �������� � ��� �� ��������� � ��� !�������& '�� ����� ��#�����(��# ������ �� �� ���� �� ��� ����������� �� ����������� �! ��� �! # �����

� ����� ������# � ������& .������� �� ���!� ��� ��� � �����# !��� �

�&7& 9��� ��������� �! ��!� =�������# <?

Page 26: 1Learning and Soft Computing: Rationale, Motivations, Needs, Basics

������� ����� ������ !��� ����������� ������ �� ����� ��� )���& '��� �������

���#�� !���� 1��� ���D3� � ���� � ;��� ����?�&

'�� �2�� ����� �� � ����������� ������ �� ��� ���� �! ����������#

!������� ���� � ��� ������ �! #�� ����� �! � �����������& '��� �� ��

����� � ��� -������� �! �������# ��� � ��� &

'�� ������ �! ����������# !������� �!���� �� ���� �������� ��� ��� ������ �!

������ �! #�� ����� ��� ��� ������ !������� �� ���� ��� ������� ��� ��(

���� ������� � � ��& 6�!��������� ����� �� �� ��������� ����� �! ���������#

����� ��� �! ��� ������� ����������# !�������� �� ��� ��� ���� �������(

����& >� ��� ����� �� � ����� �� !�������� ��� !�� !����� �� � �� !��������

�� ��� �� �� �� �������#���� �� �& '�� ���� ����� !�������� �� ��#��� �����(

����� !�� � � ���� !�������� ������ F������ � ����-� ������ �����(

�� !��������� � ����� ��� � ���������� !�������� ���� �� !�""� �� ��

�����#�� ����"�� � � ���#�����& '���� !�������� �� �� ��������� ����� �

���������� !�������� �� ������� �����������@ � � ���� !������� �19$� �� ��#(

���"���� ��������� � !�""� �#�� �� ��& '���� �� �� ��� ��#����� ���� ���(

���� ������ �������� ��� ���� ����� ��!� �� ���# � �����# !��������& '����

�������� !���� !���&

+ ��������� ���������� �� ������������� �! ������� ���� !������� ��������

�������������0

� � ������� �� ��)���

������ ���� ������

����� ����� ��� �� ��� �! #���� !�������� ����� ��#��� !�������� ���� � ���

�#����� !������� �� ��#��� ���������I��� �<&D� � ������ 7�� � �� ��� ������ !���

�� �� � ) �� ��� ������ �! �� �� ��� �������& 9��� ��� ������ ���5�

���#��� � � ��� ������� �! ��� �� �� ��� ���#��� ������ � �� !��� ��������

��� �� ���2���� �! �����#&

+� ."� ������ �� ������������� �! ���� ���� !������� ��������0

� � ������� ��)���

������� ����<�

����� ����� �� )�� ������� �� ����� ��� �! � � ���� !�������� ��&#&�

F������� ������� ����-� �����& ���� ��� ���� ��� ���� !�������� ����� �� ���)�� � ��� ��� ���� ����� ��������� �� � ���� �������� � �� �� ���2���� �!

�����# ��� � ����� �������� 19$ �������� ������ ������� ����������� �������&

���� ������ ? !�� ���� ���� ��������� �! 19$ ��������&�

<D =����� �& %�����# � ��!� =�������#

Page 27: 1Learning and Soft Computing: Rationale, Motivations, Needs, Basics

+ ����� ����� ����� ��� � 19$ �������� �� �� ������������� �! ���� ��

������� ���� !������� ��������0

� � � � ����� �� �� ��)���

���� ������)���

���� ���� ����7�

����� ) �� ��� ������ �! ����� � �� ��� ����� � ���� !�������� ���� ��� �� ���

����� ���������� !�������� ���������� �� !�""� �������� ������� � �� ���� �<&E� �

������� D&��&

,� ����� �� ����� �� ��� ��� ����� ���( �������� ����������� �������

�� ����� ��� 0 ��� �! ��������� ������ ����

����� �����

��� � � ��� <�

< � 7�7 � � ������� � ��

� ����3�

� ��������� ������� ������

����� � � � �� ������ � �� ������ � �< ����<�� � �< ����<�� � � �� ������� � �� �������� ����?�

+ ��� ��� )��� ����������� ������ ���� �� ���� ������������& .�������

#���� �� �� �� ��� � ������# ������� ����������# !��������& '���� ���

2������ ������ �� ��� ������ ��� �������� ��� ��� ��� � ��� ��� �� ���2����

�! �����# ����� ����� ���� ��� ����������# !��������& ,� ����� ��� �� ���

����������� ���� � ����� ���� ���#��� ��� �� ��� ���2���� �! �����#& '���

���� �������� �������� �! ���� �� �� � � �� -� ���� �������� ������"����

������� ���� #������ #�� �������� ���� ��� *< ���� �� ��� &

'�� ����� �2�� -������� �� �� ������ �� ��� ������ �! ���� ���� ������

������� ��� � � ��� ����������# !������� ��������& '��� ������ �� ���

�������� ��� ��� ������ �! !��� �������& ,! ������� �� �������� ���� � �� ��(

���# !������� � ��� ��� ��� ��� ��� ������# � ������� ���� ���� �� �����(

�� ������ �� � �� � ������� ����������� �� � ���& ,! ������� �� ���

�������� ���� � ���� ���� �! ��� ����� �� ������� � ������������ �� � ���&.������� �� ��� ������ ��������� ��� ���� �! ����������� �� ����� ���(

!���� ���� ������&

'�� ���� �! ����������� �� ������ �! ��� �� �����)� �����������

����� �! ��� #���� !��� ������ ��� #���� ��� �! ����� �& ����� �� ����������

���� ��� � ������� �! ������ ��#��� ��"�� ������� � �� ��� ���� ��# ��

�&7& 9��� ��������� �! ��!� =�������# <E

Page 28: 1Learning and Soft Computing: Rationale, Motivations, Needs, Basics

�������& .��� ���� ���� ���������� � �����& '�� ���� ������ ��������

��� �! ����� �� ��� ��� �! ������ ������� � ��� �� ��� *� �.�M ��� ����&

'�� *� ���� �� �(���� �! � ����� ������ � #���� �

���� � ��� ��������� � ��� �� ������

��� � ����� ����

� ����D�

����� # �� ����� ��� ��"� �! ��� ������# � ���� ��� ��� ��� ������ �! ������# �

����� � � � ��� !�� #( �������� ������� �! ����� � ��� �������

�! ��� ���� �������& ���� ��� ��&�D� �� ������� �� !�� � �� � �� �����#�

�� !�� � �� ���� ���#� ������ ��� ������& $�� ���� >% �������� ����

��� �� �)�� � ������ ����� ����& +������# ��� ��� ������� �� ���(

��# !������� � ��� �� #���� �� ������� � ��� ��������# # �����������

� ����� � ��<�� � � � � � ��#�� ��� ��� � *� ����� �� ��� �� �)�� �

*�0 � � � ���� ��#�

� � ���� � ������� ������� ���� ����E�

*<0 � � � ���< ��#�

�� � ���� � �������<���< �*��� �� ����� ������

*�0 � � � ���� � ���

� � ���� � ������� �=��������� ���!���� ��

��)���� ����� ������'�� ����� ��� ����# � ������"���� �! ��� �� �� �� ��� ��� ��� � *�

�����& 6��� ����� ���� ������ �������� ���������� �� ���� �� ��� !���

�! ���� �� ����� !�������� ��� ��!���� ��� �������� �� ������# � ����� ������

������ �� � *< �� *� ����� � ��� ������ ���� ����� �������� �! �

����������# !������� ��&#&� ����������� �� � ���������� ���#��� �#���� ��&

'���� ����� ����� ������� �)�� !�������� ��� � ��� ������� ��� ������

�������� ���������� ��-���� !�� ������ �� ������ ������� �! ��� ����&

'�� )��� ��������� �� ���� ��� � *< ��� *�� ����� � ��� ����� �� ����

����"���� ���� ���� ��� �&3 � �-������ �<&<D�J�<&<���& �����5� �(�����������

��� !������� ������� ����� �� �������� ���!� !�� ��#������� �������� �� �����(

��� �� ������ <&

'�� =�������� ��� ���!���� ���� �� � *� ���� �� � ��)���� ���� �� ������

�! ��� � ������

�����

������ � ��<�� � � ��������� � ������#

����� ���< �

<� =����� �& %�����# � ��!� =�������#

Page 29: 1Learning and Soft Computing: Rationale, Motivations, Needs, Basics

'�� ������ �! ��� ��������� ���� �� ������ �! ��� �����������5� #�� ����

���� � ������� �� ��� � � �� ��� ��������� �! ����������� � ����(

��"���� #������� ����& '�� *< ���� �� ��� ���� ��� !�� � �������� ����

����� ��������� �F������ �����& ,� ���� ���� �� �� ����� ��� ��� �������

�������� �� ���#��� ������ �� *< ���� ��������� �� ��� ������(�������

��������& '�� *� ���� �� ���� ������ ��� ��� *��� �� ���� !�� � ��� ���

������� ������ ��� *� ���� ��� � �� �#���� ���� �& '�� =�������� ���� �� � �

�� ��� ��� �! ���� � ���� ������ �� ���!��� �����������&

,� ��� )� �� �������� �� ��#� ���������# � ������ � ����)����� �

������� ��� *< �� *��� �� ���� �� ���� �������� ��� � !�� ��� ������& $�����

��� ��������� ���� ��� F����� ������� �! ��� ����� �� ������ ������� ����(

������� �� � ������� � ������� ���& ����� � ��� *< ���� �� ���������

����� � ������&

���� �!���� ������ �! #�� ���� �� �������� �! ����������� ��� ����#

�����# ��#� ��� ��� ����!� ��&�E�J��&��� �� ����� ����� ���������� �! ������

� ����� �� ��� ����& $�� ������ ��� ���� ������ ������� !��� KK����55

*< ���� �� ��� ��� �! ��� ��� �! ����� �-���� � ��� � ���� !������� �� ��

�����#& '�� ��� �! ����� �-���� �� ��� ������ ����� !��� ��� ���� ��� ��

��#��� ���#� ������� �! *��� �� ���� ������� �-��� ���� ���������� ��� ���

������"���� �� �-������ �� ��� ������"���� �! ��� *< ���� !��� ����� �� ��

����� &

��� ��� ��� �������� �! !��� ����� �! !������� ��� �� ��������� �� �

���� ������� �! �������� �! ������������ ��� ���� ����� ��� � ����

-������� ��� ��� �� ��� ���� �����������Q >! ������� �� �� �� �� ������ ������

������������� ��� ���������� �� #����� ��� �� �� �! ��#��� � ��#���

�#���& +� ������� �� �#���� ���� � � �� ����)����#� �������& '��� ������ ��

������� �� ��� �����#���� ��� ����&

F���� ��� ��� $� �! ����������# !�������� ���� �������� �! ����� �� ��� ��

��� ���� ��� .% �������� �� !�""� �� �� ���� ��� ����� � � D�� �� ����� ���# ���

������� �! $� ����# ������� �������� �! ����� �� ��� �� ��� ���� ��� .%

�������� �� !�""� �� �� ���� ��� ����� ��� ��� �� ����� �� #���� � ������ � ������ � ��#� ��� �� ����� ������ �!�������� �� �� �������� �! $�Q ,! ����� ��� �� ��

����� � ��� ���� ������� ����� �� � ���&����� �������� ��� ��� ���� ����������� �������� ���� � ���� ��� ����

���� & =��#� ��� ���� ���� ��������� �! �������� �! ������������ � ��� ����

����������� �� ���#�& F������ ��� ���� ����������� �� ��� *� ���� �� ���

��� ��� � ��� ���� ����������� �� ��� *- ���� ��� -�& '��� �� ����� �� ���

!�����# ���( �������� ���������� ����� ���� �� ������� �&� � �&��&

�&7& 9��� ��������� �! ��!� =�������# <�

Page 30: 1Learning and Soft Computing: Rationale, Motivations, Needs, Basics

������� �� +��������� � � �3 ���� � � �� ����#�� ��� ����� �� ���� �

��3 � ������< �� �� ��������

� �

��3 � ������< �����

���3 � ��������

�<�� �� ��������

�� ����

��3 � ������ �� ��������

���� ��� � � �3 �� #���� � ���������� !�������� ��� � ��� �! ������� ������&

'����!���� �� �� ��������� ���� �� ��� ����� �)�� ���� � ������ ��� ��� �

����#� ������� ����� �! �-������ ��&�E�J��&���� ����� �������� ������# ��(

�����& '���� �:����� ���� ������������ ���������� ��������� ��# �� ��� #����

���� !�������� ������� ��

����� �3�

?� �

?���� ��� �� )#& �&���

����� �?3�

??� �D

??� ��� ��� �� )#� �����

����� � �� �<7D � ���� ��� �� )#� ����� ��

"����� ��29��� ��� �-��� ���� �� ����"� ��� �-��� � ��� �� � ���!��� � ���� � ���� ������������ �� �3

�� � �&

7 =����� �& %�����# � ��!� =�������#

Page 31: 1Learning and Soft Computing: Rationale, Motivations, Needs, Basics

'�� ���� ����������� �� ���-�� !�� ������ ������ ��� ��� !�� � � � � �& '����

��� ���� ����������� ���� � *< ���� �� ���-��� ��� ���� �������� �� ���� !��

������ ���� ���� *� � *� �����& $�� ���� �� ��� ������ �! ����5�

���-������� ��� ��� ���� ������� �� ��� ������� ������� �! ���� ������&

9�!��� �������# ��� ����������� ���������� �! �� �� ��� �� ���� ����� ���

�� ����� �� ���� ���� ����������#� �! ����� ����������� �������& .��(

������� ����� �� ��� ��� � �����������0 #����� � ���#��������� ���(

�����& '�� ��������� �� �� ���� ������ ��� ��� �������� �� ��� ������ �!

����������� �� )� ���������� �� ��� ��������� � ���-������ �! �������� ���

���� ����������� ������� � ��� ��������� ����������� � ��� ���& .��� ��

���� ���� ������� ����������� �! ���( �������� !������� #���� �� �������

�& ,� �����# �� ��� ���� ��� �� �����# ���� ���� ������� ������ � �������

�� �� �������� ���� ��� ����� � ������ �� ��� ��#�� ��� ��� � ��� ����

������# �& *���� �&< ����� ��� �)������ �! ������� ������������& '���

����� � � �� ��� ��������� �! ���� ���� ���� ���� ����#� ���� �� ���!���

����������� �! #���� ������# � ������&

������� � +��������� !������� � ��� � ����� <?�<� �)�� ���� ��� ��#�

����� � ���� � <� �-�� ����� ������ ��� � � �� <�� ��&�&� # � <�� �� ���(

����� �! ���!��� ���������� � ��������� �� ���&

$�� ���� ������� !������� ���� )#& �&�� �� �� !��� ��� !�� �� ����� �� ��� �����

��� � �E?� ��� ����� � ����� � � ���� �! ��� ����������� �������� ������� ���� �

"����� ��3;������ ������������ �! !������� ����� <?�<�&

�&7& 9��� ��������� �! ��!� =�������# 7�

Page 32: 1Learning and Soft Computing: Rationale, Motivations, Needs, Basics

��� �� �� �! ��� ����������# �������� � ��������& '��� �� ���� ���� ����#�

������ � � ���� ���� ��� �� �� �! ������� � � #� �� ����� # �� ��� ������ �!

������# �& ,� ���� ����� ������ � � ���� !�� ���������(�� �� �������� �����

���� ��� ���� *� � *< ����� �� �-� �� "���� ����#� ��##�����# ���!���

�������� ����������� ���� ��� ���� ���� �! ����� ����� �& �

B��� ����� ����# � ����� ���� ���� ��#�� ���� ����!����� ��2������ �� ��

��� ��� ������ ����� � �� � �������& '��� �� ��� ��� �� �� =�������� ����

�! ����������� ����� ��� ����� �� �)�� �� ��&��� � ��� !������� ����� �� �������� ��� *� �� ������"� & ,� �� �� ���� ������� ��� ��� =�������� �������� ���

!��� �� � ��������&

'���� �� �� ��� ����� ��������� ����� ��� �! �����#�� ���������

��� �� �� ��� !�� ������������& + �! ���� ��� ����� �)�������� �� ��� �����

��� � ��� ������ �! ������# ������ # ��������� ��� ����������� �������� ���

��� ������ �! ��� ������ ��� ����� ��������� �������� ������� � ��� �� � �!

��� ������&

+������ ����� ����� ����������� ������ ������� ����� !�������� ����

���� �! ��� ��������� #���� �

������� �� �����

���

� ��

����

� ���<��

'���� !�������� �� ���� ���� 4������ ��� ���� �� ������� ����������� �����

������� �� ��� ��������� ���#��� ��� � �����# �! ��� ���#��� �� �� ��� � ���

���& '��� �� �! �������� ��#��)���� ��� �� ��� ��� � ���� !�������� �� ����

����&

9��� ��� �������� � ���#��������� ���� ��� ����� �� ���#�� �� ���

���� ����� ��� ���� ��� � !���� �� ������� 4� �������& 9��� !�������� ��

�)�� ���� ��� ���� ���� ��&�&� ���� �� #��� ����# �������� !����������

� ���� #����� ��� #����& ���� ������������� �� �� ����������� �� ������(

��# ��� �#��� �! ����� !��������� ��� ���� �� � �����-����� �� ������� �! ���

���������� ���� �� ���� ���� ���� )#& �&��&

'�� ���� �� � ��� !�� ����������# !�������� ��� ����� ���#���� !���

�������� �� ��� �������� ������ ��� ���������� ��� ���� ����� ����# ������

������ ���������& '�� ����� !�������� �� ����� ���� �! 19$ !��������@ ���� ��

����� �� ������ ?& '��� �� �)�� �� ��� ��# ��� ���� �! ��� ����� �����

���� ����� ������� �� ��� �! ������ �� ����� �� �����& '�� ����������#

7< =����� �& %�����# � ��!� =�������#

Page 33: 1Learning and Soft Computing: Rationale, Motivations, Needs, Basics

!������� �� ���� ������� �! �����)� �#��� ������� ��� �����& '�� ������(

����� �� ���� !�� ��������)� � )�� �����& .������� ��� ���� ����������#

������ �� ������� ���� ��� ��������� �! ����� �� ���2���� �! �����#& '�� �����#

�! ���� ���������� ����# ������� ������"���� ������� �� ������ � #�����

��� � ��� ���&

,� �� ����������# �� ���� ��� �� ��� �������� ��� �!�� ���( �������� �������

#����� ��������� ���#��������� ��������� � ������ ��� ��� ��������

�! ����� ��# ���-�� ����������� �� ��� �! ������� ������ �-� �� ������ �� ���

������ �! ����������� �������� ����#����& .������� �� ��� ��������� ��� ��

�� ��� ���� ������� �� #������ ���-�� ��������� !�� ����� ���� !��������� �

����� ���� ����������� �� ��� ��������� ���-��& ;����� �&�� �� ���� ���

���-������ �! ������� ����������� �� ������� ���& .������� �� �����(

��� ������"�� ��� �! �����#�� ���& ,� �� �������� �� �� ��� �! �������

���!�� ��� ����� �� ���� ���� ���� ������ �� �����# �������� �� ������� ���(

��� ������� ���� ������ <� ��� ������ ����� ����������& +� ��� ��� ����� 19$�

���-��� ��������� �� ��� �! � �� ������� ����� ��� �! ������# � ������&

'��� �� ��� ��� �! ���� ���������� �! 19$ �������� �19$ ����������� �� ���&

$�#��� �&� ����� � ����������� �! ��� �# � D� �� �� � ������ ����#

������� �! )!�� �� ��& + ���!��� ����������� �� ������ ������ ��� �� ��(

��� � ����� 4 �� ��&<<� �� ������#��& �'���� ������� �!��� ����� �� �������

������������� ��#� ���������#� � �����(���������# �� ��&� .������� ���� �����

"����� ���5,���������� � ����������� �������� �! )!�� �� �� � ��� � � ���� �� �� � ���� � �� ��� ��#�������(��������� � ������ ������ �� �����# ��� ����#�� ��� ���� �&

�&7& 9��� ��������� �! ��!� =�������# 77

Page 34: 1Learning and Soft Computing: Rationale, Motivations, Needs, Basics

�� ���������& *��� !�� �� ��� ��"�� �! #� �� �� ���� � ��� ������ ���� ��������� ��

���� ���� � �������� �� �� ���2��� �� ������ ������� �/������& '�� �����(

������ ����� � ��� � �� ������� �! ���� ������ �! �-������� � �� ��

����-��� ���(�-���� �������� � �� ��� ����������� ����� � ���� �& '�� ���� ���

�������� ���� (�� �� ������� ����������� �����& ,� �� �� ��� ���� ������(

����� �� ��� ���(�-���� ����� ��� �� ��#�� ����� �����#� ��� ������# �

������&

+� ������������� �������� ������ !��� �����# ��� !�����# ������ �! ���� �-�(

�����0

� ���� � <�

<� � 7�

7� � 3�

3� � ?�

?� � ��� � � �� D�

����� �� �� �������� �� ����� !��� �

4� � '�

� �� �<� �7� �3� �?�� �< �<< �7< �3< �?<� �7 �<7 �77 �37 �?7� �3 �<3 �73 �33 �?3� �? �<? �7? �3? �??� �D �<D �7D �3D �?D

����������

����������

����������

<

7

3

?

�����������

����������

���<�7�3�?�D

����������� ���<<�

,� ���� ���� ����� ������ � � � < 7 3 ?! � ������ ������ ' ����7 �D� �� 7 ��<D �� 7 3�3?! & + ������#�� �� ����� � ����� 4 ��

4 �

����������

� � � � � �

� < 3 � �D 7<

� 7 � <E �� <37

� 3 �D D3 <?D � <3

� ? <? �<? D<? 7�<?

����������

'�� ������� ������ � �� ��&<<� ��� ������� � ����������� ��

� � 4��' � �� ��3 ���?E ����D <��� � �<D ���7! �+� ������� ����� �������� ����# ������� �! ���� �� �� ������ �� )#& �&� �

���� ������ �� ������ �� �����# ��� !�����# ���� �������� ������ �! ���

�-������ �� !��� ��������0

� ���� � <�

<� � 7�

7� � ��� � � �� D�

73 =����� �& %�����# � ��!� =�������#

Page 35: 1Learning and Soft Computing: Rationale, Motivations, Needs, Basics

�� �� ����� !��������������

� � � �

� < 3 �

� 7 � <E

� 3 �D D3

� ? <? �<?

����������

<

7

�����

����� �

����������

���7

�D�

�� 7

��<D

�� 7

3�3?

����������

���<7�

'�� ���� �������� ���#��� ������ �� ��� ������ !��� � ����������� �� ��� ���

�-���� ����� �� ������ � !����0

� � 4�' � �?��E <��D � �7D <�<?! ������ 4� ������ ��� ���� ���������� �! �����#�� ����� 4&

'�� ��� ��� �! ������# � ������ �� ��������� �� ����# ������ ������� � �����

�������@ ��� ����������# ������ �� ����� �� )#��� �&��&

'�� )!�� ����� �� ����� 4 ����#��# �� ���� ������ �� ��&<3� ��������� �

�� ��� ���� ����� ������� � � � 3 ������ ���� ������& ����� 4 �� �� ��

������ �����& '�� ����������� !�������� ��� �� ������ �� ����# ����� !��������

� ����� �� )#��� �&�� ����# �� � � ���� !�������� ������� �� ��& =����� ?

"����� ����,���������� �� ���� � ����� ������& '�����# � ��� �� ��� ��� � �� )#��� �&� & $�!�� ���� �������������� � �� )!�� ����� �! ����� 4 #���� �� ��&<3�&

�&7& 9��� ��������� �! ��!� =�������# 7?

Page 36: 1Learning and Soft Computing: Rationale, Motivations, Needs, Basics

�������� ����� ��������� �� ����� � ��#���"���� ��������& =����� ? ��

�������� ��� ���#��� �! ��� ���� � ����� ������ ���� ����&

=�������� ��# ������� �! ���� �-������ !�� ���� ������������ �� ����� !���

� ������� ������� � �� � !����&

$�� ���� �������

4�* � '�

����������

� < 7 - ?

� � < , 3

< � � # 7

7 < � � <

3 7 < � 5 �

? 3 7 < �

����������

����������

<

7

3

?

D

�����������

����������

���7

�D�

�� 7

��<D

�� 7

3�3?

����������� ���<3�

$�� ����� �������

4�� � '�

����������

� � <E D3 �<?

� � � <E D3

� � � � <E

<E � � � �

D3 <E � � �

�<? D3 <E � �

����������

����������

<

7

3

?

D

�����������

����������

���7

�D�

�� 7

��<D

�� 7

3�3?

����������� ���<?�

'�� ������� ������� ��

�* � � D �E3 � � ?E 7�<E �?��E <�3�D7! ��� � �?� ���DD <�?? �3�37 7�7� � ���D?! �+� ��# � ��� ����������� �! ����� ������� �� ��� ��� ��#�� ��� �����

����������� ���� �� �� ��������� !�� �� ���# ������# � ������& .�������

�� �� ��� ��!� ��������#� ��� ����������� �! ����� ������� �� ���� ��#�@ �� ��

#� �� �"��� �! ������ �& ,� ���� ��#�( �������� ������ � �� ������ �

�� ���# �� �����# ���� ������ �� !���� �� ���& ���� ����� � $% �� ��

�� ��������� ���� !�� ���� ����& '���� ��������� ����������� � �������(

���� �������� �� ����4� ������� ����& =������ <JD ���� ����� ������ �� ����

���&

9��� ��� � $% �� �� �� ��������� ������� ����� �� ��� ����� ��� ���� ��

��������� �� !������� �� �� �#��� �! ������ ����� � ��� ����� �� ����#�

�� �� ��� ������� �� ����& '�� ��� �� �� �� ���� !�� ����& B������ ��

7D =����� �& %�����# � ��!� =�������#

Page 37: 1Learning and Soft Computing: Rationale, Motivations, Needs, Basics

����� ���� �����!� ����������# !������ �� ��� !��� ���� �!� � ���������

2����)����� !��� ��� �� � �������� �! ��� � $% �� ��&

$�����# �� ��� ����� B��������� ������� !�� ��� ����������� �� ���(

�����@ ��� =������(.�����($������ ������� �=������ ����@ .������ ������(

������ � B���� ����@ $������ ������ ����� ����� � ����� ������� �! ��#���

!��������@ � ��� ������� !�� ������� ����������� ���������� ����# ��� F�����

�� � ����� �������� !��������&

��������� ���������� ����� '�� ��� #��� �! ��������

���� ����

� ���<D�

�� ���� �� ��� �& ,� ����� ��� �� #���� � � ��� � � � � � ����� �� ������� �

!�� �����

����� � � ���� � �� !�� � � �� ��� ������������������� ����� %�� � �� �� ��#��� !������� � /� ���

�( �������� ���� � �� & '��� ��� )���� ��� �! ��� !���

����� �����

���! �� �� ���<E�

�� ���� �� �/� & ,� ����� ��� �� #���� � � �/� � � � � ����� �� ��� ����� !�������

� ����� � � ���� � �� !�� � � /� �

����� � �� � � ��������� >% ���#���� .% ���#���� � ��� ���#��� �! ��� �� ��

���� �����������&

����� ��� � ����� �� �������� �������� %�� � �� F����� !�������

� /� ��� �( �������� ���� � �� & '��� ��� )���� ��� �! ��� !���

����� �����

����� ��� ���<��

�� ���� �� �/� & ,� ����� ��� �� #���� � � �/� � � � � ����� �� ��� ����� !�������

� ����� � � ���� � �� !�� � � /� �

�&7& 9��� ��������� �! ��!� =�������# 7E

Page 38: 1Learning and Soft Computing: Rationale, Motivations, Needs, Basics

����� � � �� ��������� >% ���#��� � ������� �! .% ��������� F�����

!��������� �����������&�

'�� ��� ������ �! ������� ����������� ���������� ����� !�� !�""� �� ��� ���&

1����� �! ���� ���� �� �� �� ���� !�� ��� ����� �:����� !�������� ������

���#��������� �������� � ������ ����� !���������& '��� �� ���� ������ ��

����������� ������ � �� �� �� ���� ��� ����������& 8������ �� ��� ����

�! ���������� !�������� �� �������� ��� ����� ��� ����� ����������� ������

���� ����!�&

.������� ��� ����� �! ������� �� ���� ���� �� ��#��� �:�����& ,� ������ ����

����� ��� � ���� �� �������!�� ���� � ��� ������ �� ���� ��� ��� �!

����������# ���� ���������� �������� � ��� �� ��������� � ��� !������� ����

���� ������& '�� ����� ��#�������# ������ ������� ��� ����������� �� ������(

����� �! ���� �! # ����� � ����� ������# � ������&

'�� ��� �� ���� �� ��� �� �� � ��� �����# �! )���� ������# � ��� �! #

�( �������� ����� ������# ������� � �� ��� ��������� ��# # ( �������� ������

� ����� �� ��#��� ������� '& �'���� ' �� ����� �� � ����# ��� ������#� ����� �

��� � !�� �������&� ,� ����� ��� �� ����� �� �� ���� �� � ��� ���� ���� ��� ���

�� �����# !�������� �&�&� ��� ��������!��� � 0 �� � � & ,� ��� ��� �! ����)������

��� ������ �� �� )� ��� ���������� �����!�������� ��� ������ ����� �� � �(

�������� ����& '�� �����# � ������� ������# ����� �! ��� �� �� �����(

���� � �� ��� ���� �� ������� ������"���� �! )����# ����� ��� ��� ��

����� #� �! ��� ������# � ����& '��� �� ��� �! ��������!�� )����# �� ���

#����� ��#�( �������� ���� �� �� & 19$ �������� ��� ���� �������� ���

���� �� ��������� �� ��� �! # � ������& '�� ��� �� �� ���� !�� !�""� �#��

�� ��� ������� ������ �������� �� ������� ������������ � ���� �����!� ����(

���� �� ��� ���� !�� ��� ��������� �! ����� ���� �� ���# ����&

'� ����������� ��� � ���� ��� ��� ����������# !������� ������ ���� ���

�����#� ��� ������� ����� �� �� �� ����& '���� � ����������# ������ ��

���� � !����0

F���� �� ��� �! # ������ �������� � �0 0 � ���� ��� � � �� � � � �#� ���������#�! ��� ����� ������ ������� � � �� � ������ ����� ��������� �� ��#��� � � � &

+� ����������# !������� �� ���� ���

������ � ��� � � �� � � � �#� ���<������ ��� � ����������# !������� �� ��-���� �� ��� �����#� ��� ����� ����� ��&

'���� ��� ���� �� ����� !������� ������ � ��� ������� ��� -���� �! �� ���# ��

���� ������ �� ��� ��� ��� �! ����� �-����� �� ��� ��� �! ����������� ���� �� �-�

7� =����� �& %�����# � ��!� =�������#

Page 39: 1Learning and Soft Computing: Rationale, Motivations, Needs, Basics

�� "���

� ��#���

�<� ��#���

�� � ������< � � ���7 �

������� ������#� � ����������# !������� ������ � �����!��� ��� ����� !������� ��

�� ��������"� �� ����������� ���/������ ���� �� ���#���� � ����

������ ������� !�� ����� ��� !�������� ��� �� ������� �� � ������ ��& B��#���

� � � �� ������ �������5� ������ ��� ���#��� � �� �� ��� ���#����

�����������& B�����# ���� ���� ���� �������� �������� ��� !�� ��� ��� ���#��� ��

�� ���2���� �� � ������"���� ����� ��� ��� ���� ����� �� #�� �� � ��

�& �F������ ���#��� �� ��#��"� �� ������� + � (&�

���� ��� �� �� �� �� ��������� � ��� 0� ��� 19$ �������� !�� ������ ����

��� ����� # ������� �� �� �� ���& B��� ���� ��� ������ ������� ����

�! ��� �� � �! ������ � �! ������� �������������� ����� ���� ��� ��� ��"� �!

���� � ����������# ������� ��� ��� �� �� �#�& '�� ������� ���������# �!

������� �! ���� ��#� �� �� �� ���� ��������& '���� �� ������ �������� �����

��� ��� � � �! � ����������� �� ���� ��� #�� ���& 1� � �� ��������

�� ������ � ����������� �! ����� � � � �� ��� ������ �! ����)����#& B�� ��

����� ��� ��� �� � �� �� �� � ��� �� �����# !������� � ���� ����� � ��

)��� ��� ��� ����� ������� �� ��� ������# �& '���� �� ��� �:����� ������-���

!�� ���# ����� � ���� �! ����� �������� �� �������� ���& =����� < �� �����

�� ���� ������ �! ������# ��� ��������� �! ������# � ��� �� ��� ������ �! �

����������# �� �& '�� ������ �������� ����� �� ������ �� �� �� ����

!���� ���������# ����� �.% �������� ��� ����� �� ������# �������&

'�� ������ �! ������� �� �� �� ��� � ��� �������� ��� �)�� ��� �����

�! ����� .% �������� ������ !�������� �� ��� ���� �������� ���#� ��������

���� ������� �� ��� ����������� ������� �! ���� ��������& 1�� ��� ���� ���

������ �! ����� ���������� �!������� � ��� ������ �! ������ ������� �� ��

#���� �������� �� ��� ���� ����� �! ��� ������& +� ��� ��� ����� ��� ������

�! .% �������� ����� ������� ��������� ��� �� ������������� ����� �! ����

������� � ��� #�����"���� ������� �� !��� �������& ,� ��� ��� �! #����

������� ��#������� ���!���� �� � ��� ��� ��� ��� �� �� �� � ��� �� �����#

!������� ������� ��� #���� ������ � ������� � �� )��� ��� ��� ����������

������� �� ��� ����� ������# � ���& ����� ��������� �� �� � � !�� ������

����#������ �����)������ �������& ,� ��� ��� )� � ��� �� �� ��� ��� �� �

��������� �������� ���� ���� ��� � ��������� ����# ������#& �� � �(

����� �� ���� �!��� ������� �� ��� ������ �! ������� �� ��� �� �� ���& ,�

�&7& 9��� ��������� �! ��!� =�������# 7�

Page 40: 1Learning and Soft Computing: Rationale, Motivations, Needs, Basics

���#��# ��� ������ �! .% �� ��� ��� ������� �������� ���� �� ��� � 0 )�����#

��� ��� �� �����# !������� ���� ����#� .% �������� � �� ���# ��� ����� ��

����)����# ��� � ���� ��� .% ��������& '����!���� ����� �� ��� �� �������

�� ��������� ������� �! �� � -����&

,� ��� ������ �! �����# !��� �� ��� ������� �! �������# ��� �� �5� ���(

!������ �� ���� �� ����# �:����� �������� � �� ������ ���������& +�����#

���� ����� ����� !�� �������� �� *� ����� �� ���� ��� #�� ����#�& ;��!���

���!������ �� ������# � ��� ��� #������ #�� ���!������ �� ���������

������ ������ ���� ����� �&7�& ������ ������-��� ��� � �������# ��� �� �(�:

������� ���!������ �� ������# � � ���!������ �� ��������� ������ �

�� �� ��� �� �& '�� ������� �! ���������� ������"���� �! ��� � �������

����� � ��� ������������� ���� �� ���#���� !��� ��� )� �! �������� ��(

������� ���� ������ 3�& F����� ��"� ��� �������� �! � ����������� ����� �

� ��������� ����� ���� ������� <&7�& $���� �� ��� )� �! ���� ��� ����� ���

�������� ���� ������"���� ��������� ����� ������� ���� ��� ������� ���� �

���) ���� ������ � ��� ��� ����& ,� ����� ��������� ��� ����� �� ���� ����

���������� �! � ���� ����� �� ���� � �� � �������& + ����� ������� �! ���

����������� ���!������ �! �� � �� ����� �� ������ ��� ���#���� !��� �!(

!����� �� ������ ���������� � ���� ����� �� � � �-������&

>�� ���� ����� �������� ��� !�� �������# ��� �� �(�: ������� ��� ���!��(

���� �� ������# � � ��� ��������� �! �� � �� ��� �����(�� ���� ����(

��-��& '�� ���� � � �! ��� �����(�� ���� �� !��� � �� ��� !�� ��� #�� ������

�� ��� ������# � � ��� ������ #�� #�����"���� �������& F�����"����

��!��� �� ��� ������ �! ���� ������� �� #��� ������� ������ �� ��������� ������

�& '��� ��� �! ��������� ������ � �� �� ���� ��� �� ���������� ��� �! ��(

�����& '�� ��� � ����� ��� �� ����� ���� ������� � ��� �� �� ��� ��� ���

���� ��� -������ �! ������ �� ����� �� ��� �� ��� ����# ������# ��� ��

��� �� ���� �� ���� ���� ���& '�� ��#��� ��� ����� ��� �� ��� � � ��� ����

������ ��� �� �����# !������� �� �� �� �� � ��� �#�� ��� ���� ��� ���� ��&

'���� �� ��� �����(�� ���� ����� ��� ��� ���!������ �! ��� ������� �� ������

�� ��� ���� �� �� ���� � ���� �������# ��� #�� #�����"���� �������� �!

���� �������&

*���� �&7 ���������� ���� ���� �������� ����# �� ���# �! ����� �

���& ,� ���� ����� ��� ��� � � �! ����������� �� ��� ���� ���� &

������� �� '�� ���� ���� ���� �� ������ �� �� � ����)� � ������� ��� ���(

��� �� #���� �� � � �� ����<��& ,�������� � ��������� ����� � �� � 19$

������� ����# F����� ���� !�������� �� ����# ��#�� �������� ������# �

��� �<?H F����� ����� ���� "��� ���� ��������# 7D ������ ������� ��� ��&

3 =����� �& %�����# � ��!� =�������#

Page 41: 1Learning and Soft Computing: Rationale, Motivations, Needs, Basics

$�#��� �&�< ����� ��� ����������� � ��� ����������� ��������& =����

����# ��� ������"���� �! ��� �������5� ��"�� ��� �! ��� ��������# �������� �� ���

������ �! .% ������� ��� ���� �� �� ����#� �� )��� ��� ��� ����� � �#�

����#� �� �� � ��� �� �����# !�������& '��� ����� ����� �! ���( ��������

�����# �� ����� � #�� ��������� �! ����)����#& ,� �� ��� ��� ���!��� ���(

!������ �� ������# � ��� ��� ��� #������ #�� �� � ���� �!� #����

����� ��� ����������# !������� ����� �����#� ��� ������# ��& '�� ��� ���(

����� �� �� ������� ���� )����# ��������� ��������!���& �

,� �� �� �� ��� ����)����#� ��� ���� ��� � ����������� ��-�������� ���

��&<�� ���� )����# ����� � � ����� � � ������� ����� �! ��� ������# �

��� ��� �� �� �������� �

���������� � � �� � � � �#� ���7��,� ��� ��� �! ������������ ��� ����� �� ���� !������� �� ��� ��-���� � � � & '��

��-�������� �� ��� ��� ��� ����� !�������

� ��#���

�<� ��#���

�� � ������<

"����� ���#�� ���# �! ����� � �� � 19$ ���#���"����� ������� ���� F����� ���� !��������& *���� �����(������ � ����)����# �! ����� � �7D �� �� ��� ��������& .����� ����������� � ��������# �!����� � �� �� �� ��� ��������& 6� �����# !������� � ��� � �� � � �� ����<��& ������ �! ������#������� ��������� # � 7D&

�&7& 9��� ��������� �! ��!� =�������# 3�

Page 42: 1Learning and Soft Computing: Rationale, Motivations, Needs, Basics

�� �� � ��� ����� �� )���� ��� � ���� � �������& '���� ����������� ��

���� �� ����������� ��� ���� ��� ���� ��� ����� ��� � ��������� ������ ��� ��� ��� �� #� �����#� ��� ������# � ������& ,���� � �� ���� ������

��� � ��� ������ � ����� � �������� �����# �� ������"� ���� ������ �! ���

����� �� ��#������� ������� ��� ��������� ����� ������ � ��� ����� ��� �&'���� ��� �������� �! ����� )����# �� �� �� ���� �� )#��� �&�<& ,� �� �������

��������� ��� � ��� �� ���� ����� �� ����� ���� ������ � �� �� ������ ��

��� ����������� ������ �� �� ��� �! ������ )� �! ����� �& ,! ��� !����� �

����������# !������� �� ��� ��� ����� � ������ ��� �� ���� #�� �� �

���� ��#� ������ � ���� #�����"����&

'�� ����������� � ��� ����������� �� ����� �&7 ���� ��� �� � 19$

���� ������� � #���� �� ��&<��� ���� 7D � � ������� �� ��� �� �� ���� ������(

�����& F����� !�������� �.% �������� !�������� ����� ���� ��� ����������

��# ��� �(���� ��� ����# ��� ��� ��� � ������� � �-� �� ���� ��� ��(

���� ������� ��� 2���� �������& B��� ���� ������ �! �� ���� ��������# �!

��� ���� ���������� !�������� �� ������ & ���� ��� ���� �������� �������� ��� ��� � �������� ��� �! F����� ��� ���� )�� ����# ��� ������� �! ���

���� ������ ��� ���#��� �& �,� ����� �! ��� � $% �� ��� ��� �� �� ���

���#��� � �������� ��� �)�� ��������� � ����� �! ���������� !���������

������������ ���� )�� �� !��"�� ����# ��� )����# ����� ���&� ,� ���� ��� ����

�����# �� ��� ������ �! ���� ����������� ������ ��� �������� � �����

����� ���� ��� ���������� !�� ��� ����������# !������� �����& ,� ����� ��� ��

����������� ����� ���� ���� � ����� ���� ��� �������� ����� ��� >% ���#���

��& ���� ��� �� ���� ����� ��� ����������� !������� ����� ���������� ���������� ������ !��� ��� ���#� >% ������� � ��� ����������� ����� !�� ��� �

��� ���� ��� �� �� ������� �

�� � ����� � �� � �������� � �� � �������� ���7<�F������ � �� �� ��� ��� ��( �������� ������ �& B��� ����������� ����� �

���� � ����� ���� ��� ���#���� ��� ����� !������� ����� �)�� � ��� ��� �!

����� �-����� �� ����������� ��� ���� #������ ���#� �#��� ����(

���& '�� ���#��� ������ ��� ����� #���� ��� ����� ����� ���� � ������ �� �����-���� �������� � �� ���� ��� ��� ����������# !������� ����� !��� ��&<�� ��

��&77� �� �������� �! ���� �����������& ���� ��� ������ ��� !�� ��� ����

����������� ������ �� ����� ��� ����������# !������� ����� �� ��������

�������# !��� ��� �������� �! ���#��� ������� ���� !������� ��&

+ ������ �! ���� !�������� !�� ����������� �� ���� !�� ��� �� ��� �� $%

�� ��& �,� ��� �� ��� ���� !�������� �� ������ �� �������� !��������� �

3< =����� �& %�����# � ��!� =�������#

Page 43: 1Learning and Soft Computing: Rationale, Motivations, Needs, Basics

�� ��� )� �! $% �� ��� ��� ���� ������ ���� �� ���������� !��������� ���(

������� ������������� ���������� !�""� �������� �� �#���(�!(����#��# !��������&� '��

���� ���� ����������� ������� � #���� �� ��&�<�J��&�?�� �� �� ��������� �

����� ��)���

������� ���77�

����� ) �� ��� ������ �! .% �������� � � �� � �( �������� ����� ������&

*-����� ��&77� ���������� � �� � �� �����#� � ����� �� ��������!�� �� �

��� ��( �������� ����&

,� ��� �����# ��#� �! ���� �������� �� � ��� ���#��� � �� �����

������# ������# ������� ���� ���� � � ��#� � �-����� ��&77� �� ��������� �� ���

!�����# ����� !��� !�� �����# ��������0

� � 4��

��

�<

���

�#

������

������ �

������ �<���� �)��������<� �<��<� �)��<�

��� ��

� ��� ��

����#� �<��#� �)��#�

������

������

<

���

)

������

������� ���73�

����� # �� ��� ������ �! ������# � ����� � ) �� ��� ������ �! �������& '���(

��� # � )� �����# ��� 4 �� �����#�� ����� � ��� ������� ������ �

���������� �� ��&77� ��� ���� � ����������# ��������!��& B��� # � )�

����� 4 �� �-��� � ����� �� � ����������# !������� �����# �����#� ���

������# � �����& ,� �� ����� ��� ���� �! ��� ������# � ������ ������ �� �&�&�

�� � �� � � ��#� � ��#� �� & ,� ���� ���� � ���� # � )� ���#� �����

4 �� ������#��&

'�� ������� ���#��� ������ � �� ������ !���

� � 4��� ���7?������ 4� ������ ���� ���������� �! ���#� ����� 4& '�� ������� ��&7?� �� ���

���(�-���� �������& $�� # � )� 4� � 4��& *������ �! ���#� ����� 4 ��

��� ���� ������ �! ���� !������� ����� ����� � ��� ������ ���� �� �!

��� �� ���� ��� �����& '�� ������ ���� �! ��� ���� ��� ����� �� �&�&� �

������� !������� � ���� �� ��� ������� �! ����� ������ �& ���� ��� !�� �

�� � �� �����#� ���#� ����� 4 �� ��� �#�)� ���� �� ���� ���� �!

��� ����������� � �! � ����� ������ �& B��� # � )� ��� ������ �! ���� �-�(

����� ��&77� �� ���� �-������ ��� �������� ��� �� ��������� ���� �& *-�����

��&<7� �� � ����� �! ���� � ���� �������� ������& +� �������� � �� ��

�&7& 9��� ��������� �! ��!� =�������# 37

Page 44: 1Learning and Soft Computing: Rationale, Motivations, Needs, Basics

��� ����� !�� �����# ���� �������� ���� �-����� ������� �� ��� ����� ��

����� �-����� ���� ������� �� ��&<7� � ��&73��& ,�� �������� � � �� �������

����� ������������ � �� ��� ��������� �� �� �� ������� �� ��������

�#������&

6���� ��� �������� ���� ������������� ��� ��� #���� �� ��&<E� ����������

������� ��������� ����������� ���� � �� ������ � ��� ����0

����� ������

�����!� �� ���� ���7D�

����� �� ������ ������ ��#��� � ��(���� � !��������& ����� ��� ����� �� ��

�� ���������� ���� ��� ��������� ��# ���#��� ������ �� � ��� �� �� ��� )��� �������

� �� ��� ��������� �������� �������& '���� ��� � �� ���� �������� ���#���

������ � �� ��� �& +� ��!���� ����� �� ������� !�������� � ��� ������������ �

������� ����������� ������ !��� ��� !�� ��� ����� �� �� ��#�� ��� ���#���

��� �! 1��� ���� !��������& '�� ��������� � ��� ����� �! ���� !�������� ���

�)�� � .% ���#��� ������� �� �� ����� ���� �� �� ��� ���2���� �! ��� ����(

��"���� ����� ���& '�� ����������# !������� ����� � ��� ����� !������� �

���� ��� �� ��� ���� �! ���#���0 ����� ���� ��� >% ���#��� ������ � � ���(

����� ���� ��� .% ���#��� ����� (� ����� ��� ���� �! ( �� ���#��� ������� ��& ,!

��� ���� �� ������ ���� !��� ��� �� ����� ����� ���� ������ �������� �������(�� ����(�& ���� ��� ������ �! )� ��# ��� ���� ��� �! ���#��� �� �������

������"���� ������� ����� �� ���� ���� ������ ��� ��� ���� ���& 9�����

��� ������"����� �� �������# !�� ��� ���#��� ��� ����� �� ��� ����� ����� !���(

���� ����(�� �� ��� �� ��#��� �������� ����� ��� ��� ��� ��� #������

)� ��# ��� #�� �������& '��� ������ �� ������� �� ������� �&7&< �� ���� ���

��� !��� � ��� ���#��� �!� ������� ������"����& =����� � �� ����� �� ���

����� � �! ������� ������"����� � ����� -�������� �� ������� �� ��� �����&

��,�# �������� ���� ������ ��� 6�����&����

���� �! ��� ������� ���� ����������� �� �! �����# !��� � �� ��� �� �! ����(

��"����& ,� �� ��� ����� ��#� �� ��� ��# ��!� ��������# �� ��� !��� ��������

��� ���� � � ���� ��� !���I����������# !�������� �� �� ������� ����� ��

������I�� ���& ,� ���� ����� ��#�� ��� )��� ��� �� ��� �� �� �� ������"� � �&�&

��� ���� ���� �� ��� & '���� �� ��� ������� ���� �� ����� ������ !��������

��� �� �� ���� ���� �<&<D�J�<&<���& '��� ������"���� ��� � )� ��# ��� ����

���#��� �� ������"� ��� ������ ���� �� !������� �� ��#��&

33 =����� �& %�����# � ��!� =�������#

Page 45: 1Learning and Soft Computing: Rationale, Motivations, Needs, Basics

'�� �������� ������� �� ����� ����� �� ��� ������ �! ������������� �! ���

�� ��& .��� �� ������� ��� ���#�� �!� � ��� !��� ����� ������� ������"����

��� �� ���� �����# ���& ������� ������"���� �� ��� ��� ��� ��� ��������

��� !�� ������# ������#� ����#� 2�����#� �� �����#� �������� �! ��!� ���(

�����# �� ��& ����� �������� �! ������ ����� ������-��� �� �� �� ���� ��� ����

����� ����# #������ #������� � ���������� ��������#& 9�� ������� ����(

��"���� �� ��� � �������� ���& $��� ��� ����� �� ���� ������� ��� �� �� ��

�� ����� ��� �� �� ��� � �� ��� )� �! �����# !��� � � ��� �� ��� ��

�� ���� !�� ���� �������& .��� ����� #� ���� #������ �� ����� ��� �������

������������ �� ���� �����& =����� � �� ����� �� ������ ������� ����(

��"���� ������-��� � �������� !�� ������ #������� �� ���&

'���� �� ���� �� #���� ��#�( ��������� ����� ��"� �� ��� �������������

� �����# ���� �! �� �& 9�� � ������#� ��� ������������� ������ �(

�"�� �:������� ������� ��� ��������!��� �� ��� �� ���������� ��� ����# ���

��������� ������� !������� � ��� #���� �� ���� � ����� � ��� ����� ���

����������# !������� �����& 9��� � ��� � ����� �� ���� � �( �������� ����

�! ����� ����� �& 8����# �����# ����� �������� �� �� ���� �������� �� ��"�

� ����� ��������!�� ���� ���� ����� ������ ��� ���� ��� ���#�� ����& �����)(

��� �� !��� ��� ���� ���#�� �������� ��� �� �������� ���� ���#� �!

���#��� ������ �& 9��� ������������� � �����# ���� �� ����� ��� �� ���(

�� �&3&

������� �� '�� !������� ���� ���� ������� ��� ������ �� #���� �� � � <�&

+ ������# � ��� ������� <� ������ ������� ��� �� ���� ������� �����&

+��������� ����� � ���� �� ���� �� � �� � �� � ���� ����� �:�����

������������ !�� � � � <� � 3 � �� � ��� ���� ���� ���� #������&'��� ����� �� ���� ����� ���( �������� �����# ������ ��� ��� ����(

�"���� �! ���� �� �� !������� ���� � ���� !������� ����& .��� ���� �� ����� !��� � *< ����& ,� �� ��� �! ����� �-����& ����� ��� ��� #����� ���(

�������� �! ���� ��� ��� ��� ���� ������� ���� ����� -� ���� !�������

���� � � ��� <�< !�� �����������& ���� �� ���� ��� ��� �� ��������(

!�� ���# ���� �����( �������� ���#�� ����� �&�&� �� ��� ��� ���� �����(

���!�� �� !���( �������� ����&� '�� ��#�� #��� �� )#��� �&�7� ������#

!������� ���� ���� ����� �� ������ !�� �����# ����& + �����# �� ����

)� ��# ��� ����� ���#�� �S ����� ��� �������� �! !������� ���� ������&

*��� �� ���� ����� ���( �������� ������� ��� ������� �! -� ���� �����

��� �� ��� ��� !�� ���� �� �������� �� ��& .����� ���� ��( ��������

�&7& 9��� ��������� �! ��!� =�������# 3?

Page 46: 1Learning and Soft Computing: Rationale, Motivations, Needs, Basics

����� �� � ��������� ������������� �! ��� �! ����� �-���� ���� !��������

���� ��#

��� �<� & �

����<� �� ������ ��� ���� ����� �� ��� ���#��� �� �� ���� �

������ �������� !�� ���� ��� ��� ���#���& ���� �-������ �7&3?�J�7&3�� �!

-� ���� �������� ��� �� ������ !�� #���� ���� ������ ���� �( ��������

����� ������&� .������� �� ����� ����� ��� ��� !�� � � �� < � � � <� � �����(

��� � ������ !�� ���� �� ��� �����# ��� �� ��� ����� �� ���#� #������

#�� ������� �������& '����!���� ����� �� �� ���� �! �� ��# ��� �����# �� ����

�� �������� ����� �� ��� �������� �������&

,� ����� �&3� ����� �� � ����������� !�� � � <� � ��� ������� ��� � <�� & ,� �� ��� ��� ��� !�� ����������# ��������!��� �����& .������� � (

�� � �������� � ��� #� �� ��� �� ��������� � ������& '���� �� ��� ��� �! �

����������# ��������!�� ����� ���� ����� ����� ������� � & 6��� ��� ��

���� ��������� �� )� ��# � ����� �S ��� ��� ���� ������� ���� � �������� �� ������# ��� ���� ��� �! ���� �������&

6�!��������� #������ ��!� �� �� �� ������� ����������� �� ��� ����� ���

� ����� !������� � ���� �� ������ �! �� � #�� ����� ���� � �������� ����

���#��� ��� �� ��� ���2���� �! �����#& '���� ��� ����� ��������!�� �� �� ��#��

������ !�������� � ����� !�� ��� ���� ��� �! �������� ����#���� ��� �� ������

��� ���� ���!������ �! ��� �� � �� ��� ���� �� �� � �������� ��� ��� ���

"����� ���,�� ���# <� � ������ ������ �� �����# ����#�� ��� � � <� ������� �����& '���� �� �� �������0 ���!��� ��������� ���� � � <� � ��� �� � ����������# ���� ���� � � � � � 3 ������ ��� ��� ��� �! ����� �-����& ������ �! ������# ������� # � <�&

3D =����� �& %�����# � ��!� =�������#

Page 47: 1Learning and Soft Computing: Rationale, Motivations, Needs, Basics

����� !�� -� ���� �������� ����� !������� ��� ��� ��� �� ��� ��#�� #��� �! )#���

�&�7&

*���� �&? ����� ���� ������� ��������� ����� ���!��& +#��� !�� ��� ���

�! �����"����� ��� ����� �� ��( ��������& ,� !��� ����� �� ��� ���#��� ���&

,� �� ��� ��� � ����� ���!�� ����<� ���� ��# �� ��� ���#��� �� ��� �� ���

��� �� �� ����& �� ������ �! ��#��� �� �� �� �� �����"� &

������� � $�� $������ ������ �� � �! ��� �� �����# !������� ���� ����

� � <�? ������?��& '�� ��� !������� �� ���� �� ������ ��� ��� !��-����� � ���(

�� � �� �������& .����� ����# ������# � ��� ��� ��� ������ �� �� �� ��

���� � �� �� � ���������# �! ���#� .% ������ ����� ���� � � ��������

!�������� � ���#� ���� >% ������ � #���� �� )#��� �&�3&

���� ��� ��� �� ����� �� )#��� �&�3 �� ���� #����� ������������� �!

��� � ���� !������� � � < �������& '��� )#��� ��� �� �� ���� � �������

$������ ������ ���� ���#� ���� ���&

'���� �� ���� �������� �:������ ������� ����� $������ ������ �� ���# �

��� �� �� ���# ����� ���� ���� ��� �������� !�������� �� ���#���������& B���

���� � ������ !�������� �� ���� � ���� !�������� �� �� �� ��� ��� #� ��

�� ��� ���� !��-������� � ����� ��& 6���� �� ���� ������� �����# ���� ��

����� $������ ������ �� ���# ��� ����� �� ����� ����� �� ���& '�� !��(

-������� �� ��������� � ����#�� ������� �! ���� ����(������ ��� !��-�����&

'����!���� ������ ��� !��-������� �� ������ ����� $������ ������ �����# ��

���� ������&

'�� ������ �� ���� ����� �� ������ ������� ������ ��� ����� ���!�� ��

��������� ���� )#& �&�?�& '��� �� �� ���� ����� �! ��� � ��� ��� �������� �!

!�������� �� �� �������� �� ������ �� �-������& + !������� � � < ������� ������� � ������� �� )#��� �&�3� ����� �� ���� �� � �! ���� !�������& +� ���

��� ����� ���� ���!�� �� ������ ���� � ������� �� ��������� �����!�����

"����� ���-���� ������� !�� �� ���# � ��� ������ �� �����# !������� � � <�? ������?�� ������� �����&+����� � ' � <�? � !��-����� � � ��? �� ������� �� ��� �� �& '�� ���#��� � � < ��� �����(���� ����� ��� �������� ���� �� ���� !��� ������# � ���&

�&7& 9��� ��������� �! ��!� =�������# 3E

Page 48: 1Learning and Soft Computing: Rationale, Motivations, Needs, Basics

"����� ���/8���� ���� �! � ����� !������� ����<� ���� ���#��� ���� �����# !��� ������# � ���� !��� !������� � � <�? ������?��&

3� =����� �& %�����# � ��!� =�������#

Page 49: 1Learning and Soft Computing: Rationale, Motivations, Needs, Basics

#���� ����� ���� ���� ������ ��� ���& .���� #���� ����� �� �� � ��� ��� �� �

������ �! ��� ������� � ��� KK�-��55 ��� ��� � �� �����# !������� � !�� �������

���� �! ��� ���#��� � � <& .���� !��� �������!� �����# ��#�� ��� ���#���

��� ���� �)���� �����#�0 � �� !��-����� �� � < ��������� � �� ����� � '&

,� ���� ������� ���� ���� �� ��� 2��� �������&

���� ��� ����� � �� �� �� �� �������� �� ����� �! ��� ���#��� �

���� � � � � � � � < �������� ���7E�'���� �� � ������� ���� ���� ���� ���� ���#�� < � ������� ������ ����

������� �� ���#�� �& '��� ������� ������ ����� !��� ��� !�� ��� ����� � KK����55

��� ���#�� � �����#� ��� ������� ���� !�������& '�� ���� ���� �! ��� ���� !���(

���� ����<� � �<

�#��� �

<� �� ��� ���#��� �� ����� �� )#��� �&�?& ���� ��� � �����

!������� ����<� �� ��� � ������� !������� �! ����� ����� �& ����<� �� ������ ����� !�� #���� ���#��� � � < ���� ������# � ������� ��� ��� !��

���� �! ����� ����� �&

���� �� )#��� �&�? ��� ������ �� �����#0 ��� ����� ���!�� �� �� ��#��

������ !������� � ���� ��� � #� ���� ����� !�� ������"����� ��� ������#

������� �� ���� ��������& '��� ���� ��� ���� �� �� ��# �� #�� ������� ���

�����# �� #�� ����� � ���� �� �����& ,� ��� ��� #��� �! )#��� �&�?� ����� ��

)�� �� ����� � ��� #�� ������� !�� )�� ��� �! ����� � ' � <�?�

� �����# ������� �� ��#�� ��������& '���� ���� !�� ����� ����� �� ���(

��# �! ������� !��-����� !��� #���� ������# � ��� �� ��� ���� ������(

!����� �������& ���� ��� �� #���� ��#�( �������� �) � <� ���� ���� �� ��� ��������!�� ��� ����� �� �����"� & '���� �� ��� ���� ��� �������

� �� �� �/��� �� ������ ��� ������"���� �������& �

>�� �! ��� )���� �������� � ���� ����� ����� � !�� )� ��# ��� �����

���#��� ������ �S ����� ������ ��� #�� �� �� ������� �! � ����� !�������

���� ������ �� � �������� ����� ��� �� ��� �������� �! #���# ����� �� ���

����� ����� �! � ����� ���!��& '��� �� ��� � � �! ��� ����� �� �������� �������� ��

�������� �����& '��� ���� ����� �� ����� ��� !��� ����� �&D� ����� ��� �

���� �#�� �� ��� ���#��� �! ��� ������� ������������� �! � ����� ���� !�������&

.������� �� ����� ����# ��� #� ����(��� �����# #������� ��� ���� ���� ��

��� ��� ������� �! #���# ����� �� )� ��� ����� ����� �! ��� ����� ���!��&

6���� �� ����� ��� ����� �� ��� ���� ���� ��� #�� �������� ��� �� ������ ��

)� ��� ����� ����� �! #���� ��������!��& + ��� �� �� ��� �� ��� #���� ���

���� ����� �! �� ����� �� �� ���� � ������ �! �� �� ��� ������� ��(

������� ����� ����� ���� #� ����� ���� ����� �� �� ���� ��� �� #�� ��� ����

)� ��# �� �������& '���� !��� ��� !��� �� ������ ��� ������ ���

�&7& 9��� ��������� �! ��!� =�������# 3�

Page 50: 1Learning and Soft Computing: Rationale, Motivations, Needs, Basics

����� � ���� ��� ��������� ��# ���#��� ������ � � ��� ���� ���� ������# ���

������ �� ����� �� ��� #�� ������� �� ��� ���� ����� &

������� �� =���� �� ����� ���� ������� ����# ��� ������ ���� �����

��#��� �������� !������� � ����� �� )#��� �&�D& '�� �������� !������� ��

� � <

�� ������<� � �� ���7��

+����� ��� !�����# �����# ���0 ����# ������# � ��� ��� ��� ��� ���

���#��� �� ��� ��� ������� �� �� ��� �� �����# ������� ����� ��#���

!�������

� � <

�� �������� � �� ���7��

���� ��� ��&7�� �� ��� � ������������� �! �(���� !�������� �� #���� ��

��&7D�& '�� ������� �� ��� ������ ��� �� �����# !������� ������� ��� ����� � �

��� ������ � �� �����& .������� !�� ���� �������� ��� �� �����# !������� ��&7�� ��

�������� � ��� ����� ���#��� �! ��� ������ ���� � �� � <��� � � ���� ��

!��� �� ����# ��� ������# � ���&

+� ���� ������ �������� �� �� ���� ��������� �� � ����� !������� ����� ����(

��� ���� ��� ���� �� � ��� ����� ��� �� �� ��� ���#���5 ���& +#�� ��� � �

����� !������� ��� ��� �! ����� �-����

����<� ��#���

�<� ��#���

�� � <

�� �������<� � �

�� �<� ���3 �

����� # �� ��� ������ �! ������� �� � ���� ��� �� ������#& +� �� ��&7E�� � �����

� ���� ������# � ��� �� �� �������& .���� �� �� ������� �� ����� �! ����

������� ���#���&

"����� ���0����� ���� ������� ���� ���#� ������&

? =����� �& %�����# � ��!� =�������#

Page 51: 1Learning and Soft Computing: Rationale, Motivations, Needs, Basics

"����� ���1������� ����� ����� � ��� -� ���� �����������&

�&7& 9��� ��������� �! ��!� =�������# ?�

Page 52: 1Learning and Soft Computing: Rationale, Motivations, Needs, Basics

"����� ���2������� ����� ���!�� � ��� ���� � ��� ����� ������ !�� ������� �&

?< =����� �& %�����# � ��!� =�������#

Page 53: 1Learning and Soft Computing: Rationale, Motivations, Needs, Basics

,� �� ��� �� ��� �� )#��� �&�E ��� ���� �� ���� ����� ����� ��� ��� ���� �!

������� ����� ����� ����<� �� ���� ���-� ���� � ���������& '� ��� ���

����� ���� ������� �� � ��� ��#��� !������� ���� � � )���& '��� < � �

� � � ����& '��� ���( �������� !������� ����� ��� ������� ������� �! � �

�� � ��� ������� �! ��� -� ���� ����������� �! � �� ��� ���#������� �! ���

�������& �'�� -� ���� ����������� �! � ����� !������� �� ������ �����(

���� �� ��������� �� �������& '��� �� �� �� �� ���� �� )#& �&�E�& '�� )#��� ��

����� ��� ��� ���� �! � ���� � �� ��� ��� �! � ����� �! ��� ��#��� !�������

�� �� ��������� �&

,� ���� ������� ���� ��� ����� !������� � �� ����� ���� ��� ���#�� � ��� ��

���#� ������� ����� � � � �& '���� �� �� � � ������ � ������#��� ����(

���� ������� !�� ������"����� ������# !��� �� ����� �� �� ���#�� � � �� ��

�� � ���� �������� ����� � � �& ���� ��� ��� ���� �! �� � �� � ��� -� ����

������������ ���� � �� ��� ���� � �! � ��������� !�������& '�� ���� ���

���� �� ��� ������� ��� -� ���� ����������� �� ��& *������� �� ��������

������ ��� �������� � � � �� ���������� �� .����� ����� �! ����� ���������

�! � ���� ������� �� ��� ���#��� �������� ���� ��� ������ �! �& ,� ���� ����� ����

���� � ����� ���� � �� ���#� ���#�� ���� ��� ��� � � ����� ��� .�����

����� �� ��� �� ������ �� ���& '�� ��� �� ���� !�� ��� #� ���� �! ���� ���(

�������� ����� !�������& ,� �� ��� � �� #���� �����& +�� ���� ��� -�(

���� ����������� �� � ����� !������� ���� �� ��������� �� � ����� ���#��

��� ��� � � �� �� ���� � #�� ���&

���� ����� �� ��� ��� ����� ��� ���#� ������ �� �� �� � ��� ��� ��#���

!������� �� ��� ���� �� & '��� ����� ��� !������� � !��� ��&7�� �� ���!� ��#

��� �(���& '�� ��������� �! ��� ������ �������� ������& '�� ����� !�������

� � ����<� ������� ���!�� ���� ��� ���<� ���& '�� #� ���� � ���

.����� �! � �� �� ��#�� ���� ��� �<� �� ����� ������ � �<� <� ������

�����������&

%�� �� ��"� ��� ����� ���!�� ����<� �! ��� ���#� ������ �����# �� �� �

!������� ��&7��� � ����� �� )#��� �&��& '�� ����� ���!�� �� )# �&�� �� ��� !��� �!

����� ���#�� �����5� ���� � !��� ��� ��������� �! ������"���� �� ��� ����

������ ���� �� ��� ����� ��� ����� �� ��� ��� �������� ����� �� �� ����

����� ������# !��� ���� �� ����� �� �� �����& �

���� �� ��� �� ��� � ���� � ������� ��� ���� ����"� � ������� ������"����

#������0 ��� #� ����(��� �����# ����� & ,� �� ���� ����� ��� �� !��� ����

�! ��� ���� ����� �����# ����� �� ��� ���� �������� )� � ��� ����� ���(

����#���� ����� � ����� �� ������� �� ��� �� ������� 3&�&

�&7& 9��� ��������� �! ��!� =�������# ?7

Page 54: 1Learning and Soft Computing: Rationale, Motivations, Needs, Basics

+ #� ���� �! � ����� !������� ���� �� ����� ������ �! ���� ��������� ����

������� �� ��� �! ��� � �������� �� �0

� � ����� � ��

��� ��

��

��

�< ��

��

� �!� ���3��

+� �������� �������� �! #� ���� ������ �� ��� ��� �� �������� �� ��� ���

�������� �! �������� �����& '����!���� ��� ��#���� #� ���� ����� ��� �������� �!

�������� ������& '�� #� ���� ���#�� ��� �������� ��� �!��� ����� �� ������ ��

��� ����� ��������!�� ������ ��� ���� �! ���� ���!�� ���#��& .����� �! ��� �� ��

�� !��� ��� �������� �! ��� �� ��#���� #� ����� ��� ���� �� � �� ��

�������& ����� ��� ����� ��#���� #� ���� ���� � �� ��� ��� �� ����(

���� �� �� ��� �������� �� !��� ��� ��#���� #� ���� �����&

'�� ����� �! �������� ������ ������� ��� ��#���� #� ���� ��������& ,� �� �

�������� ����� & F���� ��� ������� ����� ��� ��� ���� ����� ���� �� ������ �� ���( �������� ����� �� ��� �������� �! ������ ���� #� ���� ������ �� ����� � ���

������� ����� ���0

���� � �� � �������� ���3<�'�� ����� ����� �� �� ��� ��� �� ���� �� ��� ������� ������� � ��� �����#

��� �� �� �������� �� ���� ����� ����� ��� �� ����������� �)�� & '��

#� ���� ����� �� ���� ������ ��� ����� �� ��� ��� �� �� �� ������� ����

������� 3&� � ������ ��& '�� ���� �/������ �� �����# �� ��� )���� ��� �� ��

��� )� �� ������� ���� � ����� � ��� ���� ����#� ���( ��������

����� ��#��� �� ��� ���� ��������� ��� �������� �! �������� ������ �� �� �����

��� #�� ��������& .����� !��-���� ���#�� ���������� �! �������� �� �!���

��������� ����# ��� #� ���� ����� ���� ���/����� !�� ��� �������&

9��� ����� �/������ �� �� �� ���� �� )#��� �&��& ������# !��� ����� ' �� ��

������ ��� � ������"����� !�����# #� ���� ���������� �� �� �� �� ��� #��

�������& ��#���� #� ���� ������� ����� � ������ '� "� �� 2� � � �� ��#

��� #� ���� ��������� ''S� ""S� ��S� 22S � ��S& '��� ��� ����� !������� ���� ������� � ��� !����� ��� �� �������� ''S � ����� ' ��� ��� � ����� "& '��

�������� �! ��� !����� ������ � ����� " �� ""S� ��� ���� �� ��� �������� ������ �

����� �� � �� ��&

,� �����# ��� )���(�� �� #� ���� ����� � ������#���� �� �� ���� ���� �

��� �� �)������ ��� ���� ������� ���� ��� ���� �� ������� ��� ���� & ,� ���

)���(�� �� ����� � ��� ��� )��� �������� �! ��� ����� !�������� ����� ��� #� ����

������ �� ��� & '�� ���� ������ ����������� �� ���� ��# �� ��� #������ ���

?3 =����� �& %�����# � ��!� =�������#

Page 55: 1Learning and Soft Computing: Rationale, Motivations, Needs, Basics

����� ��������� ��&�&� .����� ������ ��� �)�� ��� �������� �! ��� !�������&

'��� � � �� ����� (�� �� ������(1����� ����� � �� ������ -���(������

����� ���� ���� ������� 3&� � ������ ��&

'�� ���� ���������� ���� �! � ����� ��������!�� �� ��#� ����� ������#

����& ,� ���� ����� ��� ���������� ����� ������ ��� � !���� ����� ��� ���&

$�� ���� ���#�� ���� ��� ��#������ ���� �������� �! ��� ��������� ��#

.����� ����� �� ���� �#�� ��� �& $�� ���� � ��� ����# .����� ����� ��

#���� ������� ��� ������#����&

,� �����# ��� �������� ������ ����� #���� �� ��&3<�� ��� !�����# -�������

���� ���� �����0 .�� �#� ���� ���� �� ���� �� ��� �������� ������ !������ ������� ����� �� ��� ����& $��� ��&3<� �� �� ��� ��� �����# ��� �� ���������

��� ��#�� �! ����& + ���� �������� -������� �� ������� ��� ������ �! �����#

��� �� �� ��� ��� ���� #� ���� ������ ����� ��� � ������ �������& >� ���(

�������� -� ���� ����� ���!�� � ����� �� )#��� �&< � ��� #���� ���� �� �(

��� ��� ������# ����#�� !�� �����# ���� � � <����&

$�� -� ���� ���( �������� ����� ����� ���� ��� ����� �����# ��� ��

�� �� �� ����� � � ��� �� !��� ���� ������� �� )#��� �&<�& $��� ��&3<��

� ���� �����# ��� �� )�� ��� � ��� �� !���� ��� ��� ���#�� ���#� � ��� ����������� ���� ��

��� � ���

��

�����

� ���37�

"����� ���3=������� �! ������� ����� ���!�� ����<� � �������� ������ ������"����&

�&7& 9��� ��������� �! ��!� =�������# ??

Page 56: 1Learning and Soft Computing: Rationale, Motivations, Needs, Basics

"����� ��#5F� ���� ������ !�� ���( �������� -� ���� ����� ���!�� ���� � ��� ��4����� �! �����# ��� ���"� �� ��� ������#���� �! �������� ������ ������&

"����� ��#������� !�� ��� ������� �! � ����� �����# ��� ���� !�� ���( �������� -� ���� ����� ���!������&

?D =����� �& %�����# � ��!� =�������#

Page 57: 1Learning and Soft Computing: Rationale, Motivations, Needs, Basics

$�� -� ���� ����� ���!�� ��� �� ������ ���

�<�

�<�

�����

��� � ��

��

�����

� ���33�

� ��������# ��&37� � ��&33�� ��� ������

���� ��<�

�<��

� ���� ���3?�

>�� ������ ������� �� ���#� ���� ����# ���� �����# ���� ��� ��� ���� ���(

�� ����� �������� ��� �� ��� !�� � ����� !������� ����& B��� ����� ��

��� �� ���� ���� ) � ������� ���#���� � ����� !������� �� ��������!�� ������ ��� ���� ����� ��� ��������� ��# �)�)� ��������� .����� ������ �)��

7��� �

��������������

�<�����<

�<�������<

�<�������)

�<�����<��

�<�����<

<

�<�����<�)

��� ��

� ��� ��

�<�����)��

�<�����)�<

�<�����<

)

��������������

���3D�

'�� �������� �! 7��� !���� !��� ��� !�� ��� ����� ���� ��������� �� �� �(

��� ��� �! ��� �� �� �! �:����������0

�<�������

� �<�������

� �� � �� <� � � � �)�

���� ��� ���� �� ��� � ��� �� #���� ��������!�� ���� #� ���� � � ����� .����� ����� 7 � 7���� ��� ��� ���� ���� �� � ����� �� �� �����������

� � ���#� ���� ��� ���� ���� �) &

F� ���� ������ �� ) ��������� �� �� ����� � ) �� ���� ��� ���(

�������� #� ���� ������� ��# ��� ��#��������� �! ��� .�����& =�����#���� ��

������ !�� � � <����� ����� ��� �� ��� �#��� ��#����� �! ��� .�����& '��

����� �����# ��� �� ) ��������� ���� ��� ��� � ��� !����� ������#���� �� ���

�������� �! ��#���� �������� �� ���� � �����&

���� ��� �� ���( �������� ��� ��� ����� �����# ��� �� �������� ������(

���� �� ����� �������� �! � ����� !�������& ,� �� ����� ��� ���� �������� ��

�&7& 9��� ��������� �! ��!� =�������# ?E

Page 58: 1Learning and Soft Computing: Rationale, Motivations, Needs, Basics

������ �! �������� �! !�������& *-����� ��&3?� ������ �� � ����������# ���0

��� ����� �� �������� ��� ��#��� ��� �������� � ��� ���� ��� �����# ���

���� ��& '�� ������ ���� �����# ��� !�� ���( �������� -� ����

����� ����� ��

��� � <����� ���3E�$�� �����# ���� ��#��� ��� ���� ������# ��� ��� ������#� ���� )#& �&< �& ,�

#���� ���� ��� ����� ���!�� �� ��� -� ����� � ��� �������� ����� ������� ���

�� ���� ��� ����� �� ���������� �� ��� �����# ���& '��� �� ���� ��� � ����

������ ���� ��������# ����� ��� ������� �! � ����� ���!��&

$�� ���-� ���� ����� ���!�� ���� )#��� �&<<�� ������� �! .����� � ���

���� �� �� ���� ����(��������#� � � ����� �����# ��� �� !��� �� ���(

�������� ����� � !����& '�� ��#���� #� ���� � ��� ��� ���� �� ������ ����

�� ��� �� ������� ����� � ������ �� ��� �������� �! �������� ������& '�� ����

�����#� �� ���� �� ����� ��# ���� �������� !�� �� �������& '� � ����� ����

!���� �����# �-�(��"� ����� ���� ����� ������ �� !��� � � ����� ���

��������� ��# ���� �! ��� ����� !��������& �+ �������� ����������� �! ;���5� -�(

���� ����������� ����� �� �� !��� �� ��� ��������&� ��� ��� -� ����

����������� � ������� ��� ������� ��# ������� #� ���� �������� �*�����&

"����� ��##F� ���� ������ �� ���( �������� ���-� ���� ����� ���!�� ����<�& +� ����� �����# ��� ���� �)��� ������� ��# ��� ������� ��#���� #� ���� ���&

?� =����� �& %�����# � ��!� =�������#

Page 59: 1Learning and Soft Computing: Rationale, Motivations, Needs, Basics

$�� -� ���� ���!��� ���� ������� ������� �*����� �� ����& $�� ���-� ����

����� ���!��� �� �� � ����������� �! ������� �* ���� ��� ����� �� ���� �����

�� ����# ���� ������ ������ �� #���� ���� ���� ���� ���� ������� �!

�������� #� ����� � ������ �� ���� ������ ���� ���� ������� ����(

���& ����� ��� �:������� ������� ��� ������� �! ��������� ����� ���!��

�������� ��� ������� ��# ������� #� ���� �������� �*� � ��� ������� ����(

��� ��# ������� #� ���� �������� �*�����&�+� ���� ������� ������� ����� �*������ ��� ������� #� ���� ��� �� ��#��� �� ���

�� ��� �����& .����� � ���� ����� ��� ��� #� ���� �� ������ ���� �� ��� �������

#� ����� � ��� ���� ����� �������� �� �����#�� �� ��� ������� ��� ���� ��#��

#��� �� )#& �&<<�& 1������# ���� ����� ������ ������ �� ��� ���� �������

#�� ������� ������� �! ��� ����� !������� ���!��& ���� ��� ���� ����� ���

������ ��� ����� !������� ���� !��-����� ��� ��� � !��-���� ������� �! ���

#� ����&

���� #� ���� ������ �����# ����� ���� #���� �������# ��������� �� ���& '����

�� ��� �:����� ���� !�� �������# ���� ������� 3&7&?�&

'�� #������ �! �������� ������ �� � !����0

�& ,�����"� ���� ������ ������# ����� �� ������� � �� �� �� ��� �� ��������

����� #�� � ���!��� #� ���� ������ � ��� ��� �������� ���� �� � <�3 � ����� 3

������ ��� �������� ���� ���� ��� �������# ��������� �� ���@ 3 �� ��� ����� ��

����� � �� ��� !�����# �����&

<& =������ ��� ��#���� #� ���� �� ��� �������� � � ��)� ����� ) ������ ���

������ �! ���#����

��� � ����� ���

�����

7& ���� !���� ������# �-�(��"� ������ ���� ����� ������ � ������� ����� �

�� � ����� � ���� � �� ����� � ���� �� !��� & *���� ��� �����

!������� !�� ����� ����� ������& �$�� ���-� ���� ���!��� ��� �� � ����� ����

��� ��� ����� �! ��� ����� ���� �! ��� ����� !�������&�

3& 6�� -� ���� ����������� �� ��� �������� ���� ;���5� -� ���� �������(

���� ����� �� )� ��� ����� �����# ���

���� ��

<

��< � �<��� � ��< � �<��� � ��< � �<���

��� ���� � ��� ���� � ��� ����

������ � �� ���� ��#��� � � � � � �� � � <�� �� � �� � ����� �� � �� � ������ �� � �� � ����& ���� )#& �&<7&�

�&7& 9��� ��������� �! ��!� =�������# ?�

Page 60: 1Learning and Soft Computing: Rationale, Motivations, Needs, Basics

?& *������ ��� ������� ��# ��� ������� #� ���� �������� !�� ���

��� � � � ������

��

D& *���� ����� !������� �������� � �! ��� �������# ��������� �� ���� ���� ����(

��"����@ �! ���� ������ �� ���� <& ,� ������ �! ��&3?� � ��� ��������� ���#����� �� ��

����� �� ���� �� �������� � �� �� ���� �� �������� �� ������ ��� �����

���� �� ����� �� ����� �� ���� ����� �����# ��� ����&

���� ��� ��� �������� ������ ����� �� )#��� �&�� �� ��� ���!���� �� �����#

��� ����� �����# ���& . ���� ���� ��� � ��� )��� ������ ��� ��� �� � ��

��� ����� 2& + �� ��# ��# ��� ���-� ���� ���!�� ����� �� )#��� �&�� ��

��� ����# � � ����&

+ �2�� ����������# �! ��� #� ���� ����� �� ��� �� ������ �� ���� �! ���

����� ��������� �! ����� � ��� ��� �������� �! ��� !������� ������ ���������

��� ������� ��� ��� �������� ���� � �� ����� ���������& '���� �� ��� ����� �

��� ���� �������� ���� �� ���#� ���� ������� 3&� � ������ ��& +� ��� ���

����� ������ ����� ����������#�� ��� #� ���� ������ ����� � � ���������#�

�� �����# �� ���� �������� �� ��� �� ��� �� � � �������� � �� �� ��� !��� (

���� �! ��� ����� ����� �������#���� #������&

'��� ����� �� ��� ���� ����� ������ �� ����������� ������� � ��� ������(

���� �! ��� ��� !�� ������� ������"���� ���� �� �����# !��� �& ������� �&3

����� ���� ��� ����� �! ����� ��#������� � ����)����� �������� ��� ��

��� �� ����� ��������� ������������& ,� ���� ��� ��� �� �� �� ���� ���� ��

�� �� !��� ��� �����# !��� � ����� � ���� ������# �� ���� ���� �� �����

���� ��� �� �����# ���� ����&

"����� ��#,T� ���� ����������� ���� ��� �� � ����� !�� ������� �! � ����� �����# ��� ���� ��� �)��� ������� ��� ��# ��� ������� ��#���� #� ���� ���&

D =����� �& %�����# � ��!� =�������#

Page 61: 1Learning and Soft Computing: Rationale, Motivations, Needs, Basics

��- �������� ��� ���������� �����)�� � ��������� ��� �����8�����

'���� �� ��� �������� � �)������� �! ��� �����# ��� ��� ��� ��2������ ����

�� �� ����� �� ��� ���)�� �������� �������� �� ��� �� #������ �������

���& '���� �� ��� !������� �! ���� ����� ���� ���� �� �� ��� �������� ��

��������� ���������� ������������ ���#�������� ��� � ��� �� �������� ��� ���� � �

����� �������� ������ ������������ ������������ ����� ��&

,� ���������� ��������� ��� �! ������# � ���� ������ ������� ��� ������ ��� ��� ����� ������� �� � ��& �+ ������5� ������� �� ��� �� ��� �� ��� ������#

���� �� �� �� ����� ����& '����!���� ���� ��!�����# �� ��� ������# ��#��

���� ���� ��������� ���� ���� ��������� �� � ��� ����� �� ��� � !�� �������&�

'���� �� ��� �:����� ��� � ������ �����# #������� �� ������ �� �����#

��#������� ������� ������ � �������& �������!� �����# �� � �� ��� ���� �!

���� �������� �! �����# ������� ��� ������ ����� �������� ���� ������&

$�� ������� ���������� ��� ����� �������� �� ���� �� ��� �� �� �

������ ��� ���#���& $�� !�""� �#�� �� �� ���� �� ��� ����� � �� � ���

�������� ��� ������� ��� ��������� � ����� �! ��� !�""� �������& +� !��

������� ����)��� ����� �������� �� ��� ���/������ �! �������&

'�� ������ �! ������� ���� �! �����# ������ ���� � �� ��� ��� �! ����(

�� �� �� ���� & '��� �� �� ������� ��� ��� ������ ���� ������ �� �� �� ��

��� ��� !����� �������� !��� ������� �& $�� ������ �� ������ ����������

��#� ���������#� � )���� ������� �����# ������� �� ��� �� ��� ���

������ ��#�� � ����� ������ ��� �� ��� ���!������& ,� ��� ��� �! �����

������� ����#������ � !�� ����� ����#������ ����� �����# ������� �� ��� ��

����#��"� ���� ���� ������� �������� �������� �� ������� �������� ��� ��

��� � ������ �� ������# ����� �! ����& '���� ������ ������ ��� �������

�! ��� �:����� ����� �! �������0 ���������� ��������� �� ������ ���������� ��#�

���������#� � ����� ������� � ����������� ��������� ���� ���� �� �����

������� �� ������ ����#������&

'�� ��� ������ �! ���������� ������ �� ����� � ����������� � ��� ��� ������

�! ���#���� ������ �� ����� � ������1������& 9����� �! ����� ������ ������

���������� ���� ���� ���� �� ��� ��#������� � ����)����� �� ��& '�� ����

�������� ������ �� ���������� ������ ���������� �� ��� ��� ���2��� �! �������#����

����& '�� ����� �! ��� � �������� ������-��� �! ��#������� � ����)����� ��

�������� )��� �� � �� ��� �� ����� ��# �! ��!�����# �� ����# �& '� �������

�� ����# ������# �������� ������� )����# �! ��� ��������)� ���� ������ ����

���!��� �� ��������!�� ���� ����� ��� � �! �����# ����& .���� ����� ���������

������� �� ������� �� ����# ���� ��������� !�""� �#�� �� ��� �� �������

�&3& %�����# � �������� +�������� �� 1�#������� � =���)����� D�

Page 62: 1Learning and Soft Computing: Rationale, Motivations, Needs, Basics

������ �������& '���� �������� �&3&� � �&3&<� ���� ��� ���� � ����� ��������

�! ��#������� � ����)������ �� #��� ���� ����#��� �� �����# !��� �

�������&

��-�� ���������

'�� �������� ����������� �! ��#������� �� #���� ����# ���( �������� ���& ,�

���� ��� ��� �������� �� �� ����� #������� ����� ���� ��� �� ����� ��#

�! ��� ���� ����� �! ��� ������& =�������� ������# ���#�� �� ��������� ����

���� ��#��� �������� ������ � �������� ��� ���� ����� �� �����"� ���� ���

������ ����������� �� ��������!���& $����� ��������� ��#������� ����� �� �)��

��� �� ��� ����� � �� � !�� �� ����� ��# ��� ������� ��#������� �����&��

'�� ����� �)������ !�� ���� ����� ����� ��� ��� ����������� ���������� ����� �� ��

����� �� � ��� ��� �� � ����������� ������������������� �������� #�� � ��&+ #�������� ����#�� ���� ��� ������ �! ��#������� �� �� ��� ������ �� �� �����(

��� ��� �������� ��� !���& ,� ��� ���( �������� ��� ������ ��� ��� �� ��

������ �� ������ � ��� #���� 2���� ���������( ������ !��������� #��� �� �� ��

����#�� �! � ���!�� � � #��� �� ���� ��� ��� �� ���& ,! ���� ���!�� �� ���������� �� ��� � � ��� �� ����� ����� � � #���� �� ���� ��� ��� � � �� �� ��� ��� �����& '�� �� ����� � �! ���� ����� �� ���������� �� ��� ��� ����� ���������(

������ �! � #���� � � ��& ,! � �� ��� )�� ��� ��� ���� ��# ��� ��� � � �� �� ���

��� �� ��� ��� ��� �������� �� ���#�� ��� �! � �� �������� ����� �����

�� ���� �� ����� �� ����� & +� �:����� ���� �! � �� ������ � �:����� ���

������ ��# ��� ��������� ��# ������ ���� �� �� ������ & .����� ��� �� ����

����� �! ��� ��� ����� �� ��� ��� �� ��� �� !������� �! ��� ��� �! �� ������ & ,�

����� ��� �� � ���� � ���� �� � � ����& '�� ���� �! ��� ������ �� �� ���

#��� �! ����& '��� ����� �� �� ��� ���������� ����� �! � �� �& $�#��� �&<3 �� �����

��� #������� �! ��� ������ ������� ��#������� ����� !�� #���� ������ �����(

������ ��&�&� !�� ��� #���� 2���� ���������( ������ !������� #��� ���& ���� ��� ���

���!�� #��� �� �� ��� ����� �� ���� )#���& +��� ��� �����# �! ��� #��� �� )#���

�&<3 �� ��� ��� ��� �! ��� ��� ����� ���������( ������ !������� #�� � �� �� �������� ��� ���� ���� ��� �! � #���� �� �� ����� & +������� ��� �������� �! ���

��#������� ����� �� �������� � !����&

%�� � � � �� �� �� ������ ���� 2���� ���������( ������ !������� #��� ��&,! ���� !������� �� ���������� �� �� ���� ��� ����������� ������������������� �������� �!

� ���� ������� �� )�� � �� �� ������� �

#�� � �� � #��� ��#��� � #��� �����

�� #��� �� �� � ���3��

D< =����� �& %�����# � ��!� =�������#

Page 63: 1Learning and Soft Computing: Rationale, Motivations, Needs, Basics

����� #��� ���������� ��� ������� ������������������� �������� #��� � ����� #��� �� ��&

9� ����# ���� !������� ��� ��#������� ����� �� �)�� � ��� ���������� �! � !�� ��

��� �! �

���� � ��� � �� ����

���#�� � �� �� �

���

���#��� ��#��� �� �

����� �#��� �� ��

#��� � ���3��

'��� !������� ��&3�� �� ��� ��#������� ����� �! � �� �& ,� �� �� ���� ����� ��� ����

��#������� ����� #���� ��� ���� ��������� �! � �� ��� ��� �-��� ����� �����& ����

��� ����� �� �� ����������� �� !������� ����& 8���� ��# ���� ��� 2���� ���������(

������ !������� #��� ��� ���� !������� ����#� �� ������ ���� !�� ������ ���

��� �! ���� !�������� �� ��� ��� �! !�������� �! #���� #����� �� ���#�(

�������� ������� !���� � �� ��& *���� �&E #���� ����� ��������� �! ���

��&3�� �����&

������� �� '�� 2���� ���������( ������ !������� #��� �� �� #���� �

#��� �� � <� �� �� � � � �� � � � �

��������

��

$�� ��� ��#������� ����� �! � �� �&

,� �� �� �� )� ����� )��� )� ��� ��#�� ���������( ������ !�������

#��� ����

��#��� �� �� �

��

�<� �� �� �� � 7

<� ��

"����� ��#-F������� �! ��� ����� ��#������� ����� !�� #���� ������ �����������&

�&3& %�����# � �������� +�������� �� 1�#������� � =���)����� D7

Page 64: 1Learning and Soft Computing: Rationale, Motivations, Needs, Basics

$��� ��&3���

���� � ��� � ��

������ �#��� �� ��

#��� ���

�<� �� �

�7�<� � ���

� �

�7�<� � �

��

�<� ���� �< �� � 7�� 3

D�� ��

'���� ��� ��#������� ����� �� ��� �������& '�� 2���� ���������( ������ !�������

#��� ��� ��� ��� ����� ���������( ������ !������� #�� � ��� � ��� ��#������� ��������� �� ����� �� )#��� �&<?& �

*���� �&� ����� ��� ��� ��#������� !������� !�� 2����� ����� ���������

������ �� ����� ��� ��� ����#�� ���& '��� �� � ����������# �������� ��� ��

����� ������� �� ���������& %���� ��#������� � ��������� ������ ����� ��

"����� ��#/'�� 2���� ���������( ������ !������� #��� �� � <� �� �� ��� ��������� ��# ��� ����� ���������( ������ !������� #�� � �� � �<� �� ������?� ��� � ��� ��#������� !������� ������� ����&

D3 =����� �& %�����# � ��!� =�������#

Page 65: 1Learning and Soft Computing: Rationale, Motivations, Needs, Basics

����� ���� � �� ���� ���� ������ � �� �� ��� �� ������ )� �& '�� ���(

����� !�� ���� ��� �������� �! ����� �������� ��� �� ��� ������� !�� ���

�� �� ������ ������������ ��� ��������� ����������� �! ��� ��� �! �� ���� ���

�� �� ������� ��� ����# � ������� ���� ��������� ����� ������������

��� � ���� ���� ��������� ����������� � ��� ������ �! ������ �� ��� ���

��� � ���� ��)����& ,� ���������� ���� ��������� ��#����� ���� ��� ��� ������ �� ��

����� ��� ����� �� �� ����� � �� ����� � ��� ������� �� �� ������ & '���� ��� �(

����� �� ���� ����� �� �������� ��� ��� �������� ������� !��� �� ��� 2����

���������( ������ !������� �! #��� ��� �� �� ������ ����� ����������

���� �����������& '�� ����� !�� ��� �� ����� ���������� �! ���� 2����

���������( ������ !�������� !�� �� �� ������ �� ������� ���� �� ��� �����

���� ������� � �� ��� !�� ��� ������������� �� �� ������ �� �����&

9�!��� ������ ��# �� ��� ���� ����� �������� ��� ��� 2���� ���������( ������

!������� !�� ��� �� ���� ��� ������ �� #��� �� � #���#���& ,! ���� ������ ��

����� ��������� � �� !���� ��� ��� ���� ������� ����( ��������� 2����

���������( ������ !������� !�� �� ���� ��� �� �� ������ � � � ��

#��� �� � #���#��� � �

<������� � �

<

�� ����

�<� �� ��

��

�<� �� �� ���? �

,! ��� ������ � � � �� ��� �� ���� ���� ��������� � �� �� �������� �� �� �!�

��&? � �� ��� ���� ������ ��� ���������� ������� � � �& '��� �� ��� �� ��&?�� ��

����� ����# �����(��� ��� ���� �� ��� �������� �! ��&? �& '�� ������ �����������

���4����� �! ���� ���� �� �)�� � � ��������� ����� ���� ��� � �� �� ���

�������� � ������� �� ��������� � � �� �����������& �� �-� �� "��� ���� �

� � �� �� ���� ���� � �-� �� �� �� �� ���� ����� ��� ������ �� ����(

��������� �������� & *-����� ��&?�� �� �)�� !�� �� � � ��& $�� � ���

��&?�� ��� ��� ��� �� �����& ���� ��� ��� ��������� ���/����� �� �)�� !��

��� ���� ���� ���� ������� ��� �� �� ������� � �� �� ������ �! ���

�����#�� �! ���� ���� ����������& '���� � ��� ��� ���� ��� ��� ������ ��

��� ����� ���� & ,� ������ ��� ��� ����� ������ �� ��� ����� ���� & $��

�������� ���� ��# ������� ��� ���� ��������� ���/����� � ���������

�)�� �� �-� �� "��� � � �&���� �� ��� ��� �������� !������� ����������� ������� ��� ��� ����� ���(

��� �� #����� � ��� ��������� ���/����� �� �������� �� �������� ����

�! �� ����(� (�:��� ����������& $�� ������ �! ��� ��#������ ���������� ���

��"� �! ������5� �!� �� � ���� ��� ����� �� �� ��� ��"� �! ��� ��#�� ��

��� ���� ��� ����� ��� ��� �� )� ��� ����� ��� ������ �� ��#�� ������� &

9�� ���� ��� ��� ��� ��� ��� ��"� �! ������5� ��#�� �� ������ ������5� �!�

�&3& %�����# � �������� +�������� �� 1�#������� � =���)����� D?

Page 66: 1Learning and Soft Computing: Rationale, Motivations, Needs, Basics

�� �� �� �#� �� ��& ������� ��� �� ��� �� )� ��� ��������� ������� ���

��� ��� �� �� ���� ���� ���!������� � ��� ��� �! ������ ������� �! ����

� ��� ������ �! ���& >�� �� ������� )� ��� ��� ��� ��� ���� ����#

���� �� ����� ��� ������ �������� �� ���� ��#��� ��� ���� ����# ��� �� �����#�

������� �� ������� ���#� ������ ��������& 8������ ���� ���������� ��� ���������

��� ��� �� ���� ���� �� ��:�� ���� ���� ���� ����# ����� �� �� �� ����� ��

����#� !�� ����� �� �� ����� ����(�:��� ���������� ������� ��� ������� ������ �!

��:����# � ��!������ � ����# ��� �� ������ ������ ���������& ,� �� !� ���� ����

���� ������� ������ ����"��� �� ���� ������ �� ����# ���� � ��� ���� �!

��� �� ����� #� �� ��� )��� �������& ,� ������ ���� ��� ��� �� ���� ������ �� ��

��#�� ������� ������� ������� ����# ����� &

������� �� =���� �� ��� �� �� ������ ��� ������� ������� ���� 2����

���������( ������ !�������

#��� �� ���� � �

<��� <��� ����

�<� <

�� ����

��� ��

��

�� �� ��

��

�<� �� �

<������������������������ <� �

���?������ ��� ���� ��� ��#�� �#����#���� � ��� ��� ����� �#�� � ���#�� � ������������( ������ !�������� �� ���� ������������& ���� ��� ��� ����� �! ��#���(

���� �� ����&

'�� ��#�� ���������( ������ !������� �� �)�� � #��� � ����� #��� �� ���

����� #��� �� �� �)�� �� ��&?��& �����!� ���� ����#����� �� ���#��# ��� ������

�� � � ��� ������ � � � ��� ������& '��� �� � �� �� �

#��� � �

<���������������������� <� ���

����� � �

<��� <� ��< � <��� �<�

����

+ ��# � ���������# <�< �� ��� �������� �� �� �� �� ������� ��� �-��� �� �

#����

#��� � �������<�<��<��

����������������� <� ���

����� � �

<��� <� ��� ��< �

��

� �������<�<��<��

���

���������<�<�� ���

DD =����� �& %�����# � ��!� =�������#

Page 67: 1Learning and Soft Computing: Rationale, Motivations, Needs, Basics

�����

� � �� ���������������� <

� �� ���������������� <

���

�����������# ��� ��� ��� �! � �� ����� �! � � ��������# ��� ���������<

�!�� ����

!���� ����#�� #��� )�� �� ���� ��

#��� ���� � �

<

�� ����

�<� �������<

���

� ���?<�

'�� ��������� ��# ����� !�� #��� !���� !��� ��������� � ��&?<� ����� ��� ���

��#�� ������������ ����������( ������ !��������� �! 2���� ���� �����������

�� ����& ���� ��� �! ��� ���� �-� �� "��� �� ��&?��� ���� �-����� �� ���� ��

��&? �� ����� �� ��� 2���� ���� ����������� !�� ��� �� ���� ��� ���� ������&

'���� �! ��� ���� ������ �� ��������� � ���� �� �� ���� ���� ��������� &

����� �������� ��� !��� ��� ����� ��# ��������� �! ���������� �� ���� �� ���

��� ��� �� �! ���� ��������� ��� ��� ���� �� �! ���� ���� �������(

����� �! ����� ������ �������� ��� ������� ���� �� ����� ������&

$�� ��#������� �������� ��� ��� ����� ��������� ����������� �� �! ������

���������� � �� ��� ��� �! ��� 2���� ���� ����������� �� ��������� ����������#

����������& ,� �� �� �� )� #�� � ��� ��� ��� �)������ ��&3�� � �� � ��� ��������(

����� � � � #���� ���������� ����� ��� �

#�� � �� �

��� � �

<��� <� ��< � <��� �<�

�<����

�������������������� <��������<�<��������

<�

��

���� � �

<��� <� ��< � <��� <�<�

�������<

���

�������������������� <�

���� � �

<

�� ��������������������� <�� �<�

���

������<

���

�������������������� <�

�&3& %�����# � �������� +�������� �� 1�#������� � =���)����� DE

Page 68: 1Learning and Soft Computing: Rationale, Motivations, Needs, Basics

*��������# � � � �� ����� �! ��� ���#�� ������ � � � � � �� �� �� �� ������

���� ���� �! � �� ��� ������ ��� �! �� ������# � � ��� ��� �� ����������

�� ���� ��

#�� � �� �

��� � �

<

�� � �� � ��

����� ����������������������� <�

� �

�!�<

� �

�!!�

������<

���

�������������������� <� � ���?7�

,� �� �� �� )� ��� ��#������� ����� ���� �)�� �� ��&3�� � ��� ���������� ���� ���� � ��� ���� ��� � �� ��� )�� ����� �� ��&?7�� � ��� ���� �-����� ����������

��� ���� ������ !������� !�� ��& .����� !�� #���� �� ��� ��� �! ��&?7� �� ��� ���

�! ��� ����� � ���� ����� �� ��� �������� �! ��� �������� �� ��&?7�& +���� ��#

�� ��� �)������ �! ��� ��#������� ������ ����# ��� ���� �! ��� ���� �! ��� �����

���������( ������� ��� ��#������� ����� �! � �� � ���� � � � �� 2����� �����

��������� �� ��� ����#�� ��� ����� �-����� ��

���� � �� � ��

����� ���� ���?3�

9� �������� ����� ����� �� � !�� � � � ��������#� � ��� ��� !�� ��� ����� �!

��#������� �! � �� �& '�� !�� ��� ��� ��#������� ����� �! ��� ����� ���������

������ �� ����#�� ��� ���� �� 2����!� ��� !��-���� ��� �! ���� ��#������� �� ��

������ ������ ��� �� ���������� ����� ��������� �� ����������

!��-�����& �

��-�# �����8�����

'�� ��� � �������� ������-��� !�� �����# ����)����� ���� ����� ��� ���

)� � �! ������ ����#������ � �������(����# �������& ��� ���)�� �������

���!��� ����)����� ����0 ������ �� ������� ����#������ �������� !�� ��������

�������� �� ��� �! �#�����(����� �� �� �� ��� �� �� �� �� ��� �! 6;= �� �� ���

������ �� �������� � �� ��& ,� ����� �:����� ������� ��� ����)�� �� !��

���� �:����� ����������� ������������� ����� �� �������� ��� ���� �� ���#��

�����# ���� �� ���#����& ������1������ �� ������� ����������� �� ��!�����# �����#

����#���� ���� !��� �����������&

'���� �� ��� ���� ��#�� �� ���#���# ����)��0 ��� ������# ���� � ��� ����

�#�����"���� �� ��������� ����& '�� ���� #���� ������� �! ����� ��� ��#��

�� ����� �� )#��� �&<D&

D� =����� �& %�����# � ��!� =�������#

Page 69: 1Learning and Soft Computing: Rationale, Motivations, Needs, Basics

"����� ��#0=���)�����5� ������# ���� ����� � ���� ���������� ���� ������ �& '�� ������# ����� �� ����)�� ���#�� �� � �� �� ��� �! ��������+ ��� �)�� ��� ��2���� ��� ��#����&

�&3& %�����# � �������� +�������� �� 1�#������� � =���)����� D�

Page 70: 1Learning and Soft Computing: Rationale, Motivations, Needs, Basics

8����# ��� ������# ���� ��� ����)�� �� #���� ������# ������� �������� �!

������ �������� ������� ������� � � ������� ����� ������ �� & '�� ����� �! ��� ����(

��# ���� �� ��� ��� �! ����)��5� �������� ��� �� �� ���#��� + ����& '����

���#��� �)�� ��� #���� ���������� !�������� ��� !��� ��� ��� ���� ����

������� ��2���� ��� �� ���#��� ��#����& '���� ��� ���� ���� �� ������� �������

���!���� � ��������!��� �� ��� ��� �! ���(� ���(� �����(� � ��#���( ��������

!����� ����� �����������& ,� ��� ���� ����� �� ��� �� ���������� ��� ����)��

����#��"�� �����)��� ��� ������ �� ��� !��� �! ���������� ������� ������ !�����

������� �&

$�#��� �&<D �� ����� ��� ����)����� �� ���� ��� )� & .��� ����#� ����(

�� ������� ����� ���� � ������ �!������ � ���� ��#��& ,� ������� � ��#�(

������# ��� #� �� �� �� ����� � ����!� ����� � ��� ����� ��#��� �����

�:����� #�������� ����� � ��"�� � ������ �����( ���� ���� ��#��& ,� �� ��

�� � ���� ��� ������ ����#������ ������ ���� ���� ����� ���� �������0 ������#

����� ������� ��������# ������ !������� � ��� �� ����� !������� ���!���(

��# ����)�����& B��� ��� )��� � ����� ���� �� ��#�� ������( ���� ����

��� ����)����� ����� ��� �� ���� �� ��� #���� ������& 8���� ��# ���� ���

�����)� ������ �� �� ���� � ���������� ������ ��#� ����������� � !������

��������� ��� �� ��� �� �:����� ������# ������0 ������������� ����������

������������� ������ ������������ �� ����� �������& '� �� ����# +R8 ������(

����� ����� �:����� ��#�� ��� �� ����!���� ���� �#�� !���� � ���

������ !������ ��� �� ������� & ,� �� ��� ��� ���� ������������# ��� �� ��#��

������( ���� ���& + #�� !������ �������� !�� #�������� ���� ����#������

��� �� �! �� ��� !�� ������ ����#������ ���� �� !�� )�#������� � ����)�����&

+� ��� ��� ����� ��� ����)����� ��� �� ���� #���� ���& + ������ ����)��

�� ���� !������ � ��������� ���������� ����� ��� ��� !����� ���� ���� ���

��#������ ���� ������� � ������������ �� �������� �������� �� ��� ��� �!

���(� ���(� �����(� �� ��#���( �������� !������� �����������& + !����� �������

����#��# �� ��� ��� ��� �� � �� ���#�� �� ��� ��� ���#��� �� �������

��#���& 8������� ��#���� �� �!��� ���#� �����������# ������ �� �����������&

.������� ������� ��#���� �! ��� ��� ��� �� �� �� ��2����� ���������# �! ��� ��

���� ����������# ��#����&

>�� ��� ����� �! ��� �������� ������ �� ��� ������ �! !����� ������ ��(

��)����� �� �������� ����& '�� ��2���� �� !����� ������� �� � ��� ��� ��&

'�� !������ ��������� ����� ��� �� ���� !�� #���� �� ��� ���� ��� ��� � � !�(

����� �������� ��� ��� ��� ��� ��� !����� ������ � !�� ��� ������ �� ��� ���

��� � �:����� !����� ������� !�� ������� �� �:����� �����& ,� �������� ������

�! ��� ����������� ����� �! ��� ����#������ ����� ��� ���� � ���� ���������

E =����� �& %�����# � ��!� =�������#

Page 71: 1Learning and Soft Computing: Rationale, Motivations, Needs, Basics

������� ��#��& '����!���� ���� �� ��� ��� �! ������ ��#�� ����#��# �� ��� ���

���#���� ����� �� �� �:����� ������ �� ��� !������ �������� ��� �� ��� ���(

��� �:����� !����� ������� �� ���� ��� ����� ��� ��� ������(��� �������� ��

�� ������ �� ��� �������(��� ��������& ,� ���� �������� ��� !�� ����� �! ���

9����� ������ !�� ����!���# ��� �� ������� ������ � � �� ��������

)���& '��� �� ����� ��� �������� ��� �! ���(��� ������� ����)����� ���

��������"�����& '��� ����� ��� �� ���� #�����"� !�� ����!����� � �������

������ ����)�����& 8������ ����# ������ ����� ����� ������� ������� �������

���� �! ��� �������� ��� �� ���� ������� ������&

'���� �� ��� �:����� ��� ���� ������� !�� ���#���# ����)����� �������

����& '�� ��� ���� !��-����� ��� ������� ������� �� ������ ������� � �����(

;������ ���������(�!(�����)������������ ���(��� ��� � ������������� �+'#��

����� �� � ��� "����5 �������� ���������� � )��� ��� "����5 ���� �������� ����

������& '��� ���� ����� ����� ����� ��������� � �� ����������� �� ��� 9���5

���(��� ������� ���& B� ���� ���� ������� ���������� ������((������� ��

�� �� �� #� �� ����� ��� ��� �� �� �� ��� �+; �� 9���5 ����)����� ���& '��

��������� �� �� �� ����� ��� !�����# ���� ��#� ��# ��� ����������� ���#

����� �������0

� '�� ���������(�!(�����)������(����� ������� ��������� �� �-������ �� ��� �+;

�9���5� ������� ���������@ ���� �� ����� ��� �� ���&

� $�� ��� ��� ����� ������������ #���� � #��<�� ��� ������ ������� �������

��������� �� �-������ �� ��� ���������(�!(�����)������(����� ������� ����������

��� ��� �� ��� �+; �9���5� ������� ���������&

� $�� ��� ��� ��� ����� ���������( ��������� #�� ���� � #�� ��<�� ��� ������(

(������ ��������� �� �-������ �� ��� �+; �9���5� ������� ���������&

� '�� �����(;����� ��������� �� � ����� �� !��� ������ �� ���� ���� �! ���(

���� ���� #���� ������� � �� ��� ������ ������� ���������& '��� �:�� ��

��� ���� �! ������� � � � ���� ��� ������� �� �-� �� ������ ��� �(; ��������� ��

�-������ �� ��� ������ ������� ���������&

� '�� 9���5 ���� ������� ��������� ���������� #�����"���� �! ��� ���������(�!(

�����)������(����� ������� ���������� � !�� (� ��� !������� ����� ��� ����)(

����� ����� � �� �-������& '��� �� ����� ���&

+!��� ��� 9���5 ��+;� ����)����� ��� �� ���� ����� ��� � ��� �����-����

�������� ������ � �������� ������� �� ������� ����#0 ���� �� ���� ��#� ��#

#���� ����)�����& '��� � � �� ��� ����)����� ������� ��� ������"� ���� ����

!�������& '��� ������ �� �������� �� ��������� ����� �������)����� �!

�&3& %�����# � �������� +�������� �� 1�#������� � =���)����� E�

Page 72: 1Learning and Soft Computing: Rationale, Motivations, Needs, Basics

���� ����� �� ���� ����� ��&#&� �� �� �� �� !�� �#����� � �� ����������

��������� ��� �� �� ��#������� � ��� � ����)����� ������� ����� ��� ����

��� ������ ���� ����� �� ��������� ��#� ��# ����� ���� �� �������)�(

���� �! ��&

$���� ��� �������� �! ���������� !�������� �� ����� ��� � � ��������

��� �! ������� �� ��"� 0 ����)����� �! ����� ��������� ����� ��� #��(

��� ��� -� ���� ������� ���� ����& + ���� ���� �������� �! ����� ������

�� �� !��� �� =���� ;� ���"� � ��������� ������ ��& 3� � �� ����M���� ����D�

� �� � �� ����� ������ �� ������� � ��������� ���� � =��� ��E�� ��

�� ����)����� �8� � .�� ��E7�& '�� ��������� ���� ���#�� !���� =���

�� & � ��� � =���&

��'����� �����8����� �� �)� ��� � $� ������ '�� 9����� ������ �� ��(

��)����� ������ ��� ��� ������ �! ������ ����)����� �� �� �������� ��

����������� ����� � ��� ��� ������ ����������� #���� � ��� ��� �����

���������( ������ !�������� #�� ����� � � �� <� �! !����� ������ ������� �� �����&

+� �� ��� ��� �� ��#�������� ���� ����� ��������� �� #����� ��� �� !�)� ��

�������& ������������ ���� �� ����� ��# �! ��� ����� 9����� ������ ��

!�� ���� �� #�����# ���� �������� ���� �����# !��� ������# � ���� ����(

��� ����� #� �! �� ��������� �����������&

+����� ����#������ �! ��� �� ������� ������ ��� �� ���������0 � � & ,�

��� ����������� ��� ����� ����� �� ������ ���� ����� ����� ���� ��� �D� �D

#�� �� � ����� �� )#��� �&<E& '�� 5� #����� ����� �#�� ��� �� �! ��� #��

��� � ��� �5�� � ��� ��� �� ������ �� ��� ����� �� ������ � ������

!����� �� ���� �����&

'�� ��� ���� �� �� ����� � #������ !�� ��� ����)����� �! �� ������� ���(

����� ���� ��� ������� �����0 �5� � 5�& +����� ��� ��� �������� ����#� ��

"����� ��#1'���� ����� !�� ���(��� ����#������ ���� ������ ������� �� � !������ �� &

E< =����� �& %�����# � ��!� =�������#

Page 73: 1Learning and Soft Computing: Rationale, Motivations, Needs, Basics

�� �� ��-����� ��� ��� ��� �� �� ��� � �� & ,� �������� ������ ����� ��

������ ��� ��� ����� �� � ����#� �������� �� ��� ��� ������� �����I������ ��

�� KK �55 �� KK 550

� � �����<� � �KK �55� KK 55�� ���??�� �� �� �� ����� ����# ��� ������� ����� �� !�� � � �< !�� & �� �� ��

���#�� ������� �� ��#� !�� ������ �� � � ��� � �� ��� �� ���� � �< �

��� ��� �� �� �� ���& ���� ��� ����� �� �������� � � ��2���� � ��#�� ��

������& '��� ������ �� ���� �� ��"� ����� ����# ��� !������& �'���� �� ���#�

!������ ��� !�� ���� ���(��� ��� � ��� ������& ,� ��� ���� �������� �� �������

����)������ ����� !����� �� ����� ��� � ��� !����� ���� ������� ���(

��������&� ����� �������� ����#� �� �� �� ��� � �� �� �� �����& ��

�� ��� !������� � ��� ���� ��� �� ������� �� ����������� �����&

'�� #� �! ��� 9����� ����� �� �� ����!� ��2���� ��������� �� ���� �� �

�� ������"� ��� ��������� �! ����� �������)�����& '�� ����)����� ����� �! ���

������� �� ���� �� ����� �������� ��!������� #����� !��� ��������� ����

�� ��� ������# ��2����& ,� �������� ���� ����)����� ���� � ���� ����� �

������� ������������� #���� � �� ����������� ������������������� ��������� #�� ������ � �� <& '�� ����� ��������� #���� ��������� � �� ��� !������ ���

�! �5� �� ��� ���

������ �! �������� )& '����!���� ��� ����� ����������� �� �� �)�� �

#���� � ���

)� � � �� <� ���?D�

'���� #���� ������ ��� ������������� ����������� �������� ��� � ��2��� ����#� ��

��� ��� ������� ��� ��� �! �� ����� ��!������� ���� ���� ��2��� �� ��� !��� �!

!����� �����������& + ����� ��������� #���� ���������� ����� ����� #� ���

����������� ������ �! ��� ���� �� �� ��� ��� ������ ����#��# �� ��� � �� ����

���� ��!��� ��� ��� ������"����& '���� !�� ������ �! ��� ���� !��� �����

����������� ��� ����� �� !��� ����� ���� �5� ��� 5� �� ��� �����#� �! ������

�� �� ����������� ��� ��� ��� #���� � �� � #��<� � �<& ���� ��� ��� ���

�! ����� ����������� �� �-� �� �0

�)���

#���� � �� ���?E�

�������� ������������� ����� �� ����� ������������� ���� %�� �� ���� ����!���#

�� �� ��� ���� ��������� ��������� )���& ������� ��� ��� ����� ����� �� ��� �!

�� �� � ����� �� �� ��!������� ���� !����� � �! ������"� �����& '����

�&3& %�����# � �������� +�������� �� 1�#������� � =���)����� E7

Page 74: 1Learning and Soft Computing: Rationale, Motivations, Needs, Basics

��� ��� ���� �������� ����� #� �! ��� ������� �����#� �� �� ����)� �� ���

����� ����������� #���� � �� � #��<� � �<& ,� �� �/��� �� ������ ��� ���

����)����� �� �� ���� #�� ���� �� ���� ����� #�� ��� �� �� ��� �� �������

������� �����#� ��� ���� � �� ��� ����� �������)����� �����& '�� ���� �

���� ������� ��� �� �� ���#� ��� ���� ������� �� ��� ��� ����# ��� ��#���

����� ���������& '����!���� ���� ��� ��� ����� ����������� #���� � #��<������� ��� ������� ��� ��� ��

+���#� ������� ��

��� �� �! #���� � #��<�� �� ��

��� �< �! #��<� � #��������?��

,! #���� � #��<�� ���� ����� �� �-�� ����� � ������ ������� ��� ��

�������&

'�� ��� �� �� ������"� ��� ��������� �! ����)����� ������ ����� �� ��

�������� �

#�����)����� ������ � #��<� �! �� ��� � � � ���

#���� �! �� ��� � � � �<&

����?��

'���� �������# ��� ���� ��##�� ����� ��������� #���� ���� ��������� �!

����)����� �����& ,! ��� ������� ��� �� �� ���� ����� ������� �����# �� !�(

������ ��� ��������� �! �������)����� �� #��<� � �<& '��� �� ��� ���� ����)�����

�����#� ���� �� ���� ��!�������I#���� ���I���� ��� ��2���� �� �� ����)� &

$����� ��� ��� ����� ������ �� ���� ��(�!� ����)����� ������� ���� ��

���� ����� #�� � ����� ������� �� ����� ���� ���� !������&

�������� ������������� ����� �� ����� ������������� ��� ���!��� ,� �� ��� ���

�� ���� ��# ��!������� �� ��� ��� �� ������ �� ����� �� ��� ������ �!

����!���# �5� � 5�� ��� �� ������� ����)����� ������ � �����-�����

������"� ��� ������ �! �������)� ��������& ���� ��� �������� �� ���������

��#��& *�� ������ ������ �:������ � ������ ��� ��� �������� �:������ ���

����& '���� !����� � ���� ��� �� �! #�� ������ �� �������� ���� ��(

�� ����& '��� �� ���������� ����� ���� #���� ��#�� � ����������� ��

��������# !������ !��� ? ����� �! ��� �������� �������� �����������������

������������������� ��������� �� ��� !��� �! ��� �����#��� �� ������ � � ����� ��

)#��� �&<�& ,! ��� ������ �! ����� �� ������� �� ��)����� ����� ������� �����(

������ �������� ������#� ���� ��� ���������� ����������������� �������������������

��������� #�� ����� � ����� �� )#��� �&<�& #�� ���� �� �� �� �� ��� ����

E3 =����� �& %�����# � ��!� =�������#

Page 75: 1Learning and Soft Computing: Rationale, Motivations, Needs, Basics

���������5� ����������� ������������������� ��������� �� ��� ���������� �� ����� �� ����

������� �� ��� ��� � �! !����� �����&

'�� ��������� ������������ �������� �� )#��� �&<� �� !��� ������ ���

���� ��# �� ��� ���� �! ����� ���� �����)� � #�������� ���������� ���� ��

�� ����� �:�����& '�� ���������( ������

#�� ����� � � �� <� ���D ��� ��� ���������( ������ !������� !�� ��� �! �� �� !����� ����� � #����

��� ��� ������ ����#� �� ��� ��& '�� ��� ����� ���������( ������ !��������

#�� ���� � #�� ��<� ��������� ������������ �! �������� �! ��� �� �! ���

��#� ������ �� � � & '���� ��� �� ����#�� �� �� �:������ � #�� ����� #�� ��<� �� ������ ���� �:������ �� ��� ��� �! �5� � 5�& '���� ��!�������

���� ���� ������� !����� �� �������� ��� �� ����!���# ����� ��� ������&

1������� ��� ��� 2���� ���������( ������ !������� #���� �� �� ��� ���������(

������ ��� ������ �� �� ��� �� � �� !����� ����� ��� �& 1�� ��

��� ��� ��� ����� ��������� !������� #��� � �� ������ ��� ��������� �� ���

���������( ������� ��� ��� ������ ��� �� �� #���� ��� ��� ������ ��� �! ���

!����� ����� �� �& '�� ��������� #��� � �� �� �� �� ��� ��������� � ����������������������� � ��� ��� ���� � �� ��� ���������� !�� ��� !����� ����� ��

2

"����� ��#2'���� �����#��� ����� ��������� � ���(��� ����� ���������( ������ !�������� #�� ���� ������ ���������� !�� ���(��� ����#������ ���� ���#� !����� ��& '�� ������� ���� ��� ����� � ����� �� � D� ���� !�� �-� ����� ����������� #���� � #��<� � �?&

�&3& %�����# � �������� +�������� �� 1�#������� � =���)����� E?

Page 76: 1Learning and Soft Computing: Rationale, Motivations, Needs, Basics

�������� ��� �& 9����� #��� � �� �� ��� ��������� !���������<���

#��� � �� � �� ���D��

���� ��� ��� �������

#���� �� � #��� � ��#���� � � �� <�

#���� �� � #�� ����#����� � � �� <����D<�

����� #��� ������ ��� ������������� ������������������� �������� !�� !����� ���(

�� �

#��� ��<���

#�� ����#���� � #�� ����#���� � #�� ��<�#��<�� ���D7�

'�� ��������� ��������� #��� � �� �� ���#�� !�� ����!���# ��� �� ������� ���(

����� ���� ��������� ��# �����& $��� �-������ ��&D<� ���� ��������� �� ��

�������� �� ��� !��� �! 9���5 ���

#��� � �� � #�� ����#����#��� � � � �� <� ���D3�

��

#��� � �� � #�� ����#�����<���

#�� ����#����� #�� ����#����

#�� ����#���� � #�� ��<�#��<� � ���D?�

'�� ���������( ������ !������� #��� ��� ���� ��� �������� ������������ �������#

�� ���� �� ��� ��� ��� �! ��������� ����������� �� � �#��� � �� � #��< � �� � ��&'�� ����������� �! ����� 9���5 ���� ��� �� ��� !�� ��� ��� ��� ����� ���������

!������� #��� � �� �� �� ����� ����# #�� ���� � #����� ����� �� �� �������

!��� � ���� ���� ���� ��� #��� � �� ����!& *-����� ���� ��&D?� � ����# ���!����� ���������� � ���� ������# ����������� #���� � #�� ����� ��� �� �(

���� #��� � ��& .���# ��� ��������� ����������� #��� � ��� ��� �� !������ ���

!�����# ����)����� ������� ��� ��� �� ���� ����� ��������� � �������

!������0

+���#� ������� �� ��� �� ����# ��� �#�� ��� �! ��� ��������� ��� �����

��������� #��� � �� !�� #���� !����� �&

ED =����� �& %�����# � ��!� =�������#

Page 77: 1Learning and Soft Computing: Rationale, Motivations, Needs, Basics

'��� �� �� ��� 9���5 ����)����� ���� � �� �� ��� ���� ����)����� ��� !��

������"��# ��� ��������� �! �������)�����& ,� ����� ��� �� ���� ��� �� ��� ����

��� !�� ������"��# ��� ��������� �! ����)����� �����& ,� ��� ��� �! ���(���

�� ������� ������� ����#������� !�� #���� ����� ���� ������� !����� �� ���

��� ����� ��������� �! ��� ����)����� ����� ��

#�����!������ ����� � �� � #��< � �� �! �� ��� � � � ���

#��� � �� �! �� ��� � � � �<&

����DD�

���� ��� !�� �-� ����� ����������� #���� � #��<�� ��� ������� ���� � ���� ��

��� ���(��� ����� ���������( ������ !�������� #�� ����� � ��� ������� ��

���#�� �� ��� ��� ����# ��� ��##�� #�� ����& '���� �� ���� ����)����� ����

����# #���� � #��<� � �?� ��� ������� ���� �� �� )#��� �&<� �� � ��� �����(

������# ����� �� � D� �! ��� ��� ���(��� ����� ���������( ������ !��������& �,�

��� ��� �! ���( �������� !������ ��� ������� ��#���� �� ��� ��#������ � ���

������� ���� �� �� �����&�

+��"��# ��� �:������ ������� �5� � 5� �� ��� �:����� !����� ���� ��

� �� �� �������� �� ��� ������� ��� 9���5 ����)����� ��� ������"�� ��� �������

����������� �� ������ ������ �� ���� ���!��� �� !�� ������� �������& '���

���#��# �� #���� ��

#�����)����� ������ ����

��#�����)����� ������ �� ��

����)����� ����

��#�����)����� ����� � ��#��� �� ���DE�

=���� �! ��� ����)����� ��� � #���� �� ��&DD� ������"�� ��� ��������� �! ���(

����)����� !�� ��� �� ���� ��� ���#� ��������� �! ����� #���� �� ��&DE� �� ��

�� ������"� & '���� ��� 9���5 ��� ������"�� ��� ������� ��������� �! ����)(

����� �����& ,� ��� ��� �! ���(��� ����)������

#�����)����� ����� � �� � ����#��� � ���#��< � ���� ���D��6���# 9���5 ��� ��&D3��

#�����)����� ����� � �� � ���#�� ����#����

#��� �#�� ��<�#��<�

#��� �

� ���D��

���� ��� #��� �� ��� ������ !�� ��� )� �������& ,� �� ����# ���� � �� ���

��� �! ���(��� �������� ��� 9���5 ����)����� ��� �������

�&3& %�����# � �������� +�������� �� 1�#������� � =���)����� EE

Page 78: 1Learning and Soft Computing: Rationale, Motivations, Needs, Basics

8��� �

��� �� �! #�� ����#���� � #�� ��<�#��<����� �< �! #�� ��<�#��<� � #�� ����#�����

���E �

9� ����# ���� ������� ��� ��������� �! ����)����� ����� � �����-�����

��� ������� ��������� �! ����)����� ����� �� �� ������"� & >�� ������ ������

������ !��� �! ���� ��� �� ����# ��� ���������� ����� ���� � #�� �����#�� ��<�08��� �

��� �� �! ���� � #�� ����#�� ��<� �

#��<�#���� �

��� �< �! ���� � #�� ����#�� ��<� �

#��<�#���� �

���E ��

'�� ������� ��� #���� �� ��&E �� �� �� �� ��������� �

���� ���

�<

#��<�#���� � ���E ��

$�� �-� ����� ������������ ������� �! ������� ���� �� �-� �� �� � ����

��� ������� � ����� �� ��� ������ ������� ������� ���������&

+ #�� ������ ����� ���� ���� ��� �� ��� ���� ��� ����� ����������� #���� � ��� ���(��� ����� ���������( ������ !�������� #�� ���� �� �� ���� ���� ����(

��� !��� � ��� ��� ��������� ��������� #��� � �� �� ����� ��� ���� ��� ��

��� &

9������ ��'����� �����8����� 1� ������ ����#������ ������� �� � �!���

������ ������� ����#��# �� ���� ��� ��� ����� � ��#�( �������� !�(

���� �������& ,� ��� ��� �! �� ������� ������ ����� �� ��� �:����� ������ �

����# ���#� !����� � �� ��� �������� ��� �! ���(��� ����)������ �� ��� ��

������� �/��� �� ������ ��� ������� �����& ������� ��� �� ����� ��

��� �5� � 5�� ��� ���� �� ����!� ��� �� ������� ������ �� � ����� �� )#���

�&<�&

���� ��� ���#� !����� �� ���� ��� �� ������ �� ��� �������� �� ����/����� ��

����!� ����� �������� ����� ��� 5� � ��� �5� ���� �� ����� ���� ��� ���

��� #�� ��& 8�)���# ������ !����� �< � ��� ��� �! ��� ��� �! ��� �������

�� ��� �#�� #�� ��� � ��������# ����� ��� !������ �� ��� ���( ��������

!����� ������ �� ��/�� !�� ��� ����)����� �! ����� ������&

E� =����� �& %�����# � ��!� =�������#

Page 79: 1Learning and Soft Computing: Rationale, Motivations, Needs, Basics

$�#��� �&<� ������ ��� ��������� �! ��� ������# ������� �� ���( �������� !�����

����& 8������ ��� ���������� ���� ������ ������� ��� ������ �������� !�� ���(

��# ������� ���� ��#���( �������� !����� ������� � ���� ��� ����� �����& 9�

���� �! ���� ����� ������ ����!����� � ������� ������ ��� ������ �! ����(

)����� �� ������ �� #���� ����� � ��� ���� �� ���� �������# ���� ��

F����� ������������&

'�� ��� ����#�� ���� ����� �� )#��� �&<� �� ��� �������� �������� ��������� ���

��� � ��� !����� ���� ���� ��2���� ������� ��#����& '�� ���� �� �� �� �� ���(

���� ���� ����� #���� �����& '�� �� � �� �� ��(�� �� ������� ��#��� �� ����

������� � ��� ������� !��# �� ���� ��#��� ��� �� ��� ���#�� �� �� ���&

B��� ��2���� ����# �� ���� ����� ��� �� � !�� ������ � � � �� �� ���

� � �����<� � � � ����� ���E������ 9���5 ����)����� ��� �� �� ����� �� ��� ��� !�� ��� �����& ,� ��� ���

�! ������� � ����!����� ����� #���� ������ ��� ����� ��������� ��� ���

#���� ������ ����#� �� ��� ��� � �� ��������� � �� ��� !������ �! ��������

�� � ��� ���& '�� ���(��� ����� ���������( ������ !������� �� ����� !��

� ����� �� #�� ���� � ��� 2���� ���������( ������ !������� �� #���� ���� � �� � � � � �& #���� �� �� ��� ���������( ������ ��� ������ �� �� ��� �� � ��

!����� ������ ��� �& '�� ��� ����� ��������� !������� #��� � �� �� ��� ������������������ ��� ������ ����#� �� ��� �� #���� ��� ��� ������� ��� �!

!����� �� �� �

�����

#��� � �� � �� ���E<�

"����� ��#3*���� ����� ���� �! �� ������� ������ � �� �D� �D #�� & .����� ��� ������� ��#���� � ����������� ���� !�� �����(��� ������� ��� � � �� ����#������ ������&

�&3& %�����# � �������� +�������� �� 1�#������� � =���)����� E�

Page 80: 1Learning and Soft Computing: Rationale, Motivations, Needs, Basics

+� �� ��� ���(��� ��� ��� ����� � ��������� ����������� �� �������� ��

#���� �� � #��� � ��#���� � � �� <� � � � � ��

#���� �� � #�� ����#����� � � �� <� � � � � �����E7�

����� #��� �� ��� ����� ����� ���������( ������ !������� !�� !����� ������ �0

#��� ������

#�� ����#����

� #�� ����#���� � #�� ��<�#��<� � � #�� ����#����� ���E3�$��� ��&E7� !���� 9���5 ������� !�� ����!����� � ������� ���

#��� � �� � #�� ����#����#��� � � � �� <� � � � � �� ���E?�

��

#��� � �� � #�� ����#���������

#�� ����#����� #�� ����#����

#�� ����#���� � � #�� ����#���� � ���ED�

���� !�� ����!����� � ������� ���� 9���5 ����)����� ��� �� �� #����(

�"� � !����0

+���#� ������ �� ��� �� ����# ��� �#��� ��� �! ��� ��������� ��� �����

��������� #��� � �� !�� #���� !����� �&

,� ����� ��� �� ���#� #���� ������ ���� � ������� !����� ������ � �� ��� ��

����

#��� � �� � #�� � ��� � �� <� � � � � �� �� � ���EE�B����� ��� !������� �! �����# !��� � �� �� ���� ����� �� ������� �����

��������� � ���(��� ����� ���������( ������ !�������� ��� ��� ���������

��������� ����!& '����!���� 9���5 ����)����� ��� ��&EE� !�� ����!����� �

������� ��� ���� �� �������� � !����0

$�� #���� !����� ������ �� ��� � ��� �� �!

#�� ����#���� � #�� ���#���� � �� <� � � � � �� �� � ���E��'��� )� ���������� �� ������ �� ����# ��&E?� !��� ��#�����# ����# !����

#���& +#��� 9���5 ����)����� ��� �� ���� !�� ������"��# ����)����� �����&

� =����� �& %�����# � ��!� =�������#

Page 81: 1Learning and Soft Computing: Rationale, Motivations, Needs, Basics

$�#��� �&7 �������� ��&E�� !�� ����� ����� � � !�� ��� ��� �! ������ ��� ���#�

!�����&

���������� �����8����� ������&��� ���% $�� ������� ��������# �������������

�������� �� �� �� ��� �� ����������� ���& ,� ���� ����� ��� ���� �� ���

�! ��� �����-������ ������ ��� ������� ������� ���)�� �� ������ �������� �� ��(

�� � ������ �& '���� ����� �� ��� !�� ��������# ����������� � �����-�������

� !�� ���� ������ ��� �������� �! ���� �� ����� � �! ���� � �)�� � ������� ����

�� ����� ��� ����& '��� �� �������� �� �������(����# ���������& ,���� ����#

��� ������"���� ��������� �������# ������� ��� ���� ����)����� ������� � �

!�� #���� ���� ���� �! ����� �!�� #���� !����� ������ �� ������ #�� ��� !��

��� �������)����� �! ����� �� ���� ��� �� �� ���� ����� ��� �� ������& '��

��� !������� �� �� ���� �:����� �� ������ ���������� � ��� !��� ���� � ����

��� ����� �! ��� ������& 9�!��� ����� ����# ��� ������ �������# ��� � ����

!��������� �� �� )��� ��� � ���� �� ������� �� ����� �&�&

������� �" *���� ����� ����� �� ��� �� �������# � �:����� ���������&

'���� �� �������# � � � ��� ��� � � < ��� � ������ � � 7� � ?� � E� �� � ����

� ��< ��& + ���#� ������� �������� ��� ���� ��� ��� �! �����)� ����� ��������

������� ������������ �� ��� �� ��# ��� ��������� ��# ���������� � ��� ��

����� ����� � ����� �� �� �� ��<� � �� � <� � E� � 7� � ?� �� � � <� � �� ���

���& '�� ��������� �� ��� ������ ������ �� ����� �� ���� ���& ,� �� �� �� �����

����# ��#�����5� �� ����� ��# �! ���� ������� � ��� �� �� �������������� ���

�������� ��� ��� �� ��� ��� ��� ���� �������� �� ��# �� �� ����� �:����� ���(

"����� ��,59���5 ����)����� ��� !�� ����� ����� �� ����� �� ����� ���#� �����������# ������� ��#���� �������� �� ����� �����������# ��2���� ������� ��#���� ���������# �! ��� ��� #����� ����� ����������#��#���� �������& >���� ���)#������� �! ������� ��#���� �� �������� ���&

�&3& %�����# � �������� +�������� �� 1�#������� � =���)����� ��

Page 82: 1Learning and Soft Computing: Rationale, Motivations, Needs, Basics

���� �������� �� ��� � !�� ��� �!��������� � ������ ���� � � � ���#����

)���0

�& + ���� �! N� �� � � � �� � �! ��� ���� �� ��# �� ����� ��� ��� �� ��� �����

� )�� �! N� �� � � � ��� �! �:����� �������� �� ������

<& + ���� �! N� �� � � � �� � �! ��� ���� �� ��# �� ����� ��� ��� �� ��� �����

� )�� �-� �� ��� �� ��� ��"� �! ��� ��� ������ ����� �� � � � �����7& + ���� �! N� �� � � � �� � �! ��� ���� �� ��# �� ����� ��� ��� �� ��� �����

� )�� �-� �� ��� �� ��� �-��� �! ��� ��� ������ ����� �� � � � ���<��'�� ��#����� ��� � �� ��� #�� ������� ������ ����� �� ������� !�� ����#

����#& .�� ���� ����� ��� �! ����� ���� �� ����� !�� ����# ����# �� ���� � !��

����# ��#�� �� ����� ������# ��� �� � ���� � ��� ��#����� ��#�� 2��� � ��

��� ��� �������� �� ��#� �! ? � � 7&3� �� <� &? ���� ����#� �� ����� ��� �����

�� �� �� ���� �� ��#�& '����!���� �� ��� ���� ��� ��#����� ���� ����� ��� ����

������� ������� �� �����"� ������� ���)� ��� �� ������"� ������� ����&

���� ��� ��� �:����� ������� �! ��� ��� !�������� �� ���� ����� �� �

�� �:����� ��������& ,� ��� �� ����� �� �� ���� !�� �����# ���� �� ��� �������

�������� �� ��#� �� ��� ��"� �! ��� ������� ����� ��� ��� �����& ,� ��� <� ���

��� �� ���������� �� ��� ��"� �! ��� ������ � �� ��� 7� ��� ��� �������� ���� ���

�-��� �! ��� �����& ����� ��� ��� �� )�� �������� ��� ���(�!(�����(�-���� ����

!�������&� B�� ���� ��� ��#����� ��� � �� �� �� �� �����"� ������� ���)�Q

,� ��� )��� ���� �! �� ��� ���� �������� �� ��# �! � � ���� �� �� �� ���� !��(

-���� ����������� �! ��� ����� ������� �� ��� � �� ��� N� ���� ���������

�! 7R�� � �� ��� N� ���� ��������� �! �R��& ���� ��� ������� ���)� ��#��� ��

�# �������

�� �� � � 7

��� ���� �

��� N<�

,� �� �� ���� ����)� ��� ���� �� ��� ���� ������� ��� ������ #���� ��� ��� !���(

����� � � � � � � �� !�� ��#�� � ����# �������� �����������& =������#� !��

������ ��� ��� ������ �! � 7 ��� ��� )� � ��� �# � N & ���� �� ���� ����� ���

��#� ��� �! ��� ��� �! ��� �����)� ���� ��� ��� ������ �! � � �� �� ��� �� ���

���� ���� �������# ���� ���)� �� ����� ���& ��� !�� ������ �! ������� ���(

������ ���� ���� � �� N� � � ��� )�� �� N� � ��� ������� ���)� ��� ��

��#����0

�# �������

�� �� � �7

��� ��� � �

��� �NE�

�< =����� �& %�����# � ��!� =�������#

Page 83: 1Learning and Soft Computing: Rationale, Motivations, Needs, Basics

������# ��� ������� ��� �! NE& ���� �! ��� ��#����� ��� ���� �� ��# �! � 7� ���

������� ��� ��� ����� �� ����� � �� ���� � N�� � !�� ��� ���� �� ��# �! � <

��� ������� ��� �� N�& .����� ��� ������� ��� �� #�� ��� ����� ���� � � �� ��

��� ���� � #���� ��� ��� )�� ��� ��� ���� �� ��� ��"� �! ��� ��������� �����&

���� �� ��� ����� ��� ������� ��� � <&? �� � � �� ��� ��� ���� ������� ���

�! N� & �1�� ��� ��� ��������� �� ���� ��� ��� ����#�� ���� �! ��� ����(

���# ����� ���������� � ���� �� �������# � ����� ��� ���������&� '���� ����

����� �� �� ���� !�� �����# ���� �� ���� ������������� �! ��� ����� ��� ����

������� �� �� ��� ��� ���� �� ��� ���� !��-���� ����������&

,� ��� ����� ���� ���� ��� )�� �� ���������� �� ��� ������� ������ � � � � ������� �� ��� ����� �� 7 �� ����� ��� �����"�� ��� ������� ���)�& '���� �! ��� ��#�(

���� ��� ���� ��� ��� ���� ����� �� ��# �� �� � 7� ��� )�� �� �� N<� N�� N<�

N3� NE� N�� �� N�� ���� ��# �� ������� ��� �� ��# �� � �� � <� � ?� � E� �� � ���� ��

��<� � ��� ������� ���)� ��

�# �������

�� �� � �< 7

��� �

<

��� �

��� <

��� 3

��� E

��� �

��� �

��� �N<�??�

,� ����� ��� �� �� ���� ����� ���� ��� ���� ������� ����� ��� �� ���)� ���

��� ��� ���� ��� ��� ������� ��� �! N<&??& ,! ��� ���� ���� N7�� ��� ����

������� ���)� ��� �� N & +#��� ��#� ��� �! ��� ���� ���#�� �� ��� ��������

��� ���� ������� ��� ������� #���� ��� ��� )�� �� ���������� �� ��� ��"� �! ��� ���(

������ ������ �� �� �� �� 7 ���&

'�� ������� )�� �� ��� ��� �� #����� !�� �� ������ ����� ��� ��� �� ��&

$�� �������� �! ��� ��#����� ��� ���� ��� ��� ���� �� ��# �� �� � ?� ��� ��� �!

��� ����� ������� �� ��#�� ��� )�� �� �� N3� N7� N<� N<� N?� ND� �� NE� ���� ��#

�� ������� ��� �� ��# �� � �� � <� � 7� � E� �� � ���� �� ��<� � ��� �������

���)� ��

�# �������

�� �� � �3 7

��� 7

<

��� <

��� �

��� <

��� ?

��� D

��� E

��� �N<�E7�

=�� 7 �������� ��� ������� ���� ��� )�� �������� -� ����� ���� �� ����

��� ��"� �! ��� �����& '��� � � ����� �� ��� ����� �� ����� �-������ ����� ���

���� �������� ��� �� �������� ������& ,� �� ��� �� ����!� ��� !�� ���� ��� !���(

���� ��� ���� ������� ��� ������ �� ��� ���� � ?� �! ��� ����� ���� ��������

�� ��#�& '�� ��#����� )� � ��� ��� )�� �� �� N�D� N�� N3� N3� N<?� N7D� �� N3��

���� ��# �� ������� ��� �� ��# �� � �� � <� � 7� � E� �� � ���� �� ��<� � ���

�&3& %�����# � �������� +�������� �� 1�#������� � =���)����� �7

Page 84: 1Learning and Soft Computing: Rationale, Motivations, Needs, Basics

������� ���)� ��

�#�������

�� �����D 7

����

<

��� 3

����

���3

���<?

���7D

���3�

����N�<�� �

+#��� �� ���� ���� ��� ���� ������� ��� ���� �������� �� ��� ��� ��� ���� �����

��� �� ���)� ��� ��� ��� ���� ��� ��� ������� ��� �! N�<&� � #���� ���

���� �! ��� N� !�� ��� ������� ��� ������& ,� �� �!� �� ��� �� �� �� ����!� ����

��� �� ������# ��� ������� ���)� ��� ���� !�� �� ����� ������� �������& ����

���� �� ��� ��� ���� ��� )�� �������� -� ����� ���� ��� ��"� �! ��� ������ ���

������� ���)� �� N ��� �! ��� ���� �� N�37&

'�� )� ������� ��� ����� ������ ���� � �� ��� ��� !������� ��� & +� ���(

����� �� ������� �&7� ��� ���� ������� ���� � ���� ��� ���� ���� & ;������ �&�

� �&� ������� ���� �������� ���������� �� ���� #����� ��&

'�� �� ��� �������� �� ���� ��� ��� ���� �)�� �� ��� ��#�����5� ��������

�� ��� ���� #�������& 9�� ��� �� ���� ��� ����# ��� ������� ��� ������ �����#�I

�� �� �� ��� � ��� �� ��� ���� �������� �� �����"� ������� ���)� #����

������ ��� !��������I�� ����)� ��� ��#����� ���� �� ��� !����� ���!������ �!�

��� ��� ��������5� ������� )���� �:��& �

���� ����� -�������� �! ��� ���� �������� �� ����)����� ���� ���� ������"��#

���� �������� ���� �� �� ��� ���� ���� #���� !�������& $����� �)�� ���

!�������

*� � *� ������� ��� � ���� ����� ���E��� ���� �� ����� !�� ���#���# ������ �� ��� � ���� ���� ��� �� ��& ,� ���

��� �! � �(��� ����)����� ������� �)�� � � � � ��� ����� � �

� �

*�� *�< � � � *��

*<� *<< � � � *<�

��� ��

� ��� ��

*�� *�< � � � *��

������

������� ���� �

+ ��� ����� �� �� ��� �������� �! ��� *�� �� ��#�� ������( ���� ���& +� ����

������ �������# �����)� ������� �� ���� � �� ��� �������� ��� �� ����� ��# ���

������� �! ���� ��� ���#����� !��� ������� ������ ���� ��������# �����������

���� �����-������ �������� �� ���� ��& 1�� ��� ���� ��� ��� ���� �������

�����#� �� ��� ��� �� ��� ��������� ��������� #��� � ��� � ����# 9���5 ����

�3 =����� �& %�����# � ��!� =�������#

Page 85: 1Learning and Soft Computing: Rationale, Motivations, Needs, Basics

#��� � �� �� �������� �� ����� �! ��� ����� ��������� #���� � ���(��� ��������������( ������ #�� ����& ���� ����# ��� ��������� ��������� #��� � �� �� ����(

� �� � ���������� ��� �� �)�� ��� ����������� ����� �� �������� 6�������7

����������� ����� ������� ���� ������� ��� ��� ������� ������ ����#� �� ���

� ���� �� !�� �� ����#� �� ��� ��� � � �� <� � � � � �@ �� 0

.�� � �� ������

*� ������� ��� � ���� �����#��� � �� ������

*�#��� � ��� ������

'���� ��� ��� ����� ���� �! ����# ������� �� . � .�� � ��� �� �)�� � ���

���������� �! ��� ��� ��� �����#� ��� ��� �! #��� � ��� ��� ������ �� ��� ���"����

� �! !����� ������& .����� ��� ���� ������� ��� ���� �� ����)����� �������

� ��� ������"�� ��� ��� ����� ���� .� � �� <� � � � � �& '�� ������� ���� �� �)�� �

��� �������� ���� ������� ���� #���� ����)����� ������� � �� ����� ��� !��

������� ���"����� � �! � �( �������� !����� ������ !��� !����� ������

���� ��0

. ����

. �� ����

.�� � �� �� ����

�����

*�#��� � �� ��� ����<�

����� ��� ����#� �� ����� ���� � ������ !����� ������ ���� ��&

'�� ���� ���� . �� ��� � ����)����� ��������� !�� ��� ���� ������"����

���� ����# ����)����� �������& '�� ����#� �� ��&�<� �� �� ������"� �!

����)����� ������� � ������"�� ��� ��� ����� ���� .�� � �� !�� ��� ���"����

� �! !����� ������&

'��� �� #�����"���� �! ��� 9���5 ��� !�� ������"���� �! ����)����� �����

��&DE�� ��� ���� ��� ������"���� �� �! � ���� ���� .� �� � ������� ���& $�� ����

#���� ����)����� ������ �� ��� ��� !�����# 9���5 ����� ��� � ����)(

����� ���0

$�� #���� !����� ������ � ����� ��� ����� �����

.�� � �� ������

*�#��� � ��

!�� ������� ����� �� � ������ ��� ���� �������� � !�� ����� ���

��� ����� ���� .�� � �� �� �����0

.�� � �� � .��� � ��� � � �� <� � � � � �� �� � ����7�

�&3& %�����# � �������� +�������� �� 1�#������� � =���)����� �?

Page 86: 1Learning and Soft Computing: Rationale, Motivations, Needs, Basics

���� ����)����� �������� #������ ��� ��� ���� ���� . �� �� �����& '���

��� �� ������� ���� �� �� "����5 ����&

'�� �� �-����� �� �� ��������� �

�����

*�#��� � �� ������

*��#��� � ��� � � �� <� � � � � �� �� � ����3�

� ����# 9���5 ���� ��&D3��

#��� � �� � #�� ����#����#��� �

�� �� ������� �

�����

*�#�� ����#����

#��� ������

*��#�� ����#����

#��� � � � �� <� � � � � �� �� � ����?�

=�����# ��� �������� ����# !���� #��� �� ���� �� �� �! ���� ���-���� ��� � ���

)� ������ !��� �! 9���5 ����)����� ���� ����� ������"�� ���� �9���5�

����&

=����� ��� ���� �������� � !�� �����

�����

*�#�� ����#���� ������

*��#�� ����#����� � � �� <� � � � � �� �� � ����D�

$�� ����� ����)����� ������� �������� 9���5 ���� ��������� ��&�D� �� #���� �

!����& %�� *� �� ��� ��� ������ �! ����# ������� �� ���� � �� ����& '��� !�� ���

����� ����)����� ������ ����� �� !��� ������� �����0

*�� � ��� ������ �! ��� ��# �� ����� #���� �� �� �� �����

*�< � ��� ������ �! ��� ��# �� ����� #���� �� �< �� �����

*<� � ��� ������ �! ��� ��# �< ����� #���� �� �� �� �����

*<< � ��� ������ �! ��� ��# �< ����� #���� �� �< �� �����

��

� � *�� *�<

*<� *<<

� ��

�D =����� �& %�����# � ��!� =�������#

Page 87: 1Learning and Soft Computing: Rationale, Motivations, Needs, Basics

���� ��� ����� �� ������# ����#� �� ��������# ��� �� ���� ���� ������� �������&

>�� �� �!��� ��� *�� � *<< � � ��� ����� �� �� �� ���� ������ ������� ����

���� ��� ������� � ��� ����# �������� �� ������� ���� ������ �����& '�� 9���5

���� ��������� �� ����� �� �����)������ ������� ���� ��� ������� ��� �� ���� ��

�����&

'�� ���� �������� �� ���#� ���� ��� ���� �� ������"� ��

.��� � �� ��<���

*��#��� � �� � *��#��� � �� � *�<#��< � ���

.��< � �� ��<���

*<�#��� � �� � *<�#��� � �� � *<<#��< � ���

��

. � .��� � �� � .��< � ��� *��#��� � �� � *�<#��< � �� � *<�#��� � �� � *<<#��< � ��� ����E�'�� 9���5 ���� !�������� �� �� ����� � #�����"���� �! ������((

���������� ��+;�� �� ���������(�!(������ ������� ��������� � #���� �� ��&DE�& '�

���� ���� ��&DE� �� �� ��������� �

#�����)����� ������ ����

��#�����)����� ����� � ��#��� ��

����)����� ����

���#��� � �� � #��< � ���#��� ���

=���� �� ������"��# ��� ��������� �! �������)����� !�� ��� � �� ��� ����)(

����� ��� #���� �� ��&DD� ��-������� ��� ���#� ��������� �! ����� #���� �� ��&DE�

�� �� ��� ����� ��# �-������ �� �� �� ������"� &

+� ��� ��� ����� �� ���#���# ��� ����� *�� � *<< � � *�< � *<� � �� ��� ����

��&�E� �������

. � #��� � �� � � #��< � �� � � #��� � �� � #��< � �� � #��� � �� � #��< � ���� ���� �� ����� ��� �#����� �! ��� ����� ��# ����#�& ,� ����� ��� �� �� ����(

��"��# ����� #���� �������� ���� ��������� ��� ���#� ��������� �! ����)�����

����� �� �� ������"� &

'���� !�� "���(��� ��� !�������� ����)����� � �������� �� ������"��# ����

�� � ����� �� ��� 9���5 �������((����������� ����)����� ������� ���������

�&3& %�����# � �������� +�������� �� 1�#������� � =���)����� �E

Page 88: 1Learning and Soft Computing: Rationale, Motivations, Needs, Basics

��� ������"�� ��� ���#� �������� � ��������� �! ����)����� �����& ���� ���

�� ��������"���� ���� ����� ��� �� ������ ����� � ��# � *�� � � ��� ���

*�� � *<< � � ��� ���� ������"���� ��������� �� �� ����� �������� �� �����

!��� �! ������� ����

���� ���

�<

*�<

*<�

#��<�#���� � ������

.����� �������� ��� ������� ���� ���� � #�� �����#�� ��<� �� �#�� ��� ���

��� ��� �! ��� ��� ����� �� ��� ��#��(�� �� � �! ��&���� ��� ������� �� �� ��� �&

'�� �� ���������� !���� !��� ��&�D�� �� !��� �����# 9���5 ������� ��&D3� ��

��&�E�& ���� ��� ��� ����� *�< � *<� � ��� ��������� ��� �� �� �-� �� � ���&

+��� ���� ��� �+; �9���5 ������� ���������� � ��� ������ ������� �����(

���� �� 2��� ����� ���� �! ��� ���� ������"���� ��������� ��&���& ����� ��� �+;

��� !���� ���� *�< � *<� � �� � ��� ������ ������� ��������� ������ ����

*�< � *<� � � � #���� � #��<�&$���� ���� ��� �� ���� #���� ������� �������� ��� "���(��� ��� ����� �

��&� � �� #���� �

� �

������ � �

� �

��� ��

� ��� ��

� �

������� ������

!������ ������ ��� !����������� "������� ;����� ����#������ ������� ���!���

�������� ����!����� ����)����� ��#� ��� �! ��� ���� �! ������� ��� ���� &

1�� ��� ����� �� ������ ������� ���� ���� ���� ��# �� ��!������� ���� ���

������� ����� �� �� ���� & ��� �:����� ���� ���� ���� � ��� ��#�����# �!

������� �&3&<� � ���� ��� 9���5 ��� !�� ������"��# ��� ���#� ��������� �! �����

� ��� 9���5 ��� !�� ������"��# ���� ��� ���� ��� �� �� ���� ���&

+ ������ ����)�� ���#�� ��� !����� ������� � �� ��� �! ������ �! �������

����� ��� � � ��� <� � � � � ��� � �� ���� �� ��������� !����� ���� ���� ��� ��#������

���� ������� � ������������ ����� �� ������� ��#���� .��.<� � � � �.� � �� ���

��� �! ���(� ���(� �����(� �� ��#���( �������� !������� �����������& + !�����

������� ����#��# �� ��� ��� ��� �� � �� ���#�� �� ��� ��� ���#��� ��

������� ��#���& '�� ������� ��#���� #� �� �!��� ���#� �����������# ������ ��

������������ � ������� ��#���� �! ��� ��� ��� �� �� �� ��2����� ���������#

�! ��� �� ���� ����������# ��#���� ���� )#& �&7 �& '�� ���� ���� ������� 2(

���� ��#���� �� �� ������� ���� ���� ������ ����)����� �������� ���#�

�� =����� �& %�����# � ��!� =�������#

Page 89: 1Learning and Soft Computing: Rationale, Motivations, Needs, Basics

����� ���� ����& '���� ��� ���� ���� �� ������� ����#�� ���� �� ������� ����

�� ���!���� � ��������� �� ��������!��� �� ��� ��� �! ���(� ���(� �����( �

��#���( �������� !����� ����� �����������& ,� ��� ��� �! ����#�� ����� �����

� ���������� ��� ������� ���� ���� �� ����&

$�#��� �&7� ����� ����� ���(��� ����� ���������( ������ !�������� ��������

!��������� � �� � ��� ����������# �! ���( �������� !����� ���� ���� �����

������ ������� ���& '�� ������� !�������� �� ����� ���� ������������ ����

�-� �������� ������� � ������� � �<� <�� ��� <� � �<� ��& 9����� �! ��� �-�

�������� �������� ��� ����� ������� ���� ���� �� ����#�� ���� ���� ���� �� �� ��

������ ����& ,� ��� ��� �! �����( � ��#���( �������� !����� ����� ��� ���(

���� ��#���� �� ������ � ������������ ������������ � �����"���� �� ��

��#�� �������& ������������ ��� ����)����� ������� ����� ���� � ��� �� ���(

��# �������� �� ��� ���& '�� ����� ����)����� �����#� �� ���� ������ ��

��� ��� ��� ������"�� ��� ��������� �! ����)����� ������ � ��� ���� �� ��

������"� �!� !�� #�� ����#���� � #�� ��<�#��<�� � �� ������ �� �� �� ��� ��#��� .�&

���� #������ ����)����� �������� ��� �� !����� ������ � �� �� ����

����# ��� �! �������� �)�� ������ ����� ���������

������ � � �� <� � � � � �� ���� �

"����� ��,�=��(��� ����� ���������( ������ !�������� ������ � ������� ��#���� .� � ������� ���� ����������� !�� ����� ����� ����� �� ����� ���#� �����������# ������� ��#����&

�&3& %�����# � �������� +�������� �� 1�#������� � =���)����� ��

Page 90: 1Learning and Soft Computing: Rationale, Motivations, Needs, Basics

����� ��� ���������� �� ������� ���� ������� ����#��"� ��� ��� � ��� <� � � � � �&

'�� ���������� ���� �! ����)�� ��&�&� ��� ����)�� ���#�� ����# ��� �������(

��� !��������� ���#�� ������ ���� !����� ������ � �� ��� � !�� ����� ���

��������� ��# ���������� ��� � �� ��� �#���0

���� � ������ !�� � � �� <� � � � � �� �� � ���������� ���������� ����)�� �� �� ���#�� � ������ ���������# ��� �! � ��(

��������� ������ � � �� <� � � � � �� ������� ���� ��� ��� ��� � � �� <� � � � � �� ��#

���� �� �� ��� ������ ��� �#���(��� ���������� � ����#��"� ��� ����

)#& �&7<�&

���� ��� ��� ����)����� �� ��� �� ��� �#��� ���������� !������� ������#� ��� ��� ��� ��������� ��# ���������� !�������� �� �)�� & '����!���� ��

��������� !������� �! ���������� !������� � ������ �� ����� � � ����� ����()����� ������ �! ��� !�� ��� !�� ��� ��������� !������� � � �� ��� ���� ����#���� ���� �� ��� ���� � ������& ,� �� �� ���!� �� �� ����� ���� ���� ��������

�! ���������� !��������& ,! ���� ������ � � �� � � � � �� �� ��� ���������� !��������

!�� #���� ����)��� �� �� �� ��� !�������� � ������ ����� � �� �� ������ !�� �����(�� ���� ��� ������� �& '��� �� �� �� ������ �� ����)����� ������ �� ����#

��� ���� �#������� !������� � ���� � ���������� !�������& '���� �� ��� ���

�! 9���5 ����)��� ����� �!

����� � #��� � �� � #�� ����#����

"����� ��,#8���������� ����)�� !�� ������� ������ ����#������&

� =����� �& %�����# � ��!� =�������#

Page 91: 1Learning and Soft Computing: Rationale, Motivations, Needs, Basics

��� ���� �#����� �! #��� � �� �� ��� � ���������� !�������� ��� ��� ��� ��(

�������� !������� �� �)�� �

����� � � #��� � �� � ��#�� ����#������ � #�� ���� � � #����� � � �� <� � � � � �� ����<�

8���������� !�������� �)�� ��� ������� ���� ���� ��� ������ ������� ��#����&

8������� ���� ���� ������� ���#������# ��#���� . � .� �� ������ �� �-�(

�"��# ��� ��������� ��# ���������� !��������0

���� � ������ ����7�'���� ���� ���� ������� ��� ������� ��#���� �� ��� ������� ���� �� ������� ����

�� ���!���� � ��������� �� ��������!��� �� ��� ��� �! ���(� ���(� �����(� �

��#���( �������� !����� �������� �����������&

8���� ��# ���� ��� ������� !�� �������# ����� ����)����� ������� ��� ��

���� ��� ���������� !������� �� ��

����� � #��� � �� �� ��� ��� �! 9���5 ��+;� ����)������ ����3������ � #�� ���� �� ��� ��� �! ������ ������� ����)������ ����3������� � #���� �� ��� ��� �! ������((������ ����)������ ����3������� � �.��� � �� �� ��� ��� �! 9���5 ����� ���� ����)������ ����3 �

� � �� <� � � � � ��

��� ����� ���� ��������� ������������ ���������� !�������� �� �� �� �)�� &

���� ��� ����� ��#� �� ��� �� �)������ �! ��� ���������� !�������� ����� ������

��� ��� ���� ��� �! ��� ���������� !������� ����� ��������� � �� ��� �����

��� ����� ���� .��� � ��&,� ��� ��� �! ���(��� �� ����� ����)����� � ��������"������ ����� �! ���

����������� ����� � �<��� ���� �������� ������ ������� ���� �� ���� �

�)�� �

���� � ����� � �<���� ����?�+ ��������"�� ��&�?� ������ ��� �! ���#� ���������� !������� ���� � ���#�� ��� ���� ��# �� ��� ���� �! ���� ���& B��� ����� �� �#�� ��� �<�������� � � ������ � �� �� ���#�� �� ��� �� ��������� �� �� ���#�� �� ��� <&

'���� !�� 9���5 ���J��� ���������� !�������� ��&�3�� ��� ��������"�� !��

����� ����)����� �� #���� �

�&3& %�����# � �������� +�������� �� 1�#������� � =���)����� ��

Page 92: 1Learning and Soft Computing: Rationale, Motivations, Needs, Basics

���� � #��� � �� � #��< � �� � #�� ����#���� � #�� ��<�#��<��+���� ��#�� ��� ������� ���� �� ������� ��� ����� �� �)�� ��

����� � �<��� �� �� ���� � � ����D�=������# ��� #�������� �����# �! ��&�D� �� ��� ��#�� #��� �� )#��� �&77 !�� ���(

�������� !������� ��� ���� ��� ��� �������# !�������� �� ��� ������� ���� ���

�� ��� �����������# ����� ����!�� �� ��������!�� !�� �����( � ��#���( ��������

!������� ������������ ������� ��� ��������"�� ���� � ��� !����� ���& +������

���!� !��� �! ��� ��������"�� ��� ���� 9���5 ��+;� ����)����� ������� ���(

������ �� �� ������ !��� ��&�<� � !����0

���� � � #��� � �� � � #��< � �� � ��#�� ����#����� � ��#�� ��<�#��<��� �� #�� ���� � � #����� � �� #�� ��<� � � #��<���

��

���� � �#�� ����#�� ��<� � �

#����#��<� � ����E�

$�� #���� !����� ������ �� ��������"�� ���� ������ ���#� ��� � ���#�� ��� ��� �� ��� ��#� �! ���� ���& ,� ����� ��� �� ������ ���� �� ����� �

��� �:������ ����� � �<���� ���� ���� � ��� ������ �� ���#�� �� ��� �� �

���� ���� � ��� ������ �� ���#�� �� ��� �<&

'�� ���� ������� ���� �� ���������� !�������� !�� ����� ��������� ������

����� �� ���� ������& �����# ����)����� ���� �������# F����� ������

�� ��� ���� ���!� ���� (!��� ����������� !�� ������# ������� ���� ����&

!����������� "������� �� �����8����� � ������' !�����*���� ������ ,� ��� ���

�! ����� ��������� ����� �F����� ������ ���������� !�������� �� -�(

����& '���� ������ ���� �����#�� ����� ����� � ��������� !�� ���(� �����(

� �( �������� !����� �������� ������������ ���� ��� �������� ������� �!

��������� ��# ����� �� �-�& '�� -� ���� � ���� ����)��� ����# �� ���

#���� �! ���� ����� ������1��� ������ ���� �� �)�� �� ����� �! F����� �����(

������ ��������I��� ������� �� � �������� ������� ��&

%�� �� ���� ���� ��� ������� ��� �! ����� ����)����� ������ �� ���(

�������� !����� ���� ���� ��� ����� �� #������ �� ��� F����� ����(

����� !�������� ����# ��� ��� ������� �<� � �<< � �< ��� �:����� ���� ��� �<���� )#& �&<�� ����)����� �! �5� � 5��& ,� ���� ���� ��� ���(��� �����

�< =����� �& %�����# � ��!� =�������#

Page 93: 1Learning and Soft Computing: Rationale, Motivations, Needs, Basics

���������( ������ !�������� #�� ���� �� #���� �

#�� ���� ���� � �

<

�� ����

�<� �������<

���

� #�� ��<� ���� � �

<

�� �<�<

�<� �������<

��<

� �����# ��&�E� ������ ��

���� � �#�� ����#�� ��<� � �

#����#��<� � �

��� � �

<

�� ���

" #< ���� � �

<

�� �<�

" #< �� �#����#��<� �

��

���� � �� � �<�<

�� �<< � �<�<�<

� �#����#��<� � ������

.����� !�� ���( �������� !����� ������� #���� �-� ������� �! ���� ���(

��� ����� ���������( ������ !�������� #�� ����� ��� ��������"�� �� ���� �����#��

����& '�� ������� ���� �� � �)�� �� ��&�D� �� �� ���� � � �� ��� �����

� � �� � �<<

� �<

�< � ���

#����#��<� � ������

���� ��� �� ��� �-�������� ��� ���� #���� � #��<�� ��� ������� ���� �� ��

����� �2" �� ��� �� � �! ��� ��� ������� �2" � ��� � �<��<& >��������� ��� ������� ���� �� ����� �2" �� ����� �� ��� ������ �! ��� ��� ������ ���& ��� !��

������ �! #���� � #��<�� ���� ��< � �2"� � ��� � �2"�&,� ��� ��� �! ��� ������� ����)����� ������ �� � �( �������� !�����

������ ���� ����� �� #������ ���� ��# �� F����� ������������ ���� �:�����

�������� ������� ����<� ��� � �:����� ���� ��� �<� � ��� ���

���(��� ����� ���������( ������ !������� #�� ���� �� ������� ��

#�� ���� � �

�<���<������<��� � �

<��� ���!���

� ��� ��� �

� � � �� <� ���� �

��� � � �� �� ��� �� ������� � ��� �������� ������� �� �� �-��� � ���(

������ ��� �� �������& ��� ������ ��� ��������� �! ��� �������� �����& ,� ���

���� #���� ��� !�� ����� ��������� ������ ��� ���������� !������� �)��

� ���� � � #�� � �� � � #�� ���#��� �������

�&3& %�����# � �������� +�������� �� 1�#������� � =���)����� �7

Page 94: 1Learning and Soft Computing: Rationale, Motivations, Needs, Basics

����� � ��

�<���<������<��� � �

<��� ���!���

� ��� ��� �

� � #����� � � �� <� � � � � ��

�� !��� ���� ��# ��� �#������

����� � � �

<� ���� � �

<��� ���!���

� ��� ��� ��

<��<� � � #����� � � �� <� � � � � ��

���� ��'�� ������� ���� � ��<��< �� �-� !�� ����� ��&�&� �� ����� ���#� ��� ����()������� � �����-����� �� �� �� ������� �� ��� ������ � -�������� ����

��� ����� ���������

����� � � �

<� ���� � �

<��� ���!���

� ��� ��� � � #����� � � �� <� � � � � �� ���� <�

8������� ���� ���� ��������� ��������!���� ������� ����� � � �� ��� �����(

-� ���� !�������� �� �( �������� !����� ���� ��&#&� ������������� ����������� ��

����������� �� !�� ����� ����� � ����& '�� �����)� !��� �! ���������� !���(

����� � �! ������� ���� ���� �� �������� �� ��� ������������� �! ��������

�������&

'�� ����� ���� �� ��&� <� �� ��� +���������� ��������� ����� ������ ��� ��(

���� ������� ��� !����� ������ � � ��� ��� ������ ��& 1�� ��� !�� �������

!������� �������� ������� �� �� ��� �#�� ��������� ������� !�� ����� �:(

�#�� ������� �<� � � � � �� � � � � �� � �� � � � � �� �� &

'�� -� ���� ���������� !������� �� ��� ���� #���� ���������� �� ��� ��� �!

����� ��������� ������ � �������� �� ��� �� ��� 9���5 ������� ��� ���

������"�� ��� ��������� �! ����� �� ��� ��������� �! �������)�����& '��� �� ��

����� � ��� ��� � ����� ���� ������1��&

'�� ����)����� ������� #������ ��� �� ��� -� ���� 9���5 �����������

�� ��� ��� !�����#0

�& $�� #���� ����� �!����� ������� ��� ����� ��� ��� ������� � ��� �����(

��� �������&

<& =������ ��� ���� �! ��� -� ���� ���������� !�������� ��&� <� !�� ��� ���&

7& ����� ��� � !�� ����� ���� � ���������� � � �� <� � � � � �&

*���� �&� �������� ��� �-����� ��&� <� ����� �� ��� ������� �! -� ����

���������� !��������& '�� ���������� �! ������� ���� ���� ������� ��� �����

�� ��� ��� �! ��� ���( �������� !����� ������ � �� �� �����&

�3 =����� �& %�����# � ��!� =�������#

Page 95: 1Learning and Soft Computing: Rationale, Motivations, Needs, Basics

������� ��$ $����� ������� � �! ��� ����� �� #������ �� F����� �������(

����� ����# �������� ��������� ������� �� � ���� ��� � !����0

�� � �

�<?

� �� �� �

� ��

�< � �<?

� �� �< �

<

� ��

$�� ��� ���������� !�������� � ������� ���� ����& =���� �� �-��������

�#���� � #��� � #�& �1�� ��� ��� �������� ������� �� �#�� ���� ���

!������ �� ��������� �� ���� ���& '�� #�������� �����-����� �! ���� !�� �� ��

���� �� )#��� �&73� ����� ��� ������� ��� �! ��� �������� �! ��� F����� ���

�������� �� ��� �� ��� !����� ���&�

T� ���� ���������� !�������� !�� ��� #���� ����� �� �)�� �� ��&� <�& '��

������� � ��� ���(�� ���� ��� ���� � #���� �� �� �#���� � � ��� ��� ��(

��������� �� ������ �

����� � � �

<� ���� � �

<

��

�<

� ��

� �� �!�

�<?

� �����

�<

� ��

� �� �

� �D�7� �

<�� �<

3

� ���

�<

� �� �D�7� �?��<� � 3�<<��

�<��� � � �

<� ��<� � �

<

��

�<

� ��

<

� �� �! �<?

� �����

�<

� ��

<

� �� �

� �D�7� �

<�� ��< � <� 3

� ���

�< � <

� �� �D�7� �?�3�<� � ��< � <�<��

9��� ���������� !�������� � ��� ��������"��# ���������� !������� �� �����

�� )#��� �&77&

'�� ������� ���� ��� �� �������� ���� �� ��� !����� ��� !���� !���

���� � ����� � �<��� � �

���� � ����� � �<��� � ��?�<� � ��?�<< � <�< � < � �

���� ��� ��� ������� ��#���� �� ��� !����� ���� ����� �� )#��� �&73� �� ���(

��������# ������& '�� ������� ��#��� !�� ��� < ��������� ��� ��2���� ���& ,� ��

��� ���������# ��� ��#��� .< �� ��2����& '��� �� �� ���� �� )#��� �&77� � �� ��

�&3& %�����# � �������� +�������� �� 1�#������� � =���)����� �?

Page 96: 1Learning and Soft Computing: Rationale, Motivations, Needs, Basics

"����� ��,,=���)����� �! ��� F����� ����� ���� �:����� �������� ������� �� ��<& !��� -� ���� �������(��� !�������� ����� � �<���&"���� � -� ���� ��������"��# ���������� !������� ���� � ����� � �<���&'�� ������� ���� �� ��������� ������ ���� � ����� � �<��� � �� ��� ��#�� #��� �� ��� ����������������� ������� ��� ��������"�� ���� � ��� !����� ���& ���� ��� ��� ������� ��#���� �� ��� !�������� �� �����������# ���� �! ��� !����� ���� ��� ��� ������� ��#��� !�� ��� < ��������� ��� ��(2���� ���&

�D =����� �& %�����# � ��!� =�������#

Page 97: 1Learning and Soft Computing: Rationale, Motivations, Needs, Basics

!���� !��� ����� ����� �������0 ��� ����� ����������� �� �-�� � ��� �������

���� ����# ��� ������� ����� ��� ����)��� ������� ��� ��� ����� �������

!������� #�� ��� �� �#��& ����� ��� ������ �� ��� �< �������� �� �#�� !�� ���

< ��� !�� ��� �� ��� ���(��� ����� ���������( ������ !������� �������� �

#�� ��<� �� ���� �#�� ��� #�� ���� !�� ���� �! ��� ���� �!(��� �� )#���

�&73� ������ ��� !�� ��� ����� ������ �� ����� ��� ��� ����� �! ��� *��� ��

������� �� ��� ��� �! ��� �& '�� -� ���� �������� !������� ����� �� )#���

�&73 �� ������ !��� ���� � & + ������ �� ��� !����� ��� !�� ����� ���� �

����# �� ��� �� � ���� ���� � ��� �����)� ������ ����#� �� ��� <& '��� ��

�� �� �� ������ ������ � �� � �� )#���� �&77 � �&73&

'���� �� ��� ������� �� �� ��� ���������� !��������� �� ������� ����� ���

�� �� ������ ���������� !��� !��� ��� -� ���� ���������� !������� ��&� <�&

%����� &����������� !������ '�� �(!�� ��)������� *������� B��� ��� ��������

������� !�� ����� �� �-� ��� � �� � � �� <� � � � � �� �� �� ��� )��� ���� �� ��&� <�

�-� !�� ������ � ����# ���(�� ���� ���� �� �� �� ����� !��� ��&� <��

��� ��# ���������� �! ��� !���

����� � � �

<��� ���!���

� ��� ��� � � #����� � � �� <� � � � � �� ���� 7�

"����� ��,-T� ���� ������� ���� �� ��������� ������ ���� � ����� � �<��� � !�� ��� F����� ����� ���� �:����� �������� ������� �� ��<& '��� ������� ���� �� �� ������ �� ��� ������������ �! ��� ��������"��# ���������� !������� ���� � ��� !����� ���& ���� ��� ��� ������� ��#��� !�� ��� <��������� ��� ��2���� ���&

�&3& %�����# � �������� +�������� �� 1�#������� � =���)����� �E

Page 98: 1Learning and Soft Computing: Rationale, Motivations, Needs, Basics

'��� ���������� !������� �� ����� ����� �� �� �� �� ���� !��� ��� ��������

<��� ���!������ ��� �

<�!����� �

<�!����� �

<�!� �

���� �

<�!� �

�����

'�� -� ���� ���� �!���� �� ���(�� ���� ��� � �� �� ����� !��� ����

��������& $����������� ����� ��� �������� ����� �� ���������� �� �� ��� ���������

� � �!����� � �!� �

���& '��� ������ �� ��� �! ���� ���������� !��������

����� � �!� �

���� �

<�!� �

���� � � #����� � � �� <� � � � � �� ���� 3�

'�� ����)����� ������� #������ !�� ����� ��������� ����� ����# ���

��� �������� ����� � �� ��� ��� !�����#0

�& $�� #���� ����� �!����� ������� ��� ����� ��� ��� ������� � ��� �����(

��� ����� �&

<& =������ ��� ���� �! ��� ���� ���������� !�������� ��&� 3� !�� ��� ���&

7& ����� ��� � !�� ����� ���� � ���������� � � �� <� � � � � �&

8������� ���� ���� ��������� ��# �� ����� � ���� �� ���������& ,� ��� ��� �!

���( �������� !����� ������ �� ����� ���� ���� �� ����#�� ���� �� !�����

���& %���� ���������� !�������� � ���� ���� ���� �� ����� ���� ��

���� ������� �� �� ���� ������ 7�& .��� ��� ���� ���������� !�������� ��

�������� �� ��� KK����55 !���

����� � �!� �� � � ���� ?�

�����

�!� � �!

� ��� � � � � �

<�!� �

���� � � #�����

'�� ������� ���� �� ������� ����� �� � � �� ���� !��� �� #���� �

���������

����� � ���� � ��� � � � ���� D������

� � ��!� � �!

���� � � � � �

<��!

� ����� � �!

����� � �

#����#��� �

�� =����� �& %�����# � ��!� =�������#

Page 99: 1Learning and Soft Computing: Rationale, Motivations, Needs, Basics

,� �� ����#��!���� �� ���� ��� �� ��� ��� �! ���( �������� !����� ������ ��

�-����� ��&���� ����� �)��� ��� �������� ������ !���� !��� ��&� D�& ,� ��� ���

�! ��� !����� �������� ��&� D� ���������� ����#�� ����& *���� �&�� ����� ����&

������� ��� $�#��� �&7� ������ ��� ����)����� �! ����� ����� ���������

����� ��� ����� �� ����� ���� �������� ���� � �� ��� ��������� ���������� �!

���( �������� !����� ���� ����� ���� ����� ������ ������� ��#����& '��

������� !�������� �! ��� ����� ���� ������������ ��� �-� �������� �������

� � :< � ������� ������ � �<� <�� ��� <�� � �<� ��& =���� ��� �� ��� �! ��� ��#��

#��� �� )#��� �&7� �� �����# ��&� ?� � ��&� D� !�� ��� �-�������� �����&

.���# � ������ �������� ������� � �-�������� ����� ������# ��� ���

�� ����� � #���� �� ��&� ?� �� �� ������� �� ����� ���� ���������� !��������

������ ��� !��� !��� ��&� ?� ��

����� � �!� �� � � �!

� �� �< �

!� ��� � � �� <� 7�

��

����� � <�� � <�< � 3� �<��� � ��� � <�< � 73� �7��� � <�� � ��< � 73�

"����� ��,/%���� ���������� !�������� � ������� ���� ����� �� ��� ��� �! ���( �������� !������� !�� �����F����� ����� ���� ��� ��� �������� ����� � � :< � �� )#��� �&7�& '���� ��������� ��# ����������� ���� ������ � ��� ����5 ������������� ��� � ��� !����� ��� ���� ����� ���#� �����������# ������� ��#����& �'�� ��� ������ �������� ����� ��< � ��7� �� ������ � ��� ����#�� ����&

�&3& %�����# � �������� +�������� �� 1�#������� � =���)����� ��

Page 100: 1Learning and Soft Computing: Rationale, Motivations, Needs, Basics

������� ��� ������� ���� ���� �� ��� �������� ���� ��� !��� !��� ��&� D� ��

��<��� � ����� � �<��� � �D�� � 7 � � �� �� � ?�

��7��� � ����� � �7��� � �D�< � 7 � � �� �< � ?�

�<7��� � �<��� � �7��� � D�� � D�< � � �� �< � ���

'���� ���������� ���� ������ � � �� <� 7� ��#����� ���� ��� ��� ������ �������

���� �� ���� ��� ������ #���� ������ �� ����� �� )#��� �&7?& �+ ����� ���(

����� ���� �� ����� �� ��� ��#�� #��� �� )#��� �&7�&� �

*����!� *�+�������� &������� ��� �!������� &������� ���������� '�� �������

���� !�� ��� ����)����� �! ����� ��������� �F������ ����� !��� !���

�����# ����� ����� ���������� ��#� ��# ����� ��� ����������� ����������&

,! ����� �� �-� �������� ������� !�� ����� ��� � �� � � �� <� � � � � �� � ��

�-� ����� ����������� !�� ����� �#���� � #��� � #�� ���� ��� ����� ���� ��

��� ��#��(�� �� � �! ��&� 7� �� �� ������� & + ������� ����# ���(�� ���� ����

��� ������� �R< �� �� ��#���� � � ���� ������ �� ��� !�����# ����������

!��������0

����� � ���� ���!������ ���� � � �� <� � � � � �� ���� E�'���� ����)����� ��� �� ��� �����"���� �! ����� ����������� �� ���#�

#���� ������ ���� !����� ������ � �� ��� ��� !�� ����� ��� ������� ��(

���� ��� ���!������ ��� �! � �� ��� ��� ������ �� �� ��� �����& ���� ���

������ �! ��� ����� ��#� �� ��&� E�� ������"���� �! ��� ������� ������ ���(

������ � �� �����"���� �! ��� ���������� !������� ����& ,� ����� ��� �� �������� �� ���#�� �� ��� ������ ��� ������ �� �� ��� ������� �����& ���� �� ���

��� ������� ������ �� ������ !�� ������� !������� �� ���� ��� �:( �#��

������� �! ��� �������� ����� � �� ��� �-� �� "��� ��� ���� � �� ��� �#�(

� ������ �&�&� ���� �<� � � � � �� � � � � �� � �� � � � � �� �� �&

'�� ����)�� ��&� E� �� �� ��� � +���������� �������� ������1��& ,� ���

��� �� � ��&� 3�� ��� ������� ������ ����)�� �� �� #���� �� ���� !���

����� � �!� �

���� �< �

!� �

����� � � �� <� � � � � �� ���� ��+�����# � ���� ���� ����������� ��������� !�� ��� �-�������� ����� �#���� �#��� � #�� ����� ������# ��� ��� �������� ������� !�� ����� �� ���

��� �-� ��� �� �� �#�� �������� �����# ��� ��� !������ �� �������(

�� �� ���� ��� ��� � � � �<:�� � � �� <� � � � � ��� ��� ������ ��� ����� ����������

!��������

� =����� �& %�����# � ��!� =�������#

Page 101: 1Learning and Soft Computing: Rationale, Motivations, Needs, Basics

����� � � ��� ���!��� ����<

����� ���<�<

����� ���<� � � �� <� � � � � �� ���� ��

'�� ���(�� ���� ��� ���/����� ������ �< �� ��#���� �� ��� )� ��#� �! ���

����)�� ���#�&

'��� ��&� �� ���������� ��� ��� � ��������� �������� ������1�� ������ ��� ��(

��������� ��&� �� �� ���#� #���� ������ ���� !����� ������ � �� ��� �� !��

����� ��� ��������� �������� ��� ��� �! � �� ��� ��� ������ �� �� ��� �����& +�

�� ��� ����� ��# ��� �! ��� �#�� �������� ������ � ������ �! ��� �����

��#�� ��� ����� *��� �� ������ �� ����� �� ���� ��� !�� ��� ������(

���� !������� ������ � #���� �� ��&� ��& ,� ����� ��� �� ������� �*��� ���

������ ����)�� ���#�� ������ ���� !����� � �� ��� ������ ��� ������ ��&

+ ���� !��� �! ��� ������� ������ ����)�� ���#�����# ���(�� ���� ���

������ �<� �� #���� �

����� � �!� �� �

< �!� ��� � � �� <� � � � � �� ����� �

'�� #������ !�� ���� ��� ������� � ��� *��� �� ������ ����)��� ��

��� !�����#& '�� ��� ������� !�� ����� ��� � � �� <� � � � � �� !����� ������ ��

� �������� ����� � �� #����&

�& =���� ��� ���� �! ��� ��������� ��# ������� ������� � � ���� �� !��

�����& '�� ������� ������ !�� ������� ����� ��

2 � ��� ���!������ ���� � ��� �#���

'�� *��� �� ������ !�� ��������� �� ���� ��� ����� ��

2 � ��� ���� � �#���

<& +���#� ��� ������ �� ��� ��� �� !�� ����� ��� ������ 2 �� �����&

9��� �! ����� ������� ������ ����)��� �� ������� ����� ��� ����)���& ,�

����� ��� �� !�� #���� ����������� ���� �� ��� 9���5 ����� ��������� �! �

����� ����)��& $����������� !�� ���� ����)��� ��� ��� ������� ��� � � �� � � � � �� ��

� �� ������ �� ���������� !�� � �����& 9� �������# ��� ������� ������� ��� ���

������ � � ����� �������� ��� ��� !����� ������ � �� ����� �� ����� �������&

.����� ���� ��� ������� � ��� *��� �� ������ ����)��� ����# �� ���

#���� �! �� ����� ������� ������1���&

'����� ������# �� ������ ���� ������ �� ������ ����)�����& '���(

��� �����(!��� �������� �! ������� �� ��� � ������� �� � ��� ���� �!

��� ��������� ��# �����& '� ����!� ��������� ������ � ����� ������� �����

������ �� �� #���� ������� ������ � ���#� ��� ������ �� ��� ������ ������

�&3& %�����# � �������� +�������� �� 1�#������� � =���)����� � �

Page 102: 1Learning and Soft Computing: Rationale, Motivations, Needs, Basics

����� �������& '����� ������# ����� �� ���� ��� �������� ������ ��� ��

�� �� ����� �����& 9�� ����� �� ��� ����� ������� ������ �� ����)����� �

�������(����# �������& $�� �������� ��#� ��# #��������� ������� ��������

���� ������ ���������� �! !����� ������� �� ��������� �������� ������#�

�����#� ��������� ����������� � ��������& $�� ���� �������� ���� ��������(

��� ������-��� ���� �� ��� & .������� ����� �� ����� � ��� ����� �! ���� ����&

���������� ��� !�8�������� � �)� �������� ��'����� �����) +���� ���

����� � � ������-��� �������� �� ��� ����� ��# �������� ��� ������� ������

��������& ,� �� �� �� ��� ��� ���� #���� 9���5 ������� ���� �� ������� ����

����� ��� �� ���� ��������� ������� ���������# ���� ��� �� �����# �(

�"� ������� ���� �� �����& '��� ���� �� ��� ������ #���� � ��� ���(��� ��������������( �������� ��� ������� �� #�� ���� � �� � ��� ����� �! ����# ������

*�� ����& '�� !�� ��� ������ ����#������ � ��#������� ������� �� �! �� ��

������� � �����!��� �������� �� ����������� ����� ��� ��� ��� ��� ���

������&

������� ��� ���� �� ���!��� !�� �������� �� ��#�������# �� �� �� �� �#(

�����& >�� ���� ���� ��� ������ ��� �:����� !��� �� �������� ������� ��

������ �#���� �� ��-���� �& ,� ����� ��� �� ��� ����� ��������� �! ������ �� ��

�������#���� �� ���������� �:����� !��� ���� �� �����& '��� �� � �������� ����(

�� ������ ���� �!��� �� �� �/��� �� �����#���� ������ #���� !��� ���(��� �����

���������( �������� #�� ����& >�� ���� � �� �� ��� ������� ���� ��� � ��� ������

������ ��� �� �#���� �����& '�� ������ ������� ����)����� ��� �� ���� ���&

������� �� ��#�������� ����� �������� ��� ��-���� !���� ���������� �� ��

���� � ���� � ����� ��������� �� ��� ����� �! ��� �-����&

'�� ����� �! ����� ����� ����� #� ���� �� ��� ������� �� �� �����(

��#���� ������� �� ��� !�����# �� ��0 !�� ��� 9���5 ����� ��� ��� ���� ����

���������#@ !�� ��� ������ ������� ������ ��� ���� ���� ��� ���(

��� ����� ���������( ������ !�������� �������� ��@ !�� ��� ����� ������-��� ��

��#������� ������� ��� ���� ���� ��� �������� ����� �! �����@ � !�� ���

��� �-���� ����� ��� ��� ��� ����� ��� �� �� ��������� �� �� ������(

��� ��/������ �� ��� �� � ������& 9�� ���� �� ���� ������ �! �����)������

��� ���� ������ ���� ���� ����������� ������������� �� ���� �� ������� ���

����� �������� �������� �� ������� � ����(��� ����� ��������� ��������� ��

����# ������# �������&

.������� ����� �� ������ ������� ���� ������ ��������� ��������& '�

�������� ���� ��� ������� *��� �� ������� ������ ����)��� ��� ���� ����

��� ��� ������� �������� �� �������� ��� � � �� � � � � �� !�� ��� �����& $�� ����

� < =����� �& %�����# � ��!� =�������#

Page 103: 1Learning and Soft Computing: Rationale, Motivations, Needs, Basics

������ �� �� ����� ��� ��� �� �����# �(#�������# ����������� �� F�����

���� ��� ��� !������ �� ��� ������� � � ��� ��� �������� ������� �� �-�&

�'��� �� ��� ��� ���������� !�� ��� ������� ������� ����� &� '� ��� ����

������ ������� ������� !������� �� �� ����� ����# ��� �:���� �! ����# �

���� ����!������� �! � !�� ����� ��� *��� �� ������ �� ��� ���������� ���

������� ������ ���� �� ��� & .������� �� �� �� �� �������� �������

������� ������ ����)��� ���� ��� ��� ������� � ��� �������� �������

���� �� �����& 1�� ��� ��� �� ������ ���� �� ������# � � ����(

��� ���� �������� ����� #�& 6���� ���� ���� ��������# ����� ��������

!��� ������ �! ������� �� �� ����)� �� ��#����� &

L�� ���� �� ����� ��� ���� �������� �����# ������ ����������� �� �������

������ �������� � ���� �������� �� �����# �� ��� & '��� ���� !���� ���

������ �! �������# �� � #��# ������ ��������� ����� �& '����!���� ����� ��

�� ������� ����������� �! ��� �� ��� ����� �������� �������� �� �� �����

��������� !��� ������# � �������& ,���� � ��� ��������� �������� ��� � ��

���� ��� ����� � ���� ������-��� !�� �-�����# ����� #� !��� ������# �

��������� ����� �� ������������ ������������ ������� ������&

.������� �� ���� �� ������� ��� ��� ����� ��# �������� ������ �� ������

����#������ ������� ���� �!��� ����� �� -� ���� �� ���� ���������� !���������

������� ���� ���� � ��#����� � �� ��#������� ������� ����� �� ���� �����(

�����# !��������� ��� �� � �� ����� ���� #�� ��������� � ������ ���� �!

��� �������� ���������� �� �� & ���� �!���� �� �� ��� ��(��� ����������

��� �! ����� �������� �� ����)� ��� ����������& .������� ���� ���� �����

���������� �� ��� ���� ���� � -� ���� � ���� ����������� ��� �����

������� ���!������ � ����)���� � ��� ���� ����������� �� ��#�������

�������& 9����� �! ����� ����� ����� �� -� ����� ���������� ����� ������-��� �

��� ����)� ��� ������# � ���� � !�� ��� ��#������� ���� ���� �� �� #��

������# ������ �� #�� )��� �������� �! ��#������� ���������& ,� ����)������ ����

�� �� ���� ��� ��������� �! ������ ������� ��#���� ��� �� ������ �����(

������ �� �( �������� ���� �! !������&

��������

���� %�� � � �< �! � ' � �7 �! � � � 3 �7 <! � � � ? D ��! &

& =�������!'

�!��

�!'

�!��&

�& =���� ���� ������ � �� ��� �������� �! �&

�& +�� ������� � � � �����#��Q

;������ � 7

Page 104: 1Learning and Soft Computing: Rationale, Motivations, Needs, Basics

��#� =���� ��� *�� *<� � *� ����� �! ��� !�����# �������0

& � � �< � 7 <! &�& ' � �7 �! &�& � � 3 �7 <! & & � � �? �D �� �7 �?! &��,� %�� ��� �<� � � � � �� �� )�� �������& '�� �� ����� � ����� 4 ��

4 �

�������������

� �� �<� ���< �����

� �< �<< ���<< ����

<

��� ��

� ��� ��

� ���

��� ��

� ��� ��

� ���

� ���� �<��� ���<��� ����

���� �� �<� ���<

� �����

��������������

F���� � � �� �< � � � ��! � ������� ��� � � �� ����)�� 4� � �� � �)�� ���

�������

���� � � ��� <�< � � ��������

& ���� ��� ����� � ��� � � � � ����� � �� ��&�&� ��� ��� ������� ���� �����

�����#� ��� ������# � ������&

�& ���� ��� ���� ��� �<� � � � � �� �� �������� ��� ������ �! 4 �� �����

�� ���� ���&

�& ;���� ��� �! ��� �<� � � � � �� �� ������� ������� � � �� � ������� �������

���� ����� �� � ����������# ������� �! �#���� �� � !�� ���� ���� ������<� �<�� � � � � ���� ���&��-� $�� ��� ������# � ���� ��� <�� �<� ��� �?� � � )� & ��� ����������# ������� �! ����� �� ���

�& ��� ���� ��� �-���� ����������# ����#�� ���&

��/� =������ *� � *< ����� !�� ��� !������� � ��� � ��� ���� �� ��� ������

� �& ���� ���� �� ������ �&D�&�

��0� $�� ��� ���� ����������# ����#�� ���� �� ��� ����� � � �� ���� ���

& ��� *< �*��� ��� ���� �! ��� ����� !������� �� ��� ������� ��� � ��� � �? �? � �� � �� � ��������

� 3 =����� �& %�����# � ��!� =�������#

Page 105: 1Learning and Soft Computing: Rationale, Motivations, Needs, Basics

�& ��� *< �*��� ��� ���� �! ��� ����� !������� �� ��� ������ ��� � �� � ��

� �������& �8���� 6��� �������< � !�� ��� *< �*��� ��� ���� �! ��� ����������

����� !������� �� ��� ������ �� �&���1� $�#��� ;�&� ����� ��� ���� ������ �! ��� *< ���� �� �<&

& 8�� ���� ������� �! *� ����� !�� � � �?� �� � � � �& =������ �� ��� #��(

������ �����# �! ����� �������&

�& 8�� ���� ������� �! *� ����� !�� � � �� <� � � �� �7&

��2� =���� �� ������ � �� �< ����� �� )#���� ;�&< � ;�&<�& $�� ��� ����

����������� �� � �� ������� $* � ����#�� ���� ��

& *� �����

�& *< �����

�& *� ����&

8�� ���� ����� � ������� �� ��� �-���� �� �:������ �! ��� ���� �������(

����� �� #���� �����&

"����� .���F��� !�� ������ �&E&

"����� .��#F���� !�� ������ �&�&

;������ � ?

Page 106: 1Learning and Soft Computing: Rationale, Motivations, Needs, Basics

��3� $�� #���� ������ � )� ������� � ����#�� ��� $*� �! �< !�� ����� ��� ����

������������ �� � �� $*� �� *� � *< ������ �� �-�& =������ �� ��� ����

����������� �� *� ���� �� ���� ����#�� ���& ���� )#��� ;�&7&�

���5� =���� �� !��� ���������� ������ #���� �� )#��� ;�&3& $�� ��� ���#���

��������� ��# �� !��� ���� ������ ��� ������ � ����������# ���������� �����

����� �����&����� ,� �� ����� ��� ����� �� ���-�� ������� ��������� !�� ���( ����(

���� ����� � ��&�&� ���� � � �����& '���� �� �� ������� ���� ���-�� �������

����������� !�� � �� � �� �����# �� � �� ��&�&� !�� � � �����& =���� �������

!��� #���� ������ �� )#���� ;�&? � ; �&?� �� �� ���-��� ��������� ��

������ ������� �� � � � <�� � 7�< � 3���<& '�����# � ���� �� #����

"����� .��,F��� !�� ������ �&�&

"����� .��-F��� !�� ������ �&� &

� D =����� �& %�����# � ��!� =�������#

Page 107: 1Learning and Soft Computing: Rationale, Motivations, Needs, Basics

$�#��� �&? $�#��� �&?�

�� �< �7 �3 �� �< �7 �3

� �� �� � � ��

� � �� �� � ���8���� $�� ���� ������� ����� ��� ������ �! !��� �-������ �� !��� ��������

� ����� ������� ����� �� ���-�� �������&�

���#� ��� �������� �� ���2��� �� ����� 4��������� ��&#&� ��� #������

������ ��� �! ��� ����� ����� ������ ����& '� �� � ���� ����� �� �������� ���

���!���� ����������# ������ ��

�� � � ��� < ���<�

�<�

& ���� ���� �� � #������ � �������&

�& F��� ��� ���#� ����� 4&

�& ,� ��� ����������� ������ ����Q

���,� �� *��� !������� � ��� ���� � �� '��� ������� � ���� ���� ����(

���� #������ � �KK����55� �������� �������# ��� )��� ����� ����� ���& +� �����

�� ��� ������� �� ��� � ��� ������ �� �� &

��� ���� � ������� '��� �������� �! !������� ���� �������# ��� )��� !���

����� ���&

"����� .��/F���� !�� ������ �&��&

;������ � E

Page 108: 1Learning and Soft Computing: Rationale, Motivations, Needs, Basics

���-� 8�������� ��� #� ���� ������ � ��� .����� ����� !�� ��� ����� !�������

����0�� ���� � 7�

<< � 3��< &

��� ���� � <

� � � �<&

��� ���� � <� � <

< � <7 &

� � ���� � ��<� � �< � <

<�&���/� '�� #� ���� ��� !�� ������"��# ��� ������ ������ ���� � <

� � <<< ��

< � ��<� & 9��� ��� ��� ������ ���������� � ��� #� ���� ��� �� ����� �� )#���

;�&D& ���� ��� ��� #� ���� ��� �� �����#�� �� ��� ��� ������& �8���� 6�� ���

!�� ��� �! ��� ������ �� �����#��� ���� ����� ���� ������� �� �� �����#��&�

���0� ���� ��� ��� ����� �����# ��� ���� !�� ������"��# ��� -� ���� �����

!�������

���� � �?�!;� �� ���� � ��!;<�

�!;7�

�����

&

�8���� *������ ��� ��� �! ��� ����� !������� � ���� � � �� � ������"� ���� ��(

�������� ���� ������� �� �����# ��� �& 6�� ��� !�� -� ���� !���� ; � ;! &�

���1� ;��!��� ��� ��������� �! ��� ����� #� ���� #������ �� )� ��� �������

�! ���� � <<� � <�< � ?<

< & '�� ������# ����� �� � � <� <! & 8�� ��� ���(

������ � ���� ���� �����# ��� #������& =���� ��� �����#����� �! #� ����

������� � ��� ����� ����� � � ��� ���� ���& �8���� *������ ���� �� ����� !����

� ��� ��� ���������� !�� ���� !��� ������ �&�D&�

���2� B���� �! ��� !��� #���� !�������� �� )#��� ;�&E �� ���������( ������ !���(

�����Q �8���� 6�� �������� #��� �� � �&�

"����� .��0F��� !�� ������ �&�?&

� � =����� �& %�����# � ��!� =�������#

Page 109: 1Learning and Soft Computing: Rationale, Motivations, Needs, Basics

���3� =���� �� ���������� ����� ��� �� ��� �� ���� �� ��� ������ !��� <

�� ?& ,�� ���������( ������ !������� �� ����� �� )#��� ;�&�& �'��� �� �� ��� ���(

!��� ������&� B�� �� ��� ��������� ��� ��� �� �� ����� �� ��� �� ���

� ������� 7 � 3�

�� ��� ��� <&��

�� #����� ��� 3&7�

� ������� <&D � 3&3Q

��#5� '�� ����� #���� �� )#���� ;�&�� ;�&��� � ;�&�� ���� ���!���� ����� �

����#�� ���������( ������ !��������� �����������& $�� ��� �������� �� !�� ���

!�������&

��#�� + �� �� ����� � �� �)�� �� ��� ���������( ������ !�������

#��� ��

��������<� �� �

���������&

$%&%'

� =���� ������� � � ������� �� ��� ������&

�� $�� ��� �� � ������ �<�&

�� =���� ��� ��������� #���� � � <�&

"����� .��1F���� !�� ������ �&��&

"����� .��2F��� !�� ������ �&��&

;������ � �

Page 110: 1Learning and Soft Computing: Rationale, Motivations, Needs, Basics

��##� %�� � � � ��� ��� 2���� ���������( ������ !�������

#��� �� � ? � � � � � ��

���������&

� $�� ��� ��#�� � ��� ����� ���������( ������ !�������� #���� #���� � #��� ��&�� $�� ��� ��#������� !������� � � � ��� ��&�&� )� ��� ��� ����� ��� �! � #����

� � � �&

��#,� =���� �� ��� �� �� ������ �)�� � ���� 3 � � �� <� �?���& %������ ��� 2���� ���������( ������ !�������

#��� �� � � ���� ��� ���� �����

��������&

� 8�� ��� 2���� ���������( ������ !�������&

�� $�� �&

�� +�� �� �� ������ � � � �� ���� ���Q

� =���� ��������� ���/����� &

��#-� '�� 2���� ���������( ������ !������� �! ��� ������ �� #���� �

#��� �� � - �� � �� � �< � �<� ��

��������&

� 8�� ��� ���� ����&

�� $�� -&

"����� .��3F���� !�� ������ �&< &

�� =����� �& %�����# � ��!� =�������#

Page 111: 1Learning and Soft Computing: Rationale, Motivations, Needs, Basics

�� =���� ��� ��#�� ���������( ������ !������� #���& � $�� ��� �� � ������ �<�&

8����� �����������������< � �<

��� � �

<������������������< � �<

�� �< �����

��� �< � �< �� � � �

7��< � �<�7

��< �< � �< �� � � �

3��< � �<�7 � �<

�� �< � �< � �< �����

������������������ �����������������������

����������������� ���������������������� �����������������

��#/� %�� ��� �� �� ������ �� �)�� �� ��� 2���� ���������( ������ !�������

#��� �� � � � �� �� �� �� �� <�

���������&

� 8�� ��� #��� �! #��� ��&�� =���� �� #���� � #���&�� $�� ��� ��� ��� � ������ �<�� � �<� &

� +�� � � � ���� ��� ������Q +�� ���� ������� Q

��#0� =���� �� ��� �� �� ������ ����# ��� 2���� ���������( ������ !�������

#��� �� � �� � � � � �� � � � ��

��������&

$�� ��� ��������� ���/����� �! � � �&

��#1� '�� 2���� ���������( ������ !������� #��� �� �� #���� �

#��� �� ��< �� � � � <� � � � ��

���������&

� 8�� ��� ���� ���� �� � ��� �� ���&�� $�� ��� ��#�� ���������( ������ !�������� #��� � #���&��#2� $�� ��� �-����� �! ��#������� ����� �� � � � � � � ��� �� ������ �&<E&

��#3� + ��������� ��������� ���/����� �� �)�� � � ��������& +��� ����

���������� �� ����� �&E � )� &

;������ ���

Page 112: 1Learning and Soft Computing: Rationale, Motivations, Needs, Basics

��,5� + ��� �� )#��� ;�&� �� ���2���� �� ��� �� �� � � *� � *<� �����

�� ��������� �� ���� ��� ���� ���� � ��� � �������� ��� ��� � �<� �<�

�����������& +�� ��� ���� !���� � � ��� ��# ������ + ������� Q $�� ���

��������� ���/�����& $�� �� � �<� �� ����� �� ��������� � Q +�� � � +

2��� ������� � �� �� ���� ��#�� ������� Q +�� ���� ���� ���� Q �8����

� � *� � *<� + � �*� � <�*<& $�� ��� ���� � ��� � �������� �! !���� �

������� ����� ��� ��������� ���/������ � ������ ���� �����&�

��,�� '�� ���������( ������ !������� #��� �! ��������� �( �������� F���(

�� ����������� �� #���� ��

#��� � �

�<���<�����<����� �?��� ��!������ ���

��� ��� �� �� ��������"� �� ��� ��� ������ � � �������� ����� �& $�� ���(

�������� ������ �� � � �� �<! � � � �<� �<�<�<<� �<<

� �& ������ ��� �������� �!

#��� �� � ���� �<� ��� !�� ��� !�����# !��� ������������0

� � � < 7! � ��< � �<� � � ��� � �<< � �&

�� � � �< <! � ��< � �<� � � ��� � �<<&

�� � � �7 �7! � ��< � �<� � � ��� � �<<&

� � � 7 �<! � ��< � �<� � &

��,#� $�� ��� �-������ �! #���� � �! ��� �������� !�� ����� #��� � �?� !�� ���

!�����# ����� ���( �������� F����� ������������0

� � � < <! � � � �

� �&

�� � � < <! � � � <

� �&

"����� .���5F��� !�� ������ �&7 &

��< =����� �& %�����# � ��!� =�������#

Page 113: 1Learning and Soft Computing: Rationale, Motivations, Needs, Basics

�� � � < <! � � � 7 �

� <

� �&

��,,� F���� ��� �������� ����� � ��� ������ �! !���( �������� ����

�����������

� ��? 7 �

7 �D D �<� D 3 �

�< � 7

�����

������ � � � �� �!

�������� ��� ���������( ������ !������� #���& �8���� =���� ��� � ���& 8�

��� ��� ��� �������� �! #��� �� ����� !���&�

��,-� =���� �� �����( �������� F����� ���������( ������ !�������

#��� ����7

�D7�<��� � �

��<�<� � 3�<< � <�<��7 � ?� � ��7 � ?�<�

��

� $�� ��� �������� ����� �& �8���� ���� ��� �� ���� ������ # � #����� #<��<� �7�� �����# ��� ��< � ��7 � �&

�� 8�������� ��� ���� �! ������ !�� ����� ��� ���������( ������ �� & �&

��,/� =���� �� ��� ��������� �( �������� F����� ���������( ������ !�������

#��� !�� ����� ��� �������� ����� � �� �#�� ��&�&� �� � � �� �&

� ���� ��� #��� �� �� �������� �

#��� � �(����

������������<� ��� � �

<

�����

�� � ����

�<� ��

�� B�� �� ��� �������� �! ������� ���������( ������Q ���� #������ ��� ���(

����� !�� � � �� �<! � � � �< 7! � � �< � <��&

�� ���� ��� ��� ���������� �� ��� �������� �! #��� �� �� �� ������� ������&

��,0� =���� �� ����� ����� ���� F����� ���(��� ����� ���������( ������

!�������� ����# ��� ��� �������� ����� �� � � � �

�?

� �� � � �� <� 7� �

���� ���� �� � <! � �< � 3 �! � �7 � � ! &

;������ ��7

Page 114: 1Learning and Soft Computing: Rationale, Motivations, Needs, Basics

� 8�� ��� �������� �! #���� �� � ���� �<� ���&�� $�� ���� ��� ������� � ����������� !�������� � ��� �-������ �! �������

���� ����& 8�� ��� ���� ���� �� ��� #��� �� ��&

��,1� '�� ������� �! 9���5� ����)�� ��-����� ����� #� �! ���� � ��(

������ �������& .������� ������ ��� ������# � �� �����& '�� !�����#

��� !����� ������� �� � �<� !��� ��� ��� �-�������� ����� �F������ ��(

������� ����� ���� � � � � ��� < � �� ��� ���� ���0

=�� � =�� <

�� �< � �� �< �

� < D � �

< < E � �

< 7 � E �

7 � � � �

7 < E � �

� $�� ���������� � �������� !�������� !�� ���� �����&

�� =���� ��� ��������"��# !�������& 8�� ��� � ���� �<� ���� ��� ������#

� ����� ��� ��������"��# !�������� � ��� ������������� �! ��� ��� ����������

!�������� ���� � ���� �<� ���&�� '��� ��� ���!������ �! ���� ��������"�� �� ����!���# ��� ��������� ������

������ �� � 3 �! � �� � D E! & �8���� =���� ��� ������� ���� � ��(

������ ������� !��� ��� � )���� � ���� ��� ��������� �-������ !��

������� �! ���������� !��������& 6��

������� �

�#���

����� �� � ���� ������� �� � ���� ��!

�#� ��!�� �������� ����� �������& ��������� ����� ������ � �������&�

��,2� + ���( �������� �� �� ������ ' �� ��� ���������( ������ !�������

#�'� ��

�< � ��� �<� ��

���������&

$%&%'

��3 =����� �& %�����# � ��!� =�������#

Page 115: 1Learning and Soft Computing: Rationale, Motivations, Needs, Basics

+������ ���( �������� �� �� ������ � ���� �� ' �� ��� ��� ����� ������

!�������

#�� � '� � �

<���<��� � ��� � ���<

<�<�� ��< � �<�<

<�<<

� �� ��

$�� ��� ��������� ���������( ������ !������� #�' � ��& ,� ����� ���� !��� ���(

����Q �8���� $�� ��� 2���� ���������( ������ !������� #��� '� )���� � ��� �� !��

��������# #�' � ��& ,! ���� ������ ����� �� �� ��� �/���� #� �� ��� ���� ������

� ������ �� ���� ��� ���&�

��,3� +���#� ��� !����� � � �D �� ��� ��� �! ��� �-�������� ����� �� ����# ���

������ ������� ������� ��� ������� ���� ����� ��� �� #���� �� ��� !�(

����# ���(��� ����� ���������( ������ !��������0

#�� ���� � �

<

� �?��� � �<

<

�� #�� ��<� � �

<

� �?��� ���� ��<

<

� ��

8�� ��� ���(��� ����� ���������( ������ !��������� � ���� ��� �������

���� ��& �8���� +������# �-� ����� ���������( �������� �#���� � #��<��� ��������� ������� ������� ��� �� �-������ �� ��� �+; �9���5� �������

���������&�

��-5� 8�������� ��� ������ ������� ������� ��� ������� ���� ��� ���

�-�������� ����� #���� �� ��� !�����# ���(��� ����� ���������( ������

!��������0

#�� ���� � �

<

� �?��� � �<

<

�� #�� ��<� � �

� �?��� � �<

��

8�� ��� ���(��� ����� ���������( ������ !�������� � ���� ��� �������

���� ����& �8���� ���� ��� ��� ���� �� �-�&�

��-�� '�� ���(��� ����� ���������( ������ !�������� �! ��� ����� �� #���� ��

#�� ���� � �

<

� �?��� � �<

<

�� #�� ��<� � �

<

� �?��� ���� ��<

<

� ��

;���� ��������� !�� ��� � �� #���� � �<?& $�� ��� ������� ���� �� �� ����(

��"��# ��������� �! ����)����� ������ ��� ��� ��� ��� �+; �9���5� �������

���������& �8���� 6�� ��&E ��&�

;������ ��?

Page 116: 1Learning and Soft Computing: Rationale, Motivations, Needs, Basics

��-#� '�� ���(��� ����� ���������( ������ !�������� �! ��� ����� �� #���� ��

#�� ���� � �

<��������� � #�� ��<� � �����<�����

;���� ��������� !�� ��� � �� #���� � �<?� � ��� ����� �� #���� � *�� �*<< � � *�< � �� � *<� � <& $�� ��� ������� ���� ���� �� ������"��# 9���5

����& �8���� 6�� ��&�D�&�

��-,� '�� ���(��� ����� ���������( ������ !�������� �! ��� ����� �� #���� ��

#�� ���� � < �����<�� � #�� ��<� � ������������ !�� �� @ ��������� ���� �� �-� �� "����&

� $�� ��� ������ ������� ������� ���&

�� $�� ��� ����� ��������� �! ����� ������� ���& ;���� ��������� !�� ��� �

�� #���� � <�7&

�� $�� ��� ����� ���� ������� ��� !�� �-�� ������ ����� � ���� ��� �����

*�� � � *<< � �� *�< � <� � *<� � 7&

������# ���� ������� ��� �� ���)�� ��� ���� �� �� ��� ��� �! !������� ������(

����� ������ ��� ���� ������� ���� � ���� ��� ���� ���� & ���� ��� �� �� ���

���� ���� �����"����� � �� ��� � ��� ��� ���� �� ��� ������"��# �������&�

��--� $�� ��� ��������� ���������( ������ !�������� #��� � �� � #��< � �� !�� ������ �-�������� ���( �������� ����� ��������� ����� #���� �� �������

!�������� ����(��� ����� ���������( ������ !�������� ��� �� �� ����� � �

#�������� ����������

#�� ���� � �������<

����� � �

<

�� ���

�<� ��

#�� ��<� � �������<

����� � �

<

�� �<�

�<� ��

�8���� ���� ���� 9���5 ���� ��# �� ��� #���� ������� �� � )� ��� ����� ���(

������ ���������( ������ !�������� �� ����� �! ����������� ���� � ��� �

�������&�

��-/� 8����� ��� ��������� ���������( ������ !������� #��� � �� !�� ��� �������

!�������� �)�� �� ������ �&33 ��� ����# �:����� ������� ���� �<�&

��D =����� �& %�����# � ��!� =�������#

Page 117: 1Learning and Soft Computing: Rationale, Motivations, Needs, Basics

��-0� $�� ��� ��������� ���������( ������ !������� #��� � �� !�� ����� ����

����� ���� ����)����� ������ ���� � �� � �( �������� ������& '�� ���

F����� ��������� ���(��� ����� ���������( �������� ��� ������� ���

������� ��� � � �� <� �-� ����� ������������ � ��� ��� �������� ����� �&

������ ��� ����)����� ������ �� � ���� �<� ���� � ����� ���� #��� !�� ���

��� �! � � ������ �������� ����� �� � :�& �8���� ���� �� ��##��# ��� ����(

����� F����� ������� !�������� ���� 9���5 ���& +� ��� �� �! ��� ���������

����� �� ��� �������� ���( �������� ���� ��� ��������� ���������( ������ !���(

���� #��� � �� ���� ��� !��� �! �#����� !������� � ���� �� �������� ��

����� �! ������ -�������� ���������# ���� � �������� �����&�

,��!������ �����������

'�� �������� ����������� �� ������ � ��� ��� ������� �! !�����"��# ��� �� ��

���� �����������R������������ ��� ��� ������� ��#�������& �������� ��#���(

���� � ����)����� �� ��� ���� ������� �! ��!� ��������#&� '�� ���#��� ���

�� ������ < �� ������� ������ ������� ����� ���� ����)����� � ��#������� ��

�����# ��� ��� ������-��& '���� �� �� ��� !�� ��� ���� ������ ��������

�� ����� ��! ������# �� ����� ���� ���#�����#�& '�� ����������� �� ��� �

��������# ��� ���� !���� �! ��#������� ������ ������� �! ����( � �� ��(

)����#� ��� ��4����� �! ������ � ��� ���������� �! ������������& '�� )��� ���

����������� �� ����� ����� ����� ���( �������� #����� �������� �

=�������� ��������& '�� �� ����� �� � � ���� !������� �����������0 ����

������� ����� ������� � F����� � � ���� !��������& ,� ������ ����� ��

!�""� �� � ��� ����� )�� �:����� ���������� !��������&

9� ��� �! ��� !�����# !��� ���� ��� ���#�� �������0

�& ,� �� ������ !�� �����������R����������� �������&

<& ,� �� ���#�� !�� ���( �������� ����� � �� � � ����&7& ,� �� ����(!���� �� ���� !�� ��#������ �� ����# �+'%+9� ��� ��� ���� ��������&

,� ������� ��� �� ������ �� �)��� �� �� ������ �:����� ����#�&

*��������� ���� ��� ���#�� ������� � !����0

�& %���� �+'%+9&

<& =������ �� �������� ����� �� ��� �� ��� ������� ���� �� �������������& ����� �� ��� �������� �! �� ���� � ��� ������� �

�� ���� ��& B��� �����# �� ������ ��� ���� ��� ���� ������# �������� ��

�� ���� ��� �� ������� !�� �����&

�������� *���������� ��E

Page 118: 1Learning and Soft Computing: Rationale, Motivations, Needs, Basics

7& '��� � �� �������&

3& '�� ���(�� ���� �� ������ ��� �� ������ ������� ����� �� ��& =����� �8

+�����������&

?& '�� ���(�� ��� �:��� )�� ����������� ���������� �� ��� �� ��������& =���

�� ���&

D& $��� ��� ��������# ���(�� ����� �� ��� ���� �� ���# �������& ���� ��� �!

��� ��� �� ��� ���� !������� ����� �� �?H ������ ���� ����&

��� ���!��� ��� !�����# ����������� ����� ���� ��� ��� !��������0

�& %��� � ��� �:������ ������� ��� ����������� � �����������& + <?H

����� ������ � &<?�� � �� �� �� �� � ������������ ������ ��� �� � �� �� !��

�������� �� �� � � #� �� ����� # �-�� ��� ������ �! ������# �& �'��

������ �� �� ������ �� ��� ������&� $�� � � ���� !��������� ����������� ��

��� ��� ���� ��� ������ � � �& =������# � � � ���� ��� ��� �� ����# ���

� � ���� !������� � ��� ������# � �����& ,! ��� ��� �� ��������� ���

#���� !�������� ��� ����� � � #� � � � � � !�� �������� � 19$�� ������(

�����& ,� �� ��� ��� � � #&

���������� ���� � ���� ���� �� ��� !������� ���� <?H �����& ,�������� �� )���&

1� ��� ��� �� �� �! ��� ������� #� ��� � ������� ��� ���#�� �� �� ���#

-����& +��� ����� ��� )� ����� �! �� ��& ���� ��� �! ����� �� �� �! ������

����(�� �� �� �� � )��� ��� ����� ���& 9�� ��5� ���� � ��& +� ���� ��#�� !������

�������# ��� �� �5� �� �� ��� ��� ������ �! ��� �� �� � � �� �� ��)����#& '���

���� ��� ��� �� ������# �� )��� ��� ���� ��� ����� � ��� �� �����# !�������&

���������� ���� ��� ����� ���������� � ���� � 19$ �� �& =�������# ���

������ �! ���� �� � �� ��� ����)����# ����� � �� �:����� !�� ��������

��� !�� 19$�& '�� �� �� �! ��� �� � ������� ��� ������� ������� � ���

������ �! ���� !�������� �� ��� ��������# ������� ���� ������� !�� ������

������� !�� 19$�& ,� �� ��� ��� ��� �������� �������& '��� �� ��� �! ��� ������ ��

������ ?&

=����� ��� ���������� �! ���� ������ ����������� � ����� ������ �(

����������& B��� ����# F����� ���� !��������� ��� �� ��� �� ������ ��&

=������#� !�� ������ ��� ��� !�� ���� ���/����� �� � <� ��� �)�� ��� �

������� �! F����� ��� � � <��& '��� ���� ��� � �! ��� �� �-� �� ���

������� ������� ��� F����� �� �������& $�� #�� �������� �������������

�E? � � � � & '��� �� ���� ��� � � ��������� ��� !�� � ����& � ��

������ ��� ���2��� �! �����#& .������� ��� �� ��� ������������# ���� ������

��� =����� �& %�����# � ��!� =�������#

Page 119: 1Learning and Soft Computing: Rationale, Motivations, Needs, Basics

���� !�� ��� ��� � ������� �& L�� �� �� �� ������� �� ������ � 19$

���� ��� �� ������� ��& =����� ����� � ������ ��� ������& ��� #���� �� ��

����� � ��� ���� �� ��� ��� �������� �� �� & '�� �� �� ����� ����& ����

�� ������ �� ������ ?&

<& %��� � ��� �:���� �! �:����� ����� ���� �� ������ ����������� �� ������(

�����& ���� ��� ����� U �& ���� ��� ����� �� � H �����& $�� ��� ������

���������� ���� �� ��� ��#� ����� ���& >� ��� ����� �� � �� ��� ����#������ �����

������� �� ����� �� �� ���� ��#���& 1���� ����������� !��� ��� ���� �!(

!����� ����� ���&

7& L�� �� ��� �� � �� �)�� ���� ��� !�������� � �� ���!��� ����������� ���

��� ��� �� �� ��������� ��&

�������� *���������� ���