العصبونية الشبكاتNeural Networks

Yosser ATASSI

المخطط

مقدمة•الطبيعية • العصبية الشبكاتاالصطناعية • العصبية الشبكات مكوناتاالصطناعية • العصبية الشبكات تطبيقات•) معايير ) االصطناعية العصبية الشبكات تصنيف

Introduction

• Neural networks systems are parameterized computational nonlinear algorithms for numerical processing of data )signals, images, stimuli(.

• These algorithms can be either implemented of a general-purpose computer or built into a dedicated hardware.

• Knowledge is acquired by the network/system through a learning process.

• The acquired knowledge is stored in internal parameters )weights(.

IntroductionSome tasks can be done easily by humans but are hard by conventional

paradigms on Von Neumann machine with algorithmic approach.

1- Face Recognition Problem : We are interested in building a systemthat recognizes all the individuals in our office )or apartment complex,factory, etc(. We want our neural network to learn the faces and namesof our members so that when it receives an image from a video-cameraof one of our members, it can say who it is.

2- Market Research Problem : We are the owners of a large computerfactory. From the past sales, we have records of each computer’sstorage, memory and processor, and price. We also knowhow many of each type of computer we sold. We provide the records toour neural network. We now want to know what is the relationshipbetween the computer’s various criteria and the amount sold.

What is the nature of these problems ?

What is the nature of these problems ? )Continue(

So what are Neural Networks ?

الطبيعية العصبية الشبكاتBiological Neural Networks

• : العصبية الخاليا من مجموعة االنسان neuronدماغ•. - بالمعلومات االحتفاظ يمكن العصبية الخاليا تموت الالخاليا • خلية 1014عددالعصبية 100• الخاليا من نوعالشبكات • تسمى مجموعات في Networksتنتشرالتداخل • الشديدة العصبية الخاليا من مئات عدة تحتوي مجموعة كل

Interconnected

processing elements

element size

energy use processing speed

style of computation

fault tolerant

learns intelligent, conscious

1014

neuron

10-6 m 30 W 100 Hz parallel, distributed

yes yes usually

108

transistors 10-6 m 30 W

(CPU) 109 Hz serial

centralized no a little not (yet)

االصطناعية العصبية الشبكات مكوناتNeural Networks Artificial )NNA(

Components

•. الطبيعية العصبية الشبكة يحاكي نموذجالمتوازية :• المعالجة المعالجة أسلوب عناصر

Processing elements.في • المعالجة عناصر لتشكل Layersطبقات تجمع

.الشبكة• – ) طبقة: – ) خفية طبقات طبقة االدخال طبقة نميز

االخراج.خام: المدخالت• من raw dataبيانات مخرجات أو

أخرى معالجة عناصرلعنصر: المخرجات• مدخل أو للمسألة النهائية النتيجة

. آخر معالجة

االصطناعية العصبية الشبكة طبقات

المعالجة عنصر

المعالجة عنصرProcessing Element

مميزة: Inputs المدخالت• صفة يمثل مدخل attributeكلالمسألة: Outputالمخرجات• حل. Weights األوزان• االصطناعية: العصبية الشبكة في الرئيسي العنصر

. المعالجة عنصر إلى مدخل لكل النسبية األهمية يعبرعنالجمع • إلى: Summation دالة المدخالت لكل المتوسط الوزن حساب

المعالجة عنصر

iji

ij WXy

االنتقال • مستوى: Transfer function دالة لها عصبية خلية كلبناء . Activation levelاستثارة المستوى بحساب الجمع دالة تقوم

. ال أو الخلية من خارجة قيمة هناك تكون المستوى هذا علىدالة باستخدام تمثل الخارجة والقيمة المستوى بين العالقة

: مثال االنتقالjyjt

eY

1

1

المعالجة عنصرProcessing Element )Example(

المعالجة عنصرProcessing Element

االصطناعية: Learningالتعلم • العصبية الشبكة تتعلم. أخطائها من

الصحيحة 1. اإلجابات مع ومقارنتها المخرجات .حساب

األوزان 2. تعديل

.3. المعالجة إعادة

• . حسب لألوزان عشوائية قيم بوضع المعالجة تبدأو ) الحقيقية المخرجات بين الفرق االنحراف قيمة

. ) األوزان تعديل يتم المطلوبة المخرجاتالحقيقية = 0االنحراف= • المخرجات عندما

المطلوبة المخرجات

االصطناعية العصبية الشبكة تطبيقاتNNA Applications

األشكال • على الصوت) , Pattern Recognitionالتعرفالصورة (

( Classification التصنيف• الصور)المشوشة • أو المنقوصة المدخالت incompleteمعالجة

inputs.) , اآللي ) التحكم المرضي التشخيص( Generalizationالتعميم • - نص ) ترجمة الحية اللغات)Learning )roboticالتعليم •الخبيرة • (expert systemالنظم المالية ) التطبيقاتللقرار • المساعدة Decision Support Systemsالنظم

االصطناعية العصبية الشبكات تصنيف Classification of Neural Networks Artificial

ترابطي • نظام االصطناعية العصبية الشبكةبعضها . مع تترابط معالجة عناصر من يتكون

] محددا ] معماريا ] شكال لتأخذ البعض•: التالية للخصائص ] طبقا الشبكات تصنف

الشبكة 1. طبولوجيا

المعلومات 2. تذكر عملية طبيعة

المدخالت 3. طبيعة

الوحدات 4. تلك من االستثارة انتشار طبيعةوالروابط

التعلم 5. طريقة

الشبكة طبولوجيا

تذكرالمعلومات عملية طبيعة

كيفية • تمثل التي الرياضية الدالة طبيعة يتوقف المعلومات تذكرمعالجة عنصر .استثارة

• : عنصر استثارة قاعدة من الدالة weighted summation)تتكونfunction) +العتبة الدالة ( node function)شكل

•: االستثارة قواعد أبسط

jiji

ij tWYZ *

Zj :للعنصر الكلي المدخل للشبكة jالتأثير المكونة للعناصر المجمع التأثير أوالعنصر jعلى

Yi :العنصر خرجه iاستثارة أو

Wij :العنصرين بين الترابط i,jوزن

tj :للعنصر اإلخراج دالة أو االستثارة مطلوب ( jعتبة الطاقة من قدر أقل)الستثارته

Weighted Summation Function

Node Function

المدخالت طبيعة

ثنائية – 0,1مدخالتالقطب – ثنائية -1, 1مدخالتأخرى – 12.4, 10مدخالت

عبر االستثارة انتشار طبيعة حسبالطبقات

متقدمة • تغذية تحوي Feed Forwardشبكات الحلقة

الراجعة • التغذية يمكن Feed Backشبكاتمعالجة لعناصر مدخالت تكون أن للمخرجات

الذاتي • الترابط Auto Associationشبكاتمدخالت ) تستقبل مزدوج دور لها العناصر جميع

) مخرجات وتبث

التعلم طريقة

الموجه • تملك supervised learningالتعلموتصحح ) ( المطلوب والخرج الدخل من ازواج

المطلوب الخرج حسب األوزانالموجه • غير unsupervised learningالتعلم

الهامة الخصائص إيجاد وعليها الدخل فقط تملكالدخل لمعطيات