REDES NEURONALES ARTIFICIALESProf. Francisco J. Arias S.2013

Objetivo GeneralIntroducir a los estudiantes en los temas fundamentales de las Redes Neuronales Artificiales y desarrollar habilidades para su uso e implementacin en la solucin de diferentes problemas.

Objetivos EspecficosConocer la inspiracin biolgica de las Redes Neuronales Artificiales (RNA) y sus fundamentos.

Entender el funcionamiento de los modelos mas populares de las RNA.

Identificar en que tipo de problemas pueden ser aplicados modelos de RNA.

Inspiracin BiolgicaAntes de abordar el estudio de las RNA es conveniente exponer algunos conceptos bsicos de los sistemas neuronales biolgicos. Esto con el fin de establecer el paralelismo existente entre ambos.

Inspiracin BiolgicaEl Cerebro HumanoTrata gran cantidad de informacin

Capacidad de tratar situaciones nuevas.

Capacidad de aprendizaje

Almacenamiento distribuido.

No binario, no estable y no secuencial.

Poder desconocido1011 Neuronas (procesadores)1000 10000 conexiones por neuronaCapacidad basada en las conexiones.Cada neurona es muy compleja.

Inspiracin BiolgicaNeuronaPueden presentar muchas formas, aunque presentan un aspecto similar.

Cuerpo celular o soma (10 80 micras).

Dendritas de entradas

Un axn de salida

Sinapsis de conexin.

Inspiracin Biolgica

Inspiracin BiolgicaGeneracin y transmisin de la seal nerviosaLas seales se pueden transmitir elctrica o qumicamente.

Qumica: a travs del intercambio de neurotransmisores (como el glutamato y la adrenalina).

Elctrica: a travs de descargas que se producen en el cuerpo celular y que se propagan por el axn

Inspiracin BiolgicaPotencial de accinLa reaccin qumica producida por la interaccin de los neurotransmisores con la clula generan un voltaje.

Si se supera un umbral de disparo se genera un potencial de accin.

Es una onda de descarga elctrica que viaja a lo largo de la neurona.

Se utilizan para llevar informacin entre neuronas.

Inspiracin BiolgicaPotencial de accinNo todas las neuronas se disparan generando un tren de pulsos de una frecuencia aproximadamente constante, pues la presencia de otras especies inicas hace que diferentes neuronas posean patrones de disparo distintos:

trenes puros.

Paquetes de pulsos.

Presentando patrones mas complejos.

Inspiracin BiolgicaAprendizajeExisten diversas formas de aprendizaje:

Establecimiento de nuevas conexiones.Ruptura de conexiones.Muerte neuronal.Intensidad sinptica.

Este tipo de acciones, en especial la intensidad sinptica, sern las que utilicen la redes neuronales artificiales para llevar a cabo el aprendizaje.

Cerebro Vs Computador

ComputadorCerebroConstruido en torno a una nica CPU o procesador.Construido en torno a miles de millones de procesadores (neuronas).Ejecucin de modo secuencial.Ejecucin de modo paralelo.

Posiciones de memoria bien definidas.Memoria distribuida.

Baja tolerancia a fallas.Redundancia de informacin, por lo cual hay tolerancia a fallas.

Cerebro Vs Computador

ComputadorCerebroMuy eficiente en la solucin a problemas matemticos complejos y de simulacin.Muy eficiente en tareas de reconocimiento (imgenes y voz.Muy eficiente realizando tareas repetitivas y bien definidas.Muy eficiente en adaptacin y aprendizaje.

Muy eficiente con problemas de percepcin.Muy eficiente en generalizacin de conceptos a partir de casos particulares.

Cerebro Vs ComputadorConclusin 1

Los seres humanos no tienen mucho xito en tareas que las computadoras convencionales realizan excelentemente, y viceversa.

Conclusin 2

Los sistemas biolgicos utilizan estrategias de procesamiento muy diferentes a los sistemas de cmputo convencionales.

Que Son las Redes NeuronalesArtificiales (RNA)?Las Redes Neuronales Artificiales (RNA) son modelos matemticos inspirados en sistemas biolgicos, adaptados y simulados en computadoras convencionales.

Los tres conceptos claves de los sistemas biolgicos, que se pretenden emular en los artificiales son:

Paralelismo de calculo.

Memoria distribuida.

Adaptabilidad al entorno.

Elementos de un Sistema NeuronalArtificialesEl elemento esencial de partida es la neurona artificial, que se organiza en capas; varias capas constituyen una red neuronal; y, por ultimo, una red neuronal (o un conjunto de ellas), junto con las interfaces de entrada y salida constituirn el sistema neuronal.

Modelo General de NeuronaArtificialDefinicin Neurona Artificial

Se denomina procesador elemental o neurona a un dispositivo simple de calculo que, a partir de un vector de entrada procedente del exterior o de otras neuronas, proporciona una nica respuesta o salida.

Modelo General de NeuronaArtificialLos elementos que constituyen la neurona de etiqueta i son:

Modelo General de NeuronaArtificialLos elementos que constituyen la neurona de etiqueta i son:

Conjunto de entradas, Xj(t).

Pesos sinpticos de la neurona i. Wij representa la intensidad de interaccin entre cada neurona pre sinptica j y la neurona post sinptica i.

Regla de propagacin g(Wij, Xj(t)). Proporciona el valor del potencial post sinptico hi(t) = g(Wij, Xj(t)) de la neurona i en funcin de sus pesos y entradas.

Modelo General de NeuronaArtificialFuncin de activacin fi(ai(t-1), hi(t)), que proporciona el estado de activacin actual ai(t) =fi(ai(t-1), hi(t)) de la neurona i, en funcin de su estado anterior ai(t-1) y de su potencial post sinptico actual.

Funcin de salida Fi(ai(t)), que proporciona la salida actual yi(t) = Fi(ai(t)) de la neurona i en funcin de su estado de activacin.

De este modo, la operacin de la neurona i puede expresarse como:

yi(t) = Fi(fi[ai(t-1), g(Wij, Xj(t))])

Modelo General de NeuronaArtificialInteraccin entre una neurona pre sinptica y una post sinptica:

Modelo General de NeuronaArtificialPeso sinptico

Si el peso es positivo tendera a excitar a la neurona post sinptica, si el peso es negativo tender a inhibirla. As se habla de sinapsis excitadora e inhibidora en las redes neuronales artificiales.

Modelo General de NeuronaArtificialRegla de propagacin

La funcin mas habitual es de tipo lineal, y se basa en la suma ponderada de las entradas con los pesos sinpticos

Que formalmente tambin puede interpretarse como el producto escalar de los vectores de entrada y pesos

Modelo General de NeuronaArtificialRegla de propagacin

Otra regla de propagacin habitual es:

Que representa la distancia (al cuadrado) existente entre el vector de entradas y el de pesos. Cuando ambos vectores son muy similares, la distancia es muy pequea; cuando son muy diferentes, la distancia crece.

Modelo General de NeuronaArtificialFuncin de activacin o funcin de transferencia

En muchos modelos de RNA se considera que el estado actual de la neurona no depende de su estado anterior, si no nicamente de su estado actual:

ai(t) =fi(hi(t))

Modelo General de NeuronaArtificialFuncin de activacin habituales

Modelo General de NeuronaArtificialFuncin de salida

Muy frecuentemente la funcin de salida es simplemente la identidad F(x)=x, de modo que el estado de activacin de la neurona se considera como la propia salida.

yi(t) = Fi(ai(t)) = ai(t)

Esto ocurre con los modelo mas comunes, como el MLP (Multi Layer Perceptron) y el adalina. La funcion de salida puede ser tambien de tipo escalon, lo que supone que la neurona no se dispara hasta que la activacin supere un cierto umbral.

*