23
Mineração de Dados aplicada a Gestão de Negócios. Aula 2 Introdução Redes Neurais Prof. Dr. Sylvio BarbonJunior [email protected]

Aula 2 Introdução –Redes Neurais - barbon.com.br · 2-Introdução às Redes Neurais Artificiais-Os primeiros trabalhos com RNA surgiram na década de 50; ... neurais artificiais

Embed Size (px)

Citation preview

Page 1: Aula 2 Introdução –Redes Neurais - barbon.com.br · 2-Introdução às Redes Neurais Artificiais-Os primeiros trabalhos com RNA surgiram na década de 50; ... neurais artificiais

Mineração de Dados

aplicada a Gestão de Negócios.

Aula 2

Introdução – Redes NeuraisIntrodução – Redes Neurais

Prof. Dr. Sylvio Barbon Junior

[email protected]

Page 2: Aula 2 Introdução –Redes Neurais - barbon.com.br · 2-Introdução às Redes Neurais Artificiais-Os primeiros trabalhos com RNA surgiram na década de 50; ... neurais artificiais

Mineração de Dados

aplicada a Gestão de Negócios.

Sumário

1- Inteligência Artificial

2- Introdução às Redes Neurais Artificiais

3- Modelos de Redes Neurais supervisionados e não supervisionados

4- Aplicações de Redes Neurais Artificiais

Page 3: Aula 2 Introdução –Redes Neurais - barbon.com.br · 2-Introdução às Redes Neurais Artificiais-Os primeiros trabalhos com RNA surgiram na década de 50; ... neurais artificiais

Mineração de Dados

aplicada a Gestão de Negócios.

1- Inteligência Artificial

Page 4: Aula 2 Introdução –Redes Neurais - barbon.com.br · 2-Introdução às Redes Neurais Artificiais-Os primeiros trabalhos com RNA surgiram na década de 50; ... neurais artificiais

Mineração de Dados

aplicada a Gestão de Negócios.

2- Introdução às Redes Neurais Artificiais

- Os primeiros trabalhos com RNA surgiram na década de 50;

- O tema RNA (ANN – Artificial Neural Network) se tornou um tema popular para pesquisa científica a partir de 1990;

- Exemplos de uso de RNA:- Exemplos de uso de RNA:1) Avaliação de imagens captadas por satélite;2) Classificação de padrões de escrita e fala;3) Reconhecimento de faces com visão computacional;4) Sistemas de controle e previsão financeira;5) Identificação de anomalias e patologias na área médicacom base em imagens;6) Controle automatizado de equipamentos eletrônicos.

Page 5: Aula 2 Introdução –Redes Neurais - barbon.com.br · 2-Introdução às Redes Neurais Artificiais-Os primeiros trabalhos com RNA surgiram na década de 50; ... neurais artificiais

Mineração de Dados

aplicada a Gestão de Negócios.

2- Introdução às Redes Neurais Artificiais

“Redes neurais artificiais são modelos computacionais inspiradosno sistema nervoso de seres vivos”

- Possuem capacidade de aquisição e manutenção do conhecimento;

- São caracterizados pela unidade de processamento chamada deneurônio;

- Cada unidade (neurônio) é ligado por meio das sinapses artificiais;

- Computacionalmente falando são representadas por matrizes evetores de pesos sinápticos;

Page 6: Aula 2 Introdução –Redes Neurais - barbon.com.br · 2-Introdução às Redes Neurais Artificiais-Os primeiros trabalhos com RNA surgiram na década de 50; ... neurais artificiais

Mineração de Dados

aplicada a Gestão de Negócios.

2- Introdução às Redes Neurais ArtificiaisPrincipais características:

a) Adaptação por experiência: Os pesos sinápticos são ajustados a partir da apresentação sucessiva de exemplos.

b) Capacidade de aprendizado: É possível extrair o relacionamento existente entre as diversas variáveis que compõem a aplicação.

c) Habilidade de generalização: Por meio do processo de treino, a rede é capaz de generalizar o comportamento aprendido para estimar uma solução, até então desconhecida.

d) Organização de dados: A rede é capaz de realizar uma organização interna visando o agrupamento de padrões e particularidades

e) Tolerância a falhas: Devido ao elevado número de interconexões entre osneurônios, a rede se torna um sistema tolerante a falhas quando sensivelmentecorrompido;

Page 7: Aula 2 Introdução –Redes Neurais - barbon.com.br · 2-Introdução às Redes Neurais Artificiais-Os primeiros trabalhos com RNA surgiram na década de 50; ... neurais artificiais

Mineração de Dados

aplicada a Gestão de Negócios.

2- Introdução às Redes Neurais Artificiais

Rede Neural Biológica / Neurônio

Page 8: Aula 2 Introdução –Redes Neurais - barbon.com.br · 2-Introdução às Redes Neurais Artificiais-Os primeiros trabalhos com RNA surgiram na década de 50; ... neurais artificiais

Mineração de Dados

aplicada a Gestão de Negócios.

2- Introdução às Redes Neurais Artificiais

Rede Neural Artificial

Andrew Ng's machine learning course

Page 9: Aula 2 Introdução –Redes Neurais - barbon.com.br · 2-Introdução às Redes Neurais Artificiais-Os primeiros trabalhos com RNA surgiram na década de 50; ... neurais artificiais

Mineração de Dados

aplicada a Gestão de Negócios.

2- Introdução às Redes Neurais Artificiais

Rede Neural Artificial

Fonte: Silva (2010)

Page 10: Aula 2 Introdução –Redes Neurais - barbon.com.br · 2-Introdução às Redes Neurais Artificiais-Os primeiros trabalhos com RNA surgiram na década de 50; ... neurais artificiais

Mineração de Dados

aplicada a Gestão de Negócios.

2- Introdução às Redes Neurais Artificiais

Componentes da Rede Neural Artificial:a) Sinais de entrada {x1, x2, ..., xn}

Sãos os sinais ou medidas externos que representam valores assumidos pelas variáveis da aplicação;b) Pesos sinápticos {wk1, wk2, ..., wkn}

São os valores que servirão para ponderar cada uma das

neurônio de McCulloch-Pitts (Haykin, 1994)

São os valores que servirão para ponderar cada uma das variáveis de entrada da rede, permitindo qualificar a relevância em relação as funcionalidades do neurônio;c) Combinador Linear (Junção de Somatórios - ∑ - sigma)

Também chamado de Função Soma, sua função é agregar os sinais de entrada produzindo um valor potencial de ativação.d) Limiar de ativação (θθθθ - theta)

É uma variável que identifica o patamar apropriado para o resultado produzido pelo combinador linear

Page 11: Aula 2 Introdução –Redes Neurais - barbon.com.br · 2-Introdução às Redes Neurais Artificiais-Os primeiros trabalhos com RNA surgiram na década de 50; ... neurais artificiais

Mineração de Dados

aplicada a Gestão de Negócios.

2- Introdução às Redes Neurais Artificiais

Componentes da Rede Neural Artificial:e) Potencial de ativação {un}

É o resultado produzido pelo avaliação do limiar de ativação e o combinador linear. Caso u ≥ θ, então o neurônio produz um potencial excitatório.

neurônio de McCulloch-Pitts (Haykin, 1994)

f) Função de ativação {g(.) ou ϕϕϕϕ(.) - varphi}

Seu objetivo é limitar a saída do neurônio dentro de um intervalo de valores assumidos pela arquitetura da rede.

g) Sinal de saída {yn}

Consiste no valor final produzido pelo neurônio em relação a um determinado conjunto de entrada

Page 12: Aula 2 Introdução –Redes Neurais - barbon.com.br · 2-Introdução às Redes Neurais Artificiais-Os primeiros trabalhos com RNA surgiram na década de 50; ... neurais artificiais

Mineração de Dados

aplicada a Gestão de Negócios.

2- Introdução às Redes Neurais Artificiais

−= ∑ θϕn

iixwy

neurônio de McCulloch-Pitts (Haykin, 1994)

−= ∑=

θϕi

iixwy

1

Page 13: Aula 2 Introdução –Redes Neurais - barbon.com.br · 2-Introdução às Redes Neurais Artificiais-Os primeiros trabalhos com RNA surgiram na década de 50; ... neurais artificiais

Mineração de Dados

aplicada a Gestão de Negócios.

3- Modelos de Redes Neurais supervisionadosPerceptron (Linear Perceptron)

- Soluciona problemas lineares;

Modelo com n entradas, um neurônio, um

bias e uma saída

Representação geométrica para o

problema

Fonte: Silva (2010)

Page 14: Aula 2 Introdução –Redes Neurais - barbon.com.br · 2-Introdução às Redes Neurais Artificiais-Os primeiros trabalhos com RNA surgiram na década de 50; ... neurais artificiais

Mineração de Dados

aplicada a Gestão de Negócios.

3- Modelos de Redes Neurais supervisionadosPerceptron (Linear Perceptron)

Fonte: Silva (2010)

Page 15: Aula 2 Introdução –Redes Neurais - barbon.com.br · 2-Introdução às Redes Neurais Artificiais-Os primeiros trabalhos com RNA surgiram na década de 50; ... neurais artificiais

Mineração de Dados

aplicada a Gestão de Negócios.

3- Modelos de Redes Neurais supervisionadosPerceptron Multicamadas (Multilayer Perceptron – MLP | Backpropagation)

-Soluciona problemas não lineares-Adequado para classificação de padrões (momentum)

Modelo com n entradas, duas camadas

escondidas com n neurônios e n saídas

Representação geométrica para os

problemas tratáveis

Fonte: Silva (2010)

Page 16: Aula 2 Introdução –Redes Neurais - barbon.com.br · 2-Introdução às Redes Neurais Artificiais-Os primeiros trabalhos com RNA surgiram na década de 50; ... neurais artificiais

Mineração de Dados

aplicada a Gestão de Negócios.

3- Modelos de Redes Neurais supervisionadosFunção de Base Radial (Radial Basis Function - RBF)

-Solução de problemas não lineares;-Adequado para predição e classificação de padrão.

Modelo com n entradas, uma camada

intermediária com n neurônios e n saídas

Representação geométrica para os

problemas tratáveis

Fonte: Silva (2010)

Page 17: Aula 2 Introdução –Redes Neurais - barbon.com.br · 2-Introdução às Redes Neurais Artificiais-Os primeiros trabalhos com RNA surgiram na década de 50; ... neurais artificiais

Mineração de Dados

aplicada a Gestão de Negócios.

3- Modelos de Redes Neurais não supervisionadosMapa de Kohonen

-Treinamento competitivo (auto-organizável)- Capacidade de detectar similares, regularidades, correlações e agrupamentos (clusters

Modelo com n entradas, uma camada

intermediária com n neurônios e n saídas

Representação geométrica para os

problemas tratáveis

Page 18: Aula 2 Introdução –Redes Neurais - barbon.com.br · 2-Introdução às Redes Neurais Artificiais-Os primeiros trabalhos com RNA surgiram na década de 50; ... neurais artificiais

Mineração de Dados

aplicada a Gestão de Negócios.

4- Aplicações de Redes Neurais Artificiais 4.1 - Classificação de características relevantes para cerveja (2011)

-Redes MLP e RBF com 70 variedades de cerveja;-Camada de Entrada:{clarity, color, pH, bitterness , extract in original, apparent extract, real extract, concentration of alcohol in beer, real degree of fermentation, apparent fermentability, content of carbon dioxide in beer, beer acidity }-Camada de Saída:{“Good” e “Non Good”} -Camada de Saída:{“Good” e “Non Good”} - Obtiveram 100% de acurácia e vantagens do aprendizado contínuo.- B. Debska, B. Guzowska-Swider / Analytica Chimica Acta 705 (2011) 283–291

Page 19: Aula 2 Introdução –Redes Neurais - barbon.com.br · 2-Introdução às Redes Neurais Artificiais-Os primeiros trabalhos com RNA surgiram na década de 50; ... neurais artificiais

Mineração de Dados

aplicada a Gestão de Negócios.

4- Aplicações de Redes Neurais Artificiais 4.2 – Previsão de Tendência de Mercado (2010)

-Redes Recorrente de Elman;-Camada de Entrada com cinco entradas: Preço de Abertura, Preço Máximo, Preço Mínimo, Preço de Fechamento e Volume Comercializado;-Camada Escondida com 10 neurônios;-Camada de Saída: Um neurônio que representa o dia de fechamento para o dia futuro. Avaliação das ações do Grupo Pão de Açucar.dia futuro. Avaliação das ações do Grupo Pão de Açucar.

Page 20: Aula 2 Introdução –Redes Neurais - barbon.com.br · 2-Introdução às Redes Neurais Artificiais-Os primeiros trabalhos com RNA surgiram na década de 50; ... neurais artificiais

Mineração de Dados

aplicada a Gestão de Negócios.

4- Aplicações de Redes Neurais Artificiais 4.3 – Previsão de vendas e tempo de prateleira (2006)

- Artigo: “Time series sales forecasting for short shelf-life food products based on artificial neural networks and evolutionary computing” (P. Doganis).- Rede Neural RBF com abordagem de Algoritmos Genéticos.- Parâmetros: Tamanho da População, Número Máximo de Gerações, Número Máximo de Gerações com Melhoria, Probabilidade de Cruzamento, Probabilidade de Mutação, Limite Mínimo do Grupo e Limite Máximo do Probabilidade de Mutação, Limite Mínimo do Grupo e Limite Máximo do Grupo.

Page 21: Aula 2 Introdução –Redes Neurais - barbon.com.br · 2-Introdução às Redes Neurais Artificiais-Os primeiros trabalhos com RNA surgiram na década de 50; ... neurais artificiais

Mineração de Dados

aplicada a Gestão de Negócios.

4- Aplicações de Redes Neurais Artificiais 4.3 – Previsão de vendas e tempo de prateleira (2006)

Page 22: Aula 2 Introdução –Redes Neurais - barbon.com.br · 2-Introdução às Redes Neurais Artificiais-Os primeiros trabalhos com RNA surgiram na década de 50; ... neurais artificiais

Mineração de Dados

aplicada a Gestão de Negócios.

4- Aplicações de Redes Neurais Artificiais 4.4 – Previsão de Tendência de Mercado (2008)

- Artigo: “RBF Neural Network and ANFIS-Based Short-Term Load Forecasting Approach in Real-Time Price Environment” (Yun Z. Quan z.)- Rede Neural RBF;- As informações fornecidas como entrada eram 12, relacionados a carga energética e o período utilizado para amostragem.- A saída era a previsão de consumo e assim custo associado.

Page 23: Aula 2 Introdução –Redes Neurais - barbon.com.br · 2-Introdução às Redes Neurais Artificiais-Os primeiros trabalhos com RNA surgiram na década de 50; ... neurais artificiais

Mineração de Dados

aplicada a Gestão de Negócios.

Referências:Livro:Silva, IN da, Danilo Hernane Spatti, and Rogério Andrade Flauzino. "Redes neurais artificiais para engenharia e ciências aplicadas." São Paulo: Artliber (2010).

Artigos:

“Application of linear/non-linear classification algorithms in discrimination of pork “Application of linear/non-linear classification algorithms in discrimination of pork storage time using Fourier transform near infrared (FT-NIR) spectroscopy” - Chen et al. / LWT - Food Science and Technology 44 (2011) 2053e2058

Doganis, Philip, et al. "Time series sales forecasting for short shelf-life food products based on artificial neural networks and evolutionary computing." Journal of Food Engineering 75.2 (2006): 196-204.

Yun, Zhang, et al. "RBF neural network and ANFIS-based short-term load forecasting approach in real-time price environment." Power Systems, IEEE Transactions on 23.3 (2008): 853-858.