Técnicas de Aprendizado Ativo para Reconhecimento de Padrões · T ecnicas de Aprendizado Ativo para Reconhecimento de Padr~oes Priscila Tiemi Maeda Saito Orientador: Prof. Dr. Alexandre

Técnicas de Aprendizado Ativopara Reconhecimento de Padrões

Priscila Tiemi Maeda SaitoOrientador: Prof. Dr. Alexandre Xavier Falcão

Co-Orientador: Prof. Dr. Pedro Jussieu de Rezende

Universidade Estadual de Campinas (UNICAMP)Instituto de Computação (IC), Campinas, Brasil

06 de dezembro de 2011

IC (UNICAMP) WMACV2011 [email protected] 1 / 16

Roteiro

1 Introdução

2 Abordagem Proposta

3 Experimentos

4 Resultados

5 Conclusão


Introdução

Aumento do volume de informações em grandes bases de dados

demandam abordagens para processamento, recuperação e análise

Desenvolvimento de um sistema de reconhecimento de padrõesprocesso de anotação dos dados

Problemasinviabilidade de anotações manuais em grandes bases de imagens

Aprendizado de máquina e interação humano-computadoraspecto fundamental explorado neste trabalho


Motivação

Anotação prévia de dados é um processo inviável

grande quantidade de amostras para o treinamento

Métodos da literatura utilizam anotação durante o aprendizado

área de recuperação de informação para classificação binária

classificação de múltiplas categorias/classes

classificação de todas as imagens da base, ordenação e poda

escolha das imagens mais informativas para o aprendizado


Objetivo

técnicas de aprendizado ativo com anotação durante o aprendizado

técnicas de análise e ordenação dos dados

selecionar amostras mais informativas para projetar o classificador

Desafio

Minimizar as intervenções do especialista no processo de anotação

Maximizar a acurácia do classificador


Abordagem Clássica

Extração deDescritores

Análise eOrdenação

Marcaçãode Classes

ImagensAnotadas Aprendizado

Classificador

Usuário

Base deImagens

Base deDescritores

Seletor deImagens

ok?sn


Base deImagens

Base deDescritores

ciclo de realimentação

Seletor de Imagens

BaseAnotadas

Base NãoAnotadas


ClassificadorSupervisionado

Usuário

Seletor deImagens

Base deAnotadas

Base de NãoAnotadas


ImagensRetornadas

ImagensRotuladas

Imagens NãoRotuladas

Ciclo de Realimentação

Análise eOrdenaçãoClassificação

Ordenação

Poda

Seletor de imagens a cada iteração

ineficiente e/ou inviável para grandes bases de dados


Abordagem Clássica

Grandes bases de dados dificultam uso de abordagens clássicas

usuário separa determinada quantidade de imagens

seletor consiste de classificação, ordenação e poda a cada iteração

Acurácias elevadas requerem grande quantidade de imagensanotadas

inviabilidade do ponto de vista do usuário


Abordagem Proposta

Quantas amostras devem ser utilizadas no processo deanotação?

Quais amostras devem ser utilizadas?

Selecionar um número reduzido de imagens mais representativas para oaprendizado do classificador a cada iteração


Abordagem Proposta





Classificador

Usuário

Base deImagens

Base deDescritores

Seletor deImagens

ok?sn


Base deImagens

Base deDescritores


Seletor de Imagens

BaseAnotadas

Base NãoAnotadas



Usuário

Seletor deImagens

Base deAnotadas



ImagensRetornadas

ImagensRotuladas



Análisee Ordenação

Classificaçãoe Poda

Análise e ordenação uma única vez


eficiente para grandes bases de dados


Método Proposto: Cluster+MST+OPF





OPF

Usuário

Base deImagens

Base deDescritores

Seletor deImagens

ok?sn


Base deImagens

Base deDescritores


Seletor de Imagens

BaseAnotadas

Base NãoAnotadas



Usuário

Seletor deImagens

Base deAnotadas



ImagensRetornadas

ImagensRotuladas



Cluster+MST e Ordenação

Classificaçãoe Poda

Análise e ordenação uma única vez


eficiente para grandes bases de dados



Análise e ordenação

Realizar o agrupamento do conjunto de amostras não rotuladas

Computar a MST do conjunto de amostras de fronteira entre clusters

Seletor de imagens

Exibir as imagens que são vértices das c − 1 maiores arestasimagens de classes distintas segundo a classificação corrente

0 1

4

35

2

19

33

18

10

516

21 11

14

6

0 1

4

35

2

(18, 2)

(5, 2)

(0, 1)

(11, 1)(6, 2)

(16, 1)

0 1

4

35

2

(18, 2)

(5, 2)

(0, )1

(11, 1)(6, 2)

(16, )1

0 1

4

35

2

(18, 2)

(5, 2)

(0, 1)

(11, 1)(6, 2)

(16, 1)

0 1

4

35

2

(18, 2)

(5, 2)

(0, 1)

(11, )1(6, 2)

(16, )1

0 1

4

35

2

(18, 2)

(5, 2)

(0, 1)

(11, 1)(6, 2)

(16, 1)

0 1

4

35

2

(18, 2)

(5, 2)

(0, 1)

(11, 1)(6, )2

(16, )1

0 1

4

35

2

(18, 2)

(5, 2)

(0, 1)

(11, 1)(6, )2

(16, )1

Grafo Original(amostras de fronteira)






Seletor de imagens


0 1

4

35

2

19

33

18

10

516

21 11

14

6

0 1

4

35

2

18

516

116

0 1

4

35

2

(18, 2)

(5, 2)

(0, 1)

(11, 1)(6, 2)

(16, 1)

0 1

4

35

2

(18, 2)

(5, 2)

(0, )1

(11, 1)(6, 2)

(16, )1

0 1

4

35

2

(18, 2)

(5, 2)

(0, 1)

(11, 1)(6, 2)

(16, 1)

0 1

4

35

2

(18, 2)

(5, 2)

(0, 1)

(11, )1(6, 2)

(16, )1

0 1

4

35

2

(18, 2)

(5, 2)

(0, 1)

(11, 1)(6, 2)

(16, 1)

0 1

4

35

2

(18, 2)

(5, 2)

(0, 1)

(11, 1)(6, )2

(16, )1

0 1

4

35

2

(18, 2)

(5, 2)

(0, 1)

(11, 1)(6, )2

(16, )1


MST(amostras de fronteira)






Seletor de imagens


0 1

4

35

2

19

33

18

10

516

21 11

14

6

0 1

4

35

2

18

516

116

0 1

4

35

2

0 1

4

35

2

(18, 2)

(5, 2)

(0, 1)

(11, 1)(6, 2)

(16, 1)

0 1

4

35

2

(18, 2)

(5, 2)

(0, )1

(11, 1)(6, 2)

(16, )1

0 1

4

35

2

(18, 2)

(5, 2)

(0, 1)

(11, 1)(6, 2)

(16, 1)

0 1

4

35

2

(18, 2)

(5, 2)

(0, 1)

(11, )1(6, 2)

(16, )1

0 1

4

35

2

(18, 2)

(5, 2)

(0, 1)

(11, 1)(6, 2)

(16, 1)

0 1

4

35

2

(18, 2)

(5, 2)

(0, 1)

(11, 1)(6, )2

(16, )1

0 1

4

35

2

(18, 2)

(5, 2)

(0, 1)

(11, 1)(6, )2

(16, )1

(18, ?)

(6, ?)(11, ?)

(0, ?) (16, ?)

(5, ?)








Seletor de imagens


0 1

4

35

2

19

33

18

10

516

21 11

14

6

0 1

4

35

2

18

516

116

0 1

4

35

2

0 1

4

35

2

(18, 2)

(5, 2)

(0, 1)

(11, 1)(6, 2)

(16, 1)

0 1

4

35

2

(18, 2)

(5, 2)

(0, )1

(11, 1)(6, 2)

(16, )1

0 1

4

35

2

(18, 2)

(5, 2)

(0, 1)

(11, 1)(6, 2)

(16, 1)

0 1

4

35

2

(18, 2)

(5, 2)

(0, 1)

(11, )1(6, 2)

(16, )1

0 1

4

35

2

(18, 2)

(5, 2)

(0, 1)

(11, 1)(6, 2)

(16, 1)

0 1

4

35

2

(18, 2)

(5, 2)

(0, 1)

(11, 1)(6, )2

(16, )1

0 1

4

35

2

(18, 2)

(5, 2)

(0, 1)

(11, 1)(6, )2

(16, )1

(18, )1

(6, )2(11, ?)

(0, ?) (16, ?)

(5, ?)








Seletor de imagens


0 1

4

35

2

19

33

18

10

516

21 11

14

6

0 1

4

35

2

18

516

116

0 1

4

35

2

0 1

4

35

2

(18, 2)

(5, 2)

(0, 1)

(11, 1)(6, 2)

(16, 1)

0 1

4

35

2

(18, 2)

(5, 2)

(0, )1

(11, 1)(6, 2)

(16, )1

0 1

4

35

2

(18, 2)

(5, 2)

(0, 1)

(11, 1)(6, 2)

(16, 1)

0 1

4

35

2

(18, 2)

(5, 2)

(0, 1)

(11, )1(6, 2)

(16, )1

0 1

4

35

2

(18, 2)

(5, 2)

(0, 1)

(11, 1)(6, 2)

(16, 1)

0 1

4

35

2

(18, 2)

(5, 2)

(0, 1)

(11, 1)(6, )2

(16, )1

0 1

4

35

2

(18, 2)

(5, 2)

(0, 1)

(11, 1)(6, )2

(16, )1

(18, 1)

(6, 2)(11, ?)

(0, ?) (16, ?)

(5, ?)








Seletor de imagens


0 1

4

35

2

19

33

18

10

516

21 11

14

6

0 1

4

35

2

18

516

116

0 1

4

35

2

0 1

4

35

2

(18, 2)

(5, 2)

(0, 1)

(11, 1)(6, 2)

(16, 1)

0 1

4

35

2

(18, 2)

(5, 2)

(0, )1

(11, 1)(6, 2)

(16, )1

0 1

4

35

2

(18, 2)

(5, 2)

(0, 1)

(11, 1)(6, 2)

(16, 1)

0 1

4

35

2

(18, 2)

(5, 2)

(0, 1)

(11, )1(6, 2)

(16, )1

0 1

4

35

2

(18, 2)

(5, 2)

(0, 1)

(11, 1)(6, 2)

(16, 1)

0 1

4

35

2

(18, 2)

(5, 2)

(0, 1)

(11, 1)(6, )2

(16, )1

0 1

4

35

2

(18, 2)

(5, 2)

(0, 1)

(11, 1)(6, )2

(16, )1

(18, 1)

(6, 2)(11, ?)

(0, )1 (16, )1

(5, ?)








Seletor de imagens


0 1

4

35

2

19

33

18

10

516

21 11

14

6

0 1

4

35

2

18

516

116

0 1

4

35

2

0 1

4

35

2

(18, 2)

(5, 2)

(0, 1)

(11, 1)(6, 2)

(16, 1)

0 1

4

35

2

(18, 2)

(5, 2)

(0, )1

(11, 1)(6, 2)

(16, )1

0 1

4

35

2

(18, 2)

(5, 2)

(0, 1)

(11, 1)(6, 2)

(16, 1)

0 1

4

35

2

(18, 2)

(5, 2)

(0, 1)

(11, )1(6, 2)

(16, )1

0 1

4

35

2

(18, 2)

(5, 2)

(0, 1)

(11, 1)(6, 2)

(16, 1)

0 1

4

35

2

(18, 2)

(5, 2)

(0, 1)

(11, 1)(6, )2

(16, )1

0 1

4

35

2

(18, 2)

(5, 2)

(0, 1)

(11, 1)(6, )2

(16, )1

(18, 1)

(6, 2)(11, ?)

(0, 1) (16, 1)

(5, ?)








Seletor de imagens


0 1

4

35

2

19

33

18

10

516

21 11

14

6

0 1

4

35

2

18

516

116

0 1

4

35

2

0 1

4

35

2

(18, 2)

(5, 2)

(0, 1)

(11, 1)(6, 2)

(16, 1)

0 1

4

35

2

(18, 2)

(5, 2)

(0, )1

(11, 1)(6, 2)

(16, )1

0 1

4

35

2

(18, 2)

(5, 2)

(0, 1)

(11, 1)(6, 2)

(16, 1)

0 1

4

35

2

(18, 2)

(5, 2)

(0, 1)

(11, )1(6, 2)

(16, )1

0 1

4

35

2

(18, 2)

(5, 2)

(0, 1)

(11, 1)(6, 2)

(16, 1)

0 1

4

35

2

(18, 2)

(5, 2)

(0, 1)

(11, 1)(6, )2

(16, )1

0 1

4

35

2

(18, 2)

(5, 2)

(0, 1)

(11, 1)(6, )2

(16, )1

(18, 1)

(6, 2)(11, )1

(0, 1) (16, )1

(5, ?)








Seletor de imagens


0 1

4

35

2

19

33

18

10

516

21 11

14

6

0 1

4

35

2

18

516

116

0 1

4

35

2

0 1

4

35

2

(18, 2)

(5, 2)

(0, 1)

(11, 1)(6, 2)

(16, 1)

0 1

4

35

2

(18, 2)

(5, 2)

(0, )1

(11, 1)(6, 2)

(16, )1

0 1

4

35

2

(18, 2)

(5, 2)

(0, 1)

(11, 1)(6, 2)

(16, 1)

0 1

4

35

2

(18, 2)

(5, 2)

(0, 1)

(11, )1(6, 2)

(16, )1

0 1

4

35

2

(18, 2)

(5, 2)

(0, 1)

(11, 1)(6, 2)

(16, 1)

0 1

4

35

2

(18, 2)

(5, 2)

(0, 1)

(11, 1)(6, )2

(16, )1

0 1

4

35

2

(18, 2)

(5, 2)

(0, 1)

(11, 1)(6, )2

(16, )1

(18, 1)

(6, 2)(11, 1)

(0, 1) (16, 1)

(5, ?)








Seletor de imagens


0 1

4

35

2

19

33

18

10

516

21 11

14

6

0 1

4

35

2

18

516

116

0 1

4

35

2

0 1

4

35

2

(18, 2)

(5, 2)

(0, 1)

(11, 1)(6, 2)

(16, 1)

0 1

4

35

2

(18, 2)

(5, 2)

(0, )1

(11, 1)(6, 2)

(16, )1

0 1

4

35

2

(18, 2)

(5, 2)

(0, 1)

(11, 1)(6, 2)

(16, 1)

0 1

4

35

2

(18, 2)

(5, 2)

(0, 1)

(11, )1(6, 2)

(16, )1

0 1

4

35

2

(18, 2)

(5, 2)

(0, 1)

(11, 1)(6, 2)

(16, 1)

0 1

4

35

2

(18, 2)

(5, 2)

(0, 1)

(11, 1)(6, )2

(16, )1

0 1

4

35

2

(18, 2)

(5, 2)

(0, 1)

(11, 1)(6, )2

(16, )1

(18, 1)

(6, )2(11, 1)

(0, 1) (16, )1

(5, ?)








Seletor de imagens


0 1

4

35

2

19

33

18

10

516

21 11

14

6

0 1

4

35

2

18

516

116

0 1

4

35

2

0 1

4

35

2

(18, 2)

(5, 2)

(0, 1)

(11, 1)(6, 2)

(16, 1)

0 1

4

35

2

(18, 2)

(5, 2)

(0, )1

(11, 1)(6, 2)

(16, )1

0 1

4

35

2

(18, 2)

(5, 2)

(0, 1)

(11, 1)(6, 2)

(16, 1)

0 1

4

35

2

(18, 2)

(5, 2)

(0, 1)

(11, )1(6, 2)

(16, )1

0 1

4

35

2

(18, 2)

(5, 2)

(0, 1)

(11, 1)(6, 2)

(16, 1)

0 1

4

35

2

(18, 2)

(5, 2)

(0, 1)

(11, 1)(6, )2

(16, )1

0 1

4

35

2

(18, 2)

(5, 2)

(0, 1)

(11, 1)(6, )2

(16, )1

(18, 1)

(6, 2)(11, 1)

(0, 1) (16, 1)

(5, ?)








Seletor de imagens


0 1

4

35

2

19

33

18

10

516

21 11

14

6

0 1

4

35

2

18

516

116

0 1

4

35

2

0 1

4

35

2

(18, 2)

(5, 2)

(0, 1)

(11, 1)(6, 2)

(16, 1)

0 1

4

35

2

(18, 2)

(5, 2)

(0, )1

(11, 1)(6, 2)

(16, )1

0 1

4

35

2

(18, 2)

(5, 2)

(0, 1)

(11, 1)(6, 2)

(16, 1)

0 1

4

35

2

(18, 2)

(5, 2)

(0, 1)

(11, )1(6, 2)

(16, )1

0 1

4

35

2

(18, 2)

(5, 2)

(0, 1)

(11, 1)(6, 2)

(16, 1)

0 1

4

35

2

(18, 2)

(5, 2)

(0, 1)

(11, 1)(6, )2

(16, )1

0 1

4

35

2

(18, 2)

(5, 2)

(0, 1)

(11, 1)(6, )2

(16, )1

(18, 1)

(6, 2)(11, 1)

(0, 1) (16, )1

(5, )2








Seletor de imagens


0 1

4

35

2

19

33

18

10

516

21 11

14

6

0 1

4

35

2

18

516

116

0 1

4

35

2

0 1

4

35

2

(18, 2)

(5, 2)

(0, 1)

(11, 1)(6, 2)

(16, 1)

0 1

4

35

2

(18, 2)

(5, 2)

(0, )1

(11, 1)(6, 2)

(16, )1

0 1

4

35

2

(18, 2)

(5, 2)

(0, 1)

(11, 1)(6, 2)

(16, 1)

0 1

4

35

2

(18, 2)

(5, 2)

(0, 1)

(11, )1(6, 2)

(16, )1

0 1

4

35

2

(18, 2)

(5, 2)

(0, 1)

(11, 1)(6, 2)

(16, 1)

0 1

4

35

2

(18, 2)

(5, 2)

(0, 1)

(11, 1)(6, )2

(16, )1

0 1

4

35

2

(18, 2)

(5, 2)

(0, 1)

(11, 1)(6, )2

(16, )1

(18, 1)

(6, 2)(11, 1)

(0, 1) (16, 1)

(5, 2)




Experimentos

Base de Imagens:

Faces

1864 imagens

54 classes

162 atributos

≈ 80% para conjunto de dados não rotulados (1469 imagens)

≈ 20% para conjunto de teste (395 imagens)


Resultados Preliminares

Base Faces

acurácias maiores em relação às do método tradicional

redução significativa no número de amostras anotadas


Conclusão

Método Cluster+MST+OPF:

técnicas de agrupamento (menos iterações)

aprendizado ativo (menos interações)

anotações humanas (menos iterações e menos interações)

lida com grandes bases de dados

fornece grau de acurácia elevado


Questões/Discussões


Técnicas de Aprendizado Ativopara Reconhecimento de Padrões

Priscila Tiemi Maeda SaitoOrientador: Prof. Dr. Alexandre Xavier Falcão

Co-Orientador: Prof. Dr. Pedro Jussieu de Rezende

Universidade Estadual de Campinas (UNICAMP)Instituto de Computação (IC), Campinas, Brasil

06 de dezembro de 2011


IntroduçãoAbordagem PropostaExperimentosResultadosConclusão

Documents

Técnicas de Aprendizado Ativo para Reconhecimento de Padrões · T ecnicas de Aprendizado Ativo para Reconhecimento de Padr~oes Priscila Tiemi Maeda Saito Orientador: Prof. Dr. Alexandre