Embed Size (px)
Citation preview
2. Transformări asupra imaginilor
2.1. Transformări unitare. Descompunerea SVD
Fie f o imagine reprezentată printr-o matrice - dimensională. Scopul este de a reprezenta prin interme-
diul unei matrice cu mai puțin de elemente. Pentru aceasta, vor fi determinate matricele U și V astfel încât
să fie matrice diagonală prin intermediul descompunerii SVD (Singular Value Decomposition – descompunerea
în valori singulare). (Petrou, 2010)
În continuare sunt introduse câteva elemente de algebră liniară pentru obținerea descompunerii SVD și reprezen-
tarea unei imagini .
Definiţia 1. Fie o matrice. Numărul se numeşte valoare proprie a lui dacă există vec-
tor nenul astfel încât
( )
Vectorul se numeşte vector propriu asociat valorii proprii (acesta nu este unic, în sensul că unei valori proprii
îi corespund o infinitatea de vectori cu proprietatea (2.1)). Mulţimea valorilor proprii asociate matricei , ( ), se nu-
meşte spectrul lui .
Definiţia 2. Fie o matrice pătratică şi o valoare proprie a matricei . Vectorii şi se numesc
vector propriu la dreapta (drept), respectiv vector propriu la stânga (stâng) asociaţi valorii proprii dacă
( )
Fie valoare proprie a matricei . Atunci este soluţie a ecuației caracteristice
( ) ( ) ( )
unde ( ) este polinom de grad în şi se numeşte polinom caracteristic. Pe baza relaţiei (2.3) rezultă în particular că
are valori proprii, nu neapărat distincte.
Proprietăţi
1. Fie valoare proprie a matricei şi un vector propriu asociat lui . Atunci
2. ( ) ∏ ( ) { }
3. ( ) ∑ ( ) { }
4. ( ) ( ), ( ) ( )
Pe baza proprietăţii (2) rezultă că este singulară dacă şi numai dacă cel puţin o valoare proprie este nulă.
Definiţia 3. Fie o matrice pătratică. Raza spectrului matricei este definită prin
( ) ( )
| | ( )
2 Tehnici de procesarea imaginilor
Definiţia 4. O matrice se numeşte hermitiană sau auto-adjunctă dacă
, adică .
Matricea se numeşte unitară dacă
respectiv normală dacă
Observaţie. În situaţia în care , este unitară dacă , adică , se nu-
meşte matrice ortogonală.
Definiţia 5. O matrice se numește diagonalizabilă dacă există matricele și și matricea diagonală astfel
încât
Definiţia 6. Fie , nesingulară. Matricele şi sunt similare şi transformarea
se numeşte transformare similară. Matricele şi se numesc unitar respectiv ortogonal similare dacă este unita-
ră, respectiv ortogonală.
Proprietatea 1. Descompunerea Schur Fie . Atunci există o matrice unitară astfel încît să aibă loc
relaţia
unde este o matrice superior triunghiulară astfel încât
( ) { }
Observaţii
1) Dacă matricea este hermitiană, atunci este obţinută relaţia
{ } ( )
deci este unitar similară cu o matrice diagonală cu elemente reale (în acest caz, A se numeşte matrice normală).
Într-adevăr, deoarece ,
( )
Dar este matrice superior triunghiulară şi, fiind hermitiană, rezultă
{ }
În plus, deoarece este matrice hermitiană şi diagonală, , deci valorile proprii ale matricei
hermitiene sunt numere reale. În particular, dacă matricea este cu numere reale şi este simetrică, rezultă că valorile
proprii ale lui sunt numere reale.
Rezultă că o matrice normală este diagonalizabilă.
Pe baza relaţiei (2.5) rezultă în continuare că şi, dacă [ ] este reprezentarea matricei uni-
tare prin intermediul vectorilor coloană, este obţinută relaţia
Reprezentarea și caracterizarea imaginilor 3
( )
deci este matrice cu coloane un set de vectori proprii ai matricei . În plus, deoarece este matrice unitară, coloanele
lui sunt un set de vectori ortogonali, deci o bază ortogonală a spaţiului .
2) Dacă matricea este hermitiană, . Obţinem
∑
( )
unde [ ] este matricea unitară şi ( ) { }. Relaţia (2.7) este referită drept descompunerea spec-
trală a matricei .
Dacă matricea A este cu elemente numere reale și simetrică, rezultă
∑
( )
unde [ ] este matricea ortogonală cu coloane un set de vectori proprii ortogonali ai matricei şi ( )
{ }.
Proprietatea 2. Descompunerea SVD. Fie . Există matricele unitare şi V astfel în-
cât
{ } ( )
unde ( ) .
Relaţia (2.9) este referită drept descompunerea SVD a matricei (Singular Value Decomposition), iar valorile
(notate şi ( )) se numesc valorile singulare ale lui .
Observaţii
1) ( ) √ ( ) ( )
Într-adevăr, deoarece şi rezultă
∑ ∑ ∑
( ∑ ) ∑ deoarece ∑ ∑.
În continuare,
∑ ∑ ∑
Dar ( ∑ ) (∑ ), adică ∑ şi ∑ au aceleaşi valori proprii. Într-adevăr, dacă ( ) este o pe-
reche (valoare proprie, vector propriu) corespunzătoare lui ∑ , adică ∑ , atunci
( ∑ ) ∑
deci ( ) este o pereche (valoare proprie, vector propriu) a matricei ∑ . Obţinem deci
( ) ( ∑
) (∑ ) ( ( ))
2) este matrice hermitiană ( ) având valorile proprii , atunci valorile singulare ale
lui coincid cu modulul valorilor proprii ale lui . Într-adevăr, deoarece , obţinem din (2.10)
( ) √ ( )
4 Tehnici de procesarea imaginilor
Dacă ( ) este o pereche (valoare proprie, vector propriu) a matricei , atunci ( ) este o pereche (valoare
proprie, vector propriu) a matricei . Într-adevăr, deoarece
și obţinem
( ) √ ( ) √
| |, pentru .
În plus, dacă , atunci ( ) , nucleul lui - ( ) este gene-
rat de vectorii coloană ai matricei { }, unde [ ] şi ( ) { | }
(Quarteroni, Sacco, Saleri, 2000).
Observație
În situația în care (funcție imagine) există matricele ortogonale şi astfel încât
{ } ( )
unde ( ) .
În continuare, pentru obținerea descompunerii și reprezentării în termenii SVD a unei imagini f sunt utilizate rela-
țiile (2.8) și (2.11).
Observație
Orice matrice imagine poate fi diagonalizată astfel: din descompunerea Schur a unei matrice simetrice de forma
rezultă că există o transformare ortogonală astfel încât
(
)
unde și .
Evident, este matrice cu coloane un set de vectori ortogonali corespunzătoare valorilor proprii
ale matricei simetrice de forma (conform relației (2.10)).
Fie , de asemenea ortogonală:
⏟
(
) ( )
și ( ),
și .
[
] [ ]
( )
Reprezentarea și caracterizarea imaginilor 5
[ ] ⏟
[
] [
] [
]
(
)
( )
Evident, din (2.12) și (2.14) rezultă:
( )
Pe baza relației (2.13) obținem , deci
adică este ortogonală.
Din (2.15) obținem
(
)
, deoarece
(
)
.
Obținem
(
)
( )
Relația (2.16) are ca semnificație faptul că există matricea
cu , deci și este ortogona-
lă.
|
|
Rezultă
( )
unde și sunt matrice ortogonale din .
Exemplu
În figura Fig. 2.1.d este prezentată varianta unei imagini (Fig. 2.1.a) în reprezentarea (2.17), iar în figurile Fig.
2.1.b și Fig. 2.1.c sunt prezentate aproximări ale lui în reprezentarea în care sunt utilizate 30%, respectiv 5% din cele
mai informative caracteristici din descompunerea (2.17). Evident, imaginile din figurile Fig. 2.1.a și Fig. 2.1.d sunt identi-
ce.
Fie procentul de compresie. Aproximarea imaginii f prin utilizarea a (100-p)% din cele mai informative caracte-
ristici din reprezentarea (2.17) este
, unde
[
] , ;
liniile lui corespund ordinii ;
este formată cu primele k linii din ;
.
6 Tehnici de procesarea imaginilor
a
b
c
d
Fig. 2.1 Fotografie, originală, în descompunerea (2.17) și (2.17) cu compresie
Fie o imagine . Prin aplicarea relației (2.11) rezultă că există , ortogonale cu
, unde
( )
{ }
Dacă : (
)
altfel
(
)
Deoarece și obținem
|
|
( )
și ( ) ( )
Pe baza relațiilor (2.18) și (2.19) obținem
Reprezentarea și caracterizarea imaginilor 7
⏟
⏟
( )
și ⏟
⏟
( )
Obținem, evident, că și sunt matrice diagonale.
Presupunem în continuare că :
(
)
(
)
(
)
{
}
(
)
(
)
(
)
{
⏟
}
Evident, dacă atunci
{
⏟
}, p=M și {
}
Fie . Evident este simetrică și din (2.20) rezultă
( )
unde este ortogonală și este matrice diagonală.
Cu alte cuvinte, (2.22) este descompunerea spectrală a lui , unde este matricea ortogonală cu coloane un set de
vectori proprii ai lui și este matricea diagonală a valorilor proprii ale lui .
În mod similar, (2.21) corespunde descompunerii spectrale a matricei , unde este matrice ortogonală
cu coloane un set de vectori proprii ortogonali ai lui și este matricea diagonală a valorilor proprii ale lui .
Cu , și astfel specificați obținem reprezentarea imaginii :
{ }
[ ], [ ]
Presupunem în continuare că . Obținem
8 Tehnici de procesarea imaginilor
[ ] (
)
[
]
[ ]
[
]
∑
Dacă obținem, în mod similar,
∑
deci
∑
( )
Presupunem în continuare că și sunt cu coloanele corespunzătoare ordinii descrescătoare a valorilor proprii
; deoarece sunt numere reale pozitive, este ordinea descrescătoare a valorilor . Fie
( este numărul valorilor singulare nenule). În aceste condiții reprezentarea
SVD a imaginii este realizată prin
∑
( )
Pentru fiecare , se numește imagine proprie a imaginii . În această situație coloanele matricelor și
sunt ordonate conform ordinii descrescătoare a valorilor .
Aproximarea unei imagini se poate face prin utilizarea a termeni din (2.25):
∑
Eroarea de aproximare a lui prin rezultă din schema de construcție-reconstrucție liniară Karhunen-Loève
(vezi §2.4) astfel:
∑
( )
Exemplu
În figura Fig. 2.2.d este prezentată varianta unei imagini (figura Fig. 2.2.a) în reprezentarea (2.25), iar în figuri-
le Fig. 2.2.b și Fig. 2.2.c sunt prezentate aproximări ale lui f de tipul (2.25), dar în care sunt utilizate 20%, respectiv 5%
din cele mai informative imagini proprii ale lui . Evident, imaginile din figurile Fig. 2.2.a și Fig. 2.2.d sunt identice.
Reprezentarea și caracterizarea imaginilor 9
a
b
c
d
Fig. 2.2 Fotografie, originală, în descompunere SVD și SVD cu compresie/reconstrucție
2.2. Transformata Fourier în caz discret (TFD)
Definiţia 7. Fie n un număr natural şi o funcţie periodică, de perioadă . Transformata Fourier a lui în
domeniul de frecvențe în caz finit este definită prin:
∑ {
}
∑
( )
unde {
}.
Transformata Fourier inversă este definită prin:
∑ {
}
∑
( )
Relaţia (2.28) rezultă astfel:
∑
∑
(∑
)
∑
(∑ ( )
)
Deoarece
∑ ( )
{
( )
și , rezultă
10 Tehnici de procesarea imaginilor
(∑ ( )
) {
∑
∑
În Anexa 2 sunt prezentate și demonstrate principalele proprietăți ale TFD unidimensionale și o modalitate de
calcul rapid al TFD (un algoritm de tip FFT – Fast Fourier Transform).
Vom presupune în continuare indexarea matricelor de la 0. În cazul bidimensional, transformata Fourier discretă
este o aplicaţie care operează asupra unei matrice cu elemente complexe, de dimensiune , rezultând o matrice
cu aceleaşi dimensiuni, reprezentarea argumentului f în domeniul de frecvenţe:
pentru ,
( )
∑ ∑ ( ) {
} {
}
( )
Similar cazului unidimensional, are loc formula transformatei Fourier inverse:
pentru ,
( ) ∑ ∑ ( ) {
} {
}
( )
În continuare, pentru o funcție imagine , vom nota cu sau ( ) transformata sa Fourier, conform relației
(2.30).
Perechile de relații (2.29) și (2.30) definesc TFD directă și inversă. În literatura de specialitate sunt introduse și se
operează cu următoarele variante alternative ale (2.29) și (2.30).
o Varianta 1
TFD directă
pentru ,
( ) ∑ ∑ ( ) {
} {
}
TFD inversă
pentru ,
( )
∑ ∑ ( ) {
} {
}
o Varianta 2
TFD directă
pentru ,
Reprezentarea și caracterizarea imaginilor 11
( )
√ ∑ ∑ ( ) {
} {
}
TFD inversă
pentru ,
( )
√ ∑ ∑ ( ) {
} {
}
În continuare vom referi TFD directă și inversă prin (2.29), respectiv (2.30).
Proprietăţi
1. Periodicitatea
TFD în caz bidimensional restricţionează spaţiul şi domeniul de frecvenţe la mulţimi de matrice complexe cu ace-
leaşi dimensiuni. Dacă domeniul de definiţie a TFD este , constituit din mulţimea funcţiilor cu valori discrete şi periodi-
ce, cu perioadele , respectiv , pentru și , ( ) ( ), , atunci pentru
:
( ) ( ) ( )
2. Simetria
Pe spaţiul continuu, transformata Fourier bidimensională conservă proprietatea de simetrie a funcţiilor. Pe spaţiul
finit, noţiunea de simetrie este reformulată astfel:
pentru
( ) ( )
Centrul de simetrie este considerat punctul central al matricei: (
).
Dacă este simetrică, cu centrul de simetrie (
), atunci este de asemenea simetrică, având acelaşi centru de
simetrie.
3. Faza şi magnitudinea
Dacă este o matrice de dimensiune , atunci este o matrice cu elemente numere complexe și de dimen-
siune , în care este matricea parte reală și matricea parte imaginară ( și sunt cu elemente numere reale).
Pentru
( ) ( ) ( ) ( )
Exprimarea lui în coordonate polare este următoarea:
pentru
( ) | ( )| { ( )} ( )
unde
12 Tehnici de procesarea imaginilor
| ( )| √( ( )) ( ( ))
( )
este magnitudinea sau spectrul Fourier și
( ) ( ( )
( )) ( )
este unghiul fazei.
Puterea spectrală calculată în punctul ( ) este pătratul spectrului Fourier, ( ) ( ( ))
( ( )) . Puterea spectrală totală a imaginii f, ( ), este suma puterilor spectrale calculate în fiecare punct ( ),
.
În domeniul frecvenţelor, caracteristicile TFD ale unui semnal bidimensional (imagine) sunt faza şi magnitudinea
(spectrul). Deși strict din punct de vedere vizual spectrul oferă mai multe informații despre imagine, caracteristica cea mai
informativă este faza: translaţia unui obiect în domeniul spaţial determină o translaţie a fazei în domeniul de frecvenţe. Cu
alte cuvinte, caracteristica fază oferă informaţii asupra poziţiei unui obiect în cadrul imaginii. Spre deosebire de fază,
magnitudinea este informativă exclusiv din punctul de vedere al unei eventuale structuri periodice a imaginii, componen-
tele sale determinând intensitățile luminoase din imagine.
În figurile următoare sunt prezentate: imaginea inițială (figurile Fig. 2.3.a, respectiv Fig. 2.4.a), imaginea re-
construită utilizând exclusiv spectrul Fourier ( { ( )} , ) (figurile Fig.
2.3.b, respectiv Fig. 2.4.b), imaginea reconstruită utilizând exclusiv unghiul fazei (| ( )| ,
), cu scalare pentru aducerea nivelurilor de gri în domeniul 0..255 (figurile Fig. 2.3.c, respectiv Fig. 2.4.c),
imaginea reconstruită pe baza transformării (2.30) utilizând reprezentarea în coordonate polare (2.33) (figurile Fig. 2.3.d,
respectiv Fig. 2.4.d).
A
B
C
D
Fig. 2.3 Amprentă digitală, originală și prelucrată
Reprezentarea și caracterizarea imaginilor 13
A
B
C
D
Fig. 2.4 Fotografie, originală și prelucrată
4. Liniaritatea
Dacă și sunt două funcții imagine dimensionale și și atunci . Pro-
prietatea rezultă direct din definiția (2.29).
5. Translația
Dacă este o funcție dimensională, atunci pentru :
( )
∑ ∑ ( ) {
} {
} {
}
( )
unde pentru :
( ) ( ) {
}
deci
( ) ( ( ) {
}) ( )
Observație. Proprietatea de translație către centrul dreptunghiului în domeniul frecvențelor rezultă prin conside-
rarea punctului ( ) (
) în relația (2.36). Obținem,
( ) {
} ( ) { ( )}
Deoarece ( ) , ( ) { ( )} ( ) ( ) și obținem,
14 Tehnici de procesarea imaginilor
(
) ( ( ) ( ) )
6. Rotația
Fie funcție 2D cu dimensiuni . Considerăm coordonatele polare
( ) ( ) ( ) ( )
Pentru dat, are loc proprietatea
( ) ( ( )) ( )
,
Relația (2.37) semnifică faptul că, rotind ( ) cu unghiul , ( ) este rotit cu același unghi. De asemenea,
rotația lui ( ) determină rotația lui ( ) cu același unghi.
7. Convoluția. Teorema de convoluție
Fie , funcții imagine periodice, cu perioadele pe linii și pe coloane.
( )( ) ( ) ( ) ∑ ∑ ( ) ( )
( )
Similar secțiunii 1.4, pentru aplicarea (2.38) se presupune că funcțiile au fost extinse prin adăugarea de li-
nii/coloane cu elemente nule:
( ) { ( )
( ) { ( )
unde , .
Deoarece și sunt periodice, rezultatul convoluției este periodic, convoluția numindu-se în acest caz circulară
(este rezultatul direct al periodicității TFD, conform proprietății 1).
Similar cazului unidimensional, obținem
( ) ( ) ( ) ( )
adică și
( )
adică ( ) ( ) ( )
unde prin , înțelegem produsul pixel cu pixel și nu cel pe matrice:
( )( ) ( ) ( ), ( )( ) ( ) ( )
Teorema de convoluție este demonstrată în Anexa 2.
8. Corelația
Reprezentarea și caracterizarea imaginilor 15
În aceleași condiții ca cele explicate la proprietatea 7, teorema de corelație între funcțiile periodice și asigură
îndeplinirea relațiilor
( ) ( ) ( ) ( )
( ) ( ) ( ) ( )
9. Separabilitatea
TFD bidimensională poate fi calculată prin calculul transformării unidimensionale TFD pe linii (coloane) urmate
de calculul TFD unidimensionale pe coloane (linii).
Fie o funcție 2D .
( ) ( )
∑ ∑ ( ) {
} {
}
∑ {
} ( )
( )
unde
( )
∑ ( ) {
}
( )
pentru , .
Pentru fiecare valoare a lui , (linie) ( ), , este TFD unidimensională cores-
punzătoare liniei . TFD 2-D a matricei este calculată, conform (2.43), ca suma tuturor TFD unidimensionale pe liniile
, . Evident, un rezultat similar este obținut în cazul procesării la nivel de coloană.
Proprietățile menționate sunt elemente de bază în tehnicile de filtrare în domeniul de frecvențe, cu aplicații directe
în procesarea imaginilor.
2.3. Transformările Cosin, Sin și Hartley
Transformările Cosin, Sin și Hartley sunt transformări unitare care utilizează, similar TFD, funcții bază sinusoida-
le (Pratt, 2007).
Transformarea Cosin este aplicată în procesul de codificare a imaginilor și stă la baza standardizărilor JPEG și
MPEG. Dacă este imagine pătratică , transformata Cosin este definită prin (Pratt, 2007)
( )
( ) ( )∑ ∑ ( ) (
[ (
)])
(
[ (
)]) ( )
unde ( )
√ și ( ) .
Transformata inversă a relației (2.45) este dată prin
16 Tehnici de procesarea imaginilor
( )
∑ ∑ ( ) ( ) ( ) (
[ (
)])
(
[ (
)]) ( )
Evident, în cazul unei imagini dreptunghiulare , (2.45) devine
( )
√ ( ) ( )∑ ∑ ( ) (
[ (
)]) (
[ (
)])
Similar (2.46) rezultă și transformata inversă în situația în care nu este imagine pătratică.
Transformarea Sin în cazul discret 2D este dată, pentru imaginea , prin
( )
∑ ∑ ( ) (
[( )( )])
(
[( )( )]) ( )
iar transformarea inversă lui (2.47) are aceeași formă.
Transformarea Hartley este un substitut al TFD în cazul unei largi clase de tehnici de filtrare, având avantajul,
similar transformărilor Cosin și Sin, al situării în mulțimea , atunci când funcția căreia i se aplică este cu valori numere
reale. Pentru imaginea f pătratică
( )
∑ ∑ ( ) (
[ ])
( )
unde ( ) ( ) ( ). Transformarea inversă este
( )
∑∑ ( ) (
[ ])
( )
Evident, în cazul unei imagini dreptunghiulare , (2.48) revine la
( )
√ ∑ ∑ ( ) (
)
( )
2.4. Analiza în componente principale. Transformarea Karhunen-Loève
Analiza în componente principale (PCA – Principal Component Analysis) reprezintă o modalitate de identificare
și explicare a structuri corelaţiilor prezente într-un set de variabile, pe baza unui set de combinaţii liniare de variabile.
Variabilitatea totală a unui set de date generate de o mulţime completă cu variabile poate fi măsurată prin interme-
diul unui set de combinaţii liniare de variabile din , cu , astfel încât informaţia înglobată în datele lui este
conţinută în totalitate sau într-o măsură „suficientă” de cele combinaţii
Reprezentarea și caracterizarea imaginilor 17
Fie un vector aleator dimensional și ( ) ( ) ( ) o mulțime de observaţii asupra lui . În continuare,
media teoretică și matricea de covarianță ale vectorului aleator sunt presupuse fie cunoscute, fie estimate din datele
observate disponibile; atât densitatea de probabilitate a lui cât și modelului generativ al acestuia sunt necunoscute (ele
nu vor influența PCA).
Dezvoltarea este bazată pe asumția că , matricea de covarianţă a lui , nu este diagonală, cu alte cuvinte compo-
nentele lui sunt mutual corelate. Această presupunere corespunde intuitiv situației în care în cadrul lui există un anu-
mit grad de redundanță.
Observaţie Dacă este matrice diagonală, componentele principale nu sunt relevante pentru structura corelaţiilor
setului de variabile și componentele principale identificate sunt vectorii elementari ai spațiului dimensional .
Componentele principale în sensul varianţei
Fie ( ) un vector aleator dimensional de medie nulă (centrat), ( ) şi ( ) .
Definiţia 8. Vectorul este prima axă principală (caracteristica principală) în sensul varianţei dacă
‖ ‖ şi
( )
‖ ‖
( ) ( )
Reprezentarea vectorului aleator în termenii primei axe principale , , se numeşte prima componentă
principală a lui , în sensul varianţei.
Pentru număr natural, , este cea de-a -a axă principală în sensul varianţei dacă ‖ ‖
şi
( )
( )
‖ ‖
( ) ( )
unde ( ) este spaţiul ortogonal pe spaţiul liniar generat de primele componente principale,
.
Reprezentarea vectorului aleator în termenii celei de-a -a axă principală, , în sensul varianţei, , se
numeşte cea de-a -a componentă principală a lui , în sensul varianţei.
Definiţia 9. Pentru număr natural, , caracteristicile optimale în sensul varianţei pentru reprezentarea
formei sunt .
Vectorul aleator ( ) , cu
, , desemnează reprezentarea lui în termenii
primelor caracteristici principale, .
Observaţii
1. În ipoteza în care este bază ortogonală a spaţiului şi orice , , atunci
∑
( ) ( )
2. Dacă formează un set de vectori proprii corespunzători matricei , atunci
( ) ∑
18 Tehnici de procesarea imaginilor
în care ( ) şi sunt valorile proprii ale matricei .
Cu alte cuvinte, transformarea corespunde unui procedeu de decorelare a variabilelor aleatoare
. Evident, dacă ( ), rezultă că ( ), .
Teorema 1. Fie ( ) vector aleator dimensional centrat, ( ) . Atunci, pentru ori-
ce , , cea de-a -a axă principală în sensul varianţei este un vector propriu corespunzător matricei şi
asociat valorii proprii , . (Diamantaras, 1996)
În figura Fig. 2.5 este prezentat un exemplu în cazul 3D.
Fig. 2.5 Exemplu de axe principale în domeniul 3D
Caracteristicile liniare optimale din punct de vedere al erorii medii pătratice. Reprezentarea Karhunen-
Loève.
Fie fixat, şi transformare prin care este obținută o matrice
inversabilă. Dacă sunt selectate drept caracteristici vectorii coloană ai matricei , atunci reprezentarea unei forme în
termenii vectorilor coloană ai matricei este dată prin Evident, ( ) ( )
.
În ipoteza în care reconstrucţia vectorului dimensional pe baza vectorului m dimensional Y astfel este de tip
liniar, prin intermediul unei matrice ,
matricea este calculată prin aplicarea teoremei 2.
Teorema 2. Fie fixată este astfel încât este matrice nesingulară. Atunci reconstrucţia op-
timală din punctul de vedere al erorii medii pătratice este dată prin: (Diamantaras, 1996)
( )
Problema este de a calcula matricea astfel încât să fie minimizată eroarea medie pătratică, dată prin
( )
( ) ( ( ) )
și care caracterizează calitatea schemei de compresie/decompresie liniare SCD, (Cocianu, 2002):
→ ( )
→ ( ) ( )
Reprezentarea și caracterizarea imaginilor 19
Definiţia 10. Eroarea medie pătratică minimă a SCD liniare (2.53) este definită de relația
( ) ( )
Evident, schema liniară SCD este optimală din punct de vedere al erorii medii pătratice dacă
( ) ( )
Teorema 3. (Karhunen-Loève) Fie valorile proprii ale matricei de covarianţă ,
un set de vectori proprii ortogonali asociaţi celor mai mari m valori proprii, , şi ( ) spaţiul linear
generat de vectorii coloană ai matricei . Schema de compresie/reconstrucţie liniară SCD este optimală din punct de
vedere al erorii medii pătratice dacă are loc egalitatea ( ) ( ), unde ( ) este spaţiul liniar gene-
rat de vectorii .
Pe baza teoremei 3 este obținută SCD lineară optimală din punct de vedere al erorii medii pătratice pe baza trans-
formărilor liniare (matricelor)
[ ]
( )
şi este dată prin reprezentarea
→
→ ( )
unde
( ) ∑
( )
Dacă şi este un set de vectorii proprii ortogonali ai matricei de covarianţă , atunci
∑
este referită drept reprezentarea Karhunen-Loève a formei X.
Observaţii
1. Pe baza teoremei 1 şi a teoremei 3, rezultă următoarea proprietate: în cazul vectorilor aleatori centraţi, caracte-
risticile principale din punct de vedere al variabilităţii coincid cu caracteristicile liniare optimale din punctul de vedere al
erorii medii pătratice.
2. În cazul repartiţiei normale, direcţiile principale din punct de vedere informaţional sunt date de un set de vec-
torii proprii ai matricei de covarianţă, deci coincid cu caracteristicile principale în sensul varianţei. Extractorul liniar de
caracteristici optimal din punct de vedere informaţional este operatorul soluţie a problemei variaţionale
{
( )
( )
în care este entropia Shannon. (Cocianu, 2002)
Algoritmul de compresie/decompresie bazat pe transformata Karhunen- Loève
1. Fie imagini de dimensiune , instanţe ale lui . Imaginile sunt liniarizate la nivel de linie
(sau coloană). Fie numărul de componente selectate pentru compresie.
20 Tehnici de procesarea imaginilor
2. Calculează
∑
media de selecție, estimator nedeplasat al mediei teoretice a lui X, ( )
3. Centrează datele
4. Calculează
∑ ( )
matricea de covarianță de selecție, estimator nedeplasat al matricei de autocovarianță teoretice a lui X, ((
( )) ( ( )) )
5. Calculează componentele principale: un set de vectori proprii ortogonali corespunzători valorilor proprii ale lui în
ordinea descrescătoare a valorilor proprii. Selectează
[ ]
6. Realizează compresia:
7. Decompresia şi restaurarea
Observație. La pasul 4 al algoritmului de mai sus poate fi utilizată și varianta
∑ ( )
un estimator deplasat al matricei de autocovarianță teoretice a lui X.
Utilitatea acestei metode constă, în principal, în următoarele
o serie importantă de clase de probleme de procesare a imaginilor (de exemplu probleme de clasifica-
re/recunoaștere, identificarea obiectelor din imagini etc.) utilizează reprezentări reduse (pe baza
transformărea Karhunen-Loeve sau de alt tip) fie în scopul optimizării timpului de lucru, fie chiar pentru
a face posibilă rezolvarea acestora (când sunt utilizate, de exemplu, abordări de natură neuronală);
utilizarea ca metodă de compresie a unui set de imagini, conform următoarei observații.
Observație. Dacă setul de lucru conține nr imagini cu p pixeli cu valori de gri reprezentate pe 1 octet, atunci sunt
utilizați octeți. Presupunem reducerea dimensiunii de la p la dim. Atunci datele menținute pentru obținerea repre-
zentării complete sunt:
o imagine cu p pixeli - imaginea medie, care are p elemente în reprezentarea double, deci octeți
matricea componentelor principale, cu dimensiunea și cu componente în reprezentarea double,
deci octeți
Reprezentarea și caracterizarea imaginilor 21
imaginile cu dimensiunile reduse de la elemente la elemente reprezentate pe 8 octeți, deci
octeți
În total sunt utilizați pentru reprezentarea redusă Karhunen-Loeve ( ) octeți. Pentru o
compresie de x%, trebuie ca
( )
( ) (
)
deci
[ ( )
]
Observație. Reprezentarea Karhunen-Loeve poate fi realizata și fără centrarea datelor (cazul unui vector aleator
cu medie oarecare). În această situație algoritmul este descris astfel
1. imagini , instanţe ale lui . Imaginile sunt liniarizate la nivel de linie (sau coloa-
nă) și (pentru compresie).
2. Calculează matricea de autocorelație de selecție
∑ ( )
3. Calculează componentele principale: un set de vectori proprii ortogonali corespunzători valorilor proprii ale lui
în ordinea descrescătoare a valorilor proprii. Selectează [ ]
4. Realizează compresia:
5. Decompresia şi restaurarea:
În continuare sunt prezentate câteva exemple de reducere a dimensionalității reprezentării și respectiv restaurare
utilizând transformarea Karhunen-Loeve cu centrarea datelor.
Compresie de caractere
Mulțimea imaginilor iniţiale (caractere reprezentate în imagini monocrome ):
22 Tehnici de procesarea imaginilor
Mulțimea imaginilor restaurate de la reducerea componente principale la primele 10 componente princi-
pale:
Compresie de imagini monocrome
Câteva exemple din mulțimea imaginilor iniţiale (imagini monocrome ):
Corespondentele restaurate de la reducerea componente principale la primele 14 componente principale:
Reprezentarea și caracterizarea imaginilor 23
Anexa 2
În continuare vom nota prin sau ( ) transformata Fourier a funcţiei v în caz discret.
Proprietăţi
1. TFD este funcţie periodică, de perioadă . Într-adevăr, deoarece rezultă:
∑
( )
∑
2. Pentru orice funcţie periodică de perioadă obţinem , unde ( ) și
.
∑
∑
∑
∑
∑
( )
Deoarece şi , rezultă
∑
3. Fie şi funcţii periodice de perioadă şi astfel încât perioada funcţiei să fie n. Atunci
( ) ( ) ( )
Într-adevăr, obţinem
( ( ))
∑(( ) )
∑
∑
( ) ( )
4. Dacă este funcţie periodică pară, atunci ( ) este funcţie pară. Concluzia rezultă aplicând proprietatea 2.
5. Dacă este funcţie periodică de perioadă şi are perioada , unde, pentru orice , ,
atunci ( ).
Într-adevăr, pentru orice obţinem
∑
∑
∑
( )
∑
Deoarece şi rezultă
∑
( )
6. Fie şi funcţii periodice de perioadă . Convoluţia dintre şi , notată , este funcţie periodică, de peri-
oadă şi este dată prin:
24 Tehnici de procesarea imaginilor
( ) ∑
pentru orice .
Teorema de convoluție. Au loc relaţiile:
( ) și ( )
( ) și ( )
( ( ))
∑( )
∑(∑
)
∑
∑
∑
∑ ( )
∑
∑
În continuare demonstrăm prin inducţie după că
∑
∑
Pentru , deoarece şi rezultă
∑
∑
Presupunem
∑
∑
şi demonstrăm că
∑
∑
Deoarece şi obținem
∑
∑
∑
În consecinţă
( ( ))
∑
∑
∑
şi obţinem relaţia (2.54).
Relaţia (2.55) rezultă astfel:
Reprezentarea și caracterizarea imaginilor 25
( ) ∑
∑ (
∑
( )
)
∑
(∑
)
∑
( ( ))
Algoritmul Good-Thomas pentru calculul TFD în caz unidimensional
Fie un vector cu componente. ( ) este definită prin
și {
}
∑
( )
Calculul elementelor vectorului pe baza formulei (2.56) necesită înmulţiri şi adunări în . Dacă nu este
număr prim, există o serie de modalităţi de a transforma (2.56) într-o relaţie în plan (bidimensional). Algoritmii de acest
tip sunt numiţi FFT (Fast Fourier Transform).
Algoritmul Good-Thomas reprezintă o modalitate alternativă de a organiza un vector cu componente
într-o matrice , dar astfel încât ( ) să revină la calculul unei transformate Fourier în caz finit bidimensional şi
cu efort de calcul redus.
În continuare se presupune astfel încât ( ) . Algoritmul Good-Thomas utilizează teorema
chineză a restului pentru descompunerea indicilor şi din relaţia (2.56).
Teorema chineză a restului
Fie astfel încât pentru orice , ( )
∏
şi pentru orice , cu . Sistemul
( )
are soluţie unică
∑
( ) ( )
Utilizând teorema chineză a restului, construcţia indicilor de intrare este realizată astfel:
( )
( )
Fie cu . Din (2.57) rezultă
( ) ( )
Indicii de ieşire sunt determinaţi astfel:
( )
26 Tehnici de procesarea imaginilor
( )
Rezultă că
( ) ( )
Într-adevăr,
( ) ( ) ( ) ( )
deci ( ).
Utilizând (2.58), (2.59) şi faptul că , relaţia (2.56) este echivalentă cu
( )
∑ ∑ ( )
( )( )
Deoarece ( )( )
( )
( ) , notând (
) , (
) ,
( ) și ( ) rezultă:
,
∑ ∑
( )
Deoarece este rădăcina de ordin a unităţii şi este rădăcina de ordin a unităţii, relaţia (2.60) defineşte
transformata Fourier a unei matrice .
Observaţii
1. Complexitatea algoritmului este ( ( )).
2. Algoritmul Good-Thomas poate fi aplicat recursiv unei descompuneri
∏
cu ( ) dacă . În această situaţie, complexitatea este
( ∑
)
Demonstrarea teoremei de convoluție în cazul 2D
( ) ( ) ∑ ∑ ( ) ( )
Reprezentarea și caracterizarea imaginilor 27
( )( )
∑ ∑( )( ) {
} {
}
∑ ∑ ∑ ∑ ( ) ( ) {
} {
}
∑ ∑ ( )
∑ ∑ ( ) {
} {
}
Dar
∑ ∑ ( ) {
} {
}
[
∑ ∑ ( ) {
( )
} {
( )
}
]
{
} {
}
deci
( )( ) ∑ ∑ ( )
{
} {
}
∑ ∑ ( ) {
( )
} {
( )
}
În continuare,
∑ ∑ ( ) {
( )
} {
( )
}
∑ ∑ ( ) {
} {
}
unde și .
Fie {
} și {
}. (
) (
). Evident,
{ }
{ } .
∑ ∑ ( )
∑
∑ ( )
Demonstrăm prin inducție după (aici și sunt constante) că
∑ ( )
∑ ( )
28 Tehnici de procesarea imaginilor
Într-adevăr, pentru obținem
∑ ( )
( ) ∑ ( )
dar este periodică, cu perioada ( ) și constantă, deci
( ) ( ) și (
)
( )
Obținem
( ) ( )
( ) și
∑ ( )
∑ ( )
( ) ( )
∑ ( )
În continuare presupunem că
∑ ( )
∑ ( )
și trebuie să rezulte că
∑ ( )
∑ ( )
Într-adevăr,
∑ ( )
( ) ( )
∑ ( )
Datorită simetriei funcției rezultă că
( ) ( ) și ( )
( )
( )
( )
deci
∑ ( )
( ) ( )
∑ ( )
∑ ( )
conform ipotezei inductive.
Obținem deci
∑ ∑ ( )
∑
∑ ( )
∑
∑ ( )
Similar, prin inducție după rezultă că
Reprezentarea și caracterizarea imaginilor 29
∑ ( )
∑ ( )
unde și sunt aici constante.
Rezultă
∑ ∑ ( )
∑ ∑ ( )
( ) ( ( ))( )
În continuare
( )( ) ∑ ∑ ( )
( ) {
} {
}
( )
∑ ∑ ( )
{
} {
}
( ) ( ) ( ) ( ), deci (2.39) este demonstrată.
Demonstrarea relației (2.40)
( ( ) ( ))( ) ( )( ) ∑ ∑ ( ) ( )
∑ ∑ ( )
∑ ∑ ( )
{ ( )
}
{ ( )
}
∑ ∑ ( )
{
} {
}
∑ ∑ ( ) {
} {
}
Pe baza relației (2.30) obținem
∑ ∑ ( ) {
} {
}
( )
deci
( )( )
∑ ∑ ( )
( ) {
} {
}
( ( ))( ) ( )
Demonstrarea teoremei de corelație este similară demonstrării teoremei de convoluție și este propusă ca temă.
