25
Matriser 1 ܭൌ൦ ڭ ݔ ݔ ڭ ݔ Matriser og matriseregning Halvor Aarnes, UiO, 2014 Innhold Matriser .................................................................................................................................................. 1 Determinant ....................................................................................................................................... 6 Ligningsystemer ................................................................................................................................ 8 Matriseaddisjon og matrisesubtraksjon ....................................................................................... 11 Matrisemultiplisering....................................................................................................................... 11 Egenverdier og egenvektorer ....................................................................................................... 13 Basis ................................................................................................................................................. 13 Prinsipalkomponenter og matriseregning ....................................................................................... 15 Klassifikasjon og diskriminantanalyse ............................................................................................. 21 Hadamard-produkt.............................................................................................................................. 23 Cholesky dekomponering .................................................................................................................. 24 Kronecker-produkt .............................................................................................................................. 24 Matriser En matrise er en firkantet tabell med tall ordnet i rader og kolonner. En mxn matrise har m rader og n kolonner. Matriser med bare en kolonne eller en rad kalles en vektor En radvektor (radmatrise) er en 1xn matrise og en kolonnevektor (kolonnematrise) er en nx1 matrise. En kolonnevektor K er en n x 1 matrise med bare en kolonne. Eller kolonnevektoren: En radvektor R er en 1 xn matrise med bare en rad:

Matriser og matriseregning - UiO

  • Upload
    others

  • View
    0

  • Download
    0

Embed Size (px)

Citation preview

Page 1: Matriser og matriseregning - UiO

Matriser  

1  

Matriser og matriseregning Halvor Aarnes, UiO, 2014

Innhold Matriser .................................................................................................................................................. 1 

Determinant ....................................................................................................................................... 6 

Ligningsystemer ................................................................................................................................ 8 

Matriseaddisjon og matrisesubtraksjon ....................................................................................... 11 

Matrisemultiplisering ....................................................................................................................... 11 

Egenverdier og egenvektorer ....................................................................................................... 13 

Basis ................................................................................................................................................. 13 

Prinsipalkomponenter og matriseregning ....................................................................................... 15 

Klassifikasjon og diskriminantanalyse ............................................................................................. 21 

Hadamard-produkt .............................................................................................................................. 23 

Cholesky dekomponering .................................................................................................................. 24 

Kronecker-produkt .............................................................................................................................. 24 

 

Matriser En matrise er en firkantet tabell med tall ordnet i rader og kolonner. En mxn matrise har m rader og n kolonner. Matriser med bare en kolonne eller en rad kalles en vektor En radvektor (radmatrise) er en 1xn matrise og en kolonnevektor (kolonnematrise) er en nx1 matrise. En kolonnevektor K er en n x 1 matrise med bare en kolonne.

Eller kolonnevektoren:

En radvektor R er en 1 xn matrise med bare en rad:

Page 2: Matriser og matriseregning - UiO

Matriser  

2  

, , … ,

Eller radvektor

En 1x1 matrise er bare et tall, en skalar. I Albrecht Düreres Melencolia I er det et magisk kvadrat, med innslag av alkymistenes mystikk.

Tallet 34 går igjen i flere av summeringene.

Page 3: Matriser og matriseregning - UiO

Matriser  

3  

…………

…………

Fra Donald Duck nr. 10/1995 - Alle hjørnene summeres til 34 - De fire tallene i midten summeres til 34 - 3 og 2 i første rad som vender mot 15 og 14 i fjerde rad summeres til 34 - 5 og 9 i første kolonne som vender mot 8 og 12 i fjerde kolonne summeres til 34 - De fire kvadratene i hvert hjørne adderes til 34 - Summeres kolonnene blir dette 34 - 15+9+2+8 = 34 - Summen av diagonalene blir 34 En m x n matrise A har m rader og n kolonner:

Hvis det er like mange rader som kolonner (m=n) så har vi en nxn kvadratmatrise. En n x n kvadratmatrise B har n rader og n kolonner

Page 4: Matriser og matriseregning - UiO

Matriser  

4  

……

· … ·

0 … 00 … 0

0 0……

Vi kan transposere matrisen A vi startet med ved å bytte rader og kolonner og får den tranposerte matrisen AT:

Transposering av en radvektor gir en kolonnevektor, og transposering av en kolonnevektor gir en radvektor. Hvis vi multipliserer en radvektor med den transposerte kolonnevektoren får vi et skalart kvadratprodukt:

En matrise kalles symmetrisk hvis den er lik den transposerte matrisen:

En kvadratmatrise n x n kalles en diagonalmatrise hvis alle komponentene er lik 0 bortsett fra hoveddiagonalen: En diagonalmatrise D:

En diagonalmatrise hvor alle tallene på hoveddiagonalen er lik 1 og resten lik 0 (aij = 1 når i = j og aij =0 når i≠j) kalles en identitetsmatrise (enhetsmatrise) av orden n (In)

Page 5: Matriser og matriseregning - UiO

Matriser  

5  

1 0 … 00 1 … 0

0 0…… 1

·

1 4 61 2 12 5 4

·1 0 00 1 00 0 1

1 4 61 2 12 5 4

·

00 0 … 00 0 … 0

0 0…… 0

atrisen A multiplisert med nullmatrisen gir en nullmatrise.

En matrise n xn A multiplisert med identitetsmatrisen gir den opprinnelige matrisen:

Hvis A er en nxn kvadratmatrise så kalles A inverterbar eller ikke-singulær hvis det finnes en invers matrise A-1 slik at A matrisemultiplisert med A-1 er lik identitetsmatrisen. Hvis A er en invertibel 2x2 matrise dvs. det(A)≠ 0 så vil

Hvis A = (aij) er en n x n kvadratmatrise så er trace A lik summen av diagonalelementene:

Nullmatrisen 0 har alle tall lik 0:

M

Page 6: Matriser og matriseregning - UiO

Matriser  

6  

…………

1 4 72 5 83 6 9

A1 2 34 5 67 8 9

…………

…………

…………

I en transponert (transposert) matrise AT bytter rader og kolonner plass, men hoveddiagonalen blir lik den opprinnelige matrisen A:

Transponerer en matrise med tallene 1:9 :

Den transponerte metrisen AT:

Vi kan utføre matrisealgebra. A og B er to mxn matriser, og summen av dem A + B = B + A (kommutativ lov) blir lik summen av enkeltelementene. Tilsvarende for matrisesubtraksjon,men da A - B.

En matrise kan bli multiplisert med en skalar k ved at alle elementene i matrisen blir multiplisert med k:

Determinant Determinanten til en matrise er lik en skalar. Har vi en nxn kvadratmatrise A kan vi finne determinanten til matrisen detA. For en 2x2 matrise A blir determinanten |A| lik en skalar

Page 7: Matriser og matriseregning - UiO

Matriser  

7  

| |

det

2 31 4

| | 2 4 3 1 5

or en 3x3 matrise M blir determinanten detM = |M|:

i kan også regne med determinanter. De kan adderes, bli multiplisert

n matriser A og B så vil:

Determinanten til matrisen M:

Det vil si lik produktet av diagonalen øverst venstre - nederst høyre minus produktet diagonalen øversthøyre – nederst venstre. Determinanten til matrisen E:

F

Vmed en skalar. Hvis vi har to n x

Page 8: Matriser og matriseregning - UiO

Matriser  

8  

n kvadratisk n x n matrise er singulær hvis determinanten til matrisen

svarende, for en kvadratmatrise hvor determinanten er forskjellig fra 0,

or to n xn matriser A og B hvor

å er B en invers matrise til A, og A er en invers matrise til B. Det er

vis vi har en inverterbar matrise A:

å vil den inverse matrisen A-1 være lik:

Eer lik 0: ilså er matrisen ikke-singulær. F

sbare mulig å invertere en matrise hvis determinanten til matrisen er forskjellig fra null. H

s

1

vis den transponerte n x n matrisen AT er lik den inverse matrisen A-1,

igningsystemer ninger analytisk, dvs. vi trenger ikke bruke

re ligninger med n

 

H(AT=A-1)så kalles matrisen ortogonal. En matrise kalles ortogonal hvis produktet av matrisen med dens transposerte matrise er lik identitetsmatrisen (I).

LVi kan løse lineære ligrekkereduksjon, og Gauss-Jordan eliminasjon. Generelt kan matriser benyttes til å løse m lineæukjente:

Page 9: Matriser og matriseregning - UiO

Matriser  

9  

Som betyr at:

Koeffisientmatrisen A er en m x n matrise, x er en n x1 matrise m x1 matrise.

-1

12 20

8 4 2024

Vi løser dette numerisk solve(A,b), Ax=b x=-1.733, y= 2.533

undersøke determinanten til A. For ligningssystemer av typen n x n matrise så vil det(A)≠0 tilsier en løsning og hvis

t(A)=0 vil det si ingen eller mange løsninger. I eksemplet ovenfor blir

4 6 10 2 5

4 3

(kolonnevektor) og b er en I matriseform blir løsningen x = A b A er koeffisientmatrisen. Hvis b er lik en nullvektor kalles ligningssystemet homogent. Vi bruke matriseregning for å løse de to ligningene:

68 4 24

6 12

Vi kanAx = b hvor A er en dedeterminanten =10, dvs. bare en løsning. For homogene ligninger hvor Ax=0 så vil det alltid være en løsning hvor x=0. Hvis det(A)=0 er det uendelig mange løsninger. Vi skal løse følgende ligningssystem

2 5

Page 10: Matriser og matriseregning - UiO

Matriser  

10  

1 4 61 2 12 5 4

1053

A er inverterbar, determinanten forskjellig fra 0. Vi løser numerisk og finner: x = 124, y = 75, z = 31

matrise og determinanten til A er forskjellig -1B. Hvis detA = 0

4 2 02 0 4 2

32

De numeriske løsningene (x,y) i kompleksplanet er lik (0.846-0.163i, -0.110 +0.249i)

hvis det eksisterer en invers matrise M-1 g matrisemultiplisering (%*%) av disse blir lik identitetsmatrisen:

vis det finnes en invertibel matrise C slik at sammenhengen med to nxn matriser K og L er slik at:

å er matrisene K og L formlike. Det betyr også at matrisene K og L har like egenverdier.

Med matrisealgebra har vi:

Hvis A er en kvadratisk n xnfra null så får vi en entydig løsning av Ax = B lik x = Aog B ≠ 0 så har Ax = B ingen eller uendelig mange løsninger. Vi kan også løse et ligningssystem med komplekse tall:

4 2 3 2 4 3 2

En nxn matrise M er invertibelo

· H

s

Page 11: Matriser og matriseregning - UiO

Matriser  

11  

sies å være diagonaliserbar hvis diagonalmatrisen D r formlik med K. Hvis en slik nxn matrise er diagonaliserbar har den n

matrisesubtraksjon atriseaddisjon av to matriser A og B er bare mulig hvis de har samme

orden mxn, de må være addisjonskonforme.

2 21 3

4 64 8

C D 2 2 4 23 1 5 3

4 64 8

Matrisesubtraksjon er en summering, men hvor den andre matrisen er ultiplisert med skalaren -1. Matrisene må ha samme dimensjon mxn,

dvs. være subtraksjonskonforme 0 2

4 25 3

0 22 2

atrisemultiplisering Matrisemultiplisering av to matriser, pxq matrise A og mxn matrise B er

re mulig hvis de er konforme for multiplisering, det vil si at det må være samme antall kolonner i den ene matrisen som rader i den andre.

For eksempel diagonalmatrisen D til K har egenverdiene langs diagonalen, og K eegenvektorer som er lineært uavhengige. Vi kan finne determinanten, egenverdier, egenvektorer og den transposerte matrisen.

Matriseaddisjon ogM

Matriseaddiasjon av 3x3 matriser: C+D= D+C

2 4 3 5

m

2 2

C D 2 2

3 1

M

ba

Page 12: Matriser og matriseregning - UiO

Matriser  

12  

dukt AB bare hvis q=m. Det er ikke

12 14 8

Multipliseringen AB skjer slik: 1 · 2 3 · 2 1 · 1 3 · 3 1 · 2 3 · 12 · 2 4 · 2 2 · 1 4 · 3 2 · 2 4 · 1

8 10 512 14 8

%*%A er dette umulig, de er ikke

Hvis vi har tre konformbare matriser A, B og C, så gjelder

:

e blir forskjellige så blir summen av iagonalene, tracen, den samme

2 4

2 1

1 21 2

Matrisemultiplisering ABC blir: 12 2418 36

Matrisemulitiplisering BCA blir: 15 3315 33

32 1632 16

Det vil si at vi får et matrisepronødvendigvis slik at AB=BA, og som nevnt må matrisene være multipliseringskonforme.

1 32 4

8 10 5

Skal man matrisemultiplisere Bmultipliseringskonforme.

rotasjonsregelen for tracer

Selv om matriseproduktend

1 3

2 1

Matrisemulitiplisering CAB blir:

Page 13: Matriser og matriseregning - UiO

Matriser  

13  

Men tracene blir like

48

Egenverdier og egenvektorer matrise M så vil matrisen ganger egenvektorene

) være lik egenverdiene (skalarverdier λ ) ganger egenvektorene:

· ·

ommer først. Egenvektorer og

ultivariabel statisikk , eller i generelle likevektsstudier. I dette eksemplet

blir egenverdiene og egenvektorene komplekse tall

lineært uavhengige enhetsvektorer som n standardbasis:

0 0 1

r M

Hvis man tar to basiser S = {s1,s2,…,sn} og T = {t1,t2,…tn} for Rn , så kan ektorene i basis S skrives i form av vektorene med basis T hvor

Hvis vi har en kvadrat(ν

Egenverdien med størst absoluttverdi kegenverdier benyttes i stabilitetsanalyse av differensialligninger via Jacobi-matrise med partiellderiverte, i prinsipalkomponentanalyse vedm

Basis Alle vektorer x i det tredimensjonale vektorrommet R3

kan skrives i form av tre basis, e

10

01

00

Vektorene u1, u2,…,uk fra et undermengde av M vil danne en basis fohvis alle vektorene x i M kan skrives som:

vkoeffisientene ann danner en transformasjonsmatrise.

Page 14: Matriser og matriseregning - UiO

Matriser  

14  

…………

r fra et vektorrom til et annet, for ksempel fra R3 til R2, ved hjelp av en transformasjonsmatrise.

For eksempel rotasjon av 2-D koordinatsystem rundt origo, så vil punktet P (a,b) får nye koordinater (x,y) i det nye koordinatsystemet, hvor (a,b)

reies vinkelen θ mot klokka.

·

vor transformasjonsmatrisen er:

Eller omvendt:

·

or ν og egenverdi λ:

      0    0      

hvor I2 er enhetsmatrisen, og Iν=ν

hvor transformasjonsmatrisen er:

Man kan ha lineære transformasjonee

dSe på en figur og finn at :

eller:

h

Vi har en matrise M med egenvekt

Page 15: Matriser og matriseregning - UiO

Matriser  

15  

1 00 1

i setter

      

i skal finne egenvektoren med de ukjente α og β: 1 00 1 · 0

0         · 00

Dette tilsvarer ligningene i følgende homogene ligningssystem, hvor α og β er ukjente:

0 0

0

ra den karakteristiske ligningen bestemmes egenverdiene λ og deretter

rinsipalkom onenter og matriseregning

erte variable. PCA (prinsipalkomponentanalyse), CA (korrespondensanalyse), DA

svariable. CCA (kanonisk orrespondanseanalyse og RDA (redundensianalyse) er beregnet for

både respons- og forklaringsvariable. erte

omponent 1 C1) er en vektor gjennom datasettet og som forklarer det meste av

og forklarer nest mest av

V

V

Vi ønsker ikke-trivielle løsninger og derfor må følgende determinant være lik null.

Fkan egenvektorene bestemmes.

P p Multivariable må reduseres i antall dimensjoner, hvor korrelerte variable erstattes med færre ukorrel

(diskriminantanalyse) og NMDS (ikke-metrisk multidimensjonal skalering) er beregnet for data uten forklaringk

Multivariable data kan reduseres i antall dimensjoner, hvor korrelvariable erstattes med færre ukorrelerte variable. Prinsipalk(Pden multivariable variasjonen. Prinsipalkomponent 2 (PC2) står ortogonalt på PC1, er ikke korrelert med dennevariasjonen.

Page 16: Matriser og matriseregning - UiO

Matriser  

16  

i lager å

i

onenter. Den andre prinsipalkomponenten skal forsøke å

Prinsipalkomponentanalyse er å se på variasjon i variablene i et datasett X={x1, x2, x3,…, xn} sett i relasjon til et sett nye variable som vY={y1, y2, y3,…, yn}, kalt prinsipalkomponenter. Mens X er korrelert, ser Y er ukorrelert. Hver av y-verdiene er en lineær kombinasjon av x-variablene, med tilhørende koffisienter a. De første prinsipalkomponentene skal kunne forklare mest mulig av variasjonendatasettet. Første prinsipalkompoent (y1)er en lineær kombinasjon av X, og som forklarer det meste av variasjonen. Den andre prinsipalkomponent (y2) står normalt på den første (ortogonaltkoordinatsystem) og hindrer derved at de blir korrelert. Vi har her n prinsipalkompforklare mest mulig av den gjenværende variasjonen i datasettet, som blir igjen etter den første prinsipalkomponenten er funnet

 

I matriseform blir løsningen ·

hvor A er matrisen med koeffisienter. Koeffisientene må være slik at de gir maksimal varianse for y1. Vi kan la

, , , … , Forutsetning for første prinsipalkomponent er at:

· 1

T koeffisientmatrisen. 2 har vi:

hvor A1 er den transformerteFor den andre prinsipalkompoenten y

, , , … ,

Page 17: Matriser og matriseregning - UiO

Matriser  

17  

e oss at første og andre prinsipalkomponent ikke blir korrelert og dette gjør vi ved:

 

i skal altså finne koeffisienter A1 slik at variansen for første m vi har

6-1813). Generelt er problemet å finne verdiene for en funksjon f(x,y,z), eller i vårt tilfelle f(x,y,a). Hvis

jon av x og y, z=h(x,y) så består problemet i

itt som g1(x,y,z)=0 og g2(x,y,z)=0. Hvis vi lar t være en

Vi må sikr

· 1           · 0

Vprinsipalkomponenten y1 blir maksimal, samtidig so

Tbegrensningen A1 ·A1=1

Lagranges multiplikatormetode kan hjelpe oss i å løse dette problemet, oppkalt etter den berømte franske matematikeren Joseph-

uis Lagrange (173Loekstremal

ksz kan uttrykkes som en funå finne maksimum av en ny funksjon F(x,y)=f(x,y,h(x,y). Imidlertid er det ikke sikkert at z kan uttrykkes som funksjon av x og y. Maksimumspunktet ligger på en kurve C som kan tenkes angskjæring mellom to flater parameter som beveger seg langs kurven C hvor vi skal finne maksimum blir problemet nå forenklet til F(t)=f(x,y,z), og maksimumspunktet må finnes der hvor den førstederiverte er lik 0. F’(t)=0. Vi har nå tre skalarligninger som må løses hvor konstantene λ1 og λ2 kalles Lagrange multiplikatorer. Uttryket som vektorfelt (partiellderiverte)

, ,

Det viser seg at løsningen av A1 er egenvektoren til kovariansematrisen for prøven, tilsvarende den største egenverdien. Egenvektorene til en

i

ovariansematrisen,K, til prøven X er en matrise med variansene

plassert i diagonalen. Matrisen som blir symmetrisk omkring diagonalen kalles også varianse-kovariansematrise. Kovariansene (cov()) mellom

kovariansematrise er lik prinsipalkomponentene til fordelingen. Man finner deretter de andre prinsipalkomponentene yi med tilhørende egenvektorer A .

K

Page 18: Matriser og matriseregning - UiO

Matriser  

18  

vert par med variable står utenfor diagonalen. Her er et eksempel med hfire variable (x1,x2,x3,x4): x1 x2 x3 x4

x1 var(x1) cov(x1,x2) cov(x1,x3) cov(x1,x4)

x2 cov(x ,x ) 2 1 var(x2) cov(x2,x3) cov(x2,x4)

x3 cov(x3,x1) cov(x3,x2) var(x3) cov(x3,x4)

x4 cov(x4,x1) cov(x4,x2) cov(x4,x3) var(x4)

Generelt hvis X og Y er tilfeldige variable så vil variansen til summen ære lik: v

2 · ,

a er e t,

r x e ( g kovariansen blir lik 0.

e k identitetsmatrisen I, en matrise med bare 1 på diagonalen og

0 for resten

Generelt har vi for en kvadratmatrise A en invers matrise

-1) slik at

nsematrisen lik korrelasjonsmatrisen. I en korrelasjonsmatrise har man korrelasjonskoeffisientene (r) i stedet for ovarians , og tallene i diagonalen blir lik 1.

Generelt er korrelasjonskoeffisienten r er lik:

Kov riansen t forventet (E) produk :

·, ·

Nå og y er ikke-korrelert r E(xy)=E x)E(y) o Produktet av kovariansematrisen, K, og den inverse kovariansematris(K-1) blir li

(A

Hvor I er en identitetsmatrisen. Hvis alle variablene i en kovariansematrise er i form av enhetsvarianse så blir kovaria

k e

Page 19: Matriser og matriseregning - UiO

Matriser  

19  

m variablene x og y, sx2 og sy

2 er

:

6 2 1Kovarianse til matrise A ovenfor:

2.3333333 1.0 0.8333333

0.3333333

kan finne egenverdiene og egenvektoren til kovariansematrisen: De tre egenverdier til cov(A) 3.197559e+00 4.691079e-01 1.782785e-17

g de tilsvarende tre egenvektorer: [1] [2] [3] 0.8323497 0.50163583 0.2357023

41634 0.2357023 .3210388 0.08969513 0.9428090

e til kovariansematrisen med

023

hvor cov(x,y) er kovariansen mellovariansen til henholdsvis variablene x og y. Hvis vi har 3 variable x1 (3,5,6), x2(1,3,2), x3 (2,1,1)hver med 3 observasjoner ordnet i kolonner i en matrise A

3 1 25 3 1

1.0000000 1.0  0.50000000.8333333 0.5 

Variansene står i diagonalen: 2.3333333 1.0000000 0.3333333

Vi

O

0.4518054 -0.860-0 Vi kan sammenligne egenvektorenprinsipalkomponentene (PC) til matrise A og ser at de blir like: PC1 PC2 PC3

.8323497 0.50163583 0.2357023 00.4518054 -0.86041634 0.2357

Page 20: Matriser og matriseregning - UiO

Matriser  

20  

8090

retningen (vektoren) gjennom riasjonen, prinsipalkomponent

C2 som står normalt på første prinsipalkomponent forklarer nest mest

5 621

sk løsning i R:

erse av inversmatrisen gir den opprinnelige matrisen

i kan matrisemultiplisere A-1·A som skal gi identitetsmatrisen I. Vi kan finne determinanten til A (|A|): 12

race er summen av diagonalelementene i en matrise e.g. for

Vi finner trace til kovariansematrisen for datasettet covA (se over) som er lik summen av prinsipalkomponentene 3.666667 om også er lik summen av variansene

torer: Hvis man har en

-0.3210388 0.08969513 0.942 Første prinsipalkomponent (PC1) viser datasettet som forklarer det meste av vaPav variasjonen. Vi kan transformere datamatrisen, bytte rader og kolonner:

1 33

2 1

i kan lage den inverse matrisen (A-1), numeriV0.08333333 2.500000e 01  0.41666670.08333333 7.500000e 01 0.58333330.66666667 2.367762e 16 0.3333333

Vi har at den inv(A-1)-1=A V

Tidentitetsmatrisen I3 blir dette lik 3.

svar(x1)+var(x2)+var(x3)= 3.666667

Vi har generelt for egenverdier og egenvekkvadratmatrise A så har vi følgende sammenheng:

· · hvor nu(v) er , og lamegenvektoren bda (λ) er en skalar kalt egenverdi

· · v er en egenvektor med egenverdi λ.

Page 21: Matriser og matriseregning - UiO

Matriser  

21  

, K, til datasettet blir 1,λ2,λ3,…,λn}. Vi har også Ai

T·Ai = 1, hvor Ai er egenvektoren til variansematrisen.

ariansen til prinsipalkomponent y er lik egenverdien λ . v

en i datasettet.

Egenverdiene til kovariansematrisen{λko V i i

Den totale variasjonen for prinsipalkomponentene blir lik summen aegenverdiene, og dette blir også lik den totale varians

angiovariansematrisen K

forklarer andelen Pi av den totale variasjonen i atasettet ved:

Summen av prinsipalkompoentene kan s som trace til k

Prinsipalkomponent yid

Klassifikasjon og diskriminantanalyse r med n

er det ikke vanlige kategoriske faktorvariable vi snakker om, men underliggende observasjoner som kan være vanskelig å måle. De bestemmes ved å se på korrelasjon mellom variablene. Det er mulig å utføre maksimum likelihood faktoranalyse på datamatrisen

lasser basert på målte egenskaper. Kan brukes til alle mulige former for gruppering av objekter og til mønstergjenkjenning. Klyngemetoder lager grupper basert på kvantitative egenskaper, mål på

ikhet og likhet, og k objekter kan gi 2k-1 grupper, øker eksponensielt med k.

den minste til den

Generelt kan matriser benyttes til å løse m lineære ligningeukjent. I faktoranalyse

eller kovariansematrisen. Medlemskap i k

ul

I hierarkisk klyngeanalyse samles klyngene fra største klyngen (agglomerativ). Ved divisiv klyngeanalysene samlesklyngene fra den største til den minste.

Page 22: Matriser og matriseregning - UiO

Matriser  

22  

est vanlige metoden for ikke-hierarkisk

eller

I ikke-hierarkisk klyngeanalyse er antall klynger k bestemt på forhånd og oppgaven er på best mulig måte å fordele prøven i k klynger. k-means clustering er den mklyngeanalyse. Den er datamaskineffektiv siden den ikke er avhengig av en start med store datamatriser. Skal organisere n datapunkter i k forhåndsbestemte klynger, k<n. Start med å bestemme antall k. Fordel data tilfeldig i k klynger. Beregn sentroid (gjennomsnitt, senter) i hver klynge. La hvert datapunkt høre med til klyngen hvor sentroiden er nærmest, basert på en avstandsmatrise. Hvis det trengs reorganisering lag nye klynger, beregn sentroidkoordinatene for klynger som mister mottar datapunkter. Gjenta til det ikke trengs flere omorganiseringer Man må ha et mål på avstand, similaritet (likhet) eller dissimilaritet (forskjell). For dissimilaritet av kontinuerlige data kan Euklidsk avstand benyttes.

,

Euklidsk avstand er følgsom for utliggere og ekstremverdier. Andre avstandmål er Manhattan avstand og max komponentavstand En lineær klassifiksjon kan kodes som 0/1, suksess/feil, ja/nei osv. Lineær diskriminantanalyse ble utviklet av R.A.Fisher i studiet av multivariate normalfordelte data, datasettet iris, brukt sammen med varianse-kovariansematrisen. I pakken MASS som lda(). Vi har g kjente klasser, W er innen klassen kovariansematrise og B er mellom klasser kovariansematrise (Se Venables & Ripley 2003). Multivariable må reduseres i antall dimensjoner, hvor korrelerte variable

tattes med færre ukorrelerte variable. PCA A

ng) r beregnet for data uten forklaringsvariable. CCA (kanonisk

r

ers(prinsipalkomponentanalyse), CA (korrespondensanalyse), D(diskriminantanalyse) og NMDS (ikke-metrisk multidimensjonal skaleriekorrespondanseanalyse og RDA (redundensianalyse) er beregnet fobåde respons- og forklaringsvariable.

Page 23: Matriser og matriseregning - UiO

Matriser  

23  

nskonforme matriser vor tilsvarende elementer i matrisen multipliseres med hverandre.

Brukes blant annet til lossy bildekompresjon i jpeg.

3

B<-matrix(c(2,2,1,1),nrow=2);B [,1] [,2] [1,] 2 1 [2,] 2 1

2 34 4

[1,] 2 3 ,] 4 4

Euklidsk Normfinne graden av forskjell to mxn matriser med samme orden

5.477226

Hadamard-produkt Vi kan finne Hadamardproduktet for to addisjohHadamardproduktet er kommutativt, assosiativt og distributivt

Vi lar matrise A være: 12 4

Matrise B: 2 12 1

ukes ikke matrisemultipliseringstegnet Legg merke til at her br

A*B [,1] [,2]

[2

ne til en matrise, det er en skalar ||A|| og Man kan finbrukes til å

Page 24: Matriser og matriseregning - UiO

Matriser  

24  

dekomponering komponering (Cholesky faktorisering, André-Louis an utføres på en positivt definert matrise, Hermit matrise

harles Hermite), og som alltid har relle egenverdier større enn 0 n

· R har reelle og positive diagonalelementer, og R* er dens konkjugerte

t

produkt

ecker-produktet angis med et

 

22 84 106 12

Vi har en matrise Y

CholeskyCholesky deCholesky) k(CHvis A er en Hermit positiv definert matrise A være lik produktet av deøvre triangulære faktor R og dens transponerte konjugat:

transponerte Cholesky dekomponering kan brukes til å løse ligninger av typen Ax=b hvor A er en symmetrisk matrise Den øvre triangulære faktoren til Cholesky dekomponeringen er slik amultipliseres den med den transponerte matrisen får man tilbake den opprinnelige matrisen. Kan ikke brukes på matriser med komplekse tall.

Kronecker-Et Kronecker-produkt av to matriser X og Y gir en blokkmatrise som hardimensjonen dim(X)*dim(Y). Krongangetegn omgitt av en sirkel, kalles også direkte produkt hvor hvert element i den første matrisen blir skalarmultiplisert med elementene i den andre matrisen. For eksempel en mxn 2x2 matrise

Som eksempel har vi matrise X:

1 42 53 6

Førs multiplisert med en skalar Y lik 2:

Page 25: Matriser og matriseregning - UiO

Matriser  

25  

2 32 3

Kroneckermultiplisering 2 3 8 122 3 8 124466

6699

10101212

15151818

Kroneckermultiplisering med en diagonalmatrise D: 1 0 00 1 00 0 1

2 3 0 0 0 02 3 0 0 0 00000

0000

2200

3300

0022

0033