Algoritmer og Datastrukturer 1Gerth Stølting Brodal

Kursusbeskrivelsen…

Kursusbeskrivelsen:Algoritmer og datastrukturer 1

FormålDeltagerne vil efter kurset have indsigt i algoritmer som model for sekventielle beregningsprocesser og som basis for formelle korrekthedsbeviser og analyse af ressourceforbrug ved beregningerne, samt detaljeret kendskab til adskillige konkrete implementationer af fundamentale datastrukturer. IndholdDatastrukturer: Lister, træer, hashtabeller; Dataabstraktioner: Stakke, køer, prioritetskøer, ordbøger, mængder; Algoritmer: Søgning, sortering, selektion, fletning; Analyse og syntese: Worst-case, amortiseret og forventet udførelsestid, udsagn, invarianter, gyldighed, terminering og korrekthed. LæringsmålDeltagerne skal ved afslutningen af kurset kunne: • formulere og udføre algoritmer og datastrukturer i pseudo code. • analysere og sammenligne tid og pladsforbruget af algoritmer. • identificere gyldige invarianter for en algoritme. • bevise korrektheden af simple programmer og transitionssystemer.

ForudsætningskravdIntProg UndervisningsformerForelæsninger: 4 timer/uge (2+2). Øvelser: 3 timer/uge Obligatorisk program6 opgaver Evalueringsform2 timers skriftlig eksamen, intern censur, 7-skala Omfang5 ECTS SprogDansk EksamensterminerEksamen: 3. kvarterReeksamen: August

Kursusbeskrivelsen:Algoritmer og datastrukturer 1

Vi kan antage at I ved hvordan man programmerer detaljerne – så dem springer vi over

Der stilles 6 opgaver – alle skal være godkendt for at kunne gå til eksamen. Opgaverne afleveres i grupper - 1-3 personer.

Eksamen består af ca. 25 korte spørgsmål – se eksempler på kursushjemmesiden

Forelæsningerne gemmengår stoffet fra bogen. I øvelserne arbejder man med stoffet.

Spørgsmål ?

2005

”Lokes Høj”

• 64 brikker• Hiscore 450• Antal ombytninger 500 - 450 = 50

Hvordan opnår man et lavt antal ombytninger

– held eller dygtighed ?

Cykler (Permutationer)

Hver pil peger på brikkens korrekte plads

Definerer en mængde af cykler (fx cyklerne A,B,C,D)

Ombytninger og Cykler

Lemma

• En ombytning af to brikker i samme cykel øger antallet af cykler med én.

• En ombytning af to brikker fra to forskellige cykler

reducerer antallet af cykler med én.

Lemma Når alle n brikker er korrekt placeret er der præcis n cykler.

Lemma For at løse et puslespil med n brikker og k cykler I starten kræves ≥ n – k ombytninger.

Har vist en nedre grænse for

ALLE algoritmer der løser problemet

En (grådig) algoritme

Lemma Algoritmen bytter aldrig om på brikker der står korrekt.

Lemma Algoritmen udfører ≤ n -1 ombytninger

Har vist en øvre grænse for en konkret algoritme

Lemma For at løse et puslespil med n brikker og k cykler I starten udfører algoritmen præcis n – k ombytninger.

Algoritmen er optimal da antal ombytninger er bedst mulig

Sætning

For at løse et puslespil med n brikker og k cykler i starten

kræves præcis n – k ombytninger

Fordelingen af antal cykler n = 64, 10.000.000 permutationer

Hvad har vi så lært… ?

Algoritmisk indsigt… Matematisk indsigt (cykler)

Resourceforbrug (antal ombytninger)

Nedre grænse ( ≥ n - k ombytninger)

Grådig algoritme

Analyseret algoritmen ( ≤ n - k ombytninger)

Optimal algoritme (argumenteret bedst mulig)

Input afhængig resourceforbrug

Tilfældige permutationer…

Yderligere information kan findes i David J.C. MacKay, tillæg til Information Theory, Inference, and Learning Algorithms, om "Random Permutations“, 4 sider.

http://www.inference.phy.cam.ac.uk/mackay/itila/cycles.pdf

Et andet eksempel på en beregningsprocess…

Max-Delsum

Algoritme 112345678

Antal additioner:

www.cs.au.dk/~gerth/slides/math.pdf

∑𝑙=1

𝑛

𝑙(𝑛−𝑙+1)=(𝑛+1 )∑𝑙=1

𝑛

𝑙−∑𝑙=1

𝑛

𝑙2=(𝑛+1 ) 𝑛(𝑛+1)2

−𝑛 (𝑛+1)(2𝑛+1)

6=𝑛3+3𝑛2+2𝑛

6

Algoritme 2

1

2

3

4

5

6

7

Algoritme 2b

123456789

Algoritme 3

rmax=2lmax=2

maxsum3(m+1,u)=10maxsum3(l,m)=7

3 52 -3-2 3 -9-2452-1 -8

l um m + 1

123456

7891011121314151617

18

Algoritme 3 : AnalyseRekursionstræet

ObservationSamlet mængde additioner per lag er ~ n

# additioner ~ n · # lag ~ n · log2 nAdditioner

Algoritme 4

Invariantmaxsofar = 12

maxendinghere = 10

0 1 2 3 i-1 i-3 -13-465-2-742 3x

1234567

Max-Delsum:Algoritmiske idéer

Algoritme # additioner Idé

1 ~ n3 Naive løsning

2 + 2b ~ n2 Genbrug beregninger

3 ~ n · log n Del-og-kombiner

4 ~ n Inkrementel

Sammenligning

Sammenligning: n3 og n

Sammenligning 2009

x-akse = n, y = sekunder, hvert eksperiment gennemsnit af 10 kørsler (gcc 4.1.2, C, Linux 2.6.18, Intel Xeon 3 GHz)

maxsum1 ≈ n3

Sammenligning 2009

x-akse = n, y = sekunder, hvert eksperiment gennemsnit af 10 kørsler (gcc 4.1.2, C, Linux 2.6.18, Intel Xeon 3 GHz)

maxsum2a og maxsum2b ≈ n2

Sammenligning 2009

x-akse = n, y = sekunder, hvert eksperiment gennemsnit af 10 kørsler (gcc 4.1.2, C, Linux 2.6.18, Intel Xeon 3 GHz)

maxsum3 og maxsum4 ≈ n ???

Sammenligning 2009

x-akse = n, y = sekunder, hvert eksperiment gennemsnit af 10 kørsler (gcc 4.1.2, C, Linux 2.6.18, Intel Xeon 3 GHz)

maxsum4 ≈ n

Sammenligning 2009

x-akse = n, y = sekunder, hvert eksperiment gennemsnit af 10 kørsler (gcc 4.1.2, C, Linux 2.6.18, Intel Xeon 3 GHz)

maxsum3 ≈ c1·n·log n+c2·n

Algoritmisk indsigt...

Gode idéer kan give hurtige algoritmer Generelle algoritme teknikker

– Del-og-kombiner– Inkrementel

Analyse af udførelsestid (her additioner) Argumenteret for korrektheden Invarianter