Techtalk: Auf Markovketten basierende Heuristiken für das Feedback-Vertex-Set-Problem

Das FVS-Problem Markovsche FVS-Algorithmen Ergebnisse

Auf Markovketten basierende Heuristiken für dasFeedback-Vertex-Set-Problem

Mile Lemaić

Institut für InformatikUniversität zu Köln

20.01.2010


Gliederung

1 Das FVS-Problem


Gliederung

1 Das FVS-Problem

2 Markovsche FVS-Algorithmen


Gliederung

1 Das FVS-Problem


3 Ergebnisse


Gliederung

1 Das FVS-Problem


3 Ergebnisse


NotationInverser Digraph



G

• Sei G = (V ,A) ein Digraph



G G−1

• Sei G = (V ,A) ein Digraph• Dann bezeichnet G−1 den inversen Digraph von G


DefinitionenFeedback-Vertex-Set

Definition



DefinitionSei G = (V ,A) ein Digraph.




• G heißt azyklisch, falls er keine Kreise enthält




• G heißt azyklisch, falls er keine Kreise enthält• F ⊂ V ist ein Feedback-Vertex-Set (FVS) von G ,





falls G − F ayklisch ist





falls G − F ayklisch ist• Ein FVS minimaler Kardinalität heißt optimal


Das FVS-ProblemÜberblick



FVS-Problem

Eingabe: Digraph G = (V ,A)Ausgabe: Optimales FVS F



FVS-Problem


• FVS-Problem ist NP hart [Karp, 1972]



FVS-Problem


• FVS-Problem ist NP hart [Karp, 1972]• Es gibt polynomiell lösbare Klassen

• completely contractible graphs [Levy/Low, 1988]• Smith-Walford reducible graphs [Wang et al, 1985]• . . .



FVS-Problem


• FVS-Problem ist NP hart [Karp, 1972]• Es gibt polynomiell lösbare Klassen

• completely contractible graphs [Levy/Low, 1988]• Smith-Walford reducible graphs [Wang et al, 1985]• . . .

• Bester Approximationsalgorithmus hat Güte vonO(log |V | log log |V |) [Even et al, 1998]


Anwendung: Programmverifikation nach FloydBeispiel: Ganzzahlige Division mit Rest



Eingabe: a, b

Ausgabe: q, r

y := 1q := 0r := a

b := 2by := 2y

r := r-bq := q+y

b := b/2y := y/2

Ja

r > bNein

Ja

r ≥ bNein

Ja

y = 1Nein

• Stelle Programm alsFlowchart dar



Eingabe: a, b

Ausgabe: q, r

y := 1q := 0r := a

b := 2by := 2y

r := r-bq := q+y

b := b/2y := y/2

Ja

r > bNein

Ja

r ≥ bNein

Ja

y = 1Nein


• Wähle Cutpoints



Eingabe: a, b

Ausgabe: q, r

y := 1q := 0r := a

b := 2by := 2y

r := r-bq := q+y

b := b/2y := y/2

Ja

r > bNein

Ja

r ≥ bNein

Ja

y = 1Nein



• zerlegen Programmin azyklischeTeilstrukturen



Eingabe: a, b

Ausgabe: q, r

y := 1q := 0r := a

b := 2by := 2y

r := r-bq := q+y

b := b/2y := y/2

Ja

r > bNein

Ja

r ≥ bNein

Ja

y = 1Nein




• representieren Pro-grammspezifikationen



Eingabe: a, b

Ausgabe: q, r

y := 1q := 0r := a

b := 2by := 2y

r := r-bq := q+y

b := b/2y := y/2

Ja

r > bNein

Ja

r ≥ bNein

Ja

y = 1Nein





• Zeige Kosistenz derSpezifikationen aufTeilstrukturen



Eingabe: a, b

Ausgabe: q, r

y := 1q := 0r := a

b := 2by := 2y

r := r-bq := q+y

b := b/2y := y/2

Ja

r > bNein

Ja

r ≥ bNein

Ja

y = 1Nein





• Zeige Kosistenz derSpezifikationen aufTeilstrukturen

• Zeige Korrektheit desgesamten Programmsmittels induktiverArgumente



Eingabe: a, b

Ausgabe: q, r

y := 1q := 0r := a

b := 2by := 2y

r := r-bq := q+y

b := b/2y := y/2

Ja

r > bNein

Ja

r ≥ bNein

Ja

y = 1Nein

Dann gilt: Falls das Programmtertminiert, so arbeitet esformal korrekt.



Eingabe: a, b

Ausgabe: q, r

y := 1q := 0r := a

b := 2by := 2y

r := r-bq := q+y

b := b/2y := y/2

Ja

r > bNein

Ja

r ≥ bNein

Ja

y = 1Nein


Spezifikationen:



Eingabe: a, b

Ausgabe: q, r

y := 1q := 0r := a

b := 2by := 2y

r := r-bq := q+y

b := b/2y := y/2

Ja

r > bNein

Ja

r ≥ bNein

Ja

y = 1Nein


Spezifikationen:◦ a ≥ 0 ∧ b > 0



Eingabe: a, b

Ausgabe: q, r

y := 1q := 0r := a

b := 2by := 2y

r := r-bq := q+y

b := b/2y := y/2

Ja

r > bNein

Ja

r ≥ bNein

Ja

y = 1Nein



◦ a = bq + r ∧ q ≥ 0 ∧ 0 ≤ r < b



Eingabe: a, b

Ausgabe: q, r

y := 1q := 0r := a

b := 2by := 2y

r := r-bq := q+y

b := b/2y := y/2

Ja

r > bNein

Ja

r ≥ bNein

Ja

y = 1Nein



◦ a = bq + r ∧ q ≥ 0 ∧ 0 ≤ r < b

◦ ay = bq + ry



Eingabe: a, b

Ausgabe: q, r

y := 1q := 0r := a

b := 2by := 2y

r := r-bq := q+y

b := b/2y := y/2

Ja

r > bNein

Ja

r ≥ bNein

Ja

y = 1Nein



◦ a = bq + r ∧ q ≥ 0 ∧ 0 ≤ r < b

◦ ay = bq + ry

◦ · · ·


Das FVS-ProblemHeuristiken für die Knotenwahl



Heuristiken:



Heuristiken:1 [Lee/Reddy, 1990]: Wähle Knoten mit maximalem Produkt

(bzw. Summe) von Eingangs- und Ausgangsgrad




(bzw. Summe) von Eingangs- und Ausgangsgrad2 [Lin/Jou, 1999]: Wähle Knoten mit maximaler Summe von

Eingangs- und Ausgangsgrad sowie Anzahl von Länge-2-Wegen




(bzw. Summe) von Eingangs- und Ausgangsgrad2 [Lin/Jou, 1999]: Wähle Knoten mit maximaler Summe von

Eingangs- und Ausgangsgrad sowie Anzahl von Länge-2-Wegen

Problem bei 1 und 2 : Auswahlkriterien sind lokal,aber Kreise sind global


Gliederung

1 Das FVS-Problem


3 Ergebnisse


MarkovkettenDefinitionen



• Eine Markovkette



• Eine Markovkette• ist ein Digraph M = (V , A) mit V = {v1, . . . , vn}



35

25

12 7

1 7

47

1

1 P =

⎛⎜⎜⎜⎜⎝

0 35 0 2

5 00 0 1 0 027 0 0 1

747

0 0 0 0 10 1 0 0 0

⎞⎟⎟⎟⎟⎠

• Eine Markovkette• ist ein Digraph M = (V , A) mit V = {v1, . . . , vn}• versehen mit stochastischer Matrix P = (pij ), so dass

pij �= 0 ⇐⇒ (vi , vj ) ∈ A



35

25

12 7

1 7

47

1

1 P =

⎛⎜⎜⎜⎜⎝

0 35 0 2

5 00 0 1 0 027 0 0 1

747

0 0 0 0 10 1 0 0 0

⎞⎟⎟⎟⎟⎠


pij �= 0 ⇐⇒ (vi , vj ) ∈ A• P heißt Übergangsmatrix von M



35

25

12 7

1 7

47

1

1 P =

⎛⎜⎜⎜⎜⎝

0 35 0 2

5 00 0 1 0 027 0 0 1

747

0 0 0 0 10 1 0 0 0

⎞⎟⎟⎟⎟⎠



• Eine Markovkette heißt Random Walk,



12

12

11 3

1 3

13

1

1 P =

⎛⎜⎜⎜⎜⎝

0 12 0 1

2 00 0 1 0 013 0 0 1

313

0 0 0 0 10 1 0 0 0

⎞⎟⎟⎟⎟⎠



• Eine Markovkette heißt Random Walk,falls je zwei positive Zeilenelemente pij , pik von P gleich sind



12

12

11 3

1 3

13

1

1 P =

⎛⎜⎜⎜⎜⎝

0 12 0 1

2 00 0 1 0 013 0 0 1

313

0 0 0 0 10 1 0 0 0

⎞⎟⎟⎟⎟⎠



• Eine Markovkette heißt Random Walk,falls je zwei positive Zeilenelemente pij , pik von P gleich sind

• Jeder Digraph G = (V , A) induziert eindeut. Random Walk MG


MarkovkettenStationäre Verteilung

M = (V ,A) Markovkette mit V = {v1, . . . , vn} undÜbergangsmatrix P




Ist M stark zusammenhängend, so




Ist M stark zusammenhängend, so• existiert eindeutiger Spaltenvektor π = (πi ), so dass

tπ · P = tπ undn∑

i=1πi = 1






i=1πi = 1

• π heißt stationäre Verteilung von M






i=1πi = 1

• π heißt stationäre Verteilung von M• 1

πiist mittlere Rückkehrzeit zum Knoten vi


Speckenmeyers ursprünglicher Algorithmus (MFVS)

Bestimme kleines FVS F von G = (V ,A) mit V = {v1, . . . , vn}




MFVS Algorithmus [Speckenmeyer, 1989]





• Konstruiere Random Walk MG





• Konstruiere Random Walk MG• Berechne stationäre Verteilung π = (πi ) von MG





• Konstruiere Random Walk MG• Berechne stationäre Verteilung π = (πi ) von MG• Wähle Knoten vi mit kleinster mittlerer Rückkehrzeit 1

πi






πi

Beispiel zu MFVS






πi

Beispiel zu MFVS

• Berechne stationäre Verteilung






πi

Beispiel zu MFVS

• Berechne stationäre Verteilung• Wähle Knoten mit

kleinster mittlerer Rückkehrzeit






πi

Beispiel zu MFVS


kleinster mittlerer Rückkehrzeit






πi

Beispiel zu MFVS


kleinster mittlerer Rückkehrzeit• Restgraph vollständig reduzierbar


Der gemittelte MFVS (MFVSMean)Kernidee

Versuche suboptimale Entscheidungen von MFVS zu vermeiden




• Konzipiere alternative unabhängige Heuristik gleicher Güte




• Konzipiere alternative unabhängige Heuristik gleicher Güte• Schlagen beide Heuristiken gleichen Knoten vor, so wähle ihn




• Konzipiere alternative unabhängige Heuristik gleicher Güte• Schlagen beide Heuristiken gleichen Knoten vor, so wähle ihn• Falls nicht, dann . . .





Beobachtung: F FVS von G ⇐⇒ F FVS von G−1





Beobachtung: F FVS von G ⇐⇒ F FVS von G−1

Alternative Heuristik: Wende Heuristik von MFVS auf G−1 an


Der gemittelte MFVS (MFVSMean)Tie-Break

Welchen Knoten wählen,wenn beide Heuristiken verschiedene Knoten vorschlagen?




• Berechne stationäre Verteilungen π und π′

der Random Walks MG und MG−1






• Definiere π̃ = (π̃i) durchπ̃i := h(πi , π

′i ) mit Heuristik h : R

2 → R








2 → R

• Wähle Knoten vi mit kleinstem 1eπi








2 → R


Wahl v h:








2 → R


Wahl v h:• muss symmetrisch sein








2 → R


Wahl v h:• muss symmetrisch sein• Kandidaten: arithm. Mittel, geom. Mittel, Maximum, . . .








2 → R


Wahl v h:• muss symmetrisch sein• Kandidaten: arithm. Mittel, geom. Mittel, Maximum, . . .• Bestes: arithmetrisches Mittel, d.h. h(x , y) = 1

2(x + y)








2 → R


Wahl v h:• muss symmetrisch sein• Kandidaten: arithm. Mittel, geom. Mittel, Maximum, . . .• Bestes: arithmetrisches Mittel, d.h. h(x , y) = 1

2(x + y)

Resultierender Algorithmus: MFVSMean


Der gemittelte MFVS (MFVSMean)Beispiel

Beispiel zu MFVSMean




G




G

• Berechne stat. Verteilung von MG




G

G−1• Berechne stat. Verteilung von MG

• Konstruiere inversen Digraphen G−1




G



• Berechne stat. Verteilung von MG−1




G G




• Mittele stat. Verteilungen




G




• Mittele stat. Verteilungen• Wähle Knoten


MarkovSearchKernidee

Bestimme kleines FVS F des Digraphen G = (V ,A)




• Generiere Nachfolger-FVS F ′ eines gegebenen FVSs F




• Generiere Nachfolger-FVS F ′ eines gegebenen FVSs F• Steuere Generierung durch Schrittweite d




• Generiere Nachfolger-FVS F ′ eines gegebenen FVSs F• Steuere Generierung durch Schrittweite d• Schrittweite von F nach F ′: |F \ F ′|





Konstruktion eines Nachfolger-FVSs F ′ von F





Konstruktion eines Nachfolger-FVSs F ′ von F• Eingabe: FVS F von Digraph G





Konstruktion eines Nachfolger-FVSs F ′ von F• Eingabe: FVS F von Digraph G• Wähle zufällige d -elementige Menge X ⊂ F





Konstruktion eines Nachfolger-FVSs F ′ von F• Eingabe: FVS F von Digraph G• Wähle zufällige d -elementige Menge X ⊂ F• Setze F1 := F \ X





Konstruktion eines Nachfolger-FVSs F ′ von F• Eingabe: FVS F von Digraph G• Wähle zufällige d -elementige Menge X ⊂ F• Setze F1 := F \ X• Digraph G ′ := G − F1 ist zyklisch





Konstruktion eines Nachfolger-FVSs F ′ von F• Eingabe: FVS F von Digraph G• Wähle zufällige d -elementige Menge X ⊂ F• Setze F1 := F \ X• Digraph G ′ := G − F1 ist zyklisch• Bestimme FVS F2 von G ′ mittels MFVSMean





Konstruktion eines Nachfolger-FVSs F ′ von F• Eingabe: FVS F von Digraph G• Wähle zufällige d -elementige Menge X ⊂ F• Setze F1 := F \ X• Digraph G ′ := G − F1 ist zyklisch• Bestimme FVS F2 von G ′ mittels MFVSMean• Ausgabe: F ′ := F1 ∪ F2


MarkovSearchAlgorithmus

MarkovSearch Algorithmus



MarkovSearch Algorithmus• Eingabe: Digraph G



MarkovSearch Algorithmus• Eingabe: Digraph G• Bestimme FVS F0 von G mittels MFVSMean




• Füge F0 zu Prioritätswarteschlange Q hinzu




• Füge F0 zu Prioritätswarteschlange Q hinzu• Iteriere t mal:

• Extrahiere FVS F kleinster Kardinalität aus Q• Generiere Nachfolger-FVSs F1, . . . , Fk von F (Schrittweite d)• Füge F1, . . . , Fk zu Q hinzu






• Ausgabe: kleinstes generiertes FVS







Parameter von MarkovSearch:







Parameter von MarkovSearch:• Anzahl der Iterationen t







Parameter von MarkovSearch:• Anzahl der Iterationen t• Anzahl der Nachfolger-FVSs k







Parameter von MarkovSearch:• Anzahl der Iterationen t• Anzahl der Nachfolger-FVSs k• Schrittweite d


MarkovSearchOptimale Schrittweite

Was ist die optimale Schrittweite d?




• Eindeutiger optimaler Wert existiert




• Eindeutiger optimaler Wert existiert• Schwer zu quantifizieren




• Eindeutiger optimaler Wert existiert• Schwer zu quantifizieren• Hängt von der Eingabe-Instanz ab


MarkovSearchVariierende Schrittweite

0 30 60 90 120 150180

181

182

183

184

185

FVS-

Grö

ße

Schrittweite

100 Iterationen500 Iterationen

FVS-Größe in Abhängigkeit vonSchrittweite d für 100 Zufallsdigraphen(p = 0.05) mit 300 Knoten.

0 50 100 150 200 250457

458

459

460

461

462

FVS-

Grö

ßeSchrittweite

100 Iterationen500 Iterationen

FVS-Größe in Abhängigkeit vonSchrittweite d für 100 Zufallsdigraphen(p = 0.2) mit 500 Knoten.


Markovsche FVS-AlgorithmenImplementierung und Laufzeit



• Jeder Knoten vom FVS F wird von Markov-Heuristik gewählt



• Jeder Knoten vom FVS F wird von Markov-Heuristik gewählt• Dazu muss Eigenvektor π = (πi ) der Übergangsmatrix P

berechnet werden:tπ · P = tπ mit

n∑i=1

πi = 1





n∑i=1

πi = 1

Laufzeit mit direkter Methode: O(|V |2.376|F |)





n∑i=1

πi = 1

Laufzeit mit direkter Methode: O(|V |2.376|F |)Iterative Methode:





n∑i=1

πi = 1


• Ist P irreduzibel und aperiodisch, so gilt:limn→∞ Pn = e tπ, wobei e = t (

1 · · · 1)





n∑i=1

πi = 1



1 · · · 1)

=⇒ limn→∞ txPn = tπ, für jeden Vektor x mit txe = 1





n∑i=1

πi = 1



1 · · · 1)

=⇒ limn→∞ txPn = tπ, für jeden Vektor x mit txe = 1• Bekannt: Für n > d

− log |λ| stimmen txPn und tπ auf ersten dStellen überein (λ subdominanter Eigenwert von P)





n∑i=1

πi = 1



1 · · · 1)

=⇒ limn→∞ txPn = tπ, für jeden Vektor x mit txe = 1• Bekannt: Für n > d

− log |λ| stimmen txPn und tπ auf ersten dStellen überein (λ subdominanter Eigenwert von P)

Laufzeit mit iterativer Methode: O(|A||F | d− ln |λ|)





n∑i=1

πi = 1


• Rechengenauigkeit üblicherweise beschränkt





n∑i=1

πi = 1


• Rechengenauigkeit üblicherweise beschränkt• Stellenzahl d kann als konstant angenommen werden





n∑i=1

πi = 1


• Rechengenauigkeit üblicherweise beschränkt• Stellenzahl d kann als konstant angenommen werden

Laufzeit mit iterativer Methode: O(|A||F | 1− ln |λ|)


Gliederung

1 Das FVS-Problem


3 Ergebnisse


Betrachtete Algorithmen



MFVS: Speckenmeyers ursprünglicher Algorithmus



MFVS: Speckenmeyers ursprünglicher AlgorithmusMFVSMean: Gemittelte Version von MFVS




MarkovSearch: Markovsche lokale Suchfunktion• führt 100 Iterationen aus• generiert jeweils 2 Nachfolger-FVSs





Simple: Wählt Knoten v ∈ V des Graphen G = (V ,A) mitmaximalem Produkt∑

v∈N−(v)

d−(v) · ∑v∈N+(v)

d+(v)





Simple: Wählt Knoten v ∈ V des Graphen G = (V ,A) mitmaximalem Produkt∑

v∈N−(v)

d−(v) · ∑v∈N+(v)

d+(v)

GRASP: Multistart-Algorithmus von Resende et al• generiert 2048 FVSs• wird derzeit als bester Algorithmus angesehen


Deterministische Algorithmen

360

370

380

390

400

410

420

430

440

450

460

470

0.05 0.10 0.15 0.20

XXX MFVSMean

XXX MFVSXXX Simple

FVS-Größe für 100 Zufallsdigraphenmit 500 Knoten in Abhängigkeit vonDichte p.

120

140

160

180

200

220

240

260

280

3 5 7 9

XXX MFVSMean

XXX MFVSXXX Simple

FVS-Größe für 100 reguläre Digraphenmit 500 Knoten in Abhängigkeit vomRang k .


Randomisierte Algorithmem I

170

180

190

200

210

220

230

240

250

260

270

0.05 0.10 0.15 0.20

XXX MarkovSearchXXX GRASP

FVS-Größe für 100 Zufallsdigraphenmit 300 Knoten in Abhängigkeit vonDichte p.

0

50000

100000

150000

200000

250000

300000

0.05 0.10 0.15 0.20


Laufzeit in Sekunden.


Randomisierte Algorithmem II

120130140150160170180190200210220230240

4 6 8 10


FVS-Größe für 100 reguläre Digraphenmit 400 Knoten in Abhängigkeit vomRang k .

0

5000

10000

15000

20000

25000

4 6 8 10


Laufzeit in Sekunden.


MFVSMean vs. GRASP vs. MarkovSearch



Resende Digraphen:



Resende Digraphen:

• 40 Digraphen



Resende Digraphen:

• 40 Digraphen• verschiedene Größen (50—1000 Knoten)



Resende Digraphen:

• 40 Digraphen• verschiedene Größen (50—1000 Knoten)• verschiedene Dichten



Resende Digraphen:


Optimum MFVSMean GRASP MarkovSearchFVS-Größe ≤ 6576 6964 6941 6749Laufzeit (Sek.) 193 41626 733



Resende Digraphen:


Optimum MFVSMean GRASP MarkovSearchFVS-Größe ≤ 6576 6964 6941 6749Laufzeit (Sek.) 193 41626 733

Weitere Informationen: M. Lemaić, E. Speckenmeyer.Markov-Chain-Based Heuristics for the Minimum FeedbackVertex Set Problem,zaik2010-596, http://www.zaik.uni-koeln.de, 2010


Zusammenfassung


Zusammenfassung

• Neue Markovsche Algorithmen: MFVSMean, MarkovSearch


Zusammenfassung

• Neue Markovsche Algorithmen: MFVSMean, MarkovSearch• erzielen gute Resultate


Zusammenfassung


• MFVSMean

• ist eine signifikante Verbesserung gegenüber MFVS


Zusammenfassung


• MFVSMean

• ist eine signifikante Verbesserung gegenüber MFVS• übertrifft bekannte deterministische Algorithmen


Zusammenfassung


• MFVSMean

• ist eine signifikante Verbesserung gegenüber MFVS• übertrifft bekannte deterministische Algorithmen• nur marginal schlechter als GRASP


Zusammenfassung


• MFVSMean


• MarkovSearch• übertrifft GRASP in puncto FVS-Größe als auch Laufzeit


Zusammenfassung


• MFVSMean


• MarkovSearch• übertrifft GRASP in puncto FVS-Größe als auch Laufzeit• derzeit bester Algorithmus für FVS-Problem

• Markovketten sehr gut geeignet für FVS-Problem


Vielen Dank!

Technology

Techtalk: Auf Markovketten basierende Heuristiken für das Feedback-Vertex-Set-Problem