1 STATISIK LV Nr.: 1852 WS 2005/06 13. Dezember 2005

1

STATISIK

LV Nr.: 1852

WS 2005/06

13. Dezember 2005

2

Theorie

• Wahrscheinlichkeitsrechnung– Einführung, Begriffe, …– Zufallsvariable– Wahrscheinlichkeits- Vt.

• Kombinatorik

• Verteilungen– Diskrete Verteilungen– Stetige Verteilunge

3

Wahrscheinlichkeitsrechung

• Betrachte Ereignisse die nicht deterministisch (vorherbestimmbar) sind, Ereignisse mit Zufallscharakter. – Bsp. Werfen eines idealen Würfels, Werfen

einer fairen Münze, … – Oder Ereignisse, die von so vielen

Einflussfaktoren abhängen, dass das Ergebnis nicht sicher bestimmt werden kann.

4


Grundbegriffe:

• Zufallsexperiment: – Vorgang nach einer bestimmten Vorschrift

ausgeführt, beliebig oft wiederholbar, Ergebnis hängt vom Zufall ab, bei mehrmaligen Durchführung des Experiments beeinflussen die Ergebnisse einander nicht – unabhängig voneinander. (z.B. Münzwurf, Werfen eines Würfels, …)

5


• Elementarereignisse (Realisationen)– Zufallsexperiment: Reihe aller möglichen

elementarer Ereignisse {e1},…,{en}

• Ereignisraum S:– Menge der Elementarereignisse S={e1,…,en}

• Ereignis: – Jede beliebige Teilmenge des Ereignisraumes

(setzt sich aus einem od. mehreren Elementarereignissen zusammen)

6


• Vereinigung– Vereinigung von 2 Ereignissen A und B: AUB Menge

aller Elementarereignisse, die zu A oder B gehören

• Durchschnitt– Durchschnitt von 2 Ereignissen A und B: A∩B Menge

aller Elementarereignisse, die zu A und B gehören

• Disjunkte Ereignisse– 2 Ereignisse A und B schließen einander aus, A∩B=Ø

(Ø unmögliches Ereignis)

• Komplementärereignis – Menge aller Elementarereignisse des Ereignisraumes S,

die nicht in Ereignis A enthalten sind

A

7


• Wahrscheinlichkeit ist ein Maß zur Quantifizierung der Sicherheit bzw. Unsicherheit des Eintretens eines bestimmten Ereignisses im Rahmen eines Zufallsexperiments.

8


• Klassischer Wahrscheinlichkeitsbegriff:

• Bsp. Urne mit 10 Kugeln (8 rot, 2 schwarz)– Gesucht: Wahrscheinlichkeit, dass eine zufällig

gezogene Kugel rot ist (Ereignis A)– Ereignisraum 10 mögl. Elementarereignisse, 8

günstige Fälle– W(A) = 8 / 10 = 0,8

Fälleichen gleichmöglaller Zahl

Fällegünstigen der ZahlW(A)

9


• Statistischer Wahrscheinlichkeitsbegriff:

• Grenzwert der relativen Häufigkeiten des Auftretens von A

n

(A)hlim(A)flimW(A) n

nn

n

10


• Subjektiver Wahrscheinlichkeitsbegriff:

• Ereignissen werden „Wettchancen“ zugeordnet. Quote für A ist a:b, dann ergibt sich die Wahrscheinlichkeiten

ba

b)AW(und

ba

aW(A)

11


• Axiomatischer Wahrscheinlichkeitsbegriff:

• Definition von mathematischen Eigenschaften 1. 0 ≤ W(A) ≤ 1

2. W(S) = 1

3. A und B disjunkt: W(A U B) = W(A) + W(B)

12

Zufallsvariable

• Zufallsvariable: Variable deren Wert vom Zufall abhängt (z.B. X, Y, Z)– Bsp. Zufallsexperiment: 2-maliges Werfen

einer Münze. Frage: Wie oft erscheint „Zahl“? Mögliche Werte: 0, 1, 2. Variable „Anzahl Zahl“ hängt vom Zufall ab – Zufallsvariable.

• Realisation (Ausprägung): Wert, den eine Zufallsvariable X annimmt (z.B. x, y, z). – Bsp. 2-maliges Werfen einer Münze, ZV X

„Anzahl Zahl“, Ausprägungen: x1=0, x2=1, x3=2.

13

Zufallsvariable

• Zufallsvariable: Funktion, die jedem Elementarereignis eine bestimmt reelle Zahl zuordnet, z.B. X(ej)=xi

• Definitionsbereich einer ZV: Ereignisraum S des zugrundeliegenden Zufallsexperiments.

• Wertebereich einer ZV: Menge der reellen Zahlen.

14

Zufallsvariable

• Diskrete Zufallsvariable: ZV mit endlich vielen oder abzählbar unendlich vielen Ausprägungen

• Stetige Zufallsvariable: können (zumindest in einem bestimmten Bereich der reellen Zahlen) jeden beliebigen Zahlenwert annehmen.

15

Wahrscheinlichkeit

• Diskrete Zufallsvariable:

• Wahrscheinlichkeit, mit der eine diskrete ZV X eine spezielle Ausprägung xi annimmt, W(X=xi): Summe der Wahrscheinlichkeiten derjenigen Elementarereignisse ej, denen Ausprägung xi zugeordnet ist:

ij x)X(e

ji ) W(e)xW(X

16

Wahrscheinlichkeitsfunktion

• Wahrscheinlichkeitsfunktion einer diskreten ZV: Funktion f(xi), die für jede Ausprägung der ZV (unterschiedliche Ausprägungen xi einer ZV X) die Wahrscheinlichkeit ihres Auftretens angibt: f(xi) = W(X=xi)

• Eigenschaften:– f(xi) ≥ 0 i=1,2,…

– Σi f(xi) = 1

17

Verteilungsfunktion

• Verteilungsfunktion einer diskreten ZV: Funktion F(x), die die Wahrscheinlichkeit dafür angibt, dass die ZV X höchstens den Wert x annimmt. F(x) = W(X ≤ x)

• Es gilt:

• Treppenfunktion

xx

i

i

)f(xx)W(XF(x)

18

Verteilungsfunktion

• Verteilungsfunktion einer stetigen ZV (kann in einem bestimmten Intervall jeden beliebigen Wert annehmen): Funktion F(x), die die Wahrscheinlichkeit dafür angibt, dass die ZV X höchstens den Wert x annimmt. F(x) = W(X ≤ x)

• Stetige Funktion

19

Verteilungsfunktion

• Eigenschaften einer stetigen Vt-Funktion:1. 0 ≤ F(x) ≤ 1

2. F(x) ist monoton wachsend (d.h. für x1 < x2 gilt F(x1) ≤ F(x2)

3. lim x→-∞ F(x) = 0

4. lim x→∞ F(x) = 1

5. F(x) ist überall stetig

20

Wahrscheinlichkeitsdichte

• Wahrscheinlichkeitsdichte (Dichtefunktion) f(x) einer stetigen ZV: Ableitung der Verteilungsfunktion.

• Es gilt:

x

f(v)dvF(x)

f(x)F´(x)

21

Wahrscheinlichkeitsdichte

• Eigenschaften: 1. f(x) ≥ 0

2.

3. 4. W(X=x) = 05. W(a ≤ X ≤ b) = W(a < X < b)6. W(X ≤ a) = F(a)

W(X ≤ b) = F(b)

1f(x)dx

b

a

f(x)dxb)XW(a

W(a ≤ X ≤ b) = F(b) – F(a)

22

Parameter

• Charakterisierung der Wahrscheinlichkeits-verteilung von Zufallsvariablen durch Parameter (Maßzahlen)

• Erwartungswert E(X) = Lageparameter (Entspricht dem arithm. Mittel)

• Varianz Var(X) = Streuungsparameter

23

Erwartungswert

• Diskrete ZV:

• Stetige ZV:

i

iii

ii )f(xx)xW(XxE(X)

f(x)dxxE(X)

24

Varianz

• Diskrete ZV:

• Stetige ZV:

• Standardabweichung:

i

i2

i )f(xE(X)xVar(X)

f(x)dxE(X)xVar(X) 2

Var(X)σX

25

Standardisierung

• Lineare Transformation: Y = a + bX

• Spezialfall Standardisierung: a = – E(X) / σX

b = 1 / σX

• Standardisierte Variable Z:

• Es gilt: E(Z) = 0 und Var(Z) = 1Xσ

E(X)XZ

26

Theoretische Verteilungen

• Bedeutung von theoretische Verteilungen

• Deskriptive Statistik: – Approximative funktionsmäßige Beschreibung

empirisch beobachteter Häufigkeitsverteilungen

• Mathematische Statistik: – Wahrscheinlichkeiten für Ergebnisse

bestimmter Zufallsexperimente

27

Kombinatorik

• Wie kann eine gegebene Anzahl von Elementen unterschiedlich angeordnet und zu Gruppen zusammengefasst werden?

• Wie viele Möglichkeiten gibt es, n Elemente anzuordnen? Anzahl der möglichen Permutationen?

• Wie viele Möglichkeiten gibt es, von n Elementen k auszuwählen? Anzahl der möglichen Kombinationen?

28

Kombinatorik

• Permutationen:

• n voneinander verschiedene Elemente:

n! = n·(n-1)·(n-2)·…·1 Permutationen

• Bsp.1: n=3, Elemente e1, e2, e3. Anzahl der möglichen Permutationen: 3! = 3·2·1 = 6 (e1, e2, e3) (e1, e3, e2) (e2, e1, e3) (e2, e3, e1) (e3, e1, e2) (e3, e2, e1)

• Bsp.2: n=10, Anzahl der möglichen Permutationen: 10! = 3 628 800

29

Kombinatorik

• n Elemente, wobei ni Elemente vom Typ i sind (r unterschiedliche Typen):

• Bsp.1: n=10, r=3 und n1=3, n2=5, n3=2, Anzahl der möglichen Permutationen:

!n...!n

n!

r1

252021206

3628800

2!!53!

10!

30

Kombinatorik

• Kombinationen:

• Aus n verschiedene Elemente sollen k Stück gewählt werden– Kombination ohne Wiederholung: jedes

Element kann nur einmal gewählt werden• Berücksichtigung der Reihenfolge:

Anzahl der Möglichkeiten:

• Keine Berücksichtigung der Reihenfolge:


k)!(n

n!

k)!(nk!

n!

k

n

31

Kombinatorik

• Kombinationen ohne Wiederholung:

• n=3, k=2, Elemente e1, e2, e3. – Berücksichtigung der Reihenfolge:

Möglichkeiten: (e1, e2) (e2, e1) (e1, e3) (e3, e1) (e2, e3) (e3, e2), also 3!/(3-2)! = 6 Möglichkeiten

– Keine Berücksichtigung der Reihenfolge: Möglichkeiten: (e1, e2), (e1, e3) (e2, e3), also 3!/(2!(3-2)!) = 3 Möglichkeiten

32

Kombinatorik

• Kombinationen ohne Wiederholung:

• Bsp.1: Lotto, Möglichkeiten aus 49 Zahlen 6 zu wählen (Reihenfolge unberücksichtigt)

• Bsp.2: Pferderennen, sind 8 Pferde am Start, gibt es für die Belegung der ersten 3 Plätze 8!/(8-3)! = 336 Möglichkeiten

816983136

49

33

Kombinatorik

• Aus n verschiedene Elemente sollen k Stück gewählt werden– Kombination mit Wiederholung: ein Element

kann auch mehrfach ausgewählt werden.• Berücksichtigung der Reihenfolge

Anzahl der Möglichkeiten: nk

• Keine Berücksichtigung der Reihenfolge


1)!(nk!

1)!k(n

k

1kn

34

Kombinatorik

• Kombination mit Wiederholung:

• n=3, k=2, Elemente e1, e2, e3. – Berücksichtigung der Reihenfolge,

Möglichkeiten: (e1, e1), (e1, e2), (e1, e3), (e2, e2), (e2, e1), (e2, e3), (e3, e3), (e3, e1), (e3, e2), Anzahl der Möglichkeiten: nk = 3² = 9

– Keine Berücksichtigung der Reihenfolge, Möglichkeiten: (e1, e1), (e1, e2), (e1, e3), (e2, e2), (e2, e3), (e3, e3), Anzahl der Möglichkeiten: (3+2-1)! / (2!·(3-1)!) = 4! / (2!·2!) = 6

35

Kombinatorik

• Kombinationen mit Wiederholung:

• Bsp.1: Würfelt man viermal hintereinander, sind 64 = Abläufe möglich

• Bsp.2: Hat man vier verschiedene Sorten Süßigkeiten, gibt es 286 Möglichkeiten eine Tüte mit 10 Süßigkeiten zu füllen.

28610

1104

36

Theoretische Verteilungen• Diskrete Verteilungen

– Binomialverteilung– Hypergeometrische Verteilung– Poissonverteilung– ...

• Stetige Verteilungen– Gleichverteilung– Exponentialverteilung– Normalverteilung– Chi-Quadrat Verteilung– t-Verteilung (Studentverteilung)– F-Verteilung– ...

37

Binomialverteilung

• Wahrscheinlichkeiten für die Häufigkeit des Eintreffens bestimmter Ereignisse bei Bernoulli-Experimenten berechnen.

• Bernoulli-Experiment: Folge von Bernoulli-Versuchen. Urnenmodell mit Zurücklegen– Es gibt nur 2 mögliche Ausgänge: A und Ā– Wahrscheinlichkeiten für Eintreten von A (θ)

und Ā (1- θ) sind konstant– Versuche sind voneinander unabhängig.

38

Binomialverteilung

• Bsp. Bernoulli-Experiment: – fünfmaliges Werfen einer Münze,

Zufallsvariable X „Anzahl der Zahlen“, Realisation x = 0, 1, 2, 3, 4, 5

– Wahrscheinlichkeiten für Eintreten von A: W(X=x) = f(x) = ?

39

Binomialverteilung

• Wahrscheinlichkeit des Auftretens einer bestimmten Realisation x: W(X=x) = f(x)

• Wahrscheinlichkeitsfunktion der Binomialverteilung:

n0,1,...,xfür

sonst0

θ)(1θx

nθ)n,(x;f

xnx

B

40

Binomialverteilung

• Bsp. Münzwurf (n=5), Wahrscheinlichkeit dass genau 2-mal Zahl geworfen wird: W(X=2)

0,31250,5)(10,52

5(2;5,0.5)f 252

B

41

Binomialverteilung

• Wahrscheinlichkeit, dass die Zufallsvariable X höchstens den Wert x annimmt: Verteilungsfunktion FB(x;n,θ)

xi n-i

Bi 0

nF (x;n,θ) θ (1 θ)

i

42

Binomialverteilung

• Bsp. Münzwurf (n=5), Wahrscheinlichkeit dass höchstens 2-mal Zahl geworfen wird: W(X 2)

2i 5-i

Bi 0

5F (2;5,0.5) 0,5 (1 0,5) 0,5

i

43

Binomialverteilung

• Erwartungswert der Binomialverteilung:

E(X) = n·θ

• Varianz der Binomialverteilung:

Var(X) = n·θ·(1-θ)

• Bsp. Münzwurf: – E(X) = 5·0,5 = 2,5– Var(X) = 5·0,5·(1-0,5) = 1,25

44

Hypergeometrische Verteilung

• Urnenmodell Ziehen ohne Zurücklegen:– Urne mit N Kugeln (M schwarze, N-M weiße)– Zufallsstichprobe: ziehe n Kugeln ohne

Zurücklegen – Wahrscheinlichkeit, dass unter den n

gezogenen Kugeln genau x schwarze zu finden sind?

• Ziehen ohne Zurücklegen, keine Berücksichtigung der Reihenfolge.

45


• Urnenmodell: – Aus M schwarzen Kugeln genau x auswählen: Anzahl

der Kombinationen

– Aus N-M weißen Kugeln genau n-x auswählen: Anzahl der Kombinationen

– Jede mögl. Stpr. „x schwarze aus M“ kann mit jeder mögl. Stpr. „n-x weiße aus N-M“ kombiniert werden.

– Daher: Gesamtzahl der Möglichkeiten genau x schwarze zu ziehen:

– Gesamtzahl der Möglichkeiten aus N Kugeln n zu ziehen:

M

x

N-M

n-x

N

n

M N-M

x n-x

46


• Wahrscheinlichkeit genau n schwarz Kugeln zu ziehen:

• Wahrscheinlichkeitsfunktion der Hypergeometrischen Verteilung:

M N-M

x n-x

N

n

H

M N-M

x n-x

Nf (x;N,n,M)= für x=0,1,...,n

n

0 sonst

47


• Verteilungsfunktion: Summation der Einzelwahrscheinlichkeiten

• Liefert Wahrscheinlichkeit für „höchstens x schwarze Kugeln“

48


• Bsp. Sortiment von N=8 Dioden, es werden n=3 zufällig gezogen (ohne Zurücklegen), M=5 der Dioden sind defekt.

• Ges: Wahrscheinlichkeit, dass genau 2 (=x) der 3 gezogenen Dioden defekt sind.

M N-M 5 8-5

x n-x 2 3-2 10 3P(X=x)= = = =0,5357

N 8 56

n 3

49


• Erwartungswert:

E(X) = n · M/N

• Varianz

Var(X) = n · M/N · (N-M)/N · (N-n)/(n-1)

• Approximation durch Binomialverteilung: – Wenn N, M, N-M groß und n klein, Parameter

der Binomialverteilung: θ = M/N– Faustregel: Approximation, wenn n/N < 0,05

50

Poissonverteilung

• Verteilung seltener Ereignisse

• Große Zahl von Versuchen n, Wahrscheinlichkeit θ für Auftreten eines Ereignisses sehr klein

• Wahrscheinlichkeitsfunktion: x -μ

P

μ ef (x;μ)= für x=0,1,...x!

0sonst

51

Poissonverteilung

• Erwartungswert: E(X) = μ• Varianz: Var(X) = μ• Approximation der Binomialverteilung

durch die Poissonverteilung: – n groß und θ klein, Parameter μ = n·θ– Faustregel: n > 10 und θ < 0,05.

• Approximation der Hypergeometrischen Vt.– M/N = θ klein, N im Vergleich zu n groß,

Parameter μ = n · M/N – Faustregel: M/N < 0,05 und n/N < 0,05

52

Poissonverteilung

• Bsp. Wahrscheinlichkeit bei einer Prüfung von n=2000 Buchungen genau 3 (=x) Fehlbuchungen zu finden, Anteil der Fehlbuchungen: θ=0,001.

• Poissonverteilung: μ = n·θ = 2x -μ 3 -2μ e 2 e

W(X=x)= = =0,1804x! 3!

53

Gleichverteilung

• Diskrete Zufallsvariable:

• Jede der k möglichen Ausprägungen hat gleiche Wahrscheinlichkeit

P(X=xi) = 1/k (i=1,…,k)

• Bsp. Wahrscheinlichkeitsverteilung der Augenzahl eines idealen Würfels:

P(X=xi) = 1/6 (i=1,…,6)

54

Gleichverteilung

• Stetige Zufallsvariable:

• Realisationen der stetigen Zufallsvariablen X liegen im Intervall [a;b]

• Dichtefunktion:

• P(x X x+Δx) = 1/(b-a) · Δx

G

1für a x b

f (x;a,b)= b-a0 sonst

55

GleichverteilungStetige Gleichverteilung

0

0,2

0 14

x

f(x

;a,b

)

a b

1/(b-a)

x x+Δx

P(xXx+Δx) = 1/(b-a) · Δx

56

Gleichverteilung

• Verteilungsfunktion (Integration der Dichte)

G

0 für x<a

x-aF (x;a,b)= für a x b

b-a1 für x>b

57

GleichverteilungStetige Gleichverteilung

0

0,2

0,4

0,6

0,8

1

1,2

0 14

x

F(x

;a,b

)

a b

58

Gleichverteilung

• Erwartungswert: E(X) = (a+b)/2

• Varianz: Var(X) = (b-a)² / 12

• Bsp. Wegzeit ist gleichverteilt im Intervall [30;40]. Ges. Wahrscheinlichkeit zw. 32 und 35 Min. zu benötigen.

P(32 X 35) = 1/(b-a) · Δx

= 1/(40-30) · (35-32) = 0,3

Durchschnittlich benötigte Zeit: E(X) = 35

59

Normalverteilung

• Wichtigste theoretische Verteilung:

• Normalverteilung: – stetige Verteilung – symmetrische Dichtefunktion– S-förmige Verteilungsfunktion– Erwartungswert: E(X) = µ– Varianz: Var(X) = σ²– Maximum der Dichte bei x=µ– Wendepunkte bei x=µσ

60

Normalverteilungen

• Normalverteilung:

• Dichtefunktion (für -∞<x<+∞ und σ>0) :

• Verteilungsfunktion:

2

σ

μx

2

1

2

2n e

2π

1)σμ,(x;f

dve2

1)σμ,(x;F

xσ

μv

2

1

2

2n

2

61

Normalverteilung

• Normalverteilungen mit unterschiedlichen Parametern

Normalverteilung

0

0,05

0,1

0,15

0,2

0,25

0,3

0,35

0,4

0,45

-6 -4 -2 0 2 4 6 8 10 12

x

f(x

)

N(4,3) N(0,1) N(2,2)

62

Normalverteilung

• VerteilungsfunktionVerteilungsfunktion Normalverteilung

0

0,1

0,2

0,3

0,4

0,5

0,6

0,7

0,8

0,9

1

-4 -3 -2 -1 0 1 2 3 4

x

F(x

)

µµ-σ µ+σµ-2σ µ+2σµ-3σ µ+3σ

63

Normalverteilung

• Standardnormalverteilung:– Erwartungswert µ = 0– Varianz σ² = 1

• Dichtefunktion: 2z

2

1

n e2π

1(z;0,1)f

64

Normalverteilung

• StandardnormalverteilungStandardnormalverteilung

0

0,05

0,1

0,15

0,2

0,25

0,3

0,35

0,4

0,45

0,5

-4 -3 -2 -1 0 1 2 3 4

z

f(z)

68,27%95,45%

99,73%

WP WP

65

Normalverteilung

• Approximation durch Normalverteilung: Mit wachsendem n nähern sich viele theoretische Vt. der Normalverteilung

• Empirische Verteilungen lassen sich ebenfalls oft durch die N-Vt. annähern.

66

Normalverteilung

• Reproduktionseigenschaft (od. Additivitäts- eigenschaft) der Normal-Vt.

• Additionstheorem der Normalverteilung: – Die Summe (X) von n unabhängig normalverteilten

Zufallvariablen X1,…,Xn ist ebenfalls normalverteilt.

X = X1 + … + Xn – Der Erwartungswert von X ist die Summe der einzelnen

Erwartungswerte μ1,…,μn

E(X) = μ = μ1 + … + μn – Die Varianz von X ist die Summe der einzelnen

Varianzen σ1²,…σn

²

Var(X) = σ² = σ1² + … + σn

²

Documents

1 STATISIK LV Nr.: 1852 WS 2005/06 13. Dezember 2005