Proba Version2

Cours de probabilit et simulation

Licence de mathmatiques

Version 2.0

Christian Lonard

Dpartement de mathmatiques et informatique, Universit Paris Ouest.

Nanterre.

E-mail address : [email protected]

Table des matires

Chapitre 1. Fondements de la thorie des probabilits 11.1. vnements 11.2. Probabilit 3

Chapitre 2. Variables alatoires 72.1. Fonction de rpartition 82.2. Variables alatoires discrtes 112.3. Variables alatoires continues 122.4. Quelques lments de rflexion 14

Chapitre 3. Loi et esprance dune variable alatoire 173.1. Variables discrtes 173.2. Variables continues 213.3. Une notation commune 233.4. Fonction indicatrice densemble 243.5. Variance et cart-type 243.6. Moments 253.7. Fonctions dune variable alatoire 263.8. Egalit en loi 283.9. Dfinition abstraite de la loi dune variable alatoire 29

Chapitre 4. Variables alatoires usuelles 314.1. Exemples de variables alatoires discrtes 314.2. Exemples de variables alatoires continues 33

Chapitre 5. Fonctions gnratrices et caractristiques 395.1. Le cas des variables entires 395.2. Fonctions caractristiques 41

Chapitre 6. Couples alatoires 456.1. Lois jointe et marginales 456.2. Fonction de rpartition 456.3. Indpendance 466.4. Couples discrets 496.5. Couples continus 526.6. Fonctions caractristiques 566.7. Ingalit de Cauchy-Schwarz 57

Chapitre 7. Fonctions dun couple alatoire 597.1. Quelques exercices corrigs 597.2. Somme de deux variables alatoires indpendantes 60

v

vi TABLE DES MATIRES

Chapitre 8. Conditionnement 638.1. Probabilit conditionnelle 638.2. Conditionnement dans le cas discret 648.3. Conditionnement dans le cas continu 65

Chapitre 9. Indpendance (revisite) 699.1. Dfinition 709.2. Proprits lmentaires 719.3. chantillons 73

Chapitre 10. Construction dune variable alatoire relle gnrale 7710.1. Construction dune variable alatoire continue uniforme 7710.2. Construction dune variable alatoire relle gnrale 79

Chapitre 11. Simulation dune variable alatoire 8111.1. Description rapide de certains gnrateurs 8111.2. Simulation. Principe et applications 8111.3. Histogrammes 85

Chapitre 12. Convergence des variables alatoires 89

Chapitre 13. Ingalits de convexit 91

Annexe A. Dnombrabilit 93

Annexe B. lments de thorie de lintgration 97

Annexe C. Esprance mathmatique sans thorie de lintgration 101

Annexe D. Convexit 105

Index 109

CHAPITRE 1

Fondements de la thorie des probabilits

1.1. vnements

Nous commenons par prsenter les fondements axiomatiques de la thorie des pro-babilits.

Dfinition 1.1. Lensemble des ralisations possibles dune exprience est appelunivers de lexprience. Il est gnralement not .

Exemple 1.2. On tire une fois pile ou face. Il est naturel de considrer = {p, f}o p et f sont les ralisations de lexprience qui correspondent aux tirages respectifs depile et de face. Voici quelques vnements :

(a) la ralisation est face

(b) la ralisation est face ou pile

(c) la ralisation est face et pile simultanment

(d) la ralisation nest pas face

Ces vnements peuvent tre dcrits respectivement par les parties A de suivantes :

(a) A = {f}(b) A = {f} {p} = {f, p} = (c) A = {f} {p} = (d) A = {f}c = {p}

o Ac dsigne le complmentaire de la partie A dans .

Exemple 1.3. On lance un d une fois. Il est naturel de considrer = {1, 2, 3, 4, 5, 6}dont les lments correspondent aux diffrentes facettes du d. Voici quelques vne-ments :

(a) la ralisation est 1

(b) la ralisation est un nombre pair

(c) la ralisation est un nombre pair infrieur 3

(d) la ralisation nest pas un nombre pair

Ces vnements peuvent tre dcrits respectivement par les parties A de suivantes :

(a) A = {1}(b) A = {2, 4, 6}(c) A = {2, 4, 6} {1, 2, 3} = {2}(d) A = {2, 4, 6}c = {1, 3, 5}

1

2 1. FONDEMENTS DE LA THORIE DES PROBABILITS

Si A et B sont des vnements qui correpondent respectivement aux ralisationseffectives a et b, on peut avoir besoin de considrer les vnements composs :

a 99K Ab 99K Bnon a 99K Ac

a et b 99K A Ba mais pas b 99K A \Ba ou b 99K A Ba ou bien b 99K AB

o A \ B = A Bc est la diffrence A moins B, cest--dire lensemble des lmentsqui se trouvent dans A mais pas dans B;

AB = (A B) \ (A B) est la diffrence symtrique de A et B, cest--direlensemble des lments qui se trouvent soit dans A, soit dans B, mais pas simul-tanment dans A et B.

A \B

A B

B \ AA

B

La rgion colore est AB = (A \B) (B \A). Remarquons la diffrence entre ou bienqui est exclusif et ou qui ne lest pas et correspond la runion A B.

Si AB = , on dit que les vnements sont incompatibles, est lvnement impos-sible et est lvnement certain.

Lensemble de tous les vnements est not A, il est inclus dans lensemble de toutesles parties de note 2. Cette notation est justifie par lexercice suivant.

Exercice 1.4. En considrant lensemble des applications {oui, non} de dans{oui, non}, montrer que lorsque le cardinal de est n, celui de 2 est 2n.

Lorsque nest pas un ensemble dnombrable (voir la Dfinition A.1), pour desraisons subtiles (qui ne sont pas aisment comprhensibles au niveau de ce cours) on nepourra pas en gnral prendre A = 2. Compte tenu de ce qui prcde, A doit au moinssatisfaire :

(1) A,B A = A B A et A B A

1.2. PROBABILIT 3

(2) A A = Ac A(3) A.

Exemple 1.5. On rpte notre lancer de pile ou face jusqu ce quon obtiennepile. Lunivers est alors = {1, 2, . . .} avec 1 = p, 2 = fp, 3 = ffp, . . . Laralisation i est : "on observe pile pour la premire fois au i-me lancer". Lensemblecorrespondant lvnement : "linstant de premire apparition de pile est pair" estA = {2} {4} {6} . . . , cest une runion infinie dnombrable. Cette remarquejustifie la dfinition suivante.

Dfinition 1.6. Un ensemble A de parties de est appele une tribu (ou une -algbre) si

(1) A1, A2, A =

i=1Ai := { ;i 1, Ai} A(2) A A = Ac A(3) A

Les lments de A (ce sont des parties de ) sont appels des vnements.Exemple 1.7 (Exemples de tribus).

(a) A = {,} (cest la plus petite tribu)(b) A = 2 (cest la plus grande tribu)(c) Si A , A = {, A,Ac,}. une exprience, on associe le couple (,A) o A est une tribu de . Dire que A

est un vnement, cest dire : A A.Remarque 1.8.

Lorsque est un ensemble dnombrable (en particulier fini), on prend toujourspour tribu A = 2 : lensemble de toutes les parties de .

1.2. Probabilit

Si on note P(A) la probabilit doccurence dun vnement A A, on attend que : 0% = 0 P(A) 1 = 100% (par convention) P() = 1 (condition de normalisation) pour tous A,B A, si A B = alors P(A B) = P(A) + P(B) (additivit)Comme nous lavons dj remarqu, il peut tre utile de considrer des vnements

constitus par une runion dnombrable dvnements disjoints A1, A2, . . . On note dansde cas leur runion

i=1Ai =

i=1Ai pour mettre lemphase sur leur disjonction qui

signifie : i, j, i 6= j Ai Aj = . Do la dfinition suivante.Dfinition 1.9. Une mesure de probabilit P sur (,A) est une fonction P : A

[0, 1] qui satisfait :

(1) P() = 1

(2) si A1, A2, . . . est une suite dvnements disjoints, alors :

P

( i=1

Ai

)=

i=1

P(Ai).


Le triplet (,A,P) est appel un espace de probabilit.Il provient immdiatement de cette dfinition, en choisissant A1 = A2 = , que 0 P() = limn nP() et par consquent

P() = 0; en choisissant A1 = A, A2 = B et A3 = A4 = = , que pour tous A,B Adisjoints, P(A B) = P(A) + P(B).

Il en va de mme pour toute runion dun nombre fini dvnements disjoints :

P

( ni=1

Ai

)=

ni=1

P(Ai).

Exemples 1.10.

(a) Pile ou face correspond = {f, p}, avec A = {, {f}, {p},} et P() = 0,P({f}) = P({p}) = 1/2, P() = 1.

(b) Un lancer de d ventuellement pip peut se modliser comme suit : ={1, 2, . . . , 6}, A = 2 et P({i}) = pi 0, 1 i 6 avec p1 + p6 = 1.Pour tout A , nous obtenons P(A) =iA pi.

(c) Si le d est honnte, p1 = = p6 = 1/6 et P(A) = #(A)/6 o #(A) dsigne lecardinal de A.

Voici quelques consquences immdiates de la dfinition de P.

Lemme 1.11. Pour tous A,B A, nous avons(1) P(Ac) = 1 P(A)(2) A B = P(B) = P(A) + P(B \ A) P(A)(3) P(A B) = P(A) + P(B) P(A B)

Dmonstration. Laisse en exercice.

Dfinition 1.12 (Masse de Dirac). Soit a . On dfinit la fonction densemblesa : A {0, 1} par

a(A) =

{1 si a A0 sinon

, A A

On appelle a la masse de Dirac au point a.

Exercice 1.13.

(a) Vrifier que a est une mesure de probabilit sur A.(b) Si on prend trois lments distincts a, b et c de , alors P = 1

7a+

47b+

27c est aussi

une mesure de probabilit.

(c) Montrer que P({a, b}) = 5/7 et calculer P({a, c}).La mesure de probabilit P = 1

7a+

47b+

27c de lexercice prcdent modlise lexp-

rience qui attribue les chances doccurence 1/7, 4/7 et 2/7 aux ralisations lmentairesa, b et c.

1.2. PROBABILIT 5

Exemple 1.14. On se donne une urne contenant 3 boules rouges appeles 1, 2 et3, 2 bleues appeles 4, 5 et 1 verte : 6. On tire au hasard une boule et on note sacouleur.On peut prendre = {1, . . . , 6} avec P(n) = 1/6, n = 1, . . . , 6 puisque notre intuitionnous suggre lquiprobabilit. Bien sr, on choisitA = 2 et on obtient pour tout A ,P(A) = #(A)/6. On constate que

P =6

n=1

1

6n .

Notons les vnements R = {1, 2, 3}, B = {4, 5}, V = {6} correspondant autirage dune boule rouge, bleue ou verte. On voit que P(B) = 1/6

6n=1 n(B) =

1/66

n=1 n({4, 5}) = (0 + 0 + 0 + 1 + 1 + 0)/6 = 1/3.Si on nest concern que par la couleur de la boule, on peut prendre lunivers = {r, b, v}munit de la mesure de probabilit P = P(R)r + P(B)b + P(V )v = 12r +

13b +

16v.

Lorsque est lensemble dnombrable = {n; n 1}, toute mesure de probabilitsur A = 2 est de la forme

(1.15) P =n1

pnn

o (pn)n1 est tel que pn 0,n et

n1 pn = 1. Linterprtation de cette formule est :P({n}) = pn, n 1.

Notre premier rsultat concernant une quantit infiniment dnombrable doprationssur les vnements est le suivant.

Lemme 1.16.

(1) Soient A1, A2, . . . une suite croissante (pour la relation dinclusion) de A : A1 A2 et A =

n=1An = { ;i 1, Ai} sa limite. Alors

P(A) = limn

P(An).

(2) Soient B1, B2, . . . une suite dcroissante (pour la relation dinclusion) de A :B1 B2 et B =

n=1Bn = { ;i 1, Ai} sa limite. Alors

P(B) = limn

P(Bn).

Dmonstration. Puisque (An)n1 est une suite croissante,

A1

A2

A =

i1Ai

A3

A2 \ A1


A = A1 (A2 \A1) (A3 \A2) est la runion disjointe dune famille dvnements.Par consquent,

P(A) = P(A1) +i=1

P(Ai+1 \ Ai)

= P(A1) + limn

n1i=1

[P(Ai+1) P(Ai)]

= limn

P(An)

Pour le rsultat concernant la famille dcroissante, passer aux complmentaires enutilisant la relation (A B)c = Ac Bc.

Exemple 1.17. On joue indfiniment pile ou face jusqu ce quon obtienne pourla premire fois pile. Le premier instant dobtention de pile est un entier qui peut trearbitrairement grand. On doit donc prendre un univers de cardinal infini. Un bon choixest = {p, f}{1,2,...} : lensemble des suites = 12 . . . n . . . constitues des lettres p etf avec linterprtation que n = p signifie quon a obtenu pile au n-ime lancer. Notonsque nous choisissons un univers diffrent de celui de lExemple 1.5, pour modliser lamme exprience.

Lvnement qui correspond lobtention pour la premire fois de pile au n-imelancer est Pn = { ; 1 = = n1 = f, n = p}. Cest un ensemble infini quia le mme cardinal que puisque seul le dbut des suites est spcifi (Exercice : leprouver). Il est naturel de demander lors de notre modlisation de cette exprience queP(Pn) = 2

n puisquil y a 2n mots de longueur n constitus des lettre p et f et quechacun de ces mots qui code la ralisation de n lancers de pile ou face doit avoir la mmeprobabilit (situation dquiprobabilit).

Soit Bn = { ; 1 = = n = f} =

in+1 Pi lvnement "il ny a pas eupile pendant les n premiers lancers". Ladditivit des probabilits dvnements disjointsscrit P(Bn) =

i=n+1 P(Pi) cest--dire 2

n =

i=n+1 2i. On vient de retrouver une

formule bien connue.La suite (Bn)n1 est dcroissante avec

n1Bn = P = {} o = ffff . . . est

la suite constitue de f uniquement : lvnement "pile napparait jamais". Le lemmeprcdent nous assure de P(P) = limn 2n = 0. Cest--dire que P() = 0. Endautres termes, avec cette modlisation de lexprience, on conclut que lvnementcomplmentaire "pile finit par apparatre" est de probabilit 1 0 = 1; il est certain.Un paradoxe. Compte tenu de la symtrie de notre modlisation, tous les sont quipro-bables : , P() = P() = 0. Or la somme" des probabilits de tous les vnementslmentaires doit tre gale 1 :

P() = 1. Ce qui nous mne

0 = 1.

Une somme de zros gale un ! Cette somme ne peut donc pas tre la somme dunesrie car

nN 0 = 0. Cest la raison pour laquelle on a mis

entre guillemets. On

lve le paradoxe en se rappelant que est un ensemble non-dnombrable (voir le LemmeA.7-2), cest--dire quil ne peut pas tre mis en injection dans N, il est beaucoup plusgros. De ce fait

est une opration indfinie ; en particulier elle nest pas une

srie.

CHAPITRE 2

Variables alatoires

Pour dfinir une variable alatoire, seul (,A) suffit. On laisse P de ct pour lemoment. On se donne (,A).Essentiellement, une variable alatoire est une fonction numrique sur lunivers souventnote X : R.

Exemple 2.1. On joue deux fois de suite pile ou face. Notre univers est ={pp, pf, fp, ff} (lordre des lancers est pris en compte). Le nombre dapparitions de pileest la variable alatoire suivante

X() =

2 si = pp1 si {pf, fp}0 si = ff

Exemple 2.2. On jette une flche par terre et on note langle de sa direction avec lenord magntique. Une telle exprience peut tre dcrite laide de = [0, 2[. Quant la tribu A, contentons-nous de dire quelle contient entre autres toutes les runionsdnombrables dintervalles. Lapplication

X() = , [0, 2[est la variable alatoire qui correspond langle de la flche. Si lon considre le cosinusde cet angle : Y = cosX, on obtient nouveau une variable alatoire sur (,A).Nous reviendrons sur la question du choix de P lExemple 2.7.

Il est trs pratique dintroduire la notation suivante

{ ; X() C} := {X C}, C R.En particulier, nous noterons { ; X() x} = {X x}.

Dfinition 2.3. Une application X : R est une variable alatoire relle si pourtout x R, lensemble {X x} appartient A.

Lorsque est dnombrable on prend A = 2 et bien sr toute fonction numrique Xsur est une variable alatoire. Mais lorsque nest pas dnombrable, comme cest lecas dans lExemple 2.2, pour des raisons techniques dlicates dune difficult dpassantle niveau de ce cours, on ne peut pas considrer toutes les fonctions numriques X sur mais seulement celles qui sont spcifies dans la dfinition prcdente.

Remarques 2.4.

(1) Notons que X est une fonction. Elle nest donc ni variable, ni alatoire ! Le vo-cable variable alatoire date du dbut de la thorie des probabilits avec Pierrede Fermat ( ?-1665) et Blaise Pascal (1623-1662), bien avant que les mathma-tiques soient formalises. Il faut donc prendre lexpression variablalatoire sanslui accorder une porte smantique nhsitez pas ouvrir votre dictionnaire.

7

8 2. VARIABLES ALATOIRES

(2) Les premires formalisations rigoureuses de la thorie des probabilits datent dudbut du vingtime sicle. Nous pratiquons celle de Kolmogorov, mathmaticien,physicien, gnial et sovitique.

2.1. Fonction de rpartition

Ds lors que lon rintroduit la mesure de probabilit P, le comportement alatoirede X peut tre quantifi. Lobjet fondamental de cette description est la fonction derpartition.

Dfinition 2.5. On se donne (,A,P) et une variable alatoire X sur (,A). Lafonction de rpartition de X est dfinie par

FX(x) = P(X x), x R.Notons que pour pouvoir crire P(X x), il faut que X soit une variable alatoire

au sens de la Dfinition 2.3.

Exemple 2.6. On reprend la variable alatoire X de lExemple 2.1. Notre espaceprobabilis est (,A,P) avec = {pp, pf, fp, ff}, A = 2 et P(pp) = P(pf) = P(fp) =P(ff) = 1/4. Nous avons bien sr, P(X = 0) = P(X = 2) = 1/4 et P(X = 1) = 1/2. Lafonction de rpartition de X est

FX(x) =

0 si x ], 0[1/4 si x [0, 1[3/4 si x [1, 2[1 si x [2,+[

et son graphe est

0

1

x

y

1 2

p0 = 1/4

p1 = 1/2

p2 = 1/4

| |

1/4

3/4 |

Reprsentation graphique de y = FX(x)

On constate que FX ne crot que pour les valeurs effectivement frquentes par X : 0, 1 et2. La hauteur de chacune des marches est respectivement p0 = P(X = 0), p1 = P(X = 1)et p2 = P(X = 2).

Exemple 2.7 (suite de lExemple 2.2). Compte tenu de la symtrie de lexprience,il semble raisonnable den modliser le hasard laide de la mesure de probabilit quisatisfait P(]a, b[) = (b a)/(2), 0 a < b < 2. Soient X() = et Y () = cos. Les

2.1. FONCTION DE RPARTITION 9

fonctions de rpartition de X et Y sont

FX(x) =

0 si x 0x/(2) si 0 x < 21 si x 2

et

FY (y) =

0 si y < 11 (arccos y)/ si 1 y < 11 si y 1En effet, pour 0 x < 2

FX(x) = P(X x)= P({ ; 0 x}) = P([0, x]) = x/(2)

0 1 x

z

1

Reprsentation graphique de z = FX(x)

et pour 1 y < 1

y 11 0

arccos y2( arccos y)

FY (y) = P(Y y)= P({ ; cos y}) = P(X [( arccos y), arccos y])= 2( arccos y)/(2) = 1 (arccos y)/

01 1 y

z

1

Reprsentation graphique de z = FY (y)

Les fonctions de rpartition jouissent dun certain nombre de proprits.

Proposition 2.8. Une fonction de rpartition F possdent les proprits suivantes :

(1) limx F (x) = 0 et limx F (x) = 1,


(2) F est croissante

(3) pour tous a < b, P(a < X b) = F (b) F (a)(4) F est continue droite

Dmonstration. Preuve de (1). Soit Bn = {X n}. Alors B1, B2, . . . est unesuite dcroissante dvnements de limite vide. Par consquent, grce au Lemme 1.16,limn P(Bn) = P() = 0. Pour lautre limite, considrer An = {X n}. Preuve de (2) et (3). Soient a < b et A(a) = {X a}, A(a, b) = {a < X b}. Alors,A(b) = A(a) A(a, b) est une union disjointe, de sorte que

P(A(b)) = P(A(a)) + P(A(a, b))

do il vient queF (b) = F (a) + P(a < X b) F (a)

qui est (3) et prouve (2).

Preuve de (4). Avec la notation prcdente, pour tout a R, A(a, a+h) dcrot vers levide lorsque h > 0 dcrot vers zro. Par consquent, grce (3), limh0 F (a+h)F (a) =limn F (a+1/n)F (a) = limn P(X ]a, a+1/n]) ()= P(X limn]a, a+1/n]) =P(X ) = 0, o lgalit () est une consquence du Lemme 1.16 et lexistence de lalimite limh0 F (a+ h) est garantit par le croissance de F dmontre au point (2).

Le rsultat suivant montre que la fonction de rpartition permet dvaluer la proba-bilit P(X I) pour nimporte quel intervalle I.

Proposition 2.9. Soient a b +. Alors,(1) P(X ]a, b]) = FX(b) FX(a);(2) P(X [a, b]) = FX(b) FX(a);(3) P(X ]a, b[) = FX(b) FX(a);(4) P(X [a, b[) = FX(b) FX(a)

o FX(c) := limxc FX(x) est la limite gauche de FX en c et par convention FX() :=

limx = 0 et FX(+) := limx+ FX(x) = 1, daprs la Proposition 2.8-(1).On notera que la limite gauche FX(c) existe puisque FX est une fonction croissante

de sorte que limxc FX(x) = supx

2.2. VARIABLES ALATOIRES DISCRTES 11

2.2. Variables alatoires discrtes

Commenons par rappeler la dfinition dune variable alatoire discrte.

Dfinition 2.10. La variable alatoire X est dite discrte si elle prend ses valeursdans une partie dnombrable {xn;n N} de R o N est un ensemble dindices.

Rappelons que certains des rsultats les plus simples au sujet de la dnombrabilitsont prsents en Annexe A.

Remarques 2.11.

(1) Bien sr, on peut sans restriction supposer que les xn sont tous distincts.

(2) Puisque N est dnombrable, on peut choisir N = {1, . . . , K} si X prend K =#(X())


avec les conventions x(inf(N)1) = et FX() = 0. De plus, pour tous xn1 x y < xn, nous avons 0 FX(y) FX(x) = P(x < X y) P(xn1 < X < xn) = 0.Par consquent FX(x) = FX(y), ce qui signifie que FX est constante sur les intervallessemi-ouverts [xn1, xn[. La forme gnrale de FX est donc

| | |0 xn1 xn xn+1 x

1

pn1

pn

pn+1

y


Une telle fonction de rpartition est dite atomique : cest- dire quelle est constanteentre ses discontinuits qui sont des sauts positifs.

2.3. Variables alatoires continues

La situation prcdente est radicalement diffrente de celle des variables alatoirescontinues.

Dfinitions 2.15.

(1) Une fonction numrique est dite continue par morceaux si tous ses points dediscontinuit sont isols. Ceci signifie que pour tout point de discontinuit ilexiste un intervalle ouvert qui le contient et ne contient pas dautre point dediscontinuit.

(2) La variable alatoire X est dite continue si sa fonction de rpartition peut scriresous la forme

(2.16) FX(x) = x

fX(u) du, x R

pour une certaine fonction fX : R [0,[ continue par morceaux et intgrable.(3) Dans ce cas, la fonction fX est appele fonction de densit de la variable alatoire

X.

Exemple 2.17 (suite de lExemple 2.7). On constate que X et Y sont continuespuisque

FX(x) =

x

fX(u) du, FY (y) =

y

fY (u) du

avec les fonctions de densit

fX(x) =

{1/(2) si x [0, 2]0 sinon

, fY (y) =

{1/(

1 y2) si y [1, 1]

0 sinon

2.3. VARIABLES ALATOIRES CONTINUES 13

|

0

1/(2)

2 x

z

Reprsentation graphique de z = fX(x)

0 1 y

z

1Reprsentation graphique de z = fY (y)

Par souci de lisibilit, ces deux reprsentations ne sont pas la mme chelle. Notonslexplosion en -1 et 1 de la densit de Y.

Remarques 2.18.

(1) Il est clair que la fonction de rpartition FX dune variable continue est continue.En fait, elle est un peu plus rgulire : des fonctions FX qui admettent unereprsentation (2.16) sont dites absolument continues.

(2) Si fX est elle-mme continue, FX est drivable (de classe C1) et F X = fX .

(3) Remarquons que FX nest pas drivable aux points de discontinuit de fX .

Si X est une variable alatoire continue, FX est une fonction continue et toutes lesexpressions des membres de droite des galits de la Proposition 2.9 sont gales. On endduit immdiatement le

Corollaire 2.19. Si X est une variable alatoire continue de densit fX , pour tousa b nous avons

P(X ]a, b]) = P(X [a, b]) = P(X ]a, b[)

= P(X [a, b[) = ba

fX(x) dx.

Lorsque X est continue, on notera parfois P(X (a, b)) chacune des quantits galesP(X ]a, b]) = P(X [a, b]) = P(X ]a, b[) = P(X [a, b[).

x

y

y = fX(x)

0 a baire=

bafX(x) dx = P(X (a, b))


En se souvenant de la dfinition de lintgrale de Riemann comme limite de sommes deDarboux, on obtient en tout point x de continuit de la densit fX que lorsque h 0tend vers zro, P(X (x, x+ h)) = x+h

xfX(t) dt = fX(x)h+ (h)h o limh0 (h) = 0.

De faon informelle, on traduit ceci par

(2.20) P(X (x, x+ h)) h0

fX(x)h.

x

y

y = fX(x)

0xo

aire= fX(xo)h P(X (xo, xo + h))

(h)

xo + h

aire h(h)/2

fX(xo)

h

On constate donc que la variable alatoire X a plus de chance de prendre des valeurs dansles rgions o fX est grande. En particulier, X ne prend pas de valeur dans lensemble{fX = 0} := {x R; fX(x) = 0}.

Bien videmment, puisque 1 = P() = P(X R), nous avons toujours la conditionde normalisation

(2.21)

R

fX(x) dx = 1.

qui est lanalogue de (2.13).

2.4. Quelques lments de rflexion

Nous concluons ce chapitre en donnant un exemple de variable alatoire qui nest nicontinue, ni discrte ; ainsi quune remarque au sujet de la tribu A lorsque X prend unnombre non-dnombrable de valeurs.

Exemple 2.22 (Une variable alatoire ni continue, ni discrte). On tire une bouledune urne qui contient 1 boule rouge et 2 boules vertes. Si la boule obtenue est verte,alors on lance notre flche par terre et on mesure son angle. Lunivers de lexprience est = {r} {(v, x); 0 x < 2}. Soit X : R donne par

X(r) = 2, 9, X((v, x)) = x.X prend ses valeurs dans {2, 9} [0, 2[ et sa fonction de rpartition admet la repr-sentation graphique suivante.

|x0

1

1/3

-2,9 2

y

2.4. QUELQUES LMENTS DE RFLEXION 15


Exemple 2.23 (Lescalier du diable).

Remarque 2.24.

Clairement, si X prend un nombre non-dnombrable de valeurs, il est ncessaireque ne soit pas dnombrable. Cest le cas pour les variables continues. Enrevenant la Remarque 1.8, on peut se demander pourquoi dans cette situationon ne pourrait pas prendre la tribu 2 de toutes les parties. Cest lvidenceune tribu et on peut donc considrer une probabilit P construite sur elle. Leproblme que lon rencontre est le suivant. On peut montrer quil nexiste pas demesures de probabilits sur 2 autres que celles de la forme (1.15) :

n1 pnn

car 2 est un ensemble trop gros.

CHAPITRE 3

Loi et esprance dune variable alatoire

Nous commenons par prsenter les notions de loi et desprance dans la situationla plus simple qui est celle des variables discrtes. Puis, nous tendons par analogie cesnotions au cas des variables continues. Finalement, nous montrons quil existe un cadremathmatique gnral qui permet de comprendre et dfinir ces notions pour toutes lesvariables alatoires.

3.1. Variables discrtes

SoitX une variable alatoire qui prend les valeurs {xn;n N} o les xn sont distinctset N est un ensemble dindices inclus dans lensemble {1, 2, . . .} des entiers positifs nonnuls, voir les Remarques 2.11. On dcrit le comportement alatoire de X par la donnede (xn, pn)nN avec pn := P(X = xn), n N. Cette donne est moins informative apriori que celle de (X,P) qui dcrit le phnomne par , mais elle est suffisante pourobtenir toutes les quantits moyennes que nous dsirons.

Dfinition 3.1. La loi de la variable alatoire discrte X est

(3.2) PX =nN

pnxn

Une loi de cette forme est dite atomique. Ses atomes sont les xn tels que pn > 0.

On rappelle que x est la masse de Dirac au point x, cest--dire que pour toute partie

B R, x(B) ={

1 si x B0 sinon

, voir la Dfinition 1.12. La loi PX est une mesure de

probabilit sur R.

Exemples 3.3.

(1) La variable alatoire X de lExemple 2.12-(1) a pour loi PX = 140 +121 +

142.

(2) La loi de celle de lExemple 2.12-(2) est PX =

n1 2nn.

Soit B une partie de R, nous constatons que

(3.4) P(X B) = PX(B), B Rpuisque

PX(B) =nN

pnxn(B) =

nN :xnBpn

=

nN :xnBP(X = xn) = P(X B).

On voit clairement laide de (2.14) que la donne de (xn, pn)nN est quivalente celle de la fonction de rpartition FX , de mme quelle est quivalente celle de la loi

17

18 3. LOI ET ESPRANCE DUNE VARIABLE ALATOIRE

PX . En rsum, le comportement alatoire de X est dcrit de manire quivalente par ladonne de

(xn, pn)nN ou la fonction de rpartition FX ou la loi PX .La valeur moyenne de X pondre par les probabilits de ralisation des vnements

est appele son esprance mathmatique.

Dfinition 3.5. Soit X une variable discrte de loi PX =

nN pnxn . Lesprancemathmatique de X est

EX :=nN

pnxn.

Pour que cette quantit soit dfinie correctement, il est ncessaire de supposer que

E|X| :=nN

pn|xn|

3.1. VARIABLES DISCRTES 19

Considrons la variable alatoire Y = (X), image de X par la fonction numrique : R R. Sa loi est PY =

mM qmymo {ym;m M} = {(xn);n N} les ym tant

tous distincts et

qm := P(Y = ym)

= P((X) = ym)

=

xX():(x)=ymP(X = x)

=

nN(m)pn(3.8)

o N(m) = {n N : (xn) = ym} est lensemble des indices des xn dont limage par est ym.Notons que (N(m))mM constitue une partition de N. Cest--dire que les parties N(m)sont disjointes : m 6= m N(m) N(m) = (puisque les ym sont tous distincts), et

(3.9) N =mM

N(m).

Thorme 3.10. On suppose que

nN pn|(xn)|


Dmonstration. On reprend en la transposant la preuve du Thorme 3.10. Cequi donne :

P(X) = PY =mM

qmym =mM

nN(m)

pnym

=mM

nN(m)

pn(xn) =nN

pn(xn)

qui est le rsultat dsir.

Reprenons lExemple 3.3-(1), cest--dire PX = 140+121+

142 et considrons (x) =

(x 1)2. On obtient alors P(X) = 14(0) + 12(1) + 14(2) = 141 + 120 + 141 = 120 + 121.En prenant N = {1, 2, 3}, x1 = 0, x2 = 1 et x3 = 2, ainsi que M = {1, 2} avec

y1 = 0 = (1) et y2 = 1 = (0) = (2), nous obtenons N(1) = {2} et N(2) = {1, 3}.La formule (3.8) scrit q1 =

nN(1) pn = p2 et q2 =

nN(2) pn = p1 + p3, ce qui donne

P((X) = 0) = 1/2 et P((X) = 1) = 1/4 + 1/4 = 1/2.

Lemme 3.13 (Positivit de lesprance).

(1) Soit X une variable positive : X 0, cest--dire X() 0, . Alors,0 EX .

(2) Soient et deux fonctions positives telles que 0 . Alors, 0 E[(X)] E[(X)] .

Dmonstration. Preuve de (1). Nous avons xn 0 et pn 0 pour tout n N.Donc EX =

nN pnxn 0.

Preuve de (2). Pour tout n N, 0 pn(xn) pn(xn). Donc les sries termes posi-tifs correspondantes sont ordonnes de faon similaire : 0 E[(X)] =nN pn(xn)

nN pn(xn) E[(X)] . Thorme 3.14 (Linarit de lesprance). Soient , : R R deux fonctions

numriques telles que E|(X)|

3.2. VARIABLES CONTINUES 21

Dmonstration. (X) (X) 0, donc par linarit et positivit de lespranceE[(X)] E[(X)] = E[(X) (X)] 0.

Remarque 3.16.

En reprenant la Remarque 3.7-(2), on peut tendre les Thormes 3.14 et 3.15 aucas des variables alatoires discrtes valeurs dans un ensemble X quelconque,en prenant des fonctions , : X R, puisque (X) et (X) sont des variablesalatoires relles.

3.2. Variables continues

Nous allons procder par analogie avec les variables discrtes. Nous gardons les nota-tions introduites la Dfinition 2.15, en particulier la densit fX de la loi de la variablealatoire continue X est suppose continue par morceaux.

Dfinition 3.17.

(1) On note CX lensemble des fonctions de : R R qui sont continues parmorceaux et telles que lintgrale gnralise

R|(x)|fX(x) dx soit convergente,

cest--dire

R|(x)|fX(x) dx


(1, 0)(0, 0)

(cosX, sinX)

angle = X

b

b

On dfinit E(cosX, sinX) = (E[cosX],E[sinX]) et on obtient la direction moyenneE(cosX, sinX) = (0, 0) puisque E[cosX] = 1

2

20

cos x dx = 0 et E[sinX] = 12

20

sin x dx =0. Ce qui signifie bien quaucune direction nest privilgie.

Thorme 3.22 (Linarit de lesprance). Lensemble CX est un sous-espace vec-toriel de lespace des fonctions numriques.Pour tous , CX et tous rels a, b, nous avons

E[a(X) + b(X)] = aE[(X)] + bE[(X)].

Dmonstration. Soient et deux fonctions continues par morceaux. Lensembledes points de discontinuit de + est inclus dans la runion des ensembles de pointsde discontinuit de et et une runion finie de points isols reste un ensemble depoints isols. Donc + est continue par morceaux. Il en est de mme pour a pourtout a R.Dautre part,

R|a(x)|fX(x) dx = |a|

R|(x)|fX(x) dx

3.3. UNE NOTATION COMMUNE 23

Dfinition 3.24. La loi de X est la mesure de probabilit sur R

PX(dx) := fX(x) dx

qui est dfinie par

PX(B) := P(X B) = ba

fX(x) dxnotation=

B

fX(x) dx

pour tout intervalle B = (a, b) R.3.3. Une notation commune

Nous venons de voir que les rsultats de croissance (Thormes 3.15 et 3.23) et delinarit (Thormes 3.14 et 3.22) sexpriment de faon analogue pour les variables ala-toires discrtes et continues. Cest lindice quil existe une thorie gnrale qui englobeces deux situations. Il sagit de la thorie de lintgration de Lebesgue que nous naborde-rons pas dans ce cours. En revanche, nous allons introduire des notations issues de cettethorie qui permettront de traiter simultanment ces deux types de variables alatoires.Les principaux rsultats de cette thorie sont collects lAnnexe B.On note

R

(x)PX(dx) =

R

dPX = E(X)

(1) la quantit R

dPX =nN

(xn)pn

lorsque X est discrte de loi PX =

nN pnxn ou bien

(2) la quantit R

dPX =

R

(x)fX(x) dx

lorsque X est continue de loi PX(dx) = fX(x) dx.

Nous avons montr aux Thormes 3.15, 3.23, 3.14 et 3.22 que, pour et dans unebonne classe de fonctions, les proprits suivantes sont satisfaites.

Linarit. Pour tous a, b R,(3.25) E[a(X) + b(X)] = aE(X) + bE(X)

ou avec notre nouvelle notation :R

[a+ b] dPX = a

R

dPX + b

R

dPX

Croissance. Si , alors(3.26) E(X) E(X)

ou avec notre nouvelle notation :R

dPX

R

dPX .

Normalisation. On note 1 la fonction constante gale 1.

(3.27) E(1) =

R

dPX = PX(R) = P() = 1.


3.4. Fonction indicatrice densemble

On introduit maintenant une fonction trs pratique en calcul des probabilits.

Dfinition 3.28 (Fonction indicatrice). Soit V un ensemble quelconque et W Vune partie de V. La fonction indicatrice de W est

1W (v) :=

{1 si v W0 sinon

, v V.

Remarques 3.29.

(1) Notons que 1W (v) = v(W ).

(2) Pour tout B R, 1{XB}() = 1B(X()) ={

1 si X() B0 sinon

.

Proposition 3.30.

(1) Pour B R, E[1{XB}] = E[1B(X)] = P(X B) = PX(B).(2) Pour tout rel c, E(c1) = c.

On notera souvent la variable alatoire gale la constante c : c1 = c; donc E(c) = c.Une telle variable alatoire est dite dterministe.

Dmonstration. Preuve de (1). Commenons par le cas o X est discrte. Grceau Thorme 3.10, E[1{XB}] = E[1B(X)] ==

nN pn1B(xn) =

nN ;xnB pn = P(X B) = PX(B).Lorsque X est continue, E[1{XB}] = E[1B(X)] =

R1B(x)fX(x) dx =

BfX(x) dx =

PX(B).

Preuve de (2). Avec (3.27) : E(c) = cE(1) = c1. 3.5. Variance et cart-type

Pour mesurer la moyenne des fluctuations de X autour de sa moyenne := EX, onpeut prendre la moyenne de lcart la moyenne : X. Cest--dire E(X). Mais onvoit que E(X) = EXE = = 0. En moyenne, les carts par dfaut compensentexactement les carts par excs. Une ide naturelle est donc de considrer la moyenne delcart absolu la moyenne : E|X|.Mais personne naime beaucoup travailler avec lesvaleurs absolues qui demandent des dcoupages fastidieux. Cest la raison pour laquelleon prfre considrer la moyenne du carr de lcart la moyenne : E[(X )2]. Si onchange dchelle de mesure, par exemple si X est une longueur exprime en mtres et X

la mme longueur exprime en millimtres, on a X = 1000X do E[(X E(X ))2] =E[(1000X1000E(X))2] = 10002E[(XEX)2]. Ces quantits diffrent du facteur 10002et sexpriment comme des longueurs au carr. Il est donc pertinent de considrer laquantit

E[(X )2] qui conserve les bonnes units et les facteurs dchelle.

Dfinition 3.31. On suppose que E|X| < de sorte que EX est bien dfini. Lavariance de X est

Var(X) := E[(X EX)2] [0,+]Son cart-type est

(X) :=

Var(X) [0,+].

3.6. MOMENTS 25

On remarque quen tant quesprance de la variable positive (X )2, Var(X) estun nombre positif.

Il est pratique lors de certains calculs dutiliser les formules suivantes.

Proposition 3.32. Soit X tel que E|X| 0, on appellemoment dordre p de X la quantit E[Xp] [0,].

Dans le cas gnral o X est une variable alatoire relle, pour tout entier p 1tel que E[|X|p] 0, p R et 0p = 0 si p > 0.

Proposition 3.34 (Comparaison des moments). On se donne deux rels 0 < p q.Soit X 0 une variable alatoire positive : E[Xq]


Lgalit (a) est une application de la linarit de lesprance. Lingalit (b) vient de1{0x

3.7. FONCTIONS DUNE VARIABLE ALATOIRE 27

(a) Soit X une variable continue de densit fX continue par morceaux. On cherche la loide Y = aX + b avec a et b rels.Remarquons avant tout que lorsque a = 0, Y vaut b quoiquil arrive, sa loi est doncPY = b. On note en passant que ceci nous donne un exemple de (X) discrte alorsque X est continue.Prenons maintenant a 6= 0 et calculons la fonction de rpartition de Y = aX + b.

Si a > 0, FY (y) = P(aX + b y) = P(X (y b)/a) = FX((y b)/a). Ce quidonne fY (y) = F Y (y) = fX((y b)/a)/a.

Si a < 0, FY (y) = P(aX + b y) = P(X (y b)/a) = 1FX((y b)/a). Cequi donne fY (y) = F Y (y) = fX((y b)/a)/a.

Finalement, nous obtenons dans les deux cas

(3.38) fY (y) =fX((y b)/a)

|a| , y R

(b) Soit X une variable alatoire quelconque, la fonction de rpartition FY de Y = X2

sexprime en fonction de FX de la manire suivante. Pour tout y 0,FY (y) = P(X

2 y)= P(y X y)= FX(

y) FX((y))

alors que pour tout y < 0, FY (y) = 0.En particulier, si X admet une densit fX continue par morceaux, FX est dri-

vable partout sauf en un nombre fini de points et F X = fX . Par consquent Y admetla densit (dfinie partout sauf en un nombre fini de points)

(3.39) fY (y) = FY (y) = 1(y>0)

fX(y) + fX(y)2y

.

Exemple 3.40. Si X est langle de la flche de lExemple 2.17 et Y = X2,fX(x) = 1[0,2[(x)/(2) et avec (3.39) : fY (y) = 1[0,42[/(4

y) de sorte que

E(X2) =

20

x2

2dx =

4

32

E(Y ) =

420

y

4dy =

4

32

On constate bien videmment que E(Y ) = E(X2).

(c) Les choses sont plus simples si lon considre Z = X3. En effet, pour tout z R,nous avons

FZ(z) = P(X3 z) = P(X z1/3) = FX(z1/3).

La simplicit de ce calcul vient du fait que z3 est injective, alors que la non-injectivitde z2 crait quelques difficults dans lexemple prcdent. Si X admet une fonctionde densit continue par morceaux, Z = X3 admet la fonction de densit

fZ(z) =fX(z

1/3)

3z2/3.

Notons que cette fonction nest pas dfinie en z = 0, mais a nest pas un pro-blme puisque des fonctions de densit gales sauf sur un ensemble de longueur nulle


(Lebesgue-presque partout) correspondent la mme loi, voir la Proposition 3.43plus bas.

3.8. Egalit en loi

Cette notion est spcifique la thorie des probabilits.

Dfinition 3.41 (Egalit en loi). Deux variables alatoires X1 et X2 construitesrespectivement sur (1,P1) et (2,P2) sont gales en loi si et seulement si elles ont la

mme loi : PX1 = PX2 . On note dans ce cas : X1L= X2.

Cela ne signifie pas que

(1) X1 = X2 ni mme que

(2) P(X1 = X2) = 1, mme lorsque (1,P1) = (2,P2).

Bien sr, (1) implique (2) qui implique lgalit en loi.Lgalit en loi est la notion la plus faible permettant didentifier deux phnomnes

alatoires.

Exemples 3.42.

(1) On joue deux fois de suite pile ou face de sorte que 1 = {pp, pf, fp, ff} etP1 =

14(pp+pf+fp+ff ). On considre X1 dfini par : X1(pp) = X1(pf) = 3

et X1(fp) = X1(ff) =5.

On lance un d de sorte que 2 = {a, b, c, d, e, f} avec P2 = 16(a + b + c +d + e + f ). On considre X2 dfini par X2(a) = X2(b) = X2(c) = 3 etX2(d) = X2(e) = X2(f) =

5.

On voit que PX1 = PX2 =12(3 + 5), cest--dire X1

L= X2.

(2) Soit X la variable de lExemple 2.6 dont la loi est 140 +

121 +

142. Montrer que

XL= 2X.

(3) Soit X une variable alatoire continue dont la densit est une fonction paire ;

fX(x) = fX(x),x. Alors nous avons X L= X. En effet, pour tout rel y nousavons

FX(y) = P(X y)=

+y

fX(x) dx

(a)=

y

fX(z) dz(b)=

y

fX(z) dz

= FX(y)

o lgalit (a) sobtient avec le changement de variable z = x et (b) est uneconsquence de la parit de fX .

Nous avons dj remarqu que les donnes de FX et PX sont quivalentes. On endduit le rsultat suivant.

3.9. DFINITION ABSTRAITE DE LA LOI DUNE VARIABLE ALATOIRE 29

Proposition 3.43. Deux variables alatoires X1 et X2 construites respectivementsur (1,P1) et (2,P2) sont gales en loi si et seulement si elles ont la mme fonctionde rpartition :

FX1 = FX2 .

Si elles sont discrtes, cela signifie quil existe une suite (ventuellement finie) (xn)nNde rels distincts telle que

nN P1(X1 = xn) = 1 et

P1(X1 = xn) = P2(X2 = xn), n NSi elles sont continues, cela signifie que leurs densits ont le mme ensemble de points

de discontinuit (Cf. les Dfinitions 2.15 et 3.17) et quelles sont gales partout saufventuellement sur cet ensemble de "longueur nulle". On dit alors quelles sont galesLebesgue-presque partout et on note

fX1 = fX2 , Lebesgue-p.p.

3.9. Dfinition abstraite de la loi dune variable alatoire

Spcifier compltement le comportement dune variable alatoireX devrait permettreen principe dvaluer les quantits P(X B) pour toute partie B de R. Mais cela nestpossible que si lensemble {X B} est un vnement, cest--dire un lment de la tribuA.

Lorsque X est une variable discrte, on peut prendre dnombrable et A = 2 desorte que pour tout B R, {X B} est un vnement.

Lorsque X est une variable alatoire continue, comme nous lavons dj voqu laRemarque 2.24, les choses se compliquent du point de vue mathmatique : on ne peutpas prendre nimporte quelle partie B. Les "bonnes" parties B de R sont celles de latribu de Borel.

Dfinition 3.44. La tribu de Borel de R est la plus petite tribu contenant lensembleI de tous les intervalles de R. On la notera B.

Exercice 3.45. Montrer que si (A, ) est une collection quelconque de tribussur le mme ensemble , alors lensemble

A constitu des parties de qui se

trouvent dans toutes les tribus A lorsque parcourt lensemble dindices , est aussiune tribu.

La plus petite tribu contenant lensemble I de tous les intervalles de R est par d-finition lintersection de toutes les tribus contenant I. Cette intersection existe puisque2R est une tribu qui contient I, de plus en tant quintersection de tribus, cest une tribudaprs lexercice prcdent. Ceci justifie la dfinition de la tribu de Borel B.

On peut montrer, mais a nest pas simple, quil existe des parties de R qui ne sontpas dans B.

On retiendra que la tribu de Borel contient toutes les runions dnombrables din-tervalles.

Avec B =

n1 In o les In sont des intervalles disjoints, nous avons

(3.46) P(X B) =n1

P(X In).


(Notons que si B est la runion finie de N intervalles, on peut toujours prendre In = pour n > N). Or cette quantit est entirement dtermine par la fonction de rpartitionFX de X comme le montre la Proposition 2.9.

Dfinition 3.47. La loi de la variable alatoire (quelconque) X est la mesure deprobabilit PX sur (R,B) dfinie par

PX(B) = P(X B), B B.La connaissance de PX sur tous les intervalles de la forme ]a, b] permet de retrouver

FX(x) = P(X ], x]) = limn PX(] n, x]), x R.Rciproquement, si on se donne FX , grce la Proposition 2.9, PX est connue sur tous lesintervalles et par suite, grce (3.46), sur toutes les runions dnombrables dintervalles.On peut montrer, mais cest assez dlicat et dpasse le niveau de ce cours, quen fait FXspcifie PX compltement sur B.

En rsum, FX et PX encodent la mme information sur le comportement alatoirede X.

De plus, PX nest autre que limage sur (R,B) de la mesure de probabilit P sur(,A) par lapplication X :

PX = X#P.

La notion de mesure image est prsente lAnnexe ??.

CHAPITRE 4

Variables alatoires usuelles

Nous prsentons ici les lois des variables alatoires les plus usites. Certaines, commela loi normale, sont extrmement importantes tant sur le plan thorique que pratique(utilisation trs frquente en statistique).

4.1. Exemples de variables alatoires discrtes

Nous prsentons dans cette section les lois de Bernoulli, binomiales, de Poisson etgomtriques.

Loi de Bernoulli. Il sagit dune des lois les plus simples. La variable alatoire Xsuit la loi de Bernoulli B(p) de paramtre 0 p 1 si sa loi est

PX = q0 + p1.

Ceci signifie que X peut prendre les valeurs 0 et 1 avec les probabilits respectivesq = 1p et p. On obtient immdiatement que EX = q0+p1 = p et que puisque X2 = Xsous cette loi, E(X2) = p. Par consquent, VarX = p p2 = pq.

Une variante immdiate de cette loi est PY = qa + pb avec a, b rels. On a imm-diatement EY = qa + pb et du fait que Y = a + (b a)X avec X B(p), VarY =(b a)2VarX = (b a)2pq, grce la Proposition 3.32.

Loi binomiale. La variable alatoire X suit la loi binomiale B(n, p) de paramtresn 1 et 0 p 1 si sa loi est

PX =n

k=0

(nk

)pkqnkk

o comme prcdemment on pose q = 1 p. Ceci signifie que X peut prendre les valeurs0, 1, . . . , n avec P(X = k) =

(nk

)pkqnk pour 0 k n. On constate quavec n = 1, on

retrouve B(1, p) = B(p).Exercice 4.1.

(a) Vrifier que PX est une mesure de probabilit.

(b) Montrer que EX = np et VarX = npq.

31

32 4. VARIABLES ALATOIRES USUELLES

Solution. Nous donnons seulement la solution de EX = np. Nous avons

EX =n

k=0

kn!

k!(n k)!pkqnk

= npn

k=0

(n 1)!(k 1)!(n k)!p

k1qnk

(a)= np

nl=0

(n 1l

)plqn1l

(b)= np(p+ q)n1

= np

o lon a effectu le changement de variable l = k1 en (a) (on notera que nk = n1l)et utilis la formule du binme de Newton en (b).Une indication pour calculer VarX : commencer par calculer E[X(X 1)] en procdantdans le mme esprit que ce que nous venons de faire.

Loi gomtrique. La variable alatoire X suit la loi gomtrique G(p) de paramtre0 < p 1 si sa loi est

PX =k=1

qk1pk

o comme prcdemment on pose q = 1 p. Ceci signifie que X peut prendre les valeurs1, 2, . . . avec P(X = k) = qk1p pour k 1.

Exercice 4.2.


(b) Montrer que EX = 1/p.

Solution. On pose (q) =

k=0 qk, 0 q < 1. On sait que

(q) = limnn

k=0 qk = limn(1 qn+1)/(1 q) = 1/(1 q).

De ce fait, PX(N) = p

k=1 qk1 = p

k=0 q

k = p/(1 q) = 1, ce qui montre (a).Grce au Thorme de drivation sous le signe somme B.3, en drivant terme terme lasrie

k=0 q

k on obtient

k=1 kqk1 = (q) et puisque (q) = d

dq(1/(1q)) = 1/(1q)2,

on voit que EX =

k=1 kqk1p = p/(1 q)2 = 1/p.

Loi de Poisson. La variable alatoire X suit la loi de Poisson P() de paramtre > 0 si sa loi est

PX =k=0

ek

k!k.

Ceci signifie que X peut prendre les valeurs 0, 1, 2, . . . avec P(X = k) = ek/k! pourk 0 avec la conventions habituelles 0 = 1 et 0! = 1 de sorte que P(X = 0) = e.

Exercice 4.3.


(b) Montrer que EX = VarX = .

4.2. EXEMPLES DE VARIABLES ALATOIRES CONTINUES 33

Solution. Commenons par rappeler que pour tout rel x

(4.4) ex =l0

xl

l

On en dduit immdiatement que PX(N) = e

k0 k/k! = ee = 1.

Montrons que EX = . Nous avons

EX =k0

kek

k!=k1

kek

k!

= ek1

k1

(k 1)!

= el0

l

l!= ee =

o lon a effectu le changement de variable l = k 1 et utilis la formule (4.4).Calculons de faon similaire

E[X(X 1)] =k0

k(k 1)ek

k!=k2

k(k 1)ek

k!

= 2ek2

k2

(k 2)!

= 2el0

l

l!= 2ee = 2

On en dduit que VarX = E[X(X 1)] + EX (EX)2 = 2 + 2 = . Exercice 4.5. En vous inpirant de la solution prcdente, montrer que pour tout

entier k 1, E[X(X 1) (X k + 1)] = k.

4.2. Exemples de variables alatoires continues

Nous prsentons dans cette section les lois uniformes, exponentielles, normales, Gammaet de Cauchy.

Loi uniforme. Nous avons dj rencontr la variable U de loi uniforme sur [0, 1].Ses fonctions de rpartition et de densit sont

FU(u) =

0 si u 0u si 0 u 11 si u 1 et fU(u) = 1(0u1), u R.


| |u u

z z

0 0

11

1 1z = FU(u) z = fU(u)

Une variable alatoire X suit une loi uniforme sur [a, b] si elle a la mme loi (cest--direla mme fonction de rpartition) que a + (b a)U. Ses fonctions de rpartition et dedensit (voir (3.38)) sont

F (x) =

0 si x a(x a)/(b a) si a x b1 si x b et f(x) =1(axb)b a , x R.

| |

x x

z z

a a

11/(b a)

b bz = F (x)

z = f(x)0 0

||

On note U(a, b) la loi uniforme sur [a, b]. Nous avons donc(4.6) a+ (b a)U U(a, b)lorsque U U(0, 1).

Exercice 4.7. Vrifier que E(X) = (a+ b)/2 et que Var(X) = (b a)2/12.Loi exponentielle. Une variable alatoire X suit la loi exponentielle de paramtre

, note E(), si ses fonction de rpartition et fonction de densit sont

F (x) =

{0 si x 01 ex si x 0 et f(x) = 1(x0)e

x, x R.

xx

z z

0 0

1

|

z = F (x) z = f(x)

Exercice 4.8. Vrifier que E(X) = 1/ et que Var(X) = 1/2.


Cette variable alatoire sert souvent modliser des temps dattente. Elle intervientde faon fondamentale dans la construction des processus de Markov temps continu quelon rencontre lors de la modlisation de systme de files dattente (rseaux informatiques,guichets, etc. . .).

Loi normale. Cest probablement la loi continue la plus importante. On lappelleaussi loi de Gauss ou loi gaussienne. On dit quune variable alatoire Z suit une loinormale centre rduite si sa fonction de densit est

fZ(z) =12

exp

(z

2

2

), z R

Cette loi est note N (0, 1).

z

v

0

1/2

||

11

|

||

22

1

b b

b | |

Reprsentation graphique de v = fZ(z)

Il nexiste pas dexpression analytique de la fonction de rpartition de Z. On la notetraditionnellement

(4.9) (y) = P(Z y) = y

12

exp

(z

2

2

)dz.

Toutefois, on peut vrifier que limy+(y) =

RfZ(z) dz = 1. Pour cela posons

I =

RfZ(z) dz. Nous avons par un simple jeu dcriture sur les variables dintgration

I2 =

R

fZ(x) dx

R

fZ(y) dy =

R2

fZ(x)fZ(y) dxdy

=1

2

R2

ex2/2ey

2/2 dxdy =1

2

R2

e(x2+y2)/2 dxdy

(a)=

1

2

20

0

er2/2 rdrd =

1

2

( 20

d

)( 0

er2/2 rdr

)(b)=

0

eu du

= 1


o nous avons effectu en (a) : le changement de variables en coordonnes polaires : x = r cos , y = r sin avec r 0 et 0 < 2 de sorte que r2 = x2+ y2 et dxdy est remplac par rdrd;

en (b) : le changement de variable u = r2/2.Puisque I > 0 et I2 = 1, nous venons de montrer que

(4.10)12

R

ez2/2 dz =

R

fZ(z) dz = 1.

Exercice 4.11. Vrifier que E(Z) = 0 et que Var(Z) = 1.

Solution. Lintgrale EZ =

RzfZ(z) dz est nulle car la fonction z 7 zfZ(z) est

impaire et intgrable. Donc EZ = 0 et VarZ = EZ2 = 12

Rz2ez

2/2 dz. On effectue une

intgration par partiesuv = [uv] uv avec u(z) = zez2/2 et v(z) = z. Nous avons

u(z) = ez2/2 et v(z) = 1, de sorte que Rz2ez

2/2 dz = [zez2/2]+ +

Rez

2/2 dz =

0 +2

RfZ(z) dz. On en dduit avec (4.10) que EZ2 = 1.

Exercice 4.12. Montrer que Z L= Z.Solution. Pour tout rel y, FZ(y) = P(Z y) = P(Z y) =

y fZ(z) dz =

y fZ(z) dz = y

fZ(x) dx = y fZ(x) dx = FZ(y) o nous avons utilis succes-

sivement la parit de fZ : fZ(z) = fZ(z) et le changement de variable x = z. Parconsquent Z et Z ont la mme fonction de rpartition.

Dfinition 4.13. De manire gnrale, une variable alatoire X est dite centre siE(X) = 0 et rduite si Var(X) = 1.

Une variable alatoire X suit une loi normale de paramtres et 2 ( R, > 0)note N (, 2), si elle peut scrire sous la forme(4.14) X = + Z

o Z suit une loi N (0, 1). Cette loi est note N (, 2).Exercice 4.15. Vrifier que E(X) = et que Var(X) = 2.

La fonction de rpartition de X est

F (x) = P(X x) = P(+ Z x) = P(Z (x )/)= ((x )/),

de sorte quavec f(x) = F (x), nous obtenons lexpression de la fonction de densit deX suivante :

(4.16) f(x) =122

exp

((x )

2

22

), x R.

La figure suivante donne la reprsentation graphique des densits de probabilit des loisN (, 21) et N (, 22) avec 0 < 1 < 2. On constate que ces densits sont symtriquespar rapport la moyenne et que les aires situes entre les courbes et laxe des x sontles mmes pour les deux densits. De plus, la densit de N (, 21) est plus concentreautour de la moyenne que celle de N (, 22).


x|

+ 1

|

1

2

|

+ 2

N (, 21)

N (, 22)

Lexercice suivant permet de donner une approximation de la fonction de rpartition dfinie en (4.9) bien quon nen connaisse pas dexpression analytique exacte.

Exercice 4.17. Pour tout y > 0, nous avons

(a) P(Z y) = 1 (y) ey2/2y2

et

(b) P(|Z| y) 2ey2/2y2

.

Solution. En remarquant que z/y 1 pour tout z y, nous avonsP(Z y) =

y

12

ez2/2 dz

y

12

z

yez

2/2 dz =1

y2

y

zez2/2 dz

=1

y2

[ez2/2]y =ey

2/2

y2

ce qui prouve (a). On en dduit (b) en remarquant que P(|Z| y) = P(Z y)+P(Z y) = P(Z y)+P(Z y) = 2P(Z y) puisqueZ a la mme loi que Z, voir lExercice4.12.

Notons que les majorations de lexercice prcdent sont trs mauvaises pour y prochede 0, puisquelles sont en 1/y au voisinage zro. En revanche ces estimes samliorentbeaucoup pour des grandes valeurs de y. On trouve P(|Z| 3) 0, 0533 ainsi queP(|Z| 4) 0, 0021, P(|Z| 5) 3 105 et P(|Z| 6) 2 107. En pratique,cest--dire plus de 997 fois sur 1000, Z prend ses valeurs entre -4 et 4.

CHAPITRE 5

Fonctions gnratrices et caractristiques

Nous allons prsenter des mthodes efficaces pour calculer les moments de certaineslois, ainsi que les lois de sommes de variables indpendantes. Nous commenons par tu-dier les variables alatoires valeurs entires, puis les variables gnrales.Rappelons que le moment dordre k de la variable alatoire X est E(Xk), voir la Dfi-nition 3.33. Les principaux rsultats abstraits concernant les moments sont prsents enChapitre 13.Dans ce qui suit on notera f (k) la drive dordre k de la fonction f.

5.1. Le cas des variables entires

On dit quune variable alatoire X est entire si elle prend ses valeurs dans lensembleN des nombres entiers. sa loi est donc de la forme PX =

n0 pnn. Cest le cas des

variables binomiales, gomtriques et de Poisson.

Dfinition 5.1. Soit X une variable entire. Sa fonction gnratrice est dfinie pourtous 0 t 1 par GX(t) = E(tX).

On remarque que puisque 0 t 1 et X est entier, nous avons 0 tX 1 de sorteque 0 E(tX) 1 est bien dfini. En notant pn = P(X = n), n N, nous obtenons biensr

(5.2) GX(t) =n0

pntn = p0 +

n1

pntn, 0 t 1

avec GX(1) = E(1) = 1 et GX(0) = p0. Cette dernire galit est une convention puisqueGX(0) = p00

0 : nous avons choisi de prendre 00 = 1. Cette convention est justifie dufait quelle garantit la continuit de GX(t) en t = 0. En effet, grce au Thorme B.2,puisque 0 tX 1 est born, limt0GX(t) = p0 + limt0

n=1 pnt

n = p0 +

n=1 0 = p0.

Proposition 5.3. Pour tout entier k 1 tel que E(Xk)

40 5. FONCTIONS GNRATRICES ET CARACTRISTIQUES

GX(1) =

n1 pnntn1|t=1 =

n1 pnn puisque EX =

n1 pnn < . En recommen-

ant, on montre de mme que GX(1) =

n2 pnn(n1)tn2|t=1 =

n2 pnn(n1) souslhypothse

n2 pnn(n 1) = E[X(X 1)]

5.2. FONCTIONS CARACTRISTIQUES 41

5.2. Fonctions caractristiques

On considre maintenant une variable X gnrale. On cherche une fonction analogue GX qui permette de calculer aisment laide de drivations successives les momentsde X. La gnralisation naturelle de la fonction X 7 tX lorsque X peut prendre desvaleurs non-entires sobtient en posant t = es ce qui nous donne X 7 esX . De sorte quela gnralisation de GX(t) = EtX est LX(s) = EesX .

Dfinitions 5.6.

(1) La transforme de Laplace de la loi de X est dfinie par

s R 7 LX(s) = EesX [0,](2) La transforme de Fourier de la loi de X est dfinie par

s R 7 X(s) = EeisX Co i est le nombre imaginaire tel que i2 = 1. On appelle aussi X la fonctioncaractristique de la loi de X.

Remarques 5.7.

(1) Puisque esX 0, son esprance LX(s) = EesX est toujours dfinie dans [0,](en incluant la valeur +).

(2) De mme, eisX = cos(sX) + i sin(sX) est une variable borne et son espranceX(s) = Ee

isX = E[cos(sX)] + iE[sin(sX)] est un nombre complexe bien dfinipuisque ses parties relle et imaginaire sont intgrables puisque bornes.

(3) En particulier, la fonction caractristique X(s) est dfinie pour tout rel s alorsquon peut avoir LX(s) = + pour tout s non nul comme par exemple lorsqueX suit une loi de Cauchy, voir (??).

(4) Lorsque X est une variable entire, nous avons LX(s) = GX(es) et X(s) =GX(e

is), s R.Thorme 5.8.

(1) On suppose quil existe so > 0 tel que Eeso|X| < . Alors, pour tout k 1,

E|X|k

42 5. FONCTIONS GNRATRICES ET CARACTRISTIQUES

Dmonstration. Cest une application directe du Thorme B.3 de drivation sousle signe somme.

Preuve de (1). Pour tout k, il existe c > 0 tel que |x|k c + eso|x|,x R. Parconsquent, E|X|k c+ Eeso|X|

5.2. FONCTIONS CARACTRISTIQUES 43

(2) Soit X une variable alatoire normale de loi N (, 2). Nous avons pour tout rels, LX(s) = e

s+2s2/2 et X(s) = eis2s2/2.

Dmonstration. Preuve de (1). Nous ne donnons que la preuve concernant LZen admettant que le lien formel X(s) = LX(is) est rigoureux dans ce cas. Cette identitncessite la notion de prolongement analytique (prolongement de R C) qui nest pasdu niveau de ce cours.Pour tout rel s,

LZ(s) =

R

12

eszez2/2 dz

=

R

12

eszz2/2 dz

=

R

12

e12(z22sz+s2)es

2/2 dz

= es2/2

R

12

e12(zs)2 dz

= es2/2

o la dernire galit provient de

R

12e

12(zs)2 dz = 1, la condition de normalisation

de la densit N (s, 1), voir (4.16).En admettant Z(s) = LZ(is), on voit que Z(s) = es

2/2.

Preuve de (2). Grce (4.14) nous avons X = +Z de sorte que LX(s) = Ees(+Z) =esLZ(s) et X(s) = Eeis(+Z) = eisZ(s).

CHAPITRE 6

Couples alatoires

Beaucoup dnoncs probabilistes intressants sexpriment laide dune paire devariables alatoires X,Y. Nous allons tudier le problme de leur variation conjointe surle mme domaine . Dans tout ce qui va suivre, les variables alatoires sont dfinies surle mme espace probabilis (,A,P).

6.1. Lois jointe et marginales

La loi du couple (X,Y ) est la mesure de probabilit PX,Y sur R2 qui est spcifie par

PX,Y (AB) = P(X A et Y B)pour tous intervalles A et B. On appelle lois marginales du couple (X,Y ) les lois PX etPY de X et de Y. Nous avons pour tous intervalles A et B,

PX(A) = PX,Y (A R)PY (B) = PX,Y (RB)

Pour distinguer la loi PX,Y des lois marginales, on lappelle parfois la loi jointe de (X,Y ).

Exemple 6.1. Soit un couple alatoire (X,Y ) qui prend les valeurs (1, 3), (1, 4) et(2, 4) avec les probabilits respectives 1/4, 1/8 et 5/8.

b b

b

1 2

34

x

y

0

(1/4)

(1/8) (5/8)

(3/8) (5/8)

(1/4)(3/4)

Sa loi est PX,Y = 14(1,3) +18(1,4) +

58(2,4). Ses lois marginales sont PX = 381 +

582 et

PY =143 +

344.

6.2. Fonction de rpartition

Nous introduisons une notion de fonction de rpartition dun couple de variablesalatoires analogue celle des variables relles.

Dfinitions 6.2. Une application (X,Y ) : R2 est un couple alatoire si pourtout x, y R, lensemble { ; X() x et Y () y} appartient A.La fonction de rpartition jointe de (X,Y ) est la fonction FX,Y : R2 [0, 1] donne par

FX,Y (x, y) = P(X x, Y y).45

46 6. COUPLES ALATOIRES

On montre aisment que pour tous a b, c d RP(a < X b, c < Y d)

= FX,Y (b, d) FX,Y (a, d) FX,Y (b, c) + FX,Y (a, c).

+

+b

b

b

b

a b x

y

c

d

En dautres termes, nous pouvons valuer la probabilit que le point alatoire (X,Y )"tombe" dans la rgion rectangulaire ]a, b]]c, d] du plan R2. En travaillant de faonanalogue la Proposition 2.9, on rcupre les probabilits de tomber dans des rgionsrectangulaires quelconques, puis leurs runions dnombrables, etc. . . De fil en aiguille,il est possible de montrer, grce aux proprits des mesures de probabilit, lassertionsuivante :

Proposition 6.3. FX,Y spcifie de manire unique P((X,Y ) C) pour toutes lesparties ouvertes C de R2. En dautres termes, FX,Y spcifie entirement le loi jointe PX,Y .

Les fonctions de rpartition marginales de X et de Y sont

FX(x) = P(X x) = limn

P(X x et Y n)= FX,Y (x,) := lim

yFX,Y (x, y),

FY (y) = P(Y y) = limn

P(X n et Y y)= FX,Y (, y) = lim

xFX,Y (x, y),

On constate que, mme sur lExemple 6.1 qui est trs simple, la fonction de rpartitionFX,Y est pnible expliciter. En effet, elle ncessite de dcouper le plan en 5 zonesrectangulaires. Nous nemploierons donc que trs peu souvent les fonctions de rpartitiondans les calculs explicites.

6.3. Indpendance

Deux variables alatoires discrtes X et Y sont dites indpendantes si pour tousx, y R, P(X = x et Y = y) = P(X = x)P(Y = y). Nous revisiterons plus en dtailcette notion importante au Chapitre 9.

6.3. INDPENDANCE 47

Il est clair que cette dfinition de lindpendance ne peut pas tre conserve si luneau moins des variables (par exemple X) est continue, puisque dans ce cas P(X = x) = 0,pour tout x R. Nous adopterons la dfinition gnrale suivante.

Dfinition 6.4. Les variables alatoires X et Y sont dites indpendantes si

P(X x et Y y) = P(X x)P(Y y), x, y R.

On vrifie que pour des variables alatoires discrtes, cette dfinition de lindpen-dance est quivalente celle rappele plus haut.

Une formulation quivalente est : X et Y sont indpendantes si et seulement si

FX,Y (x, y) = FX(x)FY (y), x, y R.Proposition 6.5. Soient X et Y deux variables alatoires indpendantes. Alors pour

toute runion dnombrable dintervalles A et B, nous avons

P(X A et Y B) = P(X A)P(Y B)et pour toutes fonctions numriques continues par morceaux et , les variables ala-toires (X) et (Y ) sont indpendantes.

Notons que lorsque X et Y sont des variables discrtes dont toutes les valeurs sontisoles, toutes les fonctions et sont continues (en restriction X() et Y ()).

Ide de la preuve. Nous navons pas les outils suffisants pour donner une preuvecomplte (donc une preuve) de ce rsultat. Notons toutefois quil est possible de montrer,de faon similaire la preuve de la Proposition 6.3, que X et Y sont indpendantes siet seulement si pour toutes runions dnombrables de parties ouvertes A et B de R,P(X A et Y B) = P(X A)P(Y B).

Maintenant, nous pouvons crire pour toute paire douverts A,B :

P

((X) A et (Y ) B

)= P

(X 1(A) et Y 1(B)

)= P

(X 1(A)

)P

(Y 1(B)

)= P((X) A)P((Y ) B)

o lavant-dernire galit est une consquence de lindpendance deX et Y et du fait que et sont continues par morceaux, les ensembles 1(A) et 1(B) sont des runionsdnombrables douverts.

Cette notion mathmatique de lindpendance est cohrente avec la notion intuitiveque nous en avons. Pour tayer cette affirmation, donnons-en une illustration simple.

Exemple 6.6. Nous avons deux urnes contenant des boules de couleur numrotes. La premire urne contient 5 boules numrotes : 1,2,3,4 et 5. Les boules 1,2,3 sontjaunes et les boules 4,5 sont rouges.

La deuxime urne contient 3 boules numrotes : a,b,c. Les boules a,b sont verteset la boule c est bleue.

On note X et Y les numros alatoires des boules tires au hasard dans la premire etla seconde urne. On suppose que ces tirages sont uniformes sur {1, 2, 3, 4, 5} et {a, b, c}.De mme, on note U et V les couleurs alatoires des boules tires au hasard dans lapremire et la seconde urne : U = (X) et V = (Y ) avec (1) = (2) = (3) = jaune,


(4) = (5) = rouge, (a) = (b) = vert et (c) = bleu.On a donc P(X = jaune) = 3/5,P(X = rouge) = 2/5 ainsi que P(Y = vert) = 2/3, P(Y = bleu) = 1/3.Si de plus ces tirages sont indpendants (au sens habituel du terme), on navantage aucuncouple de boules au dtriment dautres : la loi de (X,Y ) est uniforme sur {1, 2, 3, 4, 5}{a, b, c}. On constate qualors X et Y sont des variables alatoires indpendantes au sensmathmatique. En effet, pour tous A {1, 2, 3, 4, 5} et B {a, b, c},

P((X,Y ) AB) = #(AB)#({1, 2, 3, 4, 5} {a, b, c})

=#(A)#(B)

#({1, 2, 3, 4, 5})#({a, b, c})=

#(A)

5#(B)

3= P(X A)P(Y B)

En particulier, en prenant A = 1(jaune) = {1, 2, 3} et B = 1(vert) = {a, b} onobtient

P(U = jaune, V = vert) = P((X,Y ) {1, 2, 3}{a, b})= P(X {1, 2, 3})P(Y {a, b})= P(U = jaune)P(V = vert)

et de mme pour les autres couleurs. Ce qui prouve lindpendance mathmatique de Uet V. Mais il est clair que si les tirages dans les deux urnes sont indpendants (au senshabituel) il en est de mme pour les couleurs des boules tires.

Exercice 6.7. Soient X et Y deux variables alatoires indpendantes de fonctionsde rpartition FX et FY . Dterminer les lois de U = max(X,Y ) et V = min(X,Y ).

Solution. Du fait que pour tout t R, max(x, y) t (x t et y t),FU(t) = P(max(X,Y ) t)

= P({X t} {Y t})= P(X t)P(Y t)= FX(t)FY (t)

o lon a fait usage de lindpendance dans lavant-dernire galit.

De mme, pour tout t R, min(x, y) > t (x > t) et (y > t), donc1 FV (t) = P(min(X,Y ) > t)

= P({X > t} {Y > t})= P(X > t)P(Y > t)

= [1 FX(t)][1 FY (t)]do

FV (t) = 1 [1 FX(t)][1 FY (t)], t R.ce qui dtermine la loi de V.

6.4. COUPLES DISCRETS 49

Exemple 6.8. On se donne deux variables alatoires X et Y indpendantes de loisexponentielles E() et E(). Calculons laide de lexercice prcdent les lois de U =max(X,Y ) et V = min(X,Y ).Nous avons pour tout t 0, FX(t) = FY (t) = 0 et pour tout t 0, FX(t) = 1 et,FY (t) = 1 et. Par consquent pour tout t > 0,

fU(t) = FU(t) = fX(t)FY (t) + FX(t)fY (t)

= et(1 et) + et(1 et)et

1 FV (t) = [1 FX(t)][1 FY (t)]= etet = e(+)t

Pour tout t 0, FU(t) = FV (t) = 0.On constate que V = min(X,Y ) admet la loi exponentielle E(+ ).

6.4. Couples discrets

Soit un couple de variables alatoires (X,Y ) prenant ses valeurs dans lensembleproduit X Y avec X = {x1, . . . , xL} et Y = {y1, . . . , yK}. Pour tout indice n = (l, k) N := {1, . . . , L} {1, . . . , K}, on note zn = (xl, yk). Cet ensemble tant fini, le coupleZ = (X,Y ) est une variable alatoire discrte valeurs dans X Y . Elle est donc dela forme PX,Y = PZ =

nN pnzn =

1lL,1kK pl,k(xl,yk) avec pl,k = P((X,Y ) =

(xl, yk)) = P(X = xl et Y = yk). Pour plus de clart, on note pl,k = pX,Y (xl, yk) et onpeut regrouper lensemble de ces probabilits lmentaires en un tableau matriciel :

y1 y2 yK Yx1 pX,Y (x1, y1) pX,Y (x1, y2) pX,Y (x1, yK) pX(x1)x2 pX,Y (x2, y1) pX,Y (x2, y2) pX,Y (x2, yK) pX(x2)...

......

......

xL pX,Y (xL, y1) pX,Y (xL, y2) pX,Y (xL, yK) pX(xL)X pY (y1) pY (y2) pY (yK) 1

dont lintrieur dcrit la loi jointe de (X,Y ). Les lois marginales sont donnes par PX =1lL pX(xl)xl et PY =

1kK pY (yk)yk avec

pX(xl) =

1kKpX,Y (xl, yk), 1 l L

pY (yk) =

1lLpX,Y (xl, yk), 1 k K

puisque pX(xl) = P(X = xl) = P(X = xl et Y Y) = P((X,Y ) {xl}Y) =1kK P(X = xl et Y = yk) et de mme pour pY (yk).

Par consquent la dernire ligne du tableau est constitue des sommes par colonnes etla dernire colonne des sommes par lignes : les marges du tableau spcifient les loismarginales PX et PY .

De faon plus gnrale, soient X et Y deux variables alatoires valeurs dans desensembles dnombrables X et Y . Alors le couple (X,Y ) est valeurs dans lensemble


dnombrable X Y (voir la Proposition A.4) et sa loi jointe est de la forme

PX,Y =

xX ,yYpX,Y (x, y)(x,y).

et on montre comme prcdemment la

Proposition 6.9. Les lois marginales sont PX =

xX pX(x)x et PY =

yY pY (y)yavec

pX(x) =yY

pX,Y (x, y), x X

pY (y) =xX

pX,Y (x, y), y Y .

Exemple 6.10. Considrons les deux lois jointes spcifies par les tableaux suivants :

1 3 Y-1 0,1 0,2 0,32 0,45 0,25 0,7

X 0,55 0,45 1

1 3 Y-1 0,2 0,1 0,32 0,35 0,35 0,7

X 0,55 0,45 1On constate que ces deux lois jointes sont distinctes bien quelles possdent les mmeslois marginales. Par consquent la loi jointe PX,Y nest pas spcifie par la donne desdeux lois marginales PX et PY . Il y a plus dinformation dans lintrieur du tableau quesur les marges.

Proposition 6.11. Soit (X,Y ) de loi PX,Y =

xX ,yY pX,Y (x, y)(x,y). Les variablesX et Y sont indpendantes si et seulement sil existe deux fonctions q : X [0, 1] etr : Y [0, 1] telles que pour tous x X et y Y nous avons pX,Y (x, y) = q(x)r(y).Dans ce cas, nous avons aussi

pX,Y (x, y) = pX(x)pY (y), x X , y Y .Dmonstration. Cest une consquence directe de la Proposition 6.5 en prenant

A = {x} et B = {y} avec x X et y Y .Notons aussi que lorsque pX,Y (x, y) = q(x)r(y), pX(x) = aq(x) pour tout x avec a =

yY r(y). De mme pour tout y, pY (y) = br(y) avec 1 =

yY pY (y) = b

yY r(y) =ab. Finalement, r(x)q(y) = pX(x)pY (y)/(ab) = pX(x)pY (y).

Exemple 6.12. Considrons la loi jointe spcifie par le tableau

1 3 Y-1 0,165 0,135 0,32 0,385 0,315 0,7

X 0,55 0,45 1On constate quil possde la structure produit pX,Y (x, y) = pX(x)pY (y), x, y. Les va-riables X et Y sont donc indpendantes. On note que les lois marginales PX et PY sontles mmes que celles de lExemple 6.10.

6.4. COUPLES DISCRETS 51

Puisque le couple discret (X,Y ) est une variable discrte valeurs dans lensemblednombrable X Y (voir la Proposition A.4) lesprance de (X,Y ) est donne par leThorme 3.10 qui dans ce cas prcis scrit

(6.13) E(X,Y ) =

xX ,yY(x, y)pX,Y (x, y)

et qui est correctement dfinie ds lors queE|(X,Y )| =xX ,yY |(x, y)|pX,Y (x, y)


qui est le rsultat annonc.

Preuve de (2). Grce (1), nous avons E(XY ) = E(X)E(Y ) cest--dire Cov(X,Y ) =0.

Lexercice suivant montre que la rciproque de lassertion (2) de cette proposition estfausse.

Exercice 6.17.(a) On considre le couple alatoire (X,Y ) dont la loi est uniforme sur les quatre points

du plan (1, 0), (0, 1), (1, 0) et (0,1). Montrer que Cov(X,Y ) = 0 mais que X etY ne sont pas indpendantes.

(b) On considre le couple alatoire (X,Y ) dont la loi est uniforme sur les huits pointsdu plan daffixes eik/4, 0 k 7.

b

b

b

b

b

b

b

b

0 11

1

1

y

xpi/4

Montrer que Cov(X,Y ) = 0 mais que X et Y ne sont pas indpendantes.

Solution. Nous ne donnons que la solution de (a). Nous avons PX = PY = 141 +120+

141 de sorte que EX = EY = 0. De plusXY = 0, donc EXY = 0 et Cov(X,Y ) = 0.

Dautre part X et Y ne sont pas des variables indpendantes puisque P(X = 1)P(Y =0) = 1

4 1

2= 1/8 6= 1/4 = P((X,Y ) = (1, 0)).

6.5. Couples continus

Par analogie avec les variables alatoires continues, nous introduisons la notion sui-vante.

Dfinition 6.18. Un couple alatoire (X,Y ) de fonction de rpartition jointe FX,Yest dit continu, sil existe une fonction intgrable fX,Y : R2 [0,[ telle que

FX,Y (x, y) =

x

y

fX,Y (s, t) dsdt, x, y R.Dans ce cas, la fonction fX,Y est appele fonction de densit jointe du couple alatoire(X,Y ).

On dduit de cette dfinition que si FX,Y est continment drivable alors

(6.19) fX,Y (x, y) =2

xyFX,Y (x, y).

Proposition 6.20. Les lois marginales PX et PY admettent les densits

fX(x) =

R

fX,Y (x, y) dy, x R

fY (y) =

R

fX,Y (x, y) dx, y R

6.5. COUPLES CONTINUS 53

Dmonstration. Nous avons vu que les fonctions de rpartition marginales de Xet de Y sont FX(x) = FX,Y (x,) et FY (y) = FX,Y (, y). En dautres termes, FX(x) = x

(RfX,Y (s, y) dy

)ds do il vient que fX(x) =

RfX,Y (x, y) dy. De la mme manire,

nous obtenons que la fonction de densit marginale de Y est fY (y) =

RfX,Y (x, y) dx.

Dfinition 6.21. Par analogie avec (6.13) et la dfinition (3.18) qui est justifie parle Thorme C.10, nous dfinissons (sans plus de justification cette fois-ci) lesprancede la variable alatoire (X,Y ) par

E(X,Y ) :=

R2

(x, y)fX,Y (x, y) dxdy

pour toute fonction : R2 R telle que ||fX,Y soit intgrable et

R2|(x, y)|fX,Y (x, y) dxdy 0 et Q est la forme quadratique :

Q(x, y) =1

1 2[(

x 11

)2 2

(x 11

)(y 22

)+

(y 22

)2].

Exercice 6.30. Montrer que


(a) X N (1, 21) et Y N (2, 22),(b) Cov(X,Y ) = 12.

A laide de la Dfinition 6.36 plus bas du coefficient de corrlation Cor(X,Y ), lnoncde (b) est Cor(X,Y ) = .

Proposition 6.31. Soit (X,Y ) un couple alatoire normal. Si Cov(X,Y ) = 0 alorsX et Y sont des variables alatoires indpendantes.

Ce rsultat est remarquable car en gnral la dcorrlation (covariance nulle) nim-plique pas lindpendance, voir lExercice 6.17. Cest une proprit spcifique des couplesalatoires normaux.

Dmonstration. Compte tenu de lexercice prcdent, nous avons = 0. En injec-tant = 0 dans la formule (6.29), on obtient f(x, y) = fX(x)fY (y) (avec X N (1, 21)et Y N (2, 22)) et on conclut avec la Proposition 6.23.

Exercice 6.32. Soit (X,Y ) un couple alatoire de fonction de densit jointe

f(x, y) = 1{x,y>0}1

yexp

(y x

y

), x, y R.

Trouver la loi marginale de Y.

Solution. Pour tout y 0, fY (y) =

Rf(x, y) dx = 0 et pour tout y > 0,

fY (y) =

R

f(x, y) dx =

0

1

yexp

(y x

y

)dx = ey

puisque lon reconnat que x 7 1{x>0} 1y exp(x

y

)est la fonction de densit dune loi

(exponentielle). Par consquent Y E(1). 6.6. Fonctions caractristiques

On les dfinit de faon analogue aux transformes de Laplace et de Fourier des va-riables relles, voir la Dfinition 5.6.

Dfinitions 6.33.

(1) La transforme de Laplace de la loi de (X,Y ) est dfinie par

(s, t) R2 7 LX,Y (s, t) = EesX+tY [0,](2) La fonction caractristique de la loi de (X,Y ) est dfinie par

(s, t) R2 7 X,Y (s, t) = Eei(sX+tY ) Co i est le nombre imaginaire tel que i2 = 1.

On peut montrer, mais cette preuve est au del du niveau de ce cours, que la fonctioncaractristique caractrise la loi PX,Y . Cest--dire que si nous connaissons X,Y , onpeut calculer PX,Y et quil ny a quune seule loi PX,Y qui admet X,Y comme fonctioncaractristique. Un rsultat analogue est valide pour la transforme de Laplace souslhypothse que LX,Y est finie sur un voisinage ouvert de (0, 0).

Proposition 6.34. Soient (X,Y ) un couple discret ou continu.

6.7. INGALIT DE CAUCHY-SCHWARZ 57

(1) Les variables X et Y sont indpendantes si et seulement si la fonction caract-ristique de (X,Y ) satisfait

XY (s, t) = X(s)Y (t), s, t R.(2) Si les transformes de Laplace LX et LY sont finies au voisinage de zro, alors

X et Y sont indpendantes si et seulement si

LXY (s, t) = LX(s)LY (t), s, t R.Dmonstration. Preuve de (1). Soient X et Y indpendantes. laide de la

Proposition 6.16 et du Corollaire 6.24, on obtient XY (s, t) = Eei(sX+tY ) = E[eisXeitY ] =EeisXEeitY = X(s)Y (t).Montrons la rciproque. On se donne (X,Y ) tel que XY (s, t) = X(s)Y (t) pour tous

s, t. Soit (U, V ) un couple de variables indpendantes telles que UL= X et V

L= Y.

Ceci implique bien sr que U = X et V = Y . Daprs ce que nous venons demontrer, nous avons U,V (s, t) = U(s)V (t) = X(s)Y (t). Donc, U,V = X,Y . Maispuisque les fonctions caractristiques caractrisent les lois (rsultat admis), ceci implique

(X,Y )L= (U, V ). Do le rsultat annonc.

Preuve de (2). Analogue celle de (1).

6.7. Ingalit de Cauchy-Schwarz

Cette ingalit permet de contrler en esprance les fluctuations jointes de (X,Y ) laide des variances individuelles de X et Y, voir le Corollaire 6.37 plus bas.

Thorme 6.35 (Ingalit de Cauchy-Schwarz). Pour tout couple alatoire discretou continu (X,Y ) nous avons [

E(XY )]2 E(X2)E(Y 2)

avec galit si et seulement sil existe a, b R dont lun au moins est non nul tels queP(aX = bY ) = 1.

Il est entendu que dans lnonc de ce thorme que E|XY | < de sorte que lesintgrales qui interviennent sont bien dfinies, ventuellement valeurs infinie.

Dmonstration. On peut supposer sans perte de gnralit que E(X2),E(Y 2) 0 et lingalit ci-dessus peut tre vue comme

une inquation du second degr en a, b fix. Ceci implique que le discriminant rduit :

b2([E(XY )]2E(X2)E(Y 2)

)est strictement ngatif (si a2E(X2)2abE(XY )+b2E(Y 2) >

0 pour tout a) ou nul (sil existe un a tel que a2E(X2)2abE(XY )+b2E(Y 2) = E((aX

bY )2)= 0).


En choisissant b 6= 0, on obtient [E(XY )]2 < E(X2)E(Y 2) dans le premier cas et[E(XY )]2 = E(X2)E(Y 2) lorsque E

((aX bY )2

)= 0, cest--dire lorsque P(aX bY =

0) = 1.

Dfinition 6.36. Le coefficient de corrlation de (X,Y ) est dfini par

Cor(X,Y ) =Cov(X,Y )

Var(X)Var(Y ).

Pour que cette dfinition soit valide, il est ncessaire que E(X2) < et E(Y 2) < etque VarX,VarY > 0.

Une consquence simple de lingalit de Cauchy-Schwarz est le

Corollaire 6.37.

(1) Pour que Cov(X,Y ) soit dfini, il suffit que E(X2),E(Y 2)

CHAPITRE 7

Fonctions dun couple alatoire

7.1. Quelques exercices corrigs

Exercice 7.1. Soient X et Y deux variables alatoires indpendantes de lois nor-males N (0, 1). Calculer la fonction de densit de W = X2 + Y 2.

Solution. Pour tout w 0,P(W w) =

{x2+y2w}

1

2exp

(12(x2 + y2)

)dxdy

(a)=

w0

20

1

2exp(r2/2)r drd

(b)=

w/20

eu du

avec le changement de variable en coordonnes polaires en (a) et en posant u = r2/2 en(b). On constate que W admet la fonction de densit f(u) = 1(u0) e

u/2

2. Cest--dire

que W suit une loi exponentielle de paramtre 1/2.

Attention. Ce nest pas parce que X est une variable alatoire continue quil en estde mme pour Y = (X). Par exemple, considrer (x) = 3, x R.

Exercice 7.2. On se donne un couple alatoire (X1, X2) de fonction de densit jointefX1,X2 et on considre le couple alatoire (Y1, Y2) tel que

X1 = aY1 + bY2X2 = cY1 + dY2

avec ad bc 6= 0. Cherchons la loi de (Y1, Y2).Solution. Pour cela, valuons pour tout ensemble B R2 (suffisamment rgulier)

la probabilit P((Y1, Y2) B). Soit A limage de B par T (y1, y2) = (ay1 + by2, cy1 + dy2)qui est une bijection du fait de lhypothse ad bc 6= 0.

P((Y1, Y2) B) = P((X1, X2) A)=

A

fX1,X2(x1, x2) dx1dx2

=

B

fX1,X2(ay1 + by2, cy1 + dy2)|ad bc| dy1dy2o |ad bc| est la valeur absolue du jacobien de la transformation T. On en dduit que(Y1, Y2) est un couple alatoire continu de fonction de densit jointe :

fY1,Y2(y1, y2) = |ad bc|fX1,X2(ay1 + by2, cy1 + dy2)ce qui achve lexercice.

59

60 7. FONCTIONS DUN COUPLE ALATOIRE

En fait, le procd est gnral pour toute transformation bijective T.

Exercice 7.3. Soient (X,Y ) deux variables alatoires indpendantes exponentiellesde paramtre . Trouver la fonction de densit jointe de

U = X + Y, V = X/Y

et montrer que ce sont des variables alatoires indpendantes.

Solution. On considre la transformation S donne par

S(x, y) = (x+ y, x/y), x, y > 0.

Elle est bijective et son inverse S1 donne par

(x, y) = S1(u, v) =(

uv

1 + v,

u

1 + v

), u, v > 0

a pour jacobien

J(u, v) =

xu

yu

xv

yv

= u(1 + v)2 .Par consquent, avec la formule de changement de variables

dxdy = |J(u, v)|dudv,nous obtenons pour tout B R2 (suffisamment rgulier),

P((U, V ) B) = P(S1(U, V ) S1(B))= P((X,Y ) S1(B))=

S1(B)

1(x>0,y>0)2 exp((x+ y)) dxdy

=

B

1(u>0,v>0)2 exp(u) u

(1 + v)2dudv

Par consquent, (U, V ) admet la densit

fU,V (u, v) = 1(u>0,v>0)2 exp(u) u

(1 + v)2

= [21(u>0)u exp(u)][1(v>0)

1

(1 + v)2

]o la forme produit de la densit nous indique lindpendance de U et V.

7.2. Somme de deux variables alatoires indpendantes

Soient X et Y deux variables alatoires continues indpendantes de fonctions de den-sit fX et fY . Dterminons la loi de S = X+Y. Pour cela nous effectuons le changement

7.2. SOMME DE DEUX VARIABLES ALATOIRES INDPENDANTES 61

de variables

{s = x+ yt = x

{

x = ty = s t qui nous donne dsdt = dxdy et

FS(u) = P(X + Y u)=

R2

1(x+yu)fX(x)fY (y) dxdy

=

R2

1(su)fX(t)fY (s t)

=

u

[R

fX(t)fY (s t) dt]ds

cette dernire galit est de au thorme de Fubini. Par consquent, S est une variablealatoire continue de fonction de densit

fX+Y (s) =

R

fX(x)fY (s x) dx.Dfinition 7.4. Soient f et g deux fonctions numriques,

f g(s) =

R

f(x)g(s x) dx, s Rest la convolue de f et g (si cette intgrale est bien dfinie). Lopration est le produitde convolution.

On constate facilement que f g = g f. On vient de montrer le rsultat suivant.Proposition 7.5. Soient X et Y deux variables alatoires continues indpendantes

de fonctions de densit fX et fY . Alors la somme X + Y est une variable alatoirecontinue de fonction de densit

fX+Y = fX fYExercice 7.6. Soient X et Y deux variables alatoires indpendantes de lois respec-

tives N (0, 2) et N (0, 2). Montrer que X + Y suit une loi N (0, 2 + 2).Solution. Pour tout s R,

fX+Y (s) = fX fY (s)=

R

122

ex2/(22) 1

2 2e(sx)

2/(22) dx

=

R

1

2exp

(12[x2/2 + (s x)2/ 2]

)dx

Or, x2/2 + (s x)2/ 2 = 2+222

(x 22+2

s)2 + s2

2+2. Par consquent,

fX+Y (s) =1

2exp

(12

s2

2 + 2

)R

exp

(12

[2 + 2

2 2(x

2

2 + 2s)2])

dx

=1

2(2 + 2)exp

( s

2

2(2 + 2)

)puisque

12

2+2

22

R

exp

(12

[2 + 2

2 2(x

2

2 + 2s)2])

dx = 1

62 7. FONCTIONS DUN COUPLE ALATOIRE

en tant que fonction de densit de la loi N ( 22+2

s, 22

2+2).

On en dduit le rsultat suivant.

Proposition 7.7. Soient X1 et X2 des variables alatoires indpendantes de loisrespectives N (1, 21) et N (2, 22), alors X1 +X2 suit une loi N (1 + 2, 21 + 22).

Dmonstration. La loi de (X1, X2) est gale celle de (1 + 1Z1, 2 + 2Z2) o(Z1, Z2) est un couple alatoire normal standard. Ce que nous crivons rapidement

(X1, X2)L= (1 + 1Z1, 2 + 2Z2).

Par consquent, X1 +X2L= (1 + 2) + 1Z1 + 2Z2. Mais, nous venons de montrer que

1Z1 + 2Z2L=21 +

22Z avec Z N (0, 1). Ce qui achve la preuve.

Thorme 7.8. Soient X et Y deux variables alatoires (discrtes ou continues)indpendantes de fonctions caractristiques X , Y et de transformes de Laplace LX etLY .

(1) La fonction caractristique de X + Y est

X+Y (t) = X(t)Y (t), t R.(2) Si LX et LY sont finies au voisinage de zro, la transforme de Laplace de X+Y

estLX+Y (t) = LX(t)LY (t), t R.

Dmonstration. Daprs la Proposition 6.34, X+Y (t) = X,Y (t, t) = X(t)Y (t)et LX+Y (t) = LX,Y (t, t) = LX(t)LY (t).

Exercice 7.9 (Suite de lExercice 7.6). On reprend lExercice 7.6 laide du Tho-rme 7.8.

Solution. Grce la Proposition 5.11, X(t) = e2t2/2 et Y (t) = e

2t2/2. LeThorme 7.8 nous donne X+Y (t) = e

2t2/2e2t2/2 = e(

2+2)t2/2 qui est la fonctioncaractristique de N (0, 2 + 2).

CHAPITRE 8

Conditionnement

8.1. Probabilit conditionnelle

Soit V A tel que P(V ) > 0. La probabilit de U conditionnelle V est dfinie parla formule de Bayes

P(U |V ) := P(U V )P(V )

, U A.Puisque P(V |V ) = 1, lunivers de P(|V ) est restreint V .

U V

U V

V

Proposition 8.1. La fonction densemble U 7 P(U |V ) est une mesure de probabilitsur la tribu A ainsi que sur la tribu AV := {U V ;U A}, trace de A sur V. De plus,AV A.

Dmonstration. En effet, P(|V ) = P(V |V ) = 1 et si (Un)n1 est une suite deU telle que n1 Un = , nous avons n1(Un V ) = V et daprs la Dfinition 1.9dune mesure de probabilit, P(

n1 Un|V ) = P(

n1(Un V ))/P(V ) =

n1 P(Un

V )/P(V ) =

n1 P(Un|V ); ce qui prouve que P(|V ) est une mesure de probabilit. Puisque P(|V ) est une mesure de probabilit, on peut dfinir la loi de (X,Y ) sous

P(|V ) parPX,Y |V (C) := P((X,Y ) C|V )

pour C dans la tribu de Borel de R2, ainsi quune esprance par rapport P(|V )E((X,Y )|V ) :=

R

(x, y)PX,Y |V (dxdy).

On voit aisment que

(a) lorsque (X,Y ) est un couple alatoire discret de loi

PX,Y =

xX ,yYpX,Y (x, y)(x,y)

on a

PX,Y |V =

xX ,yY

1{(x,y)X(V )Y (V )}P(V )

pX,Y (x, y) (x,y)

E((X,Y )|V ) =

xX(V ),yY (V )(x, y)

pX,Y (x, y)

P(V );

63

64 8. CONDITIONNEMENT

(b) lorsque (X,Y ) est un couple alatoire continu de loi

PX,Y (dxdy) = fX,Y (x, y) dxdy

on a

PX,Y |V (dxdy) =1{xX(V ),yY (V )}

P(V )fX,Y (x, y) dxdy

E((X,Y )|V ) =

X(V )Y (V )(x, y)

fX,Y (x, y)

P(V )dxdy.

On note PX|V (dx) et PY |V (dy) les lois marginales de PX,Y |V (dxdy).

8.2. Conditionnement dans le cas discret

Soit (X,Y ) un couple alatoire discret de loi PX,Y =

xX ,yY pX,Y (x, y)(x,y). Enprenant V = {Y = y} avec y Y tel que pY (y) > 0, on obtient X(V )Y (V ) = X {y}et

PX,Y |Y=y =xX

pX,Y (x, y)

pY (y)(x,y)

de sorte que

PX|Y=y =xX

pX|Y=y(x) x avec

pX|Y=y(x) =pX,Y (x, y)

pY (y)= P(X = x|Y = y) et(8.2)

E((X)|Y = y) =xX

(x)pX|Y=y(x).(8.3)

De faon analogue, on montre que pour tout x X tel que pX(x) > 0,PY |X=x =

yY

pY |X=x(y) y avec

pY |X=x(y) =pX,Y (x, y)

pX(x)= P(Y = y|X = x) et(8.4)

E((Y )|X = x) =yY

(y)pY |X=x(y).(8.5)

On remarque quil suffit que E|(X)|

8.3. CONDITIONNEMENT DANS LE CAS CONTINU 65

On a aussi E(X2|Y = 1) = 0, 1818 (1)2 + 0, 8182 22 = 3, 4546 et E(Y |X = 2) =0, 64291 + 0, 35713 = 1, 7142.

Dfinition 8.7. Pour toutes fonctions et telles que E|(X)|

66 8. CONDITIONNEMENT

Nous allons donc introduire des notions analogues aux quantits discrtes sans les justifierdans un premier temps. Nous en donnerons un

Documents

Proba Version2