probabilités et statistiques année 2010/2011 [email protected]...

21
Probabilités et Statistiques Année 2010/2011 [email protected] [email protected]

Upload: francette-pierre

Post on 04-Apr-2015

110 views

Category:

Documents


1 download

TRANSCRIPT

Page 1: Probabilités et Statistiques Année 2010/2011 laurent.carraro@telecom-st-etienne.fr olivier.roustant@emse.fr

Probabilités et Statistiques

Année 2010/2011

[email protected]@emse.fr

Page 2: Probabilités et Statistiques Année 2010/2011 laurent.carraro@telecom-st-etienne.fr olivier.roustant@emse.fr

Cours n°10

Convergence vers la loi normaleRetour sur Monte Carlo (calcul

d’intervalles de confiance)Convergence d’une somme de loi

B(p/n)

Page 3: Probabilités et Statistiques Année 2010/2011 laurent.carraro@telecom-st-etienne.fr olivier.roustant@emse.fr

Loi d’une somme de v.a. i.i.d ?

Probas-Stats 1A 3

Décembre 2010

Page 4: Probabilités et Statistiques Année 2010/2011 laurent.carraro@telecom-st-etienne.fr olivier.roustant@emse.fr

Loi d’une somme de v.a. i.i.d ?

Probas-Stats 1A 4

Décembre 2010

Page 5: Probabilités et Statistiques Année 2010/2011 laurent.carraro@telecom-st-etienne.fr olivier.roustant@emse.fr

Théorème de la limite centrée

Probas-Stats 1A 55

• THEOREME. [de la limite centrée]

Soient X1, …, Xn des v.a. i.i.d. On ne précise pas la loi.

On suppose seulement que var(Xi) existe.

Soit μ := E(X1), σ2 := Var(X1) et Mn := (X1 + … + Xn)/n

Alors pour n grand, Mn est approx. de loi N(μ, σ2/n)

Décembre 2010

Page 6: Probabilités et Statistiques Année 2010/2011 laurent.carraro@telecom-st-etienne.fr olivier.roustant@emse.fr

Commentaires

Probas-Stats 1A 6

• Remarquer la généralité des hypothèses sur la loi des Xi !• On peut même alléger l’hypothèse d’indépendance…

• Formulation rigoureuse avec la convergence en loi :

Zn -> Z en loi ssi FZn (x) FZ(x)

en tout point x pour lequel FZ est continue.

• Contre-exemple si var(Xi) n’existe pas.• Loi de Cauchy : f(t) = (1/π)×1/(1+t2)• Proposition : si les Xi sont i.i.d. et de loi de Cauchy,

alors pour tout n, Mn est de loi de Cauchy.

Décembre 2010

Page 7: Probabilités et Statistiques Année 2010/2011 laurent.carraro@telecom-st-etienne.fr olivier.roustant@emse.fr

Historique

Probas-Stats 1A 7

• De Moivre (1733) : cas de la loi B(p) avec p=1/2• Laplace (1812) : cas de la loi B(p), p quelconque• Lévy (≈1920) : cas général

Décembre 2010

Page 8: Probabilités et Statistiques Année 2010/2011 laurent.carraro@telecom-st-etienne.fr olivier.roustant@emse.fr

Somme de v.a. – convolution

Rappel : soient X et Y deux v.a. supposées indépendantes et continues. Alors X+Y admet la densité :

Probas-Stats 1A 8

fX +Y (s) = fX (s − y) fY (y) dy−∞

+∞

∫ = ( fX ∗ fY )(s)

Décembre 2010

Page 9: Probabilités et Statistiques Année 2010/2011 laurent.carraro@telecom-st-etienne.fr olivier.roustant@emse.fr

Fonction caractéristique

Qui dit convolution dit transformée de Fourier !En proba., on a la fonction caractéristique

Si X est continue, on reconnaît la forme de

la transformée de Fourier :

Probas-Stats 1A 9

ϕ X (t) = e itx fX (t) dt−∞

+∞

Décembre 2010

ϕ X (t) = E e itX( )

Page 10: Probabilités et Statistiques Année 2010/2011 laurent.carraro@telecom-st-etienne.fr olivier.roustant@emse.fr

Fonction caractéristique

Propriétés fondamentales : Si X et Y sont indépendantes,

-> Transforme les convolutions en produit X et Y ont même loi ssi

-> La fonction caractéristique caractérise la loi

Théorème (Paul Lévy) Pour montrer que en loi,

il suffit de montrer que ,

Probas-Stats 1A 10

Décembre 2010

ϕ X +Y =ϕ Xϕ Y

ϕ X =ϕ Y

ϕ X n(.) →ϕ X (.)

Xn → X

Page 11: Probabilités et Statistiques Année 2010/2011 laurent.carraro@telecom-st-etienne.fr olivier.roustant@emse.fr

Schéma de preuve du TLC

Probas-Stats 1A 11

Décembre 2010

ϕ Z n(t)

Zn :=

X1 +...+ Xn

n−μ

σ / n

ϕ N (0,1)(t)Z de loi N(0,1)

Variables aléatoires Fonctions

P(Zn < .) → P(Z < .)

convergence en loi

Convergence simple

ϕ Z n(.) →ϕ Z (.)

Page 12: Probabilités et Statistiques Année 2010/2011 laurent.carraro@telecom-st-etienne.fr olivier.roustant@emse.fr

Démo (sur un exemple)

Exercice : montrer que Indication : montrer que φN(0,1) est solution de l’équa. diff.

z’(t)= - t z(t) avec z(0) = 1

Soient X1, …, Xn i.i.d de loi U([-a,a]), avec a=√3 Remarque : a est choisi pour que var(Xi)=1

Montrer que

Démo généraleProbas-Stats 1A 12

Décembre 2010

ϕ Z n(t) →ϕ N (0,1)(t)

ϕ N (0,1)(t) = e−t 2 / 2

Page 13: Probabilités et Statistiques Année 2010/2011 laurent.carraro@telecom-st-etienne.fr olivier.roustant@emse.fr

Application: intervalles de confiance

Probas-Stats 1A 13

Décembre 2010

X :=X1 +...+ Xn

n≈ N μ ,

σ 2

n

⎝ ⎜

⎠ ⎟

Loi normale N(0,1)Loi normale N(μ,σ2/n)

Z :=X −μ

σ / n≈ N(0,1)

-1.96 1.96

95%

P(−2 < Z < 2) ≈ 95%

P X −2σ

n< μ < X +2

σ

n

⎝ ⎜

⎠ ⎟≈ 95%

En pratique, on remplace σ par l’écart-type des Xi

Page 14: Probabilités et Statistiques Année 2010/2011 laurent.carraro@telecom-st-etienne.fr olivier.roustant@emse.fr

Méthode de Monte Carlo (MC)

Nom donné au calcul de quantités probabilistes par simulation Probabilité, espérance, variance, quantile, …

Base théorique : loi des grands nombres

Exemple. Calcul de pi (voir TD) En utilisant un disque En utilisant la fonction g : x -> (1-x2)1/2

Probas-Stats 1A 14

Décembre 2010

Page 15: Probabilités et Statistiques Année 2010/2011 laurent.carraro@telecom-st-etienne.fr olivier.roustant@emse.fr

Calcul d’intégrale par Monte Carlo

Probas-Stats 1A 15

U1 U2U10

g(U1)

g(U2)

g(U10)

g(u)du∫

g(U1) + ...+ g(Un )

n

g

n =10

Décembre 2010

Page 16: Probabilités et Statistiques Année 2010/2011 laurent.carraro@telecom-st-etienne.fr olivier.roustant@emse.fr

Probas-Stats 1A 16

g(u)du∫

g(U1) + ...+ g(Un )

n

g

n =100

g(U1)

g(U2)

g(U10)

U1 U2U10 …

g(U100)

U100

Décembre 2010

Calcul d’intégrale par Monte Carlo

Page 17: Probabilités et Statistiques Année 2010/2011 laurent.carraro@telecom-st-etienne.fr olivier.roustant@emse.fr

Remarque de base : si U est uniforme sur [0,1],

Loi des grands nombres :

Mn = ( g(U1)+…+g(Un) ) / n ->

avec U1,…, Un i.i.d. de loi unif. sur [0,1]

Probas-Stats 1A 17

g(u)du∫ = E(g(U))

g(u)du∫

Décembre 2010

Calcul d’intégrale par Monte Carlo

Page 18: Probabilités et Statistiques Année 2010/2011 laurent.carraro@telecom-st-etienne.fr olivier.roustant@emse.fr

Variance d’une somme et vitesse de convergenceIci Xi = g(Ui)

var(Mn) = σ2 / n avec σ2 = var(g(Ui)), donc

σ (Mn) = σ (g(U)) / √n

TLC et intervalle de confiance

est un int. de conf. approché à 95% de

Probas-Stats 1A 18

Décembre 2010

g(u)du∫€

X −2ˆ σ Xn

; X +2ˆ σ Xn

⎣ ⎢

⎦ ⎥

Calcul d’intégrale par Monte Carlo

Page 19: Probabilités et Statistiques Année 2010/2011 laurent.carraro@telecom-st-etienne.fr olivier.roustant@emse.fr

Commentaires

Une partie en 1/√n Une partie qui dépend de g -> on peut

réduire la variance en changeant g (de sorte que l’intégrale reste la même) Voir TD 9 et TD 10

Probas-Stats 1A 19

Décembre 2010

Calcul d’intégrale par Monte Carlo

Page 20: Probabilités et Statistiques Année 2010/2011 laurent.carraro@telecom-st-etienne.fr olivier.roustant@emse.fr

Convergence de la loi B(p/n)

Problème : loi du nb de spams reçus sur une période T ?

Une solution On découpe [0, T] en n intervalles Sur chaque intervalle Ik := [(k-1)T/n, kT/n], on suppose :

• Qu’il y a au plus 1 spam• Que la probabilité de recevoir un spam est proportionnelle à la

durée T/n• Que les spams sont reçus de façon indépendantes

Loi du nb de spams à n fixé ? Quand n -> + ∞ ?

Probas-Stats 1A 20

Décembre 2010

Page 21: Probabilités et Statistiques Année 2010/2011 laurent.carraro@telecom-st-etienne.fr olivier.roustant@emse.fr

Schéma de raisonnement

Probas-Stats 1A 21

Décembre 2010

ϕ Z n(t)

Zn := X1 +...+ Xn

ϕ (t) =ϕ LOI (t)Z de loi LOI (à trouver)

Variables aléatoires Fonctions

P(Zn < .) → P(Z < .)

avec Xi ~ B(p/n)

Convergence simple

ϕ Z n(.) →ϕ Z (.)