Departament d’Estadística

Divisió de Ciències Experimentals i Matemàtiques

Convergències estocàstiques

Diplomatura d’EstadísticaEstadística Matemàtica IJordi Ocaña Rebull

Convergències estocàstiques

2

Punts que tractarem:

Concepte de successió de v.a. i límit.Convergència en distribució.Convergència de funcions característiques.Convergència en probabilitat. Lleis febles dels grans nombres. Convergència quasi segura. Lleis fortes dels grans nombres.Convergència en mitjana d’ordre k.

Convergències estocàstiques

3

Repàs: convergència d’una successió de nombres reals

Concepte de successió de nombres reals: an: una aplicació

Límit d’una successió de nombres reals “convergència segura”

nn a→

0 0

lim (o ) :

sii, per tot 0,

existeix , t.q. n n

n n nn

n

a a a a

n a a

ε

ε

→∞→∞= ⎯⎯⎯⎯→

>

∈ ≥ ⇒ − <

Convergències estocàstiques

4

Concepte de successió de variables aleatòries

Sigui F del conjunt de les v.a. definibles sobre un espai de probabilitat Una successió de v.a. és una aplicació

Normalment on les Yi són dades, observacions d’una mateixa v.a Y.En quin sentit podem dir que

( ), ,PΩ A

nn X→ F

( )1, ,n nX g Y Y= …

?nX X→

Convergències estocàstiques

5

Convergència en distribució (o en llei)

Concepte: suposem que Xn té distribució Fn, per tot n, i que X té distribució F,

També direm en aquest cas que F és la distribució asimptòtica de Xn.

(o )

sii lim ( ) ( )

en tot punt de continuïtat de

dn n

nn

X X X X

F x F x

F→∞

⎯⎯→ ⎯⎯⎯→

=

L

Convergències estocàstiques

6

Convergència de funcions característiques.

Sigui Xn una successió de v.a. iCn(t) la corresponent successió de f. característiques. Si

i C(t) és contínua a t = 0, aleshores és funció característica d’una v.a. X i la successió Xn convergeix en distribucióa X.

lim ( ) ( )nnC t C t

→ ∞=

Convergències estocàstiques

7

Relació amb la convergència de funcions característiques

Sigui Cn la funció de característica de Xnamb funció de distribució Fn. Tenim que:

dnX X F⎯⎯→ ∼

( ) ( )per tot , lim

amb funció característica (la de )

nnt C t C t

C F→∞

=

Convergències estocàstiques

8

Convergència en probabilitat

Concepte:

És un concepte “local”: no diu res del límit de tota la successió Xn(ω), només assegura que, per n prou gran, “és molt probable” que els valors de Xns’assemblin als de X.

( )sii 0, lim 1

Pn

nn

X X

P X Xε ε→∞

⎯⎯⎯→

∀ > − < =

Convergències estocàstiques

9

Relació amb la convergència de funcions característiques

Sigui Xn una successió de v.a. iCn(t) la corresponent successió de funcions característiques. Si

on c∈ , aleshores la successió Xn convergeix en probabilitat al valor c.

l im ( ) i t cnn

C t e→ ∞

=

Convergències estocàstiques

10

Lleis febles dels grans nombres

Enunciat general (i imprecís): la mitjana aritmètica convergeix en probabilitat cap a l’esperança.Direm que Xn verifica la ll.f.g.n. siiquan

existeixen successions an i bn t.q.

( )1

1,n

ni ii

E X X Xn =

< ∞ = ∑

0Pn nX a− ⎯⎯⎯→nb

Convergències estocàstiques

11

Lleis febles dels grans nombres: casos particulars

– Teorema de Bernouilli (primera formulació de la llei feble dels grans nombres):

– Teorema de Txebytxev: suposem

aleshores

( )Si ,

aleshores

nn n

Pn

XX b n p Yn

Y p

=

⎯⎯⎯→

∼

( )

( )

2 2var , lim 0

, =0 per tot ,

n n nn

i j

X

X X i j

σ σ

ρ→∞

= < ∞ =

( ) 0Pn nX E X− ⎯⎯⎯→

Convergències estocàstiques

12

Lleis febles dels grans nombres: casos particulars (i II)

– Teorema de Khintxine: si les Xn són iid no cal que existeixin els moments de segon ordre per que

– Conseqüència del teorema de Khintxine: sota les condicions anteriors, si

– i també pels moments centrals, com

( )Pn nX E X µ⎯⎯⎯→ =

( )knE X < ∞

( )1

1 nPk k

nii

X E Xn =

⎯⎯⎯→∑

( )2 varPn nS X⎯⎯⎯→

Convergències estocàstiques

13

Convergència quasi segura

Concepte:

És un concepte “global”, la definició afirma que, amb tota seguretat, el límit de les successions numèriques Xn(ω) és el valor X (ω).

sii : lim ( ) ( ) 1

qsn

nn

X X

P X Xω ω ω→∞

⎯⎯⎯→

∈ Ω = =

Convergències estocàstiques

14

Lleis fortes dels grans nombres

Concepte similar a les lleis febles però amb convergència quasi segura.Teoremes de Kolmogorov: si

aleshores

(i si són iid: )

( )

( )

1

22

21

, , est. independents, ,

var ,

n i

ni i

n

X X E X

Xnσσ

∞

=

< ∞

= < ∞ < ∞∑

…

( ) . . 0q sn nX E X− ⎯⎯⎯→

( ). .q sn nX E X µ⎯⎯⎯→ =

Convergències estocàstiques

15

Convergència en mitjana d’ordre k

Concepte:

Casos més importants:– k=1, convergència en mitjana d’ordre 1 o L1

– k=2, convergència en mitjana quadràtica:

sii lim 0

per i finites

kn

knn

k kn

X X

E X X

E X E X→∞

⎯⎯→

− =

2 lim ( ) i lim var( ) 0n n nn nX c E X c X

→∞ →∞⎯⎯→ ⇔ = =

Convergències estocàstiques

16

Relació entre els diversos tipus de convergències estocàstiques

quasi segura

en mitjana d'ordre k

en mitjana d'ordre s(s<k)

en probabilitat

en distribució

“implica”