As leis dos grandes números
PE0708
25 de Fevereiro de 2008
1 Introdução
Neste capı́tulo estudamos algumas formulações da lei dos grandes números. Uma lei
dos grandes números dá o comportamento limite, ou assimptótico, de uma média de observações aleatórias. As leis dos grandes números, de que já vimos exemplos no capı́tulo
dedicado à representação diádica de um número real, podem ser usadas para justiifcar
a interpretação frequentista das probabilidades.
O estudo do comportamento assimptótico necessita, naturalmente, da introdução de
noções de limite. Consoante o limite seja tomado em probablidade ou quase certamente
assim teremos uma lei dos grandes números fraca ou forte, respectivamente.
2 A convergência em probabilidade
Relembremos a noção de convergência em probabilidade introduzida anteriormente bem
como algumas das propriedades essenciais desta noção que importa conhecer. Seja
(Ω, A, P) um espaço de probabilidade.
Definição 1. Uma sucessão de variáveis aleatórias (Xn )n∈N tomando valores em R
converge em probabilidade para X se e só se:
∀ > 0
lim P[| Xn − X |> ] = 0 .
n→+∞
Observação 1. Esta noção de convergência diz-nos que escolhido um tamanho para as
vizinhanças em R, dado por , a probabilidade do acontecimento formado pelos pontos
ω ∈ Ω tais que Xn (ω) fica fora do intervalo [X(ω) − , X(ω) + ] tende para zero quando
n tende para infinito. A definição pode estender-se imediatamente a variáveis aleatórias
tomando valores em Rn bastando substituir a distância em R, dada pelo valor absoluto,
pela distância em Rn dada por uma qualquer norma, por exemplo, a norma Euclideana.
Notação 1. Para uma sucessão satisfazendo a definição anterior escreve-se:
pr.
Xn −−−−−→ X .
n→+∞
Naturalmente que há relações entre as diferentes formas de convergência estudadas.
1
Capı́tulo VII
Leis dos Grandes Números
Secção: 2
Um primeiro resultado é que se houver convergência em L1 então há convergência
em probabilidade. Relembre que havendo convergência em L1 não tem que haver convergência quase certa. O melhor que se pode afirmar é que é possı́vel extrair uma
subsucesão convergindo quase certamente.
Proposição 1. Seja (Xn )n∈N convergindo em L1 para X. Então, (Xn )n∈N converge em
probabilidade para X, isto é:
pr.
L1
Xn −−−−−→ X ⇒ Xn −−−−−→ X .
n→+∞
n→+∞
Demonstração. A hipótese implica que limn→+∞ E[|Xn − X|] = 0. Pela desigualdade de
Tchebycheff tem-se que, para qualquer > 0
E[|Xn − X|]
pelo que o resultado anunciado decorre imediatamente.
E[|Xn − X| > ] ≤
Um segundo resultado relaciona a convergência em probabilidade com a convergência
quase certa.
Proposição 2. Seja (Xn )n∈N convergindo quase certamente para X. Então, (Xn )n∈N
converge em probabilidade para X, isto é:
q.c.
pr.
Xn −−−−−→ X ⇒ Xn −−−−−→ X .
n→+∞
n→+∞
Demonstração. A hipótese pode ser expressa escrevendo que há convergência pontual
da sucessão de funções mensuráveis (Xn )n∈N para a função mensurável X salvo, talvez,
0
num conjunto de probabilidade nula. Ou seja, tem-se para um dado Ω :
0
0
Ω := ω ∈ Ω : lim inf Xn (ω) = X(ω) = lim sup Xn (ω) ∈ A, P[Ω ] = 1 .
n→+∞
n→+∞
Seja > 0 fixo. Pela definição;
0
∀ω ∈ Ω ∃n ∈ N ∀m ≥ n |Xn (ω) − Xn (ω)| ≤ o que implica.
0
Ω ⊂
[ \
{|Xm − Xn | ≤ } = lim inf {|Xm − Xn | ≤ } ,
n→+∞
n∈N m≥n
ou passando aos complementares pelas leis de Morgan,
0
lim sup {|Xm − Xn | > } ⊂ (Ω )c .
n→+∞
Em consequência do lema de Fatou inverso (veja-se a página 12) pode afirmar-se que:
0 ≤ lim inf P [{|Xm − Xn | > }] ≤ lim sup P [{|Xm − Xn | > }] ≤
n→+∞
n→+∞
0
≤ P lim sup {|Xm − Xn | > } ≤ P[(Ω )c ] = 0 ,
n→+∞
o que implica que limn→+∞ P[{|Xm − Xn | > }] = 0, tal como pretendı́amos demonstrar.
PE0708
2
25 de Fevereiro de 2008
Capı́tulo VII
Leis dos Grandes Números
Secção: 2
Observação 2. A recı́proca não é verdadeira, isto é, uma sucessão de variáveis aleatórias
pode ser convergente em probabilidade e não ser convergente quase certamente. Com
efeito, considere-se uma sucessão de variáveis aleatórias independentes (Xn )n∈N verificando:
1
1
∀n ∈ N P[Xn = 1] =
, P[Xn = 0] = 1 − .
n
n
É imediato verificar que a sucessão converge para X ≡ 0 em probabilidade, uma vez
que para > 0 se tem que P[| Xn |> ] = P[Xn = 1] = 1/n. Para verificarmos
que a sucessão indicada não converge quase certamente apliquemos o lema de BorelCantelli (veja-se adiante na página 11). Observe-se que se, para n ∈ N considerarmos o
acontecimento An := {X
que (An )n∈N é uma sucessão de acontecimentos
Pn = 1} tem-seP
+∞
P[A
]
=
independentes tal que +∞
n
n=1 (1/n) = +∞. Por Borel-Cantelli deduz-se
n=1
que P[lim supn→+∞ An ] = 1 ou seja:




+∞
+∞
\ [
\ [
{Xm = 1} = 1 .
Am  = P 
P
n=1 m≥n
n=1 m≥n
0
0
0
Quer isto dizer que se pode considerar Ω ∈ A tal que P[Ω\Ω ] = 0 e tal que para ω ∈ Ω ,
se tem ω ∈ ∩+∞
n=1 ∪m≥n {Xm = 1}, ou ainda:
0
∀ω ∈ Ω ∀n ∈ N ∃mn (ω) ≥ n Xmn (ω) = 1 ,
existindo assim uma subsucessão (Xmn (ω))n∈N de (Xn (ω))n∈N que admite 1 como limite. Do mesmo modo, considerando os acontecimentos definidos para cada n ∈ N por
Bn := {Xn = 0} se pode inferir a existência de uma outra subsucessão (Xln (ω))n∈N de
00
00
(Xn (ω))n∈N que admite 0 como limite para ω ∈ Ω ∈ A e tal que P[Ω\Ω ] = 0. Suponhamos que a sucessão de variáveis aleatórias (Xmn )n∈N era convergente P quase certamente.
0
00
Então, para cada ω pertencente a um conjunto de probabilidade plena (no caso Ω ∩ Ω ,
por exemplo) verificar-se-ia que a sucessão (Xmn (ω))n∈N seria uma sucessão numérica
convergente. Mas isso é impossı́vel porque uma sucessão numérica convergente não pode
admitir duas subsucessões numéricas distintas (no caso, (Xmn (ω))n∈N e (Xln (ω))n∈N )
para dois números distintos (no caso, 1 e 0, respectivamente).
As propriedades enunciadas na proposição seguinte são importantes por permitirem
operacionalizar a noção de convergência em probabilidade mas, sobretudo, porque as
respectivas demostrações familiarizam o leitor com o modo de tratar os conjuntos que
aparecem nas questões relacionadas com a convergência em probabilidade.
Proposição 3. Sejam (Xn )n∈N e (Yn )n∈N convergindo em probabilidade para duas variáveis
aleatórias X e Y , respectivamente, variáveis finitas P quase certamente. Seja ϕ : R −→
R uma função contı́nua. Então:
1. A sucessão (Xn + Yn )n∈N converge em probabilidade para X + Y .
2. A sucessão (ϕ(Xn ))n∈N converge em probabilidade para ϕ(X).
3. A sucessão (Xn · Yn )n∈N converge em probabilidade para X · Y .
PE0708
3
25 de Fevereiro de 2008
Capı́tulo VII
Leis dos Grandes Números
Secção: 2
Demonstração. A primeira propriedade resulta de uma observação simples. Considere-se
0
0
0
0
Ω ∈ A tal que, sobre Ω X e Y são finitas e P[Ω ] = 1. Como, para cada ω ∈ Ω ,
|(Xn (ω) + Yn (ω)) − (X(ω) + Y (ω)| ≤ |Xn (ω) − X(ω)| + |Yn (ω) − Y (ω)| ,
tem-se que para qualquer > 0 que
n
o n
o
0
0
ω ∈ Ω : |Xn (ω) − X(ω)| ≤
∩ ω ∈ Ω : |Yn (ω) − Y (ω)| ≤
⊂
2
2
n
o
0
⊂ ω ∈ Ω : |(Xn (ω) + Yn (ω)) − (X(ω) + Y (ω))| ≤ ,
0
pelo que, pelas leis de Morgan, pela subaditividade da medida e pela condição sobre Ω ,
se tem que:
P [|(Xn + Yn ) − (X + Y )| > ] ≤ P [|Xn − X| > ] + P [|Yn − Y | > ] ,
desigualdade que implica o resultado anunciado. A segunda propriedade é muito importante. Para maior simplicidade da demonstração que vai seguir-se supomos que X
toma valores em R, sendo assim finita P quase certamente. A tı́tulo de exercı́cio, o leitor deverá redigir a demostração no caso geral do enunciado. Formulamos primeiro um
pequeno resultado técnico que mostra que no caso em que X é finita quase certamente,
o conjunto em que X não é limitada tem uma probabilidade arbitrariamente pequena.
Lema 1. Sendo X finita P quase certamente verifica-se que:
∀δ > 0 ∃Aδ > 0 P[|X| > Aδ ] ≤ δ ,
(1)
Demonstração. É suficiente considerar os conjuntos Bn := {|X| ≥ n} para n ∈ N.
Verifica-se imediatamente que a sucessão (Bn )n∈N é uma sucessão decrescente de conjuntos mensuráveis pelo que:
lim Bn =
n→+∞
+∞
\
Bn = {|X| = +∞} .
n=1
Em consequência, pela popriedade de continuidade inferior da medida:
0 = P[|X| = +∞] = P lim Bn = lim P [Bn ] = lim P [|X| ≥ n] .
n→+∞
n→+∞
n→+∞
A igualdade entre o primeiro e o último termo desta cadeia de igualdades garante o
resultado enunciado no lema.
Fixe-se δ > 0. Vamos mostrar limn→+∞ P [|ϕ(Xn ) − ϕ(X)| > δ] = 0. Seja agora
> 0 qualquer e A/2 > 0 dado pela fórmula 1 do lema acima. Considere-se o intervalo
fechado limitado [−2A/2 , 2A/2 ]. A restrição de ϕ, função contı́nua, a este compacto é
uniformemente contı́nua pelo que:
∃η > 0, η ≤ A/2 ∀x, y ∈ [−2A/2 , 2A/2 ] |x − y| ≤ η ⇒ |ϕ(x) − ϕ(y)| ≤ δ .
PE0708
4
25 de Fevereiro de 2008
Capı́tulo VII
Leis dos Grandes Números
Secção: 3
Em consequência de se ter,
∀ω ∈ Ω ||Xn (ω)| − |X(ω)|| ≤ |Xn (ω) − X(ω)| ,
vem que para |X(ω)| ≤ A/2 que |Xn (ω)| ≤ |X(ω)| + η ≤ 2A/2 e por isso verifica-se que
{|X| ≤ A/2 } ∩ {|Xn − X| ≤ η} ⊂ {|ϕ(Xn ) − ϕ(X)| ≤ δ} ,
ou seja, pelas leis de Morgan que
{|ϕ(Xn ) − ϕ(X)| > δ} ⊂ {|X| > A/2 } ∪ {|Xn − X| > η} .
Considere-se agora n0 ∈ N tal que para n ≥ n0 se verifica que P[|Xn − X| > η] ≤ /2.
Vem então que para n ≥ n0
P [|ϕ(Xn ) − ϕ(X)| > δ] ≤ P |X| > A/2 + P [|Xn − X| > η] ≤ + = ,
2 2
tal como se pretendia demonstrar. A terceira propriedade resulta de se ter que:
Xn · Yn =
1
(Xn + Yn )2 − Xn2 − Yn2 .
2
e das duas primeiras propriedades demonstradas.
Observação 3. A toda a noção de convergência de sucessões 1 pode fazer-se corresponder
uma noção de fecho e, por isso, uma topologia. Pode mostrar-se que existe uma métrica
d sobre o espaço L das variáveis aleatórias limitadas P quase certamente que torna
metrizável e completa a topologia da convergência em probabilidade, isto é, tal que, (L, d)
é um espaço métrico completo no qual as sucessões de variáveis aleatórias convergentes
são sucessões convergentes em probabilidade. A métrica d pode ser definida por
∀X, Y ∈ L d(X, Y ) = E[|X − Y | ∧ 1] .
Veja-se a refereência [7] sobre este assunto 2 .
3 A lei fraca dos grandes números
A lei fraca dos grandes números faz intervir a convergência em probabilidade que é uma
convergência mais fraca que a convergência quase certa uma vez que, de acordo com a
proposição 2 acima, se houver convergência quase certa há convergência em probabilidade.
1
Satisfazendo um conjunto de propriedades técnicas adequadas.
Pode obter-se em linha no endereço:
http://www.univ-lr.fr/poles/sciences/formations/math/AgregExterneMath/ressources/probabilites/cours.pdf
.
2
PE0708
5
25 de Fevereiro de 2008
Capı́tulo VII
Leis dos Grandes Números
Secção: 4
Teorema 1 (Lei fraca - convergência em probabilidade). Seja (Xn )n∈N uma sucessão de
variáveis aleatórias iid (independentes
e identicamente distribuı́das com X ∈ L2 . Então
PN
se for por definição SN := n=1 Xn tem-se que
1
pr.
SN −−−−−→ E[X]
n→+∞
N
ou o mesmo é dizer que
!
#
"
N
1 X
Xn − E[X] > = 0 .
∀ > 0 lim P n→+∞
N
n=1
Demonstração. Vamos detalhar a demonstração que é uma consequência da desigualdade
de Tchebycheff. Com efeito, note-se primeiramente que:
!
!
N
N
N
1
1 X
1 X
1 X
SN − E[X] =
Xn −
E[X] =
(Xn − E[X]) .
N
N
N
N
n=1
n=1
n=1
Seja agora > 0 qualquer. Pela desigualdade de Tchebycheff tem-se que:

" N
!2 
#
N
X
X
1
1
(Xn − E[X])  .
P SN − E[X] > = P (Xn − E[X]) > N ≤ 2 2 E 
N
N n=1
n=1
Observe-se agora que como pela hipótese de independência se tem cov(Xn , Xm ) = 0
então:



!2 
N
N
X
X
E
(Xn − E[X])  = E 
(Xn − E[X])(Xm − E[X]) =
n=1
=
N
X
n,m=1
E[(Xn − E[X])2 ] + 2
n=1
= N V[X] + 2
N
X
E [(Xn − E[X])(Xm − E[X])] =
n,m=1,n<m
N
X
cov(Xn , Xm ) = N V[X] .
n,m=1,n<m
Em consequência,
1
1
V[X]
−−−−−→ 0 .
P SN − E[X] > ≤ 2 2 · N V[X] =
N
N N 2 N →+∞
tal como querı́amos demonstrar.
4 Uma lei forte dos grandes números
Apresentamos seguidamente um enunciado da lei forte dos grandes números sob a
hipótese de existência de momentos de ordem quatro uniformemente limitados para
as variáveis aleatórias da sucessão. O resultado mais geral é o de Kolmogorov que para
sucessões iid exige apenas a existência do primeiro momento.
PE0708
6
25 de Fevereiro de 2008
Capı́tulo VII
Leis dos Grandes Números
Secção: 4
Teorema 2 (Lei forte - convergência quase certa). Seja (Xn )n∈N uma sucessão de
variáveis aleatórias independentes centradas (E[Xn ] = 0) e tais que:
∃K > 0 ∀n ∈ N E[Xn4 ] ≤ K .
(2)
Então, tem-se que:
N
1
1 X
qc.
Xn −−−−−→ 0 .
SN =
n→+∞
N
N
n=1
Demonstração. A demonstração segue as linhas gerais da demosntração efectuada para
a lei forte dos grandes números para sucessões de Bernoulli. Numa primeira observação
aproveita-se o facto das variáveis aleatórias serem independentes e com médias nulas
para obter uma representação simplificada do quarto momento da sucessão das somas
parciais. Tem-se então que:





!4 
"N
#
N
N X
N X
N X
N
N
X
X
X
X
4
E SN
= E
Xn  = E 
Xi Xj Xk Xl  = E
Xk4 +6 E 
Xi Xj 
n=1
i=1 j=1 k=1 l=1
k=1
i,j=1 i<j
dado que, se tem que há 42 = 6 modos de escolher os termos da última soma e para
i, j, k e l distintos se tem que:
E Xi Xj3 = E Xi Xj2 Xk = E [Xi Xj Xk Xl ] = 0 ,
em consequência da independência, de se ter Xj ∈ L4 ⊂ L3 ⊂ L2 ⊂ L1 e do lema da
página 6. Observe-se também que pela desigualdade de Jensen se tem para qualquer j:
2
E Xj2 ≤ E Xj4 ≤ K ,
o que por sua vez, conjuntamente com a independência, também implica que, para
quaisquer i 6= j:
2
E Xi2 Xj2 ≤ E Xi2 E Xj2 ≤ K .
Note-se que há N2 = N (N − 1)/2 formas de escolher os termos da útima soma na
fórmula 4, pelo que:
4
E SN
≤ N · K + 3N (N − 1) · K ≤ 3K · N 2 .
Tem-se assim finalmente que:
" +∞ # +∞ +∞
X E S4
X S N 4
X
1
N
=
E
≤
3K
< +∞ .
N
N4
N2
N =1
N =1
N =1
P
4
Em consequência, a série +∞
N =1 (SN /N ) converge P quase certamente pelo que o termo
geral converge para zero ou seja pode conscluir-se que, (SN /N ) −−−−−→ 0 tal como se
N →+∞
pretendia.
PE0708
7
25 de Fevereiro de 2008
Capı́tulo VII
Leis dos Grandes Números
Secção: 5
O corolário seguinte mostra que o que de facto é importante é que as variáveis
aleatórias tenham o mesmo valor médio e não a hipótese de serem centradas.
Corolário 1. Seja (Xn )n∈N uma sucessão de variáveis aleatórias independentes, tais
que
∀n ∈ N E[Xn ] = µ .
verificando a hipótese dada pela fórmula 2 do enunciado do teorema. Então tem-se que:
1
qc.
SN =−−−−−→ µ ,
n→+∞
N
Demonstração. Basta considerar a sucessãom de variáveis aleatórias definidas para cada
n ≥ 1 por Yn = Xn − µ que verifica evidentemente as hipóteses do teoremaa uma vez
que, E[Yn ] = 0 e que pela desigualdade de Minkowski:
E[Yn4 ] = kYn k44 ≤ (kXn k4 + µ)4 ≤ (K + µ)4 ,
podendo assim aplicar-se o resultado anterior.
5 Sobre a simulação
Nesta secção apresentamos algumas consequências dos resultados anteriores que interessam aos estudos de simulação aleatória.
Uma questão natural que aparece em consequência das leis dos grandes números é a
determinação da velocidade de convergência das médias amostrais de uma dada variável
aleatória para o valor esperado dessa variável aleatória.
5.1 Critério do erro absoluto
Apresentamos primeiramente resultados simples cujas demonstrações recorrem apenas à
desigualdade de Tchebycheff.
Um primeiro caso simples é o das médias amostrais de uma variável aleatória uniforme num intervalo fechado limitado em que se pode mostrar
√ que essa velocidade de
convergência, para o critério do erro absoluto 3 é da ordem de N onde N é a dimensão
da amostra.
Como se poderá observar na demonstração, o resultado seguinte subsiste com uma
demonstração semelhante para médias amostrais de uma qualquer variável aleatória
desde que esta seja limitada.
Proposição 4. Seja (Xn )n∈N uma amostra de X variável aleatória com lei uniforme
em [0, 1], isto é, (Xn )n∈N é uma sucessão de variáveis aleatórias independentes e identicamente distribuı́das com X _ U([0, 1]). Então:
#
"
N
1 X
k
∃k > 0 E Xi − E[X] ≤ √ .
(3)
N
N
i=1
3
Veja-se para uma definição do critério do erro absoluto [, p. 320] (Kloeden).
PE0708
8
25 de Fevereiro de 2008
Capı́tulo VII
Leis dos Grandes Números
Secção: 5
Demonstração. Considere-se para maior facilidade de leitura que, por definição,
!
N
N
1 X
1 X
WN :=
Xi − E[X] =
(Xi − E[X]) .
N
N
i=1
i=1
Verifica-se imediatamente que E[WN ] = 0 e V[WN ] = V[X]/N . Seja > 0 arbitrário.
Decompondo o integral, temos, pela desigualdade de Tchebycheff que nos garante a
maojoração P[| WN |≥ ] ≤ E[WN2 ]/2 e, uma vez que | WN |≤ 1/2:
Z
Z
E[| WN |] =
| WN | dP +
| WN | dP ≤
{|WN |<}
{|WN |≥}
Z
Z
1
(4)
| WN | dP +
dP ≤
≤
2 {|WN |≥}
{|WN |2 <2 }
1
1 V[X]
.
≤ 2 P[{| WN |2 < 2 }] + P[{| WN |≥ }] ≤ 2 +
2
2 N 2
Uma vez que > 0 é arbitrário, considere-se 2 = η e observe-se que a função
p f (η) = η +
V[X]/(2N η) definida para η ∈]0,p
+∞[ admite um mı́nimo global para η0p= V[X]/(2N
p )
tomando então o valor f (η0 ) = 2V[X]/N . Assim sendo, se for k = 2V[X] = 1/6
tem-se, em consequência da majoração 4, que a fórmula 5 está verificada.
Uma generalização do resultado anterior dá-nos a velocidade de convergência forte
do método de Monte Carlo para integrais.
Proposição 5 (Método de Monte Carlo). Seja (Xn )n∈N uma amostra de X variável
aleatória com lei uniforme em [0, 1]. Seja φ uma função definida, mensurável e limitada
sobre [0, 1]. Então:
#
"
Z 1
N
1 X
k
∃k > 0 E φ(Xi ) −
φ(x) dx ≤ √ .
(5)
N
N
0
i=1
Demonstração. Observe-se primeiramente que pelo resultado de integração relativamente à medida imagem se tem, considerando a medida de Lebesgue λ sobre [0, 1]
que:
Z
φ dλ = E[φ(X)] .
[0,1]
Pode-se pois recomeçar a demostração do resultado anterior considerando
!
N
N
1 X
1 X
ZN :=
φ(Xi ) − E[φ(X)] =
(φ(Xi ) − E[φ(X)]) ,
N
N
i=1
i=1
observando que E[ZN ] = 0 e V[ZN ] = V[φ(X)]/N . Note-se que se for para qualquer
x ∈ [0, 1], φ(x) ≤ K, então tem-se que, | ZN |≤ 2K. Da mesma forma que no resultado
anterior obtem-se que para qualquer η := 2 > 0:
E[| ZN |] ≤ 2 P[{| ZN |2 < 2 }] + 2K
PE0708
9
V[φ(X)]
V[φ(X)]
= η + 2K
.
N 2
Nη
25 de Fevereiro de 2008
Capı́tulo VII
Leis dos Grandes Números
Secção: 6
Achando o valor mı́nimo do segundo membro, vem finalmente:
p
2 2KV[φ(X)]
√
E[| ZN |] ≤
,
N
tal como pretendido.
6 Exercı́cios
Os exercı́cios seguintes exploram variantes simples da leis fortes dos grandes números.
Exercı́cio 1 (Uma lei fraca para variáveis independentes não identicamente distribuı́das).
Seja (Xn )n∈N uma sucessão de variáveis aleatórias independentes (note-se que não necessariamente identicamente distribuı́das) tais que:
∀n ∈ N E[Xn ] = µ ∈ R ; ∃K > 0 ∀n ∈ N V[Xn ] ≤ K .
Mostre que então (SN /N )N ∈N converge em probabilidade para µ.
Exercı́cio 2. Seja uma moeda tal que quando é lançada sai caras, representada por (1),
com probabilidade p ∈ [0, 1] e sai coroas, representada por (0), com a probabilidade 1 − p.
Seja Xn o resultado de um qualquer lançamento da moeda ao ar.
1. Mostre que se os lançamentos forem independentes:
"
!
#
N
1 X
∀ > 0 lim P X n − p > = 0 .
n→+∞
N
n=1
2. Mostre que se os lançamentos forem independentes, com probabilidade um tem-se
que:
N
1 X
Xn = p .
lim
n→+∞ N
n=1
Exercı́cio 3. [2] Sejam Xn , n ∈ N, variáveis aleatórias reais e p > 1.
P
p
P
1. Prove que, qualquer que seja n ∈ N, 1 n Xk ≤ 1 n |Xk |p .
n
k=1
2. Se k=1 E (|Xk |p ) < ∞, prove que P
c > 0.
1
n |X1
P+∞
n
k=1
+ · · · + Xn | > c −→ 0, para todo o
3. Suponha agora que as variáveis aleatórias são independentes, de médias nulas e
tais que existe uma constante M > 0 que verifica supk∈N , V ar(Xk) ≤ M . Prove
que, para todos os α > 21 e c > 0, se tem P n1α |X1 + · · · + Xn | > c −→ 0.
Exercı́cio 4. [2] Para cada n ∈ N fixo, consideremos variáveis aleatórias Xn,1 , . . . , Xn,kn
independentes e identicamente distribuı́das, onde kn , n ∈ N, é uma sucessão de números
naturais não nulos. Suponhamos que todas as variáveis aleatórias têm médias nulas
e que existe uma constante M > 0 tal que supn,m∈N V ar(Xn,m ) ≤ M . Defina-se
Sn = Xn,1 + · · · + Xn,kn . Prove que, dadauma sucessão
de números reais vn , n ∈ N, se
kn
2
vn
−→ 0 então, para todo o ε > 0 fixo, P | Svnn | > ε −→ 0.
PE0708
10
25 de Fevereiro de 2008
Capı́tulo VII
Leis dos Grandes Números
Secção: 6
Exercı́cio 5. [2] Sejam Xn , n ∈ N, variáveis aleatórias reais.
1. Prove que, se
certamente.
P+∞
P (|Xn | > ε) < +∞ para todo o ε > 0, então Xn −→ 0 quase
n=1
2. Suponhamos que as variáveis aleatórias Xn têm médias nulas, que Cov(Xi , Xj ) = 0
sempre que i 6= j e que existe uma constante M > 0 tal que supn∈N V ar(Xn ) ≤
M < +∞. Defina-se Sn = X1 + · · · + Xn .
(a) Prove que
Sn2
n2
−→ 0 quase certamente.
(b) Defina-se q(n) como o maior quadrado perfeito inferior ou igual a n. Mostre
√
que n − q(n) ≤ 2 n.
(c) Prove que
(d) Prove que
Sn −Sq(n)
−→ 0 quase certamente.
n
Sn
n −→ 0 quase certamente.
Exercı́cio 6. Os do fim das folhas de exercı́cios um dos quais, pleo menos, até ficou
resolvido.
Apêndice: Resultados complementares
Nesta secção apresentamos alguns resultados importantes que embora sendo essenciais
para uma completa compreensão do texto principal ou já foram estudados antes ou não
tendo sido estudados anteriormente não devem figurar na linha principal de desenvolvimento do texto.
O primeiro resultado é de importância capital nas probabilidades modernas.
Lema 2 (Borel-Cantelli). Seja (An )n∈N uma sucessão de acontecimentos na álgebrasigma A do espaço de probabilidade.
1. Se
Pn=+∞
n=1
P[An ] < +∞ então P[lim supn→+∞ An ] = 1.
2. Se os acontecimentos forem independentes então se
se que P[lim supn→+∞ An ] = 0.
Pn=+∞
n=1
P[An ] = +∞ verifica-
Demonstração. A primeira implicação resulta de se ter para qualquer n ∈ N, em consequência da subaditividade que,

P[lim sup An ] = P 
n→+∞

\ [

Am  ≤ P 
n∈N m≥n

[
m≥n
Am  ≤
X
m≥n
P[Am ] −−−−−→ 0 ,
n→+∞
uma vez que o resto de uma série convergente tende para zero. A segunda implicação
é verificada se se mostrar que P[lim inf n→+∞ Acn ] = 0. Ora, sendo p ∈ N qualquer, em
consequência da subaditividade, da independência dos conjuntos, de se ter para x ≥ 0
PE0708
11
25 de Fevereiro de 2008
Capı́tulo VII
Leis dos Grandes Números
Secção: 6
que 1 − x ≤ e−x que
P[lim inf Acn ]
n→+∞
≤
X
P
n∈N
≤
X
" n+p
\
#
Acm
=
m=n
=
X n+p
Y
(1 − P[An ]) ≤
n∈N m=n
!
−−−−−→ 0 ,
P[An ])
p→+∞
m=n
n∈N
P[Acn ]
n∈N m=n
n+p
X
exp(−
X n+p
Y
uma vez que pela hipótese sobre a série se tem que limp→+∞
qualquer n ∈ N.
Pn+p
m=n P[An ]
= +∞ para
O segundo resultado é de grande utilidade na teoria das probabilidades e generaliza
um dos teoremas de convergência, o lema de Fatou.
Lema 3 (Lema de Fatou inverso). Seja (An )n∈N uma sucessão de acontecimentos.
Então:
lim sup P[An ] ≤ P lim sup An .
n→+∞
n→+∞
Demonstração. O lema decorre de duas observações e da continuidade da medida para
sucessões decrescentes. A primeira observação é que a sucssão de conjuntos (∪m≥n An )n∈N
é decrescente e como tal verifica


[
\ [
lim 
Am  =
Am = lim sup An
n→+∞
m≥n
n∈N m≥n
n→+∞
e do mesmo modo a sucessão (supm≥n P[Am ])n∈N é decrescente e por isso se verifica:
lim
sup P[Am ] = inf sup P[Am ] = lim sup P[An ] .
n→+∞
n∈N
m≥n
n→+∞
m≥n
A segunda observação é que pela monotonia das medidas:





[
[
∀n ∈ N ∀m ∈ N P[Am ] ≤ P 
Am  ⇒ ∀n ∈ N sup P[Am ] ≤ P 
Am  .
m≥n
m≥n
m≥n
Em consequência da continuidade da medida para sucessões decrescentes tem-se que:


[
lim sup P[An ] = lim
sup P[Am ] ≤ lim P 
Am  = P lim sup An ,
n→+∞
n→+∞
m≥n
n→+∞
n→+∞
m≥n
tal como querı́amos demonstrar.
Corolário 2. Seja (An )n∈N uma sucessão de acontecimentos na álgebra-sigma A do
espaço de probabilidade. Tem-se então que:
P lim inf An ≤ lim inf P[An ] ≤ lim sup P[An ] ≤ P lim sup An ,
n→+∞
PE0708
n→+∞
n→+∞
12
n→+∞
25 de Fevereiro de 2008
Capı́tulo VII
Leis dos Grandes Números
Secção: 6
pelo que se limn→+∞ An existe, isto é se, lim inf n→+∞ An = lim supn→+∞ An , então
tem-se que
P lim An = lim P [An ] .
n→+∞
n→+∞
Demonstração. A primeira desigualdade resulta do lema de Fatou para conjuntos, a
segunda das definições de limite superior e de limite inferior de uma sucessão de conjuntos
e a última desigualdade é o lema de Fatou inverso.
O resultado seguinte é uma propriedade que resulta da indepêndencia.
Proposição 6. Sejam X e Y duas variáveis aleatórias integráveis e independentes.
Então X · Y ∈ L1 e verifica-se que:
E[X · Y ] = E[X] · E[X] .
(6)
Demonstração. Suponhamos inicialmente que X ≥ 0 e Y ≥ 0. Consideremos então
sucessões crescentes de funçõe simples mensuráveis positivas (Xn )n∈N e (Yn )n∈N convergindo quase certamente para X e Y , respectivamente. A existência destas sucessões é
garantida pelo teorema de Lebesgue e pode-se escrever:
Xn :=
n −1
n2
X
k=0
n
n2
−1
X
k
k
1
I
1I k
k+1 + n1I{X≥n} , Yn :=
k+1 + n1I{Y ≥n} .
k
2n { 2n ≤X< 2n }
2n { 2n ≤Y < 2n }
k=0
De forma mais condensada tem-se que para certos conjuntos de inteiros IX e JY :
X
X
βln 1IBln .
Xn =
αkn 1IAnk Yn =
l∈JY
k∈IX
com Ank ∈ σ(X), Bln ∈ σ(Y ), αkn ≥ 0 e βln ≥ 0. A hipótese de independência de X e Y
implica a fórmula 6 para as variáveis Xn e Yn . Com efeito tem-se que:

 



X
X
X X
E[Xn · Yn ] = E 
αkn 1IAnk  · 
βln 1IBln  = E 
αkn βln 1IAnk 1IBln  =
k∈IX
=
X X
l∈JY
k∈IX l∈JY
X X
αkn βln E 1IAnk · 1IBln =
αkn βln E 1IAnk ∩Bln =
k∈IX l∈JY
=
X X
k∈IX l∈JY
αkn βln P [Ank
∩
Bln ]
k∈IX l∈JY

=
X X
=
k∈IX l∈JY
 
X
αkn βln P [Ank ] P [Bln ] =
αkn P [Ank ] · 
k∈IX

X
βln P [Bln ] = E[Xn ] · E[Yn ] .
l∈JY
A a fórmula 6 para X e Y resulta agora do teorema da convergência monótona de
Lebesgue às sucessões (Xn · Yn )n∈N , (Xn )n∈N e (Yn )n∈N . Com efeito, tem-se que:
E[X·Y ] = lim E[Xn ·Yn ] = lim E[Xn ]·E[Yn ] = lim E[Xn ]· lim E[Yn ] = E[X]·E[Y ] .
n→+∞
PE0708
n→+∞
n→+∞
13
n→+∞
25 de Fevereiro de 2008
Capı́tulo VII
Leis dos Grandes Números
Secção: 7
Seja agora a decomposição na parte postiva e negativa de X = X + −X − e Y = Y + −Y − ,
variáveis aleatórias integráveis. Tem-se então que
X · Y = (X + − X − ) · (Y + − Y − ) = X + · Y + − X + · Y − − X − · Y + + X − · Y − ,
tendo-se então pelo já demonstrado que:
E[X + · Y + ] = E[X + ] · E[Y + ] < +∞ ,
o mesmo acontecendo para cada um dos restantes três termos da soma acima. Pode-se
pois concluir que X · Y é integrável e que
E[X · Y ] = E[(X + − X − ) · (Y + − Y − )] = E[X + · Y + − X + · Y − − X − · Y + + X − · Y − ] =
= E[X + ] · E[Y + ] − E[X + ] · E[Y − ] − E[X − ] · E[Y + ] + E[X − ] · E[Y − ] =
= E[X + ] · (E[Y + ] − E[Y − ]) − E[X − ] · (E[Y + ] − E[Y − ]) =
= (E[X + ] − E[X − ]) · (E[Y + ] − E[Y − ]) = E[X] · E[Y ] .
uma vez que X e Y são integráveis.
7 Resoluções
Resolução:[Exercı́cio 3] Para a primeira alı́nea, aplicamos a desigualdade de Jensen
à função xp para p ∈]1, +∞[ num integral relativo a P, probabilidade uniforme sobre
Nn := {1, . . . , n} que se pode escrever com a medida de contagem dado que P({k}) =
(1/n)µc ({k}) .
n
p Z
n
1 X p Z
1X
p
Xk dP(k) ≤
|Xk | dP(k) =
Xk = |Xk |p .
n
n
Nn
Nn
k=1
k=1
Para a segunda alı́nea, aplica-se a desigualdade de Markov, usa-se a alı́nea anterior
e passa-se ao limite na seguinte fórmula.
#
" n
#
" n
" n
#
+∞
1 X p
1 X 1
1X
1 X
1
P
Xk > c ≤ p E Xk ≤ p E
|Xk |p ≤
E [|Xk |p ] .
n
n
c
c
n
nc p
k=1
k=1
k=1
k=1
Para a última alı́nea, aplica-se de novo a desigualdade de Markov e usa-se a propriedade da variância da soma ser a soma das variâncias para variáveis aleatórias independentes:
n
#
#
" n
"
X 1
M
1 X Xk > c ≤ 2α 2 V Xk ≤ 2α−1 2 ,
P α
n n c
n
c
k=1
k=1
ficando assim resolvidas as três questões.
PE0708
♦
14
25 de Fevereiro de 2008
Capı́tulo VII
Leis dos Grandes Números
Secção: 7
Referências
[1] Paul Maliavin, Intégration et Probabilités. Analyse de Fourier et Analyse Spectrale, Librairie Masson, Paris 1982.
[2] P. E. de Oliveira, Exercı́cios de Teoria das Probabilidades Coimbra 1998-1999.
[3] J. Tiago de Oliveira, Probabilidades e Estatı́stica, Vol. I, Editora McGraw-Hill de
Portugal, Lisboa 1990.
[4] J. Tiago de Oliveira, Probabilidades e Estatı́stica Vol. II, Editora McGraw-Hill de
Portugal, Lisboa 1991.
[5] D. Williams Probability with Martingales Cambridge Mathematical Textbooks,
1991.
[6] M. Adams and V. Guillemin, Measure Theory and Probability, Birkhäuser, Boston
1996.
[7] Frédéric Testard, Calcul Intégral et Probabilités, Cours destiné aux candidats à
lággrégation, 2006.
PE0708
15
25 de Fevereiro de 2008