Processos Estocásticos
Luiz Affonso Guedes
Sumário
•
•
•
•
•
•
•
•
•
•
Probabilidade
Variáveis Aleatórias
Funções de Uma Variável Aleatória
Funções de Várias Variáveis Aleatórias
Momentos e Estatística Condicional
Teorema do Limite Central
Processos Estocásticos
Análise Espectral
Filtragem e Predição Estocástica
Processos Markovianos
Probabilidade
•
•
•
•
•
•
Definições de probabilidade
Freqüência relativa
Axiomas da probabilidade
Métodos de Contagem
Probabilidade Condicional
Teorema de bayes
Introdução
• Fenômenos Determinísticos
– Conhecidos com certeza
– Não sujeitos às leis do acaso
• Ex.: o ano atual, idade de uma pessoa jovem
• Fenômenos Probabilísticos
– Não conhecidos com certeza
– Sujeitos às leis do acaso
• Ex.: face de um dado, se vai chover amanhã, se o
Remo vai ser campeão
Introdução
• Experimentos que ao serem repetidos nas
mesmas condições não produzem o mesmo
resultado são denominados de experimentos
aleatórios.
• Mas por quê isto ocorre?
Entradas/causas
observadas
Entradas/causas
observadas
Experimento
Saídas/efeitos
observados
Espaço Amostral
• Definiremos Espaço Amostral (S) associado
a um experimento o conjunto de seus
resultados possíveis.
– Conjunto de todos os resultados possíveis de
ocorrer.
– Pode ser discreto (finito ou infinito) ou
contínuo.
Exemplos de Espaço Amostral
• Exemplo1: Experimento de lançamento de
um dado.
– O espaço amostral do experimento é o conjunto
S = {1,2,3,4,5,6}.
• Exemplo2: Experimento de lançamento de
dois dados simultaneamente.
– O espaço amostral do experimento é o conjunto
S(primeira face, segunda face) = {????}
Exemplos de Espaço Amostral
• Exemplo3: Experimento de obtenção do tempo de
vida de uma lâmpada.
– O espaço amostral do experimento é o conjunto S = {x:
x real, x>0}.
• Processo estocástico é uma seqüência de
experimentos, no qual cada um tem um número
finito de resultados, com uma dada atribuição de
probabilidade
Exemplos de Processos
Estocásticos
• Processo estocástico do exemplo1.
• Processo estocástico do exemplo3.
• Como um fabricante deve calcular o tempo
de garantia de um produto seu. Uma TV, por
exemplo?
Eventos
• São qualquer subconjunto de um Espaço
Amostral.
• Os eventos podem ser simples ou
compostos
• S  evento certo
• Ø  evento vazio (impossível)
Exemplos de Eventos
• Exemplo1:
– Dar um número par
– Dar um número maior que 4
– Dar um número entre 1 e 6
• Exemplo2:
– A soma dos resultados seja igual a 4
– Que a soma dos resultados seja par
Operações entre Eventos
• União: A U B  Se ocorrer pelo menos um
dos eventos
• Interseção: A  B  Se ocorrer ambos os
eventos
• Complementar: Ac  É o evento que
ocorre quando A não ocorrer.
A
B
Exemplos de Operações com
Eventos
• Uma urna contém bolas de um a quinze.
Uma bola é retirada da urna e seu número
anotado. Sejam A e B os seguintes eventos:
A: o número da bola retirada é par, B: o
número da bola retirada é múltiplo de 3.
Determine:
– S,A, B, AUB, A  B e Ac
Operações entre Eventos
• Implicação: A  B, A implica em B.
• Igualdade: A  B e A  B  A = B.
• Mutuamente exclusivo: A  B = Ø
– Se a união de n eventos mutuamente exclusivos
é o próprio S, dizemos que tais eventos são
mutuamente exclusivos e exaustivos, ou
formam uma partição em S.
– Exemplos em diagrama de Venn
Propriedades das Operações entre
Eventos
1.
2.
3.
4.
(AUB)  C = (A C) U (B C)
(A  B) U C = (A U C)  (B U C)
(A U B)c = Ac  Bc
(A  B)c = Ac U Bc
B
A
C
B
A
C
Probabilidade
• Vem da idéia de mensurar eventos
aleatórios.
• Procedimento de cálculo de propriedades de
eventos aleatórios
• Número que reflita as chances de ocorrência
de um evento aleatório.
Probabilidade: definição clássica
• Dado um espaço amostral S com N eventos
igualmente possíveis. Se A é um evento em
S composto de m eventos simples, a
probabilidade de ocorrência de um evento A
num experimento é calculada por:
– P(A) = m / N
– É a razão entre os eventos desejáveis dentre o
universo dos possíveis.
Probabilidade: definição clássica
• Conseqüências:
1. P(A) =  0, para todo A  S;
2. Se A e B são eventos mutuamente
exclusivos, então:
-
P(AUB) = P(A) + P(B)
3. P(S) = 1
4. P(AUB) = P(A) + P(B) – P(AB)
Probabilidade: definição
freqüentista
•
•
Repetir um experimento sob as mesmas
circunstâncias.
A probabilidade de ocorrência de um
evento A seria:
–
P(A) = lim M/ N
N
– M é o número de ocorrência do evento A
– N é o número total de experimentos.
Probabilidade: definição
subjetiva
•
Quando não a possibilidade de se aplicar
os conceitos clássicos e freqüentista de
probabilidade:
–
Baseia-se em opinião sobre ocorrência de um
evento.
•
•
Probabilidade do resultado de um jogo.
Probabilidade de haver aula.
Probabilidade: definição
axiomática
•
Supõe as seguintes verdades absolutas:
–
Dado um espaço amostral S e eventos A e B,
tem-se.
1. P(A)  0;
2. P(S) = 1;
3. Se A e B são mutuamente exclusivos,
P(A+B) = P(A) + P(B)
Propriedades da Probabilidade
1. P(Ø) = 0
2. P(S) = 1
3. P(A U B U C) = P(A) + P(B) + P(C), se A,
B e C são mutuamente exclusivos.
4. P(Ac) = 1 – P(A)
5. P(AUB) = P(A) + P(B) – P(A B)
6. Se A  B  P(A)  P(B)
7. P(AUB) = P(A) + P(AC B)
Métodos de Contagem
• Para se calcular a probabilidade de um
evento é necessário saber sua proporção
dentro do universo dos eventos possíveis
S
A
P(A) = ???
Supondo eventos
equiprováveis
Princípio Fundamental da
Contagem
• Se uma tarefa é completada em N etapas
seqüenciais, com ni possibilidade em cada
etapa. Então, o número total de maneiras de
realizar a tarefa é:
– Número Total = n1 x n2 x . . . nN
?
?
Etapa 1
?
Etapa 2
Etapa 3
Tipos de Experimentos
• Com reposição ou sem reposição de
amostras
• Elementos das amostras podem ser
ordenados ou não ordenados
Tipos de Experimentos
• Experimento sem reposição ordenado:
– Dada uma turma de N alunos, escolher 01
presidente, 01 tesoureiro e 01 secretário.
• Arranjo
• Experimento sem reposição não ordenado:
– Dada uma turma de N alunos, escolher 03
representantes.
• Combinação
Tipos de Experimentos
• Cálculo de experimento sem reposição
ordenado:
– Ordenar n amostras de um conjunto de N
elementos, sem reposição.
 (N)n = N (N-1) ... (N-n+1) = N! / (N-n)!
– Escolher 01 goleiro e 01 centroavante entre 8
jogadores.
– Escolher 01 presidente, 01 tesoureiro,
01secretário numa turma de 15 formandos.
Tipos de Experimentos
• Cálculo de experimento com reposição ordenado:
– Ordenar n amostras de um conjunto de N elementos,
com reposição.
Nn = N N ... N (já que há reposição)
– Escolher 01 goleiro e 01 capitão dentre 11 jogadores.
– Escolher 01 presidente e 01 tesoureiro dentre 15 alunos,
sendo que há a possibilidade de se acumular os cargos.
Tipos de Experimentos
• A probabilidade é o razão entre os eventos
desejados e os possíveis:
– Qual é a probabilidade de se lançar um dado 03
vezes e não ocorrer repetição de números?
– Na maternidade Parto Feliz nasceram 05
crianças numa determinada semana. Qual era a
probabilidade de todas as crianças terem
nascido em dias distintos?
– P(A) = (N)n / Nn
Tipos de Experimentos
• Permutação
– Se N = n  Pn = n!
– (n)n = n (n-1) ... (n-n+1)
– Quantas palavras de 03 letras não repetidas
posso formar com o seguinte conjunto de
letras?
• L = {A, I, B}
Tipos de Experimentos
• Experimento sem reposição não ordenado:
– Combinação de N elementos n a n.
– Dada uma turma de N alunos, escolher 03
representantes.
• Há menos possibilidades do que no caso ordenado,
certo?
– CN,n = (N)n/ Pn = N!/(n! (N-n)!) (analisar!!!)
Tipos de Experimentos
• Experimento sem reposição não ordenado:
– CN,n = (N)n/ Pn = N!/(n! (N-n)!)
– 8 times participam de um torneio de futebol.
Cada equipe enfrenta todas as demais apenas
uma vez. Quantos jogos serão realizados?
– E se houver jogos de ida e de volta?
– Escolher 03 pessoas num grupo de 10.
Partição de Conjuntos
• CN,n – Equivale
dividir S em dois
subconjunto: A e Ac
• A com n elementos
e Ac com n1
elementos, sendo:
N = n + n1
S
A
- A possui n elementos
- S possui N elementos
Partição de Conjuntos
• Generalização do problema:
– Dividir um conjunto S de N elementos em k
subconjuntos, sendo que
• N = n1+ n2+ ... +nk (ni – número de elemento do iésimo subconjunto)
• Corresponde a k problemas encadeados de
combinações (veja o diagrama de Venn)
– CN,n1 C(N-n1),n2 ... Cnk,nk
Partição de Conjuntos
• Generalização do problema:
– Que matematicamente é equivalente a:
• N! / (n1! n2! ... nk!)
• CN,n1 C(N-n1),n2 ...
Cnk,nk
• Será que isto é verdade?
– CN,n = N! / (n! (N-n)! ) (lembrete)
Partição de Conjuntos
• Exemplos:
– O jogo de bridge corresponde a dividir o
baralho de 52 entre 04 jogadores. Quantas
maneiras há de se dividir o baralho?
• Resp.  C52,13 C39,13 C26,13 C13,13
Partição de Conjuntos
• Exemplos:
– O jogo de pôquer com 04 jogadores utiliza 32 cartas,
distribuídas igualmente entre os 04 naipes.
•
•
•
•
Baralho = {Naipes X Cartas}
Naipes = {paus,espada,ouro,copas}
Cartas = {7,8,9,10,Valete,Dama,Rei, Ás}
Se um jogador receber na primeira mão 05 cartas, qual é a
probabilidade dele receber só um par de ases (evento A)?
• Resp.  P(A) = C4,2C7,3 ( C4,1C4,1C4,1 ) / C32,5 = 0,11
(0,0667)
ÁS
ÁS
ÁS
ÁS
ÁS
Partição de Conjuntos
• Processos de Bernoulli
– Qual é a probabilidade de ocorrer k vezes um
eventos A dentre N tentativas, sendo p a sua
probabilidade do ocorrência?
• P(A) = p , P(Ac) = 1 – p
• P(A) P(A)...P(A) P(Ac)...P(Ac) = pk (1-p)N-k
– Pode-se combinar esse conjunto de eventos de N, k a k
maneiras.
• P{A ocorrer exatamente k vezes} =
CN,k p (1- p)N-k
Partição de Conjuntos
• Processos de Bernoulli
– P{A ocorrer apenas exatamente k vezes} =
CN,k p (1- p)N-k
– Exemplo: Qual é a probabilidade que em uma
família com 04 filhos, 02 serem meninas?
• Resolução por Bernoulli ou de forma exaustiva.
• Resp. = 3/8
Partição de Conjuntos
• Processos de Bernoulli
– P{A ocorrer apenas exatamente k vezes} =
k
CN,k pk (1- p)N-
– Exemplo: Um atirador tem três chances de
acertar um alvo. Para ele vencer a competição
deverá acertar pelo menos duas vezes no alvo.
Sabendo-se que ele tem probabilidade de 0,4 de
acerta um tiro, qual é a probabilidade dele
vencer a competição?
• Resp. = 0,352
Próxima Aula
• Probabilidade condicional, eventos
independentes e teorema de Bayes
Probabilidade Condicional
• Sejam dois eventos A e B de um mesmo
espaço amostral e supondo que P(A) > 0, a
probabilidade condicional de B ocorrer
dado que A ocorreu é dada por:
– P(B/A) = P(A B) / P(A)
• É a probabilidade de ocorrer A e B dentro do
subconjunto dos eventos de A.
A
B
 P(B/A) =
Probabilidade Condicional
• Dado:
– P(B/A) = P(A B) / P(A)
• A probabilidade de ocorrer os eventos A e B
é igual a:
– P(A B) = P(B/A) P(A) = P(A) P(B/A)
• A probabilidade de ocorrer A e ocorrer B dado que
ocorreu A
A
B
 P(B/A) =
Probabilidade Condicional
• Exemplo:
– P(B/A) = P(A B) / P(A)
6
5
4
3
2
1
1
2
3
4
5
6
Probabilidade Condicional
• Exemplo: experimentos seqüenciais que a
ocorrência de um eventos na k-ésima etapa depende
das etapas anteriores
– Dada uma urna com 03 bolas azuis e 07 vermelhas. Se 02
bolas são retiradas sem reposição, determine:
•
•
•
•
•
Espaço amostral:
P(A1A2)
P(A1V2)
P(V1A2)
P(V1V2)
– P(A/B) = P(A B) / P(B)
Probabilidade Condicional
• Generalização da probabilidade
condicional:
– P(A1A2 ... An) = P(A1) P(A2/A1)P(A3/A1A2) ...
P(An/A1A2 ...An-1)
– Interpretação:
P(A) P(B/A) P(C/BA)
P(ABC)
Probabilidade Condicional
• Exemplo: Dada uma urna com 03 bolas azuis e
07 vermelhas. Se 02 bolas são retiradas sem
reposição, qual é a probabilidade de ocorrer a
seguinte seqüência de eventos:
–
–
–
–
P(A1A2V3V4A5) = 1/120
P (A1A2A3V4V5) = ?
P (V1V2A3A4A5) = ?
...
Probabilidade Total
• P(A) = P(A/B1) P(B1) + P(A/B2) P(B2) ...
P(A/Bn) P(Bn)
• P(A) = P(AB1) + P(AB2) + ... + P(ABn)
B2
A
B1
Conjuntos
disjuntos
Bn
Probabilidade Total
• Exemplo: dada 03 urnas com as seguintes
composições:
–
–
–
–
Urna 1: 03 bolas brancas e 05 bolas vermelhas.
Urna 2: 04 bolas brancas e 02 bolas vermelhas.
Urna 2: 01 bola branca e 03 bolas vermelhas.
A probabilidade de escolha das urnas é,
respectivamente: 2/6, 3/6 e 1/6.
– Qual é a probabilidade de se escolher uma bola branca?
Resp. = ½
– Interpretação via média ponderada.
Teorema de Bayes
• Dado dois eventos A e B, num mesmo
espaço amostral, pela probabilidade
condicional, temos:
–
–
–
–
P (A B) = P(A) P(B/A)
P (B A) = P(B) P(A/B)
P(A) = P(B) P(A/B) / P(B/A)
P(A/B) = P(A). P(B/A) / P(B)
Ponderação
Teorema de Bayes
• Exemplo: dado um baralho com 52 cartas
– Qual é a probabilidade de se tirar uma Rainha,
sabendo-se que a carta é uma figura?
– Qual é a probabilidade de se tirar uma Rainha,
sabendo-se que a carta é de espada?
– Qual é a probabilidade de se tira uma Rainha de
espada, sabendo-se que a carta é uma figura
preta?
Teorema de Bayes
• Exemplo:
– Um meteorologista acerta 80% dos dias em que chove e
90% dos dias em que não chove. Costuma chover em
10% dos dias. Tendo havido previsão de chuva para
amanhã, qual é a probabilidade de realmente vir a
chover?
Prev. Ch.
Prev. sol
Total
Chove
Sol
Total
1,0
Teorema de Bayes
• Generalização:
– Dadas duas partições de S (S=A1 U A2), então:
– P(A1/B) = P(A1) P(B/A1) /
( P(A1) P(B/A1) + P(A2) P(B/A2) )
– Uma vez que:
• P(B) = P(A1) P(B/A1) + P(A2) P(B/A2)
– Para o caso de n partições:
P(Ai/B) = P(Ai) P(B/Ai) /  ( P(Ak) P(B/Ak) )
Média ponderada
Teorema de Bayes
• Exemplo:
– Um companhia produz peças em 03 fábricas (A1,A2 e A3), na
proporção de 15%, 35% e 50%, respectivamente. Suas
probabilidades de produzirem peças defeituosas são: 1%, 5% e 2%.
– Dado que o controle de qualidade detectou uma peça com defeito,
qual é a probabilidade de ter sido produzida por cada uma das
fábricas?
» P(Ai/D) = ?
Independência entre Eventos
• Dois eventos são independente se a
ocorrência de um dele não alterar a
probabilidade de ocorrência do outro e viceversa.
• Sejam dois eventos A e B, sendo P(A) > 0.
O evento B é dito independente de A se:
– P(B/A) = P(B)
Independência entre Eventos
• Como:
– P(B/A) = P(B) (eventos independentes)
– P(A B) = P(A) P(B)
– Se B é independente de A, logo o inverso
também é verdadeiro?
Independência entre Eventos
• Exemplo:
– Experimento: lançamento de 02 moedas
– Eventos: A1 (cara no 10 lançamento), A2 (cara
no 20 lançamento) e A3 (ocorrência da mesma
face nos dois lançamentos).
– Verifique:
• P(A1), P(A2), P(A3)
• P(A1A2), P(A1A3) e P(A2A3)
• P(A1A2A3)
Independência entre Eventos
• Exemplo:
– P(A), P(B), P(A B), P(A) P(B), P(A/B) e P(B/A)
6
5
4
3
2
1
Independência é
uma questão de
proporção
1
2
3
4
5
6
Independência entre Eventos
• Com seria a independência de 03 eventos
simultaneamente?
• E para n eventos?