Universidade Federal de Ouro Preto (UFOP)
Programa de Pós-Graduação em Ciëncia da Computação (PPGCC)
Reconhecimento de Padrões
Revisão de Probabilidade e
Estatística
David Menotti, Ph.D.
www.decom.ufop.br/menotti
Conceitos Básicos
• Estamos realizando um evento aleatório (pegar um
peixe no mar)
• Espaço amostral S
– Conjunto de todas a possibilidades
• Um evento A
– Um subconjunto de S
• Lei da probabilidade
– Regra que atribui uma probabilidade aos eventos de um
experimento
S
A
Axiomas Básicos da Probabilidade
• P(A) >= 0
• P(S) = 1
• P(AUB) = P(A)+P(B) se A e B forem
mutuamente exclusivos
– Eventos que não ocorrem simultaneamente,
ou seja A∩B = ø
• Caso contrário
– P(AUB) = P(A)+P(B) – P(A∩B)
• P(A) + P(~A)= 1
Probabilidade Condicional
• A probabilidade de ocorrer um evento, na
condição de que outro evento já tenha ocorrido.
P( A | B) 
P( A  B)
P(B)
• Considere o seguinte exemplo:
– 250 alunos estão matriculados no primeiro ano
• 100 homens e 150 mulheres
• 110 cursam física e 140 química
Sexo\Discip.
Física
Química
Total
H
40
60
100
M
70
80
150
Total
110
140
250
Probabilidade Condicional
• Um aluno é sorteado ao acaso. Qual a
probabilidade de que esteja cursando
química dado que seja mulher.
80
P (Q | M ) 
P (Q  M )
P (M )
80
 250 
 0 . 53
150
150
250
Probabilidade Total
• Uma sequência finita de experimentos na qual
cada experimento tem um número finito de
resultados com uma determinada probabilidade
é chamada de processo estocástico finito.
• Árvore Bayesiana é uma boa ferramenta para
visualização do problema.
• A probabilidade final é calculada pela lei da
probabilidade final.
Probabilidade Total: Exemplo
• Considere 3 caixas
– Caixa 1 tem 10 lampadas, das quais 4 com defeito
– Caixa 2 tem 6 lâmpadas, das quais 1 com defeito
– Caixa 3 tem 8 lâmpadas, das quais 3 com defeito.
• O problema consiste em saber a probabilidade de uma lâmpada ser
defeituosa P(A), ao selecionar uma caixa aleatoriamente e depois
selecionar uma lâmpada aleatoriamente.
1
4/10
Defeito
6/10 Ok
2
1/6 Defeito
5/6
Ok
3
3/8 Defeito
5/8
Ok
1/3
1/3
1/3
Baseado no conceito de probabilidade total,
temos como probabilidade P(A)
1 4  1 1 1 3
P ( A)   
          0 . 31
 3 10   3 6   3 8 
Eventos Independentes
• Dois eventos são ditos independentes se
P(A∩B) = P(A) * P(B)
• Logo, pela regra da probabilidade
condicional, se A e B são independentes,
P( A | B) 
P ( A)  P ( B )
P(B)
 P ( A)
Exemplo
• Suponha que uma urna contenha 4 bolas brancas e 6
vermelhas. Vamos sortear duas bolas (sem reposição)
em momentos distintos. Qual a probabilidade de sair
uma bola branca seguida de uma vermelha
P(B) = 3/9
P(B) = 4/10
P(V) = 6/9
P(B) = 4/9
P(V) = 6/10
P(V) = 5/9
Exemplo (cont)
• Agora considere o exemplo anterior com
reposição, ou seja, eventos
independentes.
• P(B,V) = P(B) X P(V) = 4/10 X 6/10 = 0.24
Teorema de Bayes
• Basicamente o teorema de Bayes mostra como
rever as crenças sempre que novas evidências
são coletadas.
• Ou seja, atualizar a probabilidade a posteriori
utilizando para isso a probabilidade a priori e as
verossimilhanças e as evidências.
Verosimilhanças
(likelihood)
priori
Prob. a
posteriori
P( A | B) 
P ( A)  P ( B | A)
P(B)
Evidências
P(B) 
 P( A )  P(B | A )
i
i
Teorema de Bayes: Exemplo
• Um médico sabe que a meningite causa
torcicolo em 50% dos casos. Porém, o médico
sabe que a meningite atinge 1/50000 e também
que a probabilidade de se ter torcicolo é de
1/20.
• Usando Bayes pra saber a probabilidade de
uma pessoa ter meningite dado que ela está
com torcicolo
P(T|M) = 0.5
P(M) = 1/50000
P(T) = 1/20
P(M | T ) 
P ( M )  P (T | M )
P (T )

1 / 50000  0 . 5
1 / 20
 0 . 0002
Teorema de Bayes: Exercício
• Considere o sistema de classificação de peixes visto anteriormente.
Para essa época do ano, sabe-se que a probabilidade de pescar
salmão é maior que pescar robalo, P(salmão) = 0.82 e P(robabo) =
0.18.
• Suponha que a única característica que você pode contar é a
intensidade do peixe ou seja, se ele é claro ou escuro. Sabe-se que
49.5% dos salmões tem intensidade clara e que 85% dos robalos
tem intensidade clara.
• Calcule a probabilidade de ser salmão dado que o peixe amostrado
tem intensidade clara.
P(S | C ) 
P ( S )  P (C | S )
P (C )

0 . 82  0 . 495
0 . 82  0 . 495  0 . 18  0 . 85
Probabilidade total
 0 . 726
Variáveis Aleatórias
• Na prática, muitas vezes é mais interessante
associarmos um número a um evento aleatório
e calcularmos a probabilidade da ocorrência
desse número do que a probabilidade do
evento.
• Exemplo: Lançam-se três moedas. Seja X o
numero de ocorrências da face cara. Determinar
a distribuição de probabilidade de X
– S = {ccc,cck,ckc,ckk,kcc,kck,kkc,kkk}
– Se X é o número de caras, X assume os valores
0,1,2, e 3.
Variáveis Aleatórias
• Podemos associar a esses números
eventos que correspondem a ocorrência
de nenhuma, uma, duas ou três caras.
• Desta forma temos
– P(X=0) = 1/8
– P(X=1) = 3/8
– P(X=2) = 3/8
– P(X=3) = 1/8
Distribuição de Probabilidades
 P(X
i
) 1
Variáveis Aleatórias
• Portanto, podemos definir que variável
aleatória é a função que associa a todo
evento pertencente a uma partição do
espaço amostral um único número real.
• Variáveis podem ser discretas ou
contínuas
Parâmetros de uma Distribuição
• Existem características numéricas que
são muito importantes em uma
distribuição de probabilidades. São os
parâmetros da distribuição
– Esperança matemática e variância.
• Esperança matemática
E(X ) 

X i  P(X i)
Esperança Matemática: Exemplo
• Uma seguradora paga 30000 em caso de
acidente de carro e cobra franquia de 1000.
Sabe-se que a probabilidade de que um carro
sofra acidente é de 3%. Quanto espera a
seguradora ganhar por carro segurado.
• Variável Aleatória: X
X
P(X)
1000
0.97
-29000
0.03
Distribuição de Probabilidade
E(X) = 1K * .97 + -29K *.03 = 100
Esperança (lucro médio) é de 100 por
carro. Deve ser interpretada como
valor médio
Variância
• Conhecendo a média (esperança) de uma
distribuição de probabilidades, podemos
calcular o grau de dispersão em torno da
média
VAR ( X ) 
 X
2
i

P ( X i )  E ( X ) 
2
Variáveis Aleatórias Contínuas
• Podemos definir uma variável aleatória
contínua como sendo a variável aleatória
X em R se existir uma função f(x) tal que:
Calculando as probabilidades
Caso discreto:
- Probabilidades
- P(peixe ter 2 ou 3 nadadeiras) =
- P(2) + P(3) = 0.3+0.4
Use a soma
Caso contínuo:
-Densidade e não probabilidades
-Probabilidade do peixe pesar entre
29 e 31 kgs.
- Integrar
Distribuições Teóricas
• As distribuições teóricas associam uma
probabilidade a cada resultado numérico
de um experimento, ou seja, dá a
probabilidade de cada valor de uma
variável aleatória.
• Podem ter uma variedade de formas.
– Simétricas e não simétricas.
• Binomial, Poisson, Exponencial, Normal
Distribuição Normal (Gaussiana)
• A distribuição normal é a mais importante
das distribuições pois muitas variáveis
aleatórias de ocorrência natural ou de
processos práticos obedecem a esta
distribuição.
• Formato de sino
• Simétrica
• Unimodal
Distribuição Normal
• A função densidade para esta distribuição é
dada por
• Como podemos perceber, a distribuição normal
inclui dois parâmetros
– μ – média populacional
– σ – desvio padrão populacional.
• Denotamos N(μ, σ) a curva normal com média μ
e desvio padrão σ
Distribuição Normal
• A média refere-se ao centro da
distribuição e o desvio padrão ao
espalhamento (ou achatamento) da curva.
Distribuição Normal
68.27%
95.45%
99.73%
Exemplo
• O peso de recém-nascidos é uma variável
aleatória contínua. A Figura abaixo mostra a
distribuição de freqüências relativas 5000 pesos
de recém-nascidos.
Exemplo
• Considerando μ = 2800g, σ = 500g,
podemos concluir que
– P(2300 <= X <= 3300) = 68.3%
– P(1800 <= X <= 3800) = 95.5%
– P(1300 <= X <= 4300) = 99.7%
• Porém, na prática desejamos calcular
probabilidades para diferentes valores
de μ e σ.
Distribuição Normal
• Para isso, a variável X cuja distribuição
N(μ, σ) é transformada numa forma
padronizada Z, com distribuição N(0,1)
(distribuição normal padrão), pois tal
distribuição é tabelada.
• A normalização se dá por
Z 
X 

Utilizando a Tábua de
Probabilidades
• Primeiro é necessário decompor Z em
duas parcelas
• Por exemplo, Z = 1.39
– Primeira parcela = 1.3
– Segunda parcela = 0.09
• No cruzamento das duas parcelas
encontra-se a probabilidade
correspondente a área da curva entre 0 e
Z.
Exemplo
• Considere a seguinte distribuição
– X -> N(30;4)
– Calcule a probabilidade de X >= 40.
Z 
40  30
 2 .5
4
Da tabela,
temos 0.4938
Logo,
P(X>=40) = 0.5 – 0.4938
0
2.5
Exercício
• Uma fábrica de carros sabe que os
motores de sua fabricação têm duração
normal com média 150 mil km e desvio de
5 mil. Qual a probabilidade de que um
carro escolhido ao acaso dure
– a) menos de 170 mil
– b) entre 140 e 165 mil
Exercício
• a) P(X < 170)
– Z = 4. Da tabela temos 0.4999968
– Logo P(X<170) = 0.5 + 0.4999= 0.999
Teorema Central do Limite
• A medida em que o tamanho da amostra
X cresce, a distribuição de X se aproxima
da distribuição normal
Download

slides - DECOM-UFOP