Reconhecimento de Padrões
Revisão de Probabilidade e Estatística
David Menotti, Ph.D.www.decom.ufop.br/menotti
Universidade Federal de Ouro Preto (UFOP)Programa de Pós-Graduação em Ciëncia da Computação (PPGCC)
Conceitos Básicos
• Estamos realizando um evento aleatório (pegar um peixe no mar)
• Espaço amostral S– Conjunto de todas a possibilidades
• Um evento A– Um subconjunto de S
• Lei da probabilidade– Regra que atribui uma probabilidade aos eventos de um
experimento
S
A
Axiomas Básicos da Probabilidade
• P(A) >= 0• P(S) = 1 • P(AUB) = P(A)+P(B) se A e B forem
mutuamente exclusivos– Eventos que não ocorrem simultaneamente,
ou seja A∩B = ø
• Caso contrário– P(AUB) = P(A)+P(B) – P(A∩B)
• P(A) + P(~A)= 1
Probabilidade Condicional
• A probabilidade de ocorrer um evento, na condição de que outro evento já tenha ocorrido.
• Considere o seguinte exemplo:– 250 alunos estão matriculados no primeiro ano
• 100 homens e 150 mulheres• 110 cursam física e 140 química
)(
)()|(
BP
BAPBAP
Sexo\Discip. Física Química Total
H 40 60 100
M 70 80 150
Total 110 140 250
Probabilidade Condicional
• Um aluno é sorteado ao acaso. Qual a probabilidade de que esteja cursando química dado que seja mulher.
53.0150
80
25015025080
)(
)()|(
MP
MQPMQP
Probabilidade Total
• Uma sequência finita de experimentos na qual cada experimento tem um número finito de resultados com uma determinada probabilidade é chamada de processo estocástico finito.
• Árvore Bayesiana é uma boa ferramenta para visualização do problema.
• A probabilidade final é calculada pela lei da probabilidade final.
Probabilidade Total: Exemplo• Considere 3 caixas
– Caixa 1 tem 10 lampadas, das quais 4 com defeito– Caixa 2 tem 6 lâmpadas, das quais 1 com defeito– Caixa 3 tem 8 lâmpadas, das quais 3 com defeito.
• O problema consiste em saber a probabilidade de uma lâmpada ser defeituosa P(A), ao selecionar uma caixa aleatoriamente e depois selecionar uma lâmpada aleatoriamente.
1
2
3
DefeitoOk
Defeito
Ok
Defeito
Ok
1/3
1/3
1/3
4/10
6/10
1/65/6
3/85/8
Baseado no conceito de probabilidade total,temos como probabilidade P(A)
31.08
3
3
1
6
1
3
1
10
4
3
1)(
AP
Eventos Independentes
• Dois eventos são ditos independentes se P(A∩B) = P(A) * P(B)
• Logo, pela regra da probabilidade condicional, se A e B são independentes,
)()(
)()()|( AP
BP
BPAPBAP
Exemplo
• Suponha que uma urna contenha 4 bolas brancas e 6 vermelhas. Vamos sortear duas bolas (sem reposição) em momentos distintos. Qual a probabilidade de sair uma bola branca seguida de uma vermelha
P(B) = 4/10
P(V) = 6/10
P(B) = 3/9
P(V) = 6/9
P(B) = 4/9
P(V) = 5/9
Exemplo (cont)
• Agora considere o exemplo anterior com reposição, ou seja, eventos independentes.
• P(B,V) = P(B) X P(V) = 4/10 X 6/10 = 0.24
Teorema de Bayes
• Basicamente o teorema de Bayes mostra como rever as crenças sempre que novas evidências são coletadas.
• Ou seja, atualizar a probabilidade a posteriori utilizando para isso a probabilidade a priori e as verossimilhanças e as evidências.
)(
)|()()|(
BP
ABPAPBAP
prioriVerosimilhanças(likelihood)
EvidênciasProb. aposteriori
)|()()( ii ABPAPBP
Teorema de Bayes: Exemplo
• Um médico sabe que a meningite causa torcicolo em 50% dos casos. Porém, o médico sabe que a meningite atinge 1/50000 e também que a probabilidade de se ter torcicolo é de 1/20.
• Usando Bayes pra saber a probabilidade de uma pessoa ter meningite dado que ela está com torcicoloP(T|M) = 0.5P(M) = 1/50000P(T) = 1/20
0002.020/1
5.050000/1
)(
)|()()|(
TP
MTPMPTMP
Teorema de Bayes: Exercício• Considere o sistema de classificação de peixes visto anteriormente.
Para essa época do ano, sabe-se que a probabilidade de pescar salmão é maior que pescar robalo, P(salmão) = 0.82 e P(robabo) = 0.18.
• Suponha que a única característica que você pode contar é a intensidade do peixe ou seja, se ele é claro ou escuro. Sabe-se que 49.5% dos salmões tem intensidade clara e que 85% dos robalos tem intensidade clara.
• Calcule a probabilidade de ser salmão dado que o peixe amostrado tem intensidade clara.
726.085.018.0495.082.0
495.082.0
)(
)|()()|(
CP
SCPSPCSP
Probabilidade total
Variáveis Aleatórias
• Na prática, muitas vezes é mais interessante associarmos um número a um evento aleatório e calcularmos a probabilidade da ocorrência desse número do que a probabilidade do evento.
• Exemplo: Lançam-se três moedas. Seja X o numero de ocorrências da face cara. Determinar a distribuição de probabilidade de X– S = {ccc,cck,ckc,ckk,kcc,kck,kkc,kkk}– Se X é o número de caras, X assume os valores
0,1,2, e 3.
Variáveis Aleatórias
• Podemos associar a esses números eventos que correspondem a ocorrência de nenhuma, uma, duas ou três caras.
• Desta forma temos– P(X=0) = 1/8 – P(X=1) = 3/8 – P(X=2) = 3/8– P(X=3) = 1/8
Distribuição de Probabilidades
1)( iXP
Variáveis Aleatórias
• Portanto, podemos definir que variável aleatória é a função que associa a todo evento pertencente a uma partição do espaço amostral um único número real.
• Variáveis podem ser discretas ou contínuas
Parâmetros de uma Distribuição
• Existem características numéricas que são muito importantes em uma distribuição de probabilidades. São os parâmetros da distribuição– Esperança matemática e variância.
• Esperança matemática
)()( ii XPXXE
Esperança Matemática: Exemplo
• Uma seguradora paga 30000 em caso de acidente de carro e cobra franquia de 1000. Sabe-se que a probabilidade de que um carro sofra acidente é de 3%. Quanto espera a seguradora ganhar por carro segurado.
• Variável Aleatória: X
X P(X)
1000 0.97
-29000 0.03
Distribuição de Probabilidade
E(X) = 1K * .97 + -29K *.03 = 100
Esperança (lucro médio) é de 100 porcarro. Deve ser interpretada comovalor médio
Variância
• Conhecendo a média (esperança) de uma distribuição de probabilidades, podemos calcular o grau de dispersão em torno da média
22 )()()( XEXPXXVAR ii
Variáveis Aleatórias Contínuas
• Podemos definir uma variável aleatória contínua como sendo a variável aleatória X em R se existir uma função f(x) tal que:
Calculando as probabilidades
Caso discreto: - Probabilidades - P(peixe ter 2 ou 3 nadadeiras) = - P(2) + P(3) = 0.3+0.4
Use a soma
Caso contínuo:-Densidade e não probabilidades-Probabilidade do peixe pesar entre29 e 31 kgs.- Integrar
Distribuições Teóricas
• As distribuições teóricas associam uma probabilidade a cada resultado numérico de um experimento, ou seja, dá a probabilidade de cada valor de uma variável aleatória.
• Podem ter uma variedade de formas.– Simétricas e não simétricas.
• Binomial, Poisson, Exponencial, Normal
Distribuição Normal (Gaussiana)
• A distribuição normal é a mais importante das distribuições pois muitas variáveis aleatórias de ocorrência natural ou de processos práticos obedecem a esta distribuição.
• Formato de sino
• Simétrica
• Unimodal
Distribuição Normal
• A função densidade para esta distribuição é dada por
• Como podemos perceber, a distribuição normal inclui dois parâmetros– μ – média populacional
– σ – desvio padrão populacional.
• Denotamos N(μ, σ) a curva normal com média μ e desvio padrão σ
Distribuição Normal
• A média refere-se ao centro da distribuição e o desvio padrão ao espalhamento (ou achatamento) da curva.
Distribuição Normal
68.27%
95.45%
99.73%
Exemplo
• O peso de recém-nascidos é uma variável aleatória contínua. A Figura abaixo mostra a distribuição de freqüências relativas 5000 pesos de recém-nascidos.
Exemplo
• Considerando μ = 2800g, σ = 500g, podemos concluir que– P(2300 <= X <= 3300) = 68.3%– P(1800 <= X <= 3800) = 95.5%– P(1300 <= X <= 4300) = 99.7%
• Porém, na prática desejamos calcular probabilidades para diferentes valores de μ e σ.
Distribuição Normal
• Para isso, a variável X cuja distribuição N(μ, σ) é transformada numa forma padronizada Z, com distribuição N(0,1) (distribuição normal padrão), pois tal distribuição é tabelada.
• A normalização se dá por
X
Z
Utilizando a Tábua de Probabilidades
• Primeiro é necessário decompor Z em duas parcelas
• Por exemplo, Z = 1.39– Primeira parcela = 1.3– Segunda parcela = 0.09
• No cruzamento das duas parcelas encontra-se a probabilidade correspondente a área da curva entre 0 e Z.
Exemplo
• Considere a seguinte distribuição– X -> N(30;4)– Calcule a probabilidade de X >= 40.
5.24
3040
Z
Da tabela, temos 0.4938Logo, P(X>=40) = 0.5 – 0.4938
2.50
Exercício
• Uma fábrica de carros sabe que os motores de sua fabricação têm duração normal com média 150 mil km e desvio de 5 mil. Qual a probabilidade de que um carro escolhido ao acaso dure– a) menos de 170 mil– b) entre 140 e 165 mil
Exercício
• a) P(X < 170)– Z = 4. Da tabela temos 0.4999968– Logo P(X<170) = 0.5 + 0.4999= 0.999
Teorema Central do Limite
• A medida em que o tamanho da amostra X cresce, a distribuição de X se aproxima da distribuição normal