slides intelligenza artificiale, vincenzo cutello 1 intelligenza artificiale probabilità

28
Slides Intelligenza Artif Slides Intelligenza Artif iciale, Vincenzo Cutello iciale, Vincenzo Cutello 1 Intelligenza Intelligenza Artificiale Artificiale Probabilità Probabilità

Upload: margherita-carlucci

Post on 02-May-2015

264 views

Category:

Documents


7 download

TRANSCRIPT

Page 1: Slides Intelligenza Artificiale, Vincenzo Cutello 1 Intelligenza Artificiale Probabilità

Slides Intelligenza Artificiale, VincenSlides Intelligenza Artificiale, Vincenzo Cutellozo Cutello

11

Intelligenza ArtificialeIntelligenza Artificiale

ProbabilitàProbabilità

Page 2: Slides Intelligenza Artificiale, Vincenzo Cutello 1 Intelligenza Artificiale Probabilità

Slides Intelligenza Artificiale, VincenSlides Intelligenza Artificiale, Vincenzo Cutellozo Cutello

22

OutlineOutline

IncertezzaIncertezza ProbabilitàProbabilità SintassiSintassi SemanticaSemantica Regole di inferenzaRegole di inferenza

Page 3: Slides Intelligenza Artificiale, Vincenzo Cutello 1 Intelligenza Artificiale Probabilità

Slides Intelligenza Artificiale, VincenSlides Intelligenza Artificiale, Vincenzo Cutellozo Cutello

33

IncertezzaIncertezza

Sia l’azione Sia l’azione AAt t = partire per l’aeroporto t minuti prima del volo= partire per l’aeroporto t minuti prima del voloAAtt mi farà arrivare in tempo ? mi farà arrivare in tempo ?Problemi:Problemi:

1.1. parziale osservabilità (strada, piani degli altri guidatori, ecc.)parziale osservabilità (strada, piani degli altri guidatori, ecc.)2.2. sensori rumorosi (rapporti sul traffico)sensori rumorosi (rapporti sul traffico)3.3. Incertezza sul risultato dell’azioneIncertezza sul risultato dell’azione4.4. Enorme complessità di modellizzazione e predizione del trafficoEnorme complessità di modellizzazione e predizione del traffico

Usando un approccio puramente logico oUsando un approccio puramente logico o ””risk falsehood”: “risk falsehood”: “AA2525 mi farà arrivare in tempo”, oppure mi farà arrivare in tempo”, oppure Giungere a conclusioni che sono troppo deboli per prendere Giungere a conclusioni che sono troppo deboli per prendere

decisioni:”decisioni:”AA2525 mi farà arrivare in tempo se non ci sono incidenti sul ponte mi farà arrivare in tempo se non ci sono incidenti sul ponte e non piove, ecc. ecc.”e non piove, ecc. ecc.”

((AA14401440 mi farebbe ragionevolmente arrivare in tempo ma dovrei stare tutta mi farebbe ragionevolmente arrivare in tempo ma dovrei stare tutta la notte in aeroporto) la notte in aeroporto)

Page 4: Slides Intelligenza Artificiale, Vincenzo Cutello 1 Intelligenza Artificiale Probabilità

Slides Intelligenza Artificiale, VincenSlides Intelligenza Artificiale, Vincenzo Cutellozo Cutello

44

Metodi per gestire l’incertezzaMetodi per gestire l’incertezza

Logica non-monotonaLogica non-monotona:: Assumiamo che la mia macchina non abbia le gomme lisceAssumiamo che la mia macchina non abbia le gomme lisce Assumiamo che AAssumiamo che A2525 è corretta a meno che non sia contraddetta è corretta a meno che non sia contraddetta

dall’evidenzadall’evidenzaEsito: Esito:

– Quali assunzioni sono ragionevoli ?Quali assunzioni sono ragionevoli ?– Come gestire le contraddizioni ?Come gestire le contraddizioni ?

Probabilità:Probabilità:Date le prove disponibili, ADate le prove disponibili, A2525 mi farà arrivare in tempo con mi farà arrivare in tempo con probabilità 0.8, ossia su cento volte che sono partito per l’aereoporto probabilità 0.8, ossia su cento volte che sono partito per l’aereoporto 25 minuti prima, 80 volte sono arrivato in orario25 minuti prima, 80 volte sono arrivato in orario

Logica fuzzyLogica fuzzy::Data la mia esperienza e conoscenza, AData la mia esperienza e conoscenza, Acirca 25 circa 25 mi farà mi farà arrivare in orarioarrivare in orario

Page 5: Slides Intelligenza Artificiale, Vincenzo Cutello 1 Intelligenza Artificiale Probabilità

Slides Intelligenza Artificiale, VincenSlides Intelligenza Artificiale, Vincenzo Cutellozo Cutello

55

ProbabilitàProbabilità

Le asserzioni probabilistiche Le asserzioni probabilistiche riassumonoriassumono gli effetti di: gli effetti di: pigriziapigrizia: mancanza di enumerazione delle eccezioni, etc.: mancanza di enumerazione delle eccezioni, etc. ignoranzaignoranza: mancanza di fatti rilevanti, condizioni iniziali, ecc.: mancanza di fatti rilevanti, condizioni iniziali, ecc.Probabilità Probabilità soggettivasoggettiva o o bayesianabayesiana:: Le probabilità legano le proposizioni allo stato di conoscenzaLe probabilità legano le proposizioni allo stato di conoscenza

– es., P(es., P(AA2525|non si sono verificati incidenti) = 0.06|non si sono verificati incidenti) = 0.06

Le probabilità delle proposizioni cambiano con nuove prove:Le probabilità delle proposizioni cambiano con nuove prove:– es., P(Aes., P(A2525|non si sono verificati incidenti, 5 a.m.)=0.15|non si sono verificati incidenti, 5 a.m.)=0.15

Page 6: Slides Intelligenza Artificiale, Vincenzo Cutello 1 Intelligenza Artificiale Probabilità

Slides Intelligenza Artificiale, VincenSlides Intelligenza Artificiale, Vincenzo Cutellozo Cutello

66

Prendere decisioni sotto incertezzaPrendere decisioni sotto incertezza

Supponiamo che io creda nelle seguenti:Supponiamo che io creda nelle seguenti:– P(AP(A25 25 mi fa arrivare in orario|…) = 0.04mi fa arrivare in orario|…) = 0.04– P(AP(A90 90 mi fa arrivare in orario|…) = 0.70mi fa arrivare in orario|…) = 0.70– P(AP(A120 120 mi fa arrivare in orario|…) = 0.95mi fa arrivare in orario|…) = 0.95– P(AP(A1440 1440 mi fa arrivare in orario|…) = 0.9999mi fa arrivare in orario|…) = 0.9999

Quale azione scegliere ?Quale azione scegliere ?Dipende dalle mie Dipende dalle mie preferenzepreferenze tra perdere il volo e attendere tra perdere il volo e attendere all’aeroporto, ecc.all’aeroporto, ecc. La teoria dell’utilitàLa teoria dell’utilità è usata per rappresentare e inferire preferenze è usata per rappresentare e inferire preferenze Teoria delle decisioniTeoria delle decisioni = teoria dell’utilità + teoria delle probabilità = teoria dell’utilità + teoria delle probabilità Teoria dei giochiTeoria dei giochi = teoria delle decisioni in presenza di avversari che a = teoria delle decisioni in presenza di avversari che a

loro volta prendono decisioni che possono andare contro la nostra loro volta prendono decisioni che possono andare contro la nostra utilitàutilità

Page 7: Slides Intelligenza Artificiale, Vincenzo Cutello 1 Intelligenza Artificiale Probabilità

Slides Intelligenza Artificiale, VincenSlides Intelligenza Artificiale, Vincenzo Cutellozo Cutello

77

Struttura di un agente-DTStruttura di un agente-DT

function function AGENTE-DT(percezione)AGENTE-DT(percezione)

returnsreturns un’ un’azioneazione

static:static: un insieme di credenze probabilistiche circa lo stato del mondo un insieme di credenze probabilistiche circa lo stato del mondo– calcola le probabilità aggiornate per lo stato corrente basate sulle prove calcola le probabilità aggiornate per lo stato corrente basate sulle prove disponibili comprendenti l’azione corrente e precedente disponibili comprendenti l’azione corrente e precedente

– calcola il valore delle probabilità per le azioni, data la descrizione calcola il valore delle probabilità per le azioni, data la descrizione dell’azione e le probabilità degli stati correnti dell’azione e le probabilità degli stati correnti

– seleziona l’seleziona l’azioneazione con la più alta utilità attesa dati i valori delle con la più alta utilità attesa dati i valori delle probabilità per i vari esiti e l’utilità dell’informazioneprobabilità per i vari esiti e l’utilità dell’informazione

returnreturn azioneazione

Page 8: Slides Intelligenza Artificiale, Vincenzo Cutello 1 Intelligenza Artificiale Probabilità

Slides Intelligenza Artificiale, VincenSlides Intelligenza Artificiale, Vincenzo Cutellozo Cutello

88

Assiomi di probabilitàAssiomi di probabilità

Siano Siano AA e e B B due eventi qualsiasidue eventi qualsiasi§ 0 0 ≤ ≤ P(A)P(A) ≤ 1 ≤ 1§ P(True)P(True) = 1 e = 1 e P(False)P(False) = 0 = 0§ P(A B)P(A B) = = P(A)P(A) + + P(B)P(B) – –P(A B)P(A B)

De Finetti (1931): un agente che scommette in accordo con De Finetti (1931): un agente che scommette in accordo con

le probabilità che violano questi assiomi può essere forzato le probabilità che violano questi assiomi può essere forzato

a perdere soldi indipendentemente dall’esito della a perdere soldi indipendentemente dall’esito della

scommessascommessa

∨ ∧

Page 9: Slides Intelligenza Artificiale, Vincenzo Cutello 1 Intelligenza Artificiale Probabilità

Slides Intelligenza Artificiale, VincenSlides Intelligenza Artificiale, Vincenzo Cutellozo Cutello

99

SintassiSintassi

Simile alla logica proposizionale: possibili mondi definiti Simile alla logica proposizionale: possibili mondi definiti dall’ assegnamento di valori a dall’ assegnamento di valori a variabili randomvariabili random. . Variabili random Variabili random Booleane o ProposizionaliBooleane o Proposizionali

– es., Carie (hai una carie ?)es., Carie (hai una carie ?) Include le espressioni della logica proposizionaleInclude le espressioni della logica proposizionale Variabili random Variabili random multivaloremultivalore

– es., Il tempo meteorologico assume uno tra <soleggiato, es., Il tempo meteorologico assume uno tra <soleggiato, pioggia, nuvoloso, neve>pioggia, nuvoloso, neve>

– I valori devono essere esaustivi e mutuamente esclusiviI valori devono essere esaustivi e mutuamente esclusivi Proposizione costruita dall’assegnamento di un valore:Proposizione costruita dall’assegnamento di un valore:

– es., tempo = soleggiato; Carie = veroes., tempo = soleggiato; Carie = vero

Page 10: Slides Intelligenza Artificiale, Vincenzo Cutello 1 Intelligenza Artificiale Probabilità

Slides Intelligenza Artificiale, VincenSlides Intelligenza Artificiale, Vincenzo Cutellozo Cutello

1010

Sintassi (cont.)Sintassi (cont.)Probabilità non condizionate o a prioriProbabilità non condizionate o a priori di proposizioni, es., di proposizioni, es., P(Carie) = 0.1 e P(Tempo = soleggiato) = 0.72 P(Carie) = 0.1 e P(Tempo = soleggiato) = 0.72 corrispondono alla credenza a priori all’arrivo di una qualsiasi (nuova) provacorrispondono alla credenza a priori all’arrivo di una qualsiasi (nuova) provaLa distribuzione di probabilità è normalizzataLa distribuzione di probabilità è normalizzata, cioè, la somma è 1 e sono , cioè, la somma è 1 e sono noti i valori per tutti i possibili assegnamenti:noti i valori per tutti i possibili assegnamenti:PP(Tempo) = <0.72, 0.1, 0.08, 0.1>(Tempo) = <0.72, 0.1, 0.08, 0.1>Distribuzione di probabilità congiuntaDistribuzione di probabilità congiunta per un insieme di variabili fornisce i per un insieme di variabili fornisce i valori per ogni possibile assegnamento a tutte le variabilivalori per ogni possibile assegnamento a tutte le variabiliPP(Tempo, Carie) = una matrice 4*2 di valori:(Tempo, Carie) = una matrice 4*2 di valori:

Tempo =Tempo = soleggiatosoleggiato pioggiapioggia nuvolosonuvoloso neveneve

Carie = trueCarie = true

Carie = falseCarie = false

Page 11: Slides Intelligenza Artificiale, Vincenzo Cutello 1 Intelligenza Artificiale Probabilità

Slides Intelligenza Artificiale, VincenSlides Intelligenza Artificiale, Vincenzo Cutellozo Cutello

1111

Sintassi (cont.)Sintassi (cont.)

Probabilità condizionata o a posterioriProbabilità condizionata o a posteriori– es., P(Carie|Mal_di_denti) = 0.8es., P(Carie|Mal_di_denti) = 0.8– cioe’, dato che il mal di denti è tutto quello che io conoscocioe’, dato che il mal di denti è tutto quello che io conosco

Notazione per distribuzioni condizionaliNotazione per distribuzioni condizionali::– PP(Tempo|Primavera)= un vettore di 2 elementi di vettori di 4 elementi(Tempo|Primavera)= un vettore di 2 elementi di vettori di 4 elementi– Se noi conosciamo di più, es., la carie è data, allora avremo P(Carie|Se noi conosciamo di più, es., la carie è data, allora avremo P(Carie|

Mal_di_denti,Carie) = 1Mal_di_denti,Carie) = 1Nota: la credenza meno specifica rimane valida dopo l’arrivo Nota: la credenza meno specifica rimane valida dopo l’arrivo di nuovi fatti, ma non è sempre utiledi nuovi fatti, ma non è sempre utileNuovi fatti possono essere irrilevanti, permettendo semplificazioni,Nuovi fatti possono essere irrilevanti, permettendo semplificazioni,P(Carie|Mal_di_denti,lunedì) = P(Carie|Mal_di_denti) = 0.8P(Carie|Mal_di_denti,lunedì) = P(Carie|Mal_di_denti) = 0.8Questo genere di inferenza, sanzionato dal dominio di conoscenza, Questo genere di inferenza, sanzionato dal dominio di conoscenza, è cruciale è cruciale

Page 12: Slides Intelligenza Artificiale, Vincenzo Cutello 1 Intelligenza Artificiale Probabilità

Slides Intelligenza Artificiale, VincenSlides Intelligenza Artificiale, Vincenzo Cutellozo Cutello

1212

Probabilità condizionataProbabilità condizionataDefinizione di probabilità condizionata:Definizione di probabilità condizionata:

La regola del prodotto fornisce una formulazione alternativa:La regola del prodotto fornisce una formulazione alternativa:

Una versiona generale è mantenuta per le intere distribuzioni, es.,Una versiona generale è mantenuta per le intere distribuzioni, es.,– PP(Tempo,Carie) = (Tempo,Carie) = PP(Tempo|Carie)(Tempo|Carie)PP(Carie)(Carie)– (Vedila come un insieme 4*2 di equazioni, non matrice multipla) (Vedila come un insieme 4*2 di equazioni, non matrice multipla)

La regola a catena è derivata da successive applicazioni della regola La regola a catena è derivata da successive applicazioni della regola del prodotto:del prodotto:

),...,|(P

...

),...,|(P),...,|(P),...,(P

),...,|(P),...,(P),...,(P

111

1121121

11111

−=

−−−−

−−

∏=

==

==

iini

nnnnn

nnnn

XXX

XXXXXXXXXXXXXXX

)()|()()|()( APABPBPBAPBAP ==∧€

P(A |B) =P(A∧B)

P(B) if P(B) ≠ 0

Page 13: Slides Intelligenza Artificiale, Vincenzo Cutello 1 Intelligenza Artificiale Probabilità

Slides Intelligenza Artificiale, VincenSlides Intelligenza Artificiale, Vincenzo Cutellozo Cutello

1313

Bayes’ RuleBayes’ Rule

Perché è utile ? Per assegnare le probabilità diagnostiche dalla Perché è utile ? Per assegnare le probabilità diagnostiche dalla conoscenza di quelle causali:conoscenza di quelle causali:

Es., sia M la meningite, S il torcicollo:Es., sia M la meningite, S il torcicollo:

Nota: la probabilità a posteriori della meningite è ancora molto bassa !Nota: la probabilità a posteriori della meningite è ancora molto bassa !

)(

)()|()|(

EffettoP

CausaPCausaEffettoPEffettoCausaP =

0008.01.0

0001.08.0

)(

)()|()|( =

×==

SPMPMSP

SMP

)(

)()|()|( ruleBayes'

)()|()()|()( prodotto del Regola

BP

APABPBAP

APABPBPBAPBAP

=⇒

==∧

Page 14: Slides Intelligenza Artificiale, Vincenzo Cutello 1 Intelligenza Artificiale Probabilità

Slides Intelligenza Artificiale, VincenSlides Intelligenza Artificiale, Vincenzo Cutellozo Cutello

1414

NormalizzazioneNormalizzazione

>=<++

><=

><==>=<=

===

=====

===

=======

=======

=

∑∑

25.0,25.0,5.02.02.04.0

2.0,2.0,4.0

2.0,2.0,4.0)|(P allora

2.0,2.0,4.0)P()|P(

supponiamo es.,

fine, alla normalizza si la e tanormalizzanon onedistribuzi una calcola si eTipicament

)(P)|(P)|(P

con denotato zione,normalizza di fattore il è Questo

)()|(/1)(/1

:1)|( che notando e ultimequest' oAggiungend

)(/)()|()|(

...

)()/()|()|(

: di valoreogniper Bayes di regola la applicare Possiamo

,..., valoriseguenti i assumere possa che supponiamo e , dato

su posteriori a onedistribuzi una calcolare voler di Supponiamo

i

111

1

α

α

α

bBA

AAbB

AAbBbBA

aAPaAbBPbBP

bBaAP

bBPaAPaAbBPbBaAP

bBPaAPaAbBPbBaAP

A

aaAbBA

i ii

i

mmm

m

Page 15: Slides Intelligenza Artificiale, Vincenzo Cutello 1 Intelligenza Artificiale Probabilità

Slides Intelligenza Artificiale, VincenSlides Intelligenza Artificiale, Vincenzo Cutellozo Cutello

1515

CondizionamentoCondizionamento

Introducendo una variabile come una condizione extra:Introducendo una variabile come una condizione extra:

Intuizione: più facile “assess” ogni specifica circostanza.Intuizione: più facile “assess” ogni specifica circostanza.Quando Y è assente, avremo una marginalizzazione:Quando Y è assente, avremo una marginalizzazione:

In generale, data una distribuzione congiunta su un In generale, data una distribuzione congiunta su un insieme di variabili, la distribuzione su un qualsiasi insieme di variabili, la distribuzione su un qualsiasi sottoinsieme (chiamata distribuzione marginale per ragioni sottoinsieme (chiamata distribuzione marginale per ragioni storiche) può essere calcolata “summing out” le altre storiche) può essere calcolata “summing out” le altre variabili.variabili.

∑ ===z

YzZPzZYXPYXP )|(),|()|(

∑ ∑ =====z z

zZXPzZPzZXPXP ),()()|()(

Page 16: Slides Intelligenza Artificiale, Vincenzo Cutello 1 Intelligenza Artificiale Probabilità

Slides Intelligenza Artificiale, VincenSlides Intelligenza Artificiale, Vincenzo Cutellozo Cutello

1616

Distribuzioni totalmente congiunteDistribuzioni totalmente congiunteUn modello di probabilità completaUn modello di probabilità completa specifica ogni caso nella distribuzione specifica ogni caso nella distribuzione congiunta per tutte le variabili congiunta per tutte le variabili XX = X = X11,…,X,…,Xnn

Cioè, una probabilità per ogni possibile mondoCioè, una probabilità per ogni possibile mondo XX1 1 = = xx11,…,X,…,Xn n = = xxnn

(Cf. Le teorie complete in logica)(Cf. Le teorie complete in logica)Es., supponiamo che Mal_di_denti e Carie siano variabili random:Es., supponiamo che Mal_di_denti e Carie siano variabili random:

Mal_di_denti = trueMal_di_denti = true Mal_di_denti = falseMal_di_denti = false

Carie = trueCarie = true 0.040.04 0.060.06

Carie = flaseCarie = flase 0.010.01 0.890.89

∑ =∨∨⇒

=∧⇒

i in wPww

wwP

1)( quindi Vera è ... esaustivi sono mondi possibili I

0)( esclusivi mutuamente sono mondi possibili I

1

21

Page 17: Slides Intelligenza Artificiale, Vincenzo Cutello 1 Intelligenza Artificiale Probabilità

Slides Intelligenza Artificiale, VincenSlides Intelligenza Artificiale, Vincenzo Cutellozo Cutello

1717

Distribuzioni totalmente congiunteDistribuzioni totalmente congiunte

{ }

08.001.004.0

04.0

)__(

)__()__|(

Es.,

)(

)()|(

:rapporto come

maniera stessa nella calcolate essere possono tecondiziona àprobabilit Le

congiunta e totalmentonedistribuzi delle casistiche variedelle somma la come

ecalcolabil è neproposizio qualsiasi una di tacondizionanon àprobabilit la Cioè,

)()( Quindi

veraè )( dove delle di nedisgiunzio alla eequivalent è 2)

falsa o veraè )( random lisu variabi definita neproposizio qualsiasi unaPer 1)

)(:

=+

=∧

=

∧=

= ∑

dentidiMalP

dentidiMalCariePdentidiMalCarieP

P

PP

wPP

ww

w

ii ww i

ii

i

ξ

ξφξφ

φ

φφ

φφ

φ

Page 18: Slides Intelligenza Artificiale, Vincenzo Cutello 1 Intelligenza Artificiale Probabilità

Slides Intelligenza Artificiale, VincenSlides Intelligenza Artificiale, Vincenzo Cutellozo Cutello

1818

Inferenza dalle distribuzioni congiunteInferenza dalle distribuzioni congiunteTipicamente, siamo interessati alla distribuzione congiunta a posteriori Tipicamente, siamo interessati alla distribuzione congiunta a posteriori della della variabile domandavariabile domanda YY dati specifici valori dati specifici valori e e per le per le variabili di provavariabili di prova EESiamo Siamo H = X – Y – EH = X – Y – E le le variabili nascostevariabili nascosteAllora la sommatoria richiesta dei casi congiunti è fatta sommando le Allora la sommatoria richiesta dei casi congiunti è fatta sommando le variabili nascoste:variabili nascoste:

I termini nella sommatoria sono i casi congiunti perché Y, E, e H I termini nella sommatoria sono i casi congiunti perché Y, E, e H ricoprono l’insieme delle variabili randomricoprono l’insieme delle variabili randomProblemi evidenti:Problemi evidenti:1) Complessità temporale nel caso peggiore di 1) Complessità temporale nel caso peggiore di O(dO(dnn)) dove d è la più dove d è la più grande arietàgrande arietà2) Complessità spaziale di 2) Complessità spaziale di O(dO(dnn)) per memorizzare la distribuzione per memorizzare la distribuzione congiuntacongiunta3) Come trovare i numeri per 3) Come trovare i numeri per O(dO(dnn)) casi ??? casi ???

∑ ======h

h)He,EP(Y, e)EP(Y, e)E|P(Y αα

Page 19: Slides Intelligenza Artificiale, Vincenzo Cutello 1 Intelligenza Artificiale Probabilità

Slides Intelligenza Artificiale, VincenSlides Intelligenza Artificiale, Vincenzo Cutellozo Cutello

1919

IndipendenzaIndipendenzaDue variabili random A, B sono (assolutamente) Due variabili random A, B sono (assolutamente) indipendenti se e solo seindipendenti se e solo se

ooes., A e B sono due monetees., A e B sono due moneteSe n variabili Booleane sono indipendenti, la Se n variabili Booleane sono indipendenti, la

giunzione giunzione totale ètotale èquindi può essere specificata da solo quindi può essere specificata da solo nn numeri numeriL’indipendenza assoluta è un requisito molto forte,L’indipendenza assoluta è un requisito molto forte,raramente incontratoraramente incontrato

P(A |B) = P(A)

P(A,B) = P(A |B)P(B) = P(A)P(B)

∏= i in XXX )(P),...,(P 1

Page 20: Slides Intelligenza Artificiale, Vincenzo Cutello 1 Intelligenza Artificiale Probabilità

Slides Intelligenza Artificiale, VincenSlides Intelligenza Artificiale, Vincenzo Cutellozo Cutello

2020

Indipendenza: esempioIndipendenza: esempioConsideriamo un problema di azioni con tre variabili random:Consideriamo un problema di azioni con tre variabili random: A+ (azione sale), SF (stato finanziario società), D=l A+ (azione sale), SF (stato finanziario società), D=l

(giorno della settimana è lunedì) (giorno della settimana è lunedì) La probabilità che l’azione salga A+, dipende dallo stato La probabilità che l’azione salga A+, dipende dallo stato

finanziario buono SF della società ma non dal giorno finanziario buono SF della società ma non dal giorno della settimana:della settimana:

– P(A+ | SF, D=l) = P(A+|SF) P(A+ | SF, D=l) = P(A+|SF)

cioè, A+ è condizionatamente indipendente dal D data la cioè, A+ è condizionatamente indipendente dal D data la SFSF

La stessa indipendenza si mantiene anche se non è La stessa indipendenza si mantiene anche se non è lunedì:lunedì:

– P(A+ | SF, NOT D=l ) = P(A+ | SF)P(A+ | SF, NOT D=l ) = P(A+ | SF)

Page 21: Slides Intelligenza Artificiale, Vincenzo Cutello 1 Intelligenza Artificiale Probabilità

Slides Intelligenza Artificiale, VincenSlides Intelligenza Artificiale, Vincenzo Cutellozo Cutello

2121

Indipendenza: esempio 2Indipendenza: esempio 2

Consideriamo tre variabili random:Consideriamo tre variabili random:Caldo (temp > 25), Maggio, Dentro_casaCaldo (temp > 25), Maggio, Dentro_casa Se siamo in Maggio, la probabilità che faccia caldo non Se siamo in Maggio, la probabilità che faccia caldo non

dipende dall’essere in casa o fuori casa (non ci sono dipende dall’essere in casa o fuori casa (non ci sono riscaldamenti):riscaldamenti):

P(Caldo | Maggio,Dentro_casa) = P(Caldo|Maggio) P(Caldo | Maggio,Dentro_casa) = P(Caldo|Maggio) cioè, Caldo è condizionatamente indipendente da cioè, Caldo è condizionatamente indipendente da

Dentro_casa dato MaggioDentro_casa dato MaggioLa stessa indipendenza si mantiene anche se non sono La stessa indipendenza si mantiene anche se non sono

Dentro_casa:Dentro_casa: P(Caldo | Maggio, P(Caldo | Maggio, ┐┐Dentro_casa) = P(Caldo | Dentro_casa) = P(Caldo | ┐┐Maggio)Maggio)

Page 22: Slides Intelligenza Artificiale, Vincenzo Cutello 1 Intelligenza Artificiale Probabilità

Slides Intelligenza Artificiale, VincenSlides Intelligenza Artificiale, Vincenzo Cutellozo Cutello

2222

Reti di credenzaReti di credenza Rappresentano una semplice notazione grafica per le asserzioni di Rappresentano una semplice notazione grafica per le asserzioni di

indipendenza condizionale e quindi per una specifica compatta delle indipendenza condizionale e quindi per una specifica compatta delle distribuzioni congiunte totalidistribuzioni congiunte totali

Sintassi:Sintassi:– un insieme di nodi, uno per ogni variabileun insieme di nodi, uno per ogni variabile– un grafo diretto e aciclico (gli archi rappresentano le influenze un grafo diretto e aciclico (gli archi rappresentano le influenze

dirette)dirette)– una distribuzione condizionata per ogni nodo dati i suoi genitori: una distribuzione condizionata per ogni nodo dati i suoi genitori:

PP((XXii | Genitori(X| Genitori(Xii)))) Nel caso più semplice, distribuzione condizionata rappresentata come Nel caso più semplice, distribuzione condizionata rappresentata come

una tabella di probabilità condizionate (CPT) una tabella di probabilità condizionate (CPT)

Page 23: Slides Intelligenza Artificiale, Vincenzo Cutello 1 Intelligenza Artificiale Probabilità

Slides Intelligenza Artificiale, VincenSlides Intelligenza Artificiale, Vincenzo Cutellozo Cutello

2323

EsempioEsempioSono a lavoro, il mio vicino di casa John mi chiama per dirmi che l’allarme Sono a lavoro, il mio vicino di casa John mi chiama per dirmi che l’allarme sta suonando, ma la mia vicina Mary non chiama. Qualche volta è attivato sta suonando, ma la mia vicina Mary non chiama. Qualche volta è attivato da un lieve terremoto. C’è un intruso ?da un lieve terremoto. C’è un intruso ?Variabili: Intruso, Terremoto, Allarme, J, MVariabili: Intruso, Terremoto, Allarme, J, MLa topologia della rete riflette la conoscenza causale:La topologia della rete riflette la conoscenza causale:

Nota: Genitori Nota: Genitori ≤ k ≤ k O(d O(dkkn) numeri rispetto a O(dn) numeri rispetto a O(dnn) )

Terremoto Intruso

Allarme

J M

Page 24: Slides Intelligenza Artificiale, Vincenzo Cutello 1 Intelligenza Artificiale Probabilità

Slides Intelligenza Artificiale, VincenSlides Intelligenza Artificiale, Vincenzo Cutellozo Cutello

2424

SemanticaSemantica

Le semantiche “globali” definiscono la distribuzione congiunta totale Le semantiche “globali” definiscono la distribuzione congiunta totale come il prodotto delle distribuzioni condizionate localicome il prodotto delle distribuzioni condizionate locali

Semantiche “locali”: ogni nodo è condizionatamente indipendente dai Semantiche “locali”: ogni nodo è condizionatamente indipendente dai suoi non discendenti dati i suoi genitorisuoi non discendenti dati i suoi genitori

Teorema: Semantiche locali se e solo se Semantiche globaliTeorema: Semantiche locali se e solo se Semantiche globali

)|()|()|()()(

)(.,

))(|(P),...,(P11

AMPAJPTIAPTPIP

TIAMJPes

XGenitoriXXXn

i iin

¬∧¬¬¬=¬∧¬∧∧∧

=∏=

Page 25: Slides Intelligenza Artificiale, Vincenzo Cutello 1 Intelligenza Artificiale Probabilità

Slides Intelligenza Artificiale, VincenSlides Intelligenza Artificiale, Vincenzo Cutellozo Cutello

2525

Markov blanketMarkov blanket

Ogni nodo è condizionatamente indipendente Ogni nodo è condizionatamente indipendente

da tutti gli altrida tutti gli altri

Markov blanket: genitori+figli+altri genitori dei figliMarkov blanket: genitori+figli+altri genitori dei figli

Page 26: Slides Intelligenza Artificiale, Vincenzo Cutello 1 Intelligenza Artificiale Probabilità

Slides Intelligenza Artificiale, VincenSlides Intelligenza Artificiale, Vincenzo Cutellozo Cutello

2626

Costruzione delle reti di credenzaCostruzione delle reti di credenza Abbiamo bisogno di un metodo tale che una serie Abbiamo bisogno di un metodo tale che una serie

di asserzioni localmente verificabili di indipendenze di asserzioni localmente verificabili di indipendenze condizionali garantisca le semantiche globali condizionali garantisca le semantiche globali richiesterichieste

∏∏

=

= −

=

=

=

=

n

i ii

n

i iin

iiii

i

n

XGenitoriX

XXXXX

XXXXGenitoriX

X

X

ni

XX

1

1 111

11

1-i1

1

ecostruzionper ))(|(P

ione)concatenaz della (regola ),...,|(P),...,(P

:globali semantiche le garantisce genitori dei scelta Questa

),...,|P())(|(P

che taliX,..., da genitori i seleziona

rete alla aggiungi

a fino 1Per .2

,..., variabiledelle ordineun Scegliere.1

Page 27: Slides Intelligenza Artificiale, Vincenzo Cutello 1 Intelligenza Artificiale Probabilità

Slides Intelligenza Artificiale, VincenSlides Intelligenza Artificiale, Vincenzo Cutellozo Cutello

2727

EsempioEsempioSupponiamo di scegliere l’ordine M, J, A, I, TSupponiamo di scegliere l’ordine M, J, A, I, T

MJ

P(J | M) = P(J) ? No

Allarme

P(A | J, M) = P(A | J) ? P(A | J,M) = P(A) ?

Intruso

NoP(I | A, J, M) = P(I | A) ?P(I | A, J, M) = P(I) ?

Terremoto

SiNo

P(T | I, A, J, M) = P(T | A) ?P(T | I, A, J, M) = P(T | A, I) ?

NoSi

Page 28: Slides Intelligenza Artificiale, Vincenzo Cutello 1 Intelligenza Artificiale Probabilità

Slides Intelligenza Artificiale, VincenSlides Intelligenza Artificiale, Vincenzo Cutellozo Cutello

2828

Esempio: dal meccanicoEsempio: dal meccanico

Problema: il motore non parteProblema: il motore non parteVariabili: Batteria, Radio, Iniezione, Gasolio, Variabili: Batteria, Radio, Iniezione, Gasolio,

AccensioneAccensione

BI

A

R

G