Download - Montecarlo de Markov
-
8/16/2019 Montecarlo de Markov
1/13
-
8/16/2019 Montecarlo de Markov
2/13
Contenido
Planteamiento. Posibles enfoques deMontecarlo
Algoritmo general de Metroolis!"astings
Algoritmo de Metr#olisMuestreador de indeendencia
Metroolis!"astings aso a asoCondicionales comletas
Muestreo de $ibbs
Algunas cuestiones abiertas
-
8/16/2019 Montecarlo de Markov
3/13
Planteamiento
El m%todo de Montecarlo ermitedeterminar la distribuci#n, p& y ', de unestadístico, o alg(n asecto de la misma
&media, varian)a' E*emlos+
distribuci#n osterior en un análisis bayesiano+
varian)a de un estadístico &caso frecuentista'+
-
8/16/2019 Montecarlo de Markov
4/13
Posibles enfoques deMontecarlo
-íico algoritmo de Montecarlo/ araaro0imar esta distribuci#n+ generar n muestras iid, x, evaluar reetidamente
el estadístico sobre ellas t &x', yaro0imar p mediante la distribuci#nemírica de valores obtenidos.
Alternativamente+ generar roceso
estocástico cuya distribuci#nestacionaria sea p. 1esu%s de fasetransitoria &fase de calentamiento/',recolectar valores t &xt ', t 23,...,n, noindeendientes ero con distribuci#n,muy aro0imadamente, p.
-
8/16/2019 Montecarlo de Markov
5/13
Algoritmo de Metroolis!"astings
Posible generador+ roceso de Markov, p&xt 435Xt 2xt ,..., X62x6'2 p&xt 435Xt 2xt '.
Algoritmo de Metroolis!"astings+ en fase t ,
r#0imo valor Xt 43 generado a artir de Xt 2xt rooniendo valor Y a artir de densidad q&y5Xt 2xt '. Este valor se aceta como el siguienteXt 43 con robabilidad &xt ,y', o se rec7a)a y se
vuelve a generar un nuevo y, etc.Ciertamente, genera una cadena de Markov.
Pero ob*etivo es que distribuci#n estacionariasea p.
-
8/16/2019 Montecarlo de Markov
6/13
Algoritmo de Metroolis!"astings
89u% densidad q 7ay que utili)ar:+ cualquierasirve &ba*o ciertas condiciones' siemre que
;o todas las q igual de eos distintos m%todos de Montecarlo de Markov
di
-
8/16/2019 Montecarlo de Markov
7/13
Algoritmo de Metr#olis
1ensidades sim%tricas q&x5y'2q&y5x' aratodo x,y. E*emlo+ q&·|x' normal multivariantede media x y constante. -ambi%n caminata
aleatoria de Metroolis q&y5x'2q&5x
y5'. Probabilidad de acetaci#n+
Elecci#n del arámetro de escala &
' delicada+si yxt tiende a ser equeo &y,xt' grandeero con lenta velocidad de mi0tura.
& ' & '
& '? @, min 3, p pa 2 y
x yx
-
8/16/2019 Montecarlo de Markov
8/13
Muestreador deindeendencia
Basado en q&y5x'2q&y'. Conduce a
uele funcionar bien cuando q es unabuena aro0imaci#n a p, ero con colasmás esadas.
-íica elecci#n si alicable -C>+ q normal
multivariante de media igual a la moda de p y matri) de covarian)as algo mayor que/
& '& ' & '
& ' & '? @, min 3, p q
p qa 2
x yx y
y x
& '
3 log
i j
p
x x
!% DF (!F ( G H
x
-
8/16/2019 Montecarlo de Markov
9/13
Metroolis!"astings aso aaso &single component '
En lugar de actuali)ar X en bloque, me*orconsiderar comonentes ? X 3,X ,..., X h@ yactualit)arlas una a una.
;otaci#n+ X i 2 ? X 3,X ,..., X i3, X i43,..., X h@Cada iteraci#n dividida en h etaas.
Etaa i de t →t 43 actuali)a X t.i+ se
roone Y i seg(n qi& y i5 x t.i, x t. i', con x t. i 2 ? x t 43.3,x t 43.,..., x t 43.i3, x t.i43,..., x [email protected] con robabilidad
& ' & ' & '
& ' & '. . . . .
. . .
. . . . .
,, , min 3,
,t i t i i t i t i t i
t i t i t i
t i t i i t i t i t i
p y x q x y x x x y
p x x q y x x a !
!
!
I J K K K K 2 í L K K K K
-
8/16/2019 Montecarlo de Markov
10/13
Muestreo de $ibbs
Es el algoritmo de Montecarlo de Markov másconocido y utili)ado.
Caso articular de Metroolis!"astings aso a
aso+ emlear eguridad total de acetaci#n+ & x , y '23.
E0isten muy buenos m%todos ara generarvalores a artir de condicionales totales.
Conocido de antiguo en Mecánica estadísticadescubierto/ en los aos O6 or estadísticos.
& ' & ',i i i i iq y x x p y x ! !2
-
8/16/2019 Montecarlo de Markov
11/13
Condicionales comletas
p& x i|x i' se conoce como la distribuci#ncondicional comleta, la distribuci#n de x i dadas las restantes comonentes.
Algoritmo de Metroolis!"astings continuasiendo válido ya que el con*unto de todas lascondicionales comletas determinaunívocamente p. esultado imortante en
estadística esacial.Algoritmo aso a aso+ venta*as
comutacionales, simli
-
8/16/2019 Montecarlo de Markov
12/13
Algunas cuestiones abiertas,mal conocidas todavía
Qrden de actuali)aci#n en algoritmos aso aaso, no necesariamente actuali)ar siemreen orden i23,,...,h. &Rncluso se 7a rouesto
que orden aleatorio es me*or en ciertoscasos'.
;(mero de cadenas+ 8muestrear de variascadenas de Markov cortas &indeendientes
entre ellas' o de una (nica, larga:Elecci#n de valores iniciales x6. -e#ricamente
no imortan ero ueden inSuir en longitudde fase de calentamiento/.
-
8/16/2019 Montecarlo de Markov
13/13
Más cuestiones abiertas
>ongitud de la fase de calentamiento 1ifícil determinarla analíticamente
Criterios emíricos basados en datos generados+
T 1iagn#sticos grá