rao-blackwell 定理與最小變異不偏估計式

MIT STU 2011 四技三─高等統計方法 p.1/15

Rao-Blackwell定理與最小變異不偏估計式

充分統計量在尋找參數的優良估計式之過程中，扮演著重要的角色。若̂為的不偏估計式，而U為的充分統計量，則存在著某一個U的函數亦為的不偏估計式，且其變異數不會大於̂。故若要找出較小變異數的不偏估計式，僅須侷限於充分統計量的函數即可；此即為下列 Rao-Blacklwell定理所述。



定理 9.5：Rao-Blacklwell定理

令̂為的一個不偏估計式，使得 )ˆ(V 。若U

為的充分統計量，定義 )ˆ(*ˆ UE ，則對所有

而言， *)ˆ(E 及 )ˆ(*)ˆ( VV 。



任何一個參數可能有多個充分統計量，分解準則能標準地確定統計量U 能總結資料中所有關於參數的資訊，這種統計量稱為最小充分統計量 (Minimal Sufficient Statistics)。從定理 9.5中，利用U不但能得到較小變異數的估計式，事實上亦可得到參數的具有最小變異數的估計式，此類估計式即稱為最小變異不偏估計式 (Minimum Variance Unbiased Estimator, MVUE)。



【範例 9.6】令 nYYY ,,, 21 為抽自分配 pYP i )1( 及

pYP i 1)0( 之一組隨機樣本，其中 p為未知，此類隨機變數通常稱為柏努利變數(Bernoulli Variables)。試利用分解定理求出可以歸納已知資料的充分統計量，並求出 p的MVUE(最小變異不偏估計式)。



【解】

由於 1,0,)1()( 1 i

yyii yppyYP ii ，故可能性

)( pL 為 ),,,(),,,( 2121 pyyyppyyyL nn

nn yyyyyy pppppp 111 )1()1()1( 2211

1)1( ii yny pp 。



令 ),( pyg i ii yny pp )1( 及 1),,,( 21 nyyyh ，

故由分解定理， iYU 為 p 的充分統計量。又

npUE )( 或 pn

UE

，故 Y

n

U 為 p 的不偏估計

式，因其為充分統計量的函數，因此，估計式 Yp ˆ 為p的最小變異不偏估計式(MVUE)。



【範例 9.7】設 nYYY ,,, 21 為抽自韋伯(Weibull)分配之隨機樣本，其機率密度函數定義為

其他 ,0

0 ,2

)(/2

yey

yfy

，試求的MVUE。



【解】 ),,,(),,,( 2121 nn yyyfyyyL

21

21

2

)(2 iy

n eyyy

)(2

21

12 2

n

yyyye

i

，令 ),( 2 iyg

212

2 iye

及 ),,,( 21 nyyyh )( 1 nyy ，故由分

解定理， 2iYU 為的充分統計量。



接著對該統計量求出的不偏函數，令 2iYW ，

則

wew

dw

wdwfwf w

W2

1)(

2)( /

0 ,1 /

we w

。亦即 2

iY 為具有參數的指

數分配，又 )()( 2 WEYE i 及 nYE i 2 ，表示

n

iiYn 1

21̂ 為的不偏估計式且為充分統計量 2iY 的

函數，故̂為具有參數的韋伯分配的MVUE。



【範例 9.8】設 nYYY ,,, 21 表示抽自未知平均數及未知變異

數 2 的常態分配之隨機樣本，試求與 2 的MVUEs。



【解】

),,,,(),,,,( 221

221 nn yyyfyyyL

22

)(2

1

2

1

iy

n

e

22

22

2

1

2

1

nyyn

ii

e

ii yynn

ee

22

12

222

2

2

1 ，



故 iY 及 2iY 兩者為及 2 的充分統計量，又Y 為

的不偏估計式，及

22 )(1

1YY

nS i

22

1

1YnY

n i

為 2 的不偏估計式，因為兩個估計

式皆為充分統計量的函數，故其為及 2 的MVUEs。



【範例 9.9】設 nYYY ,,, 21 係由以下的指數分配

其他 ,0

0 ,1

)(/ ye

yfy

中抽出的隨機樣本，試求

)( iYV 的MVUE。



【解】

由於 )( iYE 及 2)( iYV ，分解定理隱含 iY 為

的最佳充分統計量。事實上，Y 為的MVUE，故試圖以 2Y 作為 2 的估計式。但

22 )]([)()( YEYVYE 222 11

n

n

n，表示

2Y 為 2 的偏誤估計式，但 2

1Y

n

n

則為 2 的

MVUE，因其為 2 的不偏估計式，且為充分統計量的函數。

rao-blackwell 定理與最小變異不偏估計式

Documents