計測標準研究部門

回帰分析を用いた回帰分析を用いた不確かさ評価について不確かさ評価に て

産業技術総合研究所 計測標準研究部門産業技術総合研究所 計測標準研究部門物性統計科 応用統計研究室

田中秀幸

1

計測標準研究部門

最小二乗法を用いた一次回帰最小二乗法を用いた一次回帰についてに て

2

計測標準研究部門

一次回帰について一次回帰について真の直線y

(xn,yn)y x

y

(x1,y1)(x2,y2)

( )

(xi,yi) i=1,2,・・・n

x

(x1,y1) (x3,y3)

入力量xと出力量yが直線関係にあると考えられるとき，その真の関係を表わす式を + とする真の関係を表わす式を y=+x とする．

しかし，測定結果には誤差が含まれるため，完全に直線上にデータが乗るわけではない このときのとを測定データか

3

デ タが乗るわけではない．このときのとを測定デ タから推定する．

計測標準研究部門

一次回帰のモデル式一次回帰のモデル式真の直線(xi,yi) y x

i i

ii

(xi+xi)

測定されたデータ(xi,yi)には測定の誤差iが含まれるので，入力量，出力量の値の関係は，yi=+xi+i となる．力量，出力量の値の関係は，yi xi i となるここで，,は実際には知ることができない母数であるので，我々が知ることができるモデル式は，

となる．ここで，”^”は推定値を表す．

ˆˆ ˆi i iy x

4

となる． で， は推定値を表す．また，ここでは，各xには誤差が存在しないと考える．

計測標準研究部門

残差について残差について直線の当てはまりの良さを表すパラメータとして，

ˆˆ ˆ( )i i iy x

を考える の値は残差と呼ばれる れをすべての にわを考える．この値は残差と呼ばれる．これをすべてのiにわたって拡張すると，

2 22

eˆˆ ˆi i ii i

S y x

となる．このSeが最小になる を求めることを考える． ˆˆ ,

5

計測標準研究部門

最小値の算出最小値の算出Seが最小になる条件は，e

e ˆˆ2 0ˆ i ii

S y x

e ˆˆ2 0ˆ i i ii

S x y x

である．上式を連立させ，解を求めると，

ˆ ˆˆ i ii i

y xy x

2 2

( )( )ˆ( )

i ii ii ii i ii

i

x yx y x x y yn

x xx

n n 2

( )iiiiii

x xxx

n

となり を求める とが きた ˆ

6

となり， を求めることができた． ˆˆ,

計測標準研究部門

例：一次回帰例：一次回帰

• はかりの校正

はかりに20，40，60，80，100 gの分銅を載せ，はかりはかりに 0， 0，60，80， 00 gの分銅を載せ，はかり

の読み値を得た．この測定結果に直線回帰を当てはめ，校正直線を求めよ．

分銅の値(g) はかりの読み値(g)20 000 20 00120.000 20.00140.000 39.99760 000 60 00760.000 60.00780.000 79.999100 000 100 003

7

100.000 100.003

計測標準研究部門

例：一次回帰例：一次回帰分銅の値(g) はかりの読み値(g)

1 20 20.001

2 40 39.997

3 60 60.007

4 80 79.9994 80 79.999

5 100 100.003

和 300 300 007和 300 300.007

平均 60 60.0014

分銅の平均値 読み値の平均値60x 60.0014y

300x 300 007y 8

300ix 300.007iy

計測標準研究部門

例：一次回帰例：一次回帰x2 y2 xyx y xy

1 400 400.04 400.02

2 1600 1599 76 1599 882 1600 1599.76 1599.88

3 3600 3600.84 3600.42

4 6400 6399 84 6399 924 6400 6399.84 6399.92

5 10000 10000.6 10000.3

和 22000 22001 08 22000 4和 22000 22001.08 22000.54

2 22000ix 2 22001.08iy 22000.54i ix y

9

計測標準研究部門

例：一次回帰例：一次回帰

2 2

300 300.00722000.545ˆ 1.00003

300

i ii ii ii

x yx y

n

2

300220005

iiii

xx

n

ˆˆ 60.0014 1.00003 60 0.00004y x

よって，

0 00004 1 00003y x 0.00004 1.00003y x

10

計測標準研究部門

例：一次回帰例：一次回帰0.0004 1.00003y x

100

120

80

100

60

20

40

0

0 20 40 60 80 100 120

11

-20

計測標準研究部門

一次回帰を行ったときの一次回帰を行ったときの不確かさ評価について不確かさ評価に て

12

計測標準研究部門

一次回帰を行ったときの不確かさ一次回帰を行ったときの不確かさ

一次回帰を行ったときの不確かさ評価は 求められた回帰式一次回帰を行ったときの不確かさ評価は，求められた回帰式を測定のモデル式と考え，それに不確かさの伝播則を当てはめて評価を行う．めて評価を行うその際に，用いる式は ではなく，これを変形した

を用いること！ˆ( )y x x y ˆˆy x

前式を用いると， と の間に相関があり，相関を考慮した確かさ評価を行わな ればならな が 後式 場合

不確かさ評価を行わなければならないが，後式の場合にはその必要がない．（回帰式は必ずx，yの平均値を通るため．）相関を考慮するのであれば 前式を用いても良い

13

相関を考慮するのであれば，前式を用いても良い．

計測標準研究部門

一次回帰を行ったときの不確かさ一次回帰を行ったときの不確かさ

ˆ( )y x x y

一次式に不確かさの伝播則を当てはめると，不確かさの要因は，

ˆ のばらつきの2つである．のばらつき，y

この2つのばらつきを求めることから考えるこの2つのばらつきを求めることから考える．

ここでは，xについてのばらつきはないものとして考える．

14

計測標準研究部門

yのばらつきyのばらつき真の直線( ) y x 真の直線(xi,yi) y x

i

(xi+xi)

測定されたデータ(xi,yi)には測定の誤差iが含まれるので，入力量，出力量の値の関係は，yi=+xi+i となる．またこのiはどの組み合わせについても独立であり，更にそのばらつきの大きさが等しいとし その大きさをのばらつきの大きさが等しいとし，その大きさを，

2eiV

15

とする．

計測標準研究部門

yのばらつきyのばらつき

これを図示すると

y

平均値

これを図示すると，

平均値：分散：

ix 2e

y x

x

x2x1 x3

ここで，残差の分散 は以下の式で推定できる．2e

22

ˆˆ[ ( ) ]ˆ i iy x

16

2e

[ ( ) ]2

i iyn

計測標準研究部門

yのばらつきyのばらつき

22e

ˆˆ[ ( ) ]ˆ

2i iy x

n

自由度

自由度がn-1ではなく，n-2となるのは，平均値の代わりに用いられている に と という2 のパラメˆˆ ˆ ˆ用いられている に と という2つのパラメータが使われているために自由度が2減ずるため．

ix

17

計測標準研究部門

のばらつきy のばらつき

も 散

y• ここで求められた はあくまでもyの分散を表す．よって，これをyの平均値の分散に変形

2e

表 yする．

2 2ˆu y 22 eu y

u yn n

これでyの平均値の分散を求めることができた．

18

計測標準研究部門

のばらつきのばらつき

の分散は， の算出式から考える．

2 21ˆ i i

i i ii i

x x y yy x x y x x

x x x x

ここで， より， 0ix x

1 12 21ˆ i i

n n

x x y yy x x y x x

1 12 2 n ni i

y yx x x x

19

計測標準研究部門

のばらつきのばらつき 2

ii

i

x xw

x x

とおくと，

ˆi iw y

と表すことができる．よって， の母分散 は， 2

2 2 2 2ˆ i iw V y

となるとなる．

iV y はyの分散そのものであるので，

2

20

2eiV y となる．

計測標準研究部門

のばらつき

のばらつきよってよって，

2

2 2 2 2 2ˆ e e 22

ii i i

x xw V y w

e e 22i i i

ix x

2

22 eˆ 2

ix x

と表される．ここで， の母分散 の推定値はであり， の推定値は であるので，

2

2 ˆu 2

e 2e e e

22 e

2

ˆˆu となる

21

2

ix x

となる．

計測標準研究部門

補足補足モデル式として， を用いた場合の分散について．y x

22 2

e2ˆ ˆ( ) ix

u e2( )

( )i

un x x

2ˆ 22 e

2ˆ( )

( )i

ux x

2e2

ˆˆ ˆ,( )

i

i

xu

n x x

( )i

となる

22

となる．

計測標準研究部門

各水準で繰返し測定を行った場合各水準で繰返し測定を行った場合• 今見てきた例とは違い 各水準で繰返し測定が行われ今見てきた例とは違い，各水準で繰返し測定が行われているときを考える．

データ構造

x＼y 繰返し

デ タ構造

x1 y11 y12 … y1n

x2 y21 y22 y2nx2 y21 y22 y2n…

23このような場合

xm ym1 ym2 ymn

計測標準研究部門

各水準で繰返し測定を行った場合各水準で繰返し測定を行った場合

デ 式 ˆ• モデル式 ij iy x x y

傾き

1 1 1( )( )

m m n

i ijm nm ni i j

x y

傾き

1 1 1

1 11 12

( )( )ˆ

i i ji iji ij

i ji jm n

x yx x y ym

2

1 1 2 1

( )m

i imi j i

x x xn x

1i

in x

m

24

計測標準研究部門

各水準で繰返し測定を行った場合各水準で繰返し測定を行った場合

2ˆm n

残差 2

1 12e

ˆ

ˆ2

ij ii j

y x x y

残差

e 2mn 傾きの分散

2 2

2 e e2

ˆ ˆˆm nu

2

1 1 2 1

( )m

i imi j i

x x x

2 1

1

ii

in x

m

25

計測標準研究部門

一次回帰を行った際の校正の一次回帰を行った際の校正の不確かさ（逆推定）不確かさ（逆推定）

26

計測標準研究部門

不確かさ伝播則の適用不確かさ伝播則の適用先ほどのはかりの例を考える．回帰直線として， ˆ( )y x x y を得たが，実際に校正を行うときにはこの式を用いるだろうか？

回帰で求め表示値(g)

回帰で求められた直線

ˆ( )y x x y 測定物の質量の表示値

測定物の調整後

( )y x x y

分銅( )

測定物の調整後の質量

20 40 60 80 100 分銅(g)

yの値（はかりの読み値）を得てxの値（標準の値）に変換する！！

27

このような値の推定を逆推定という

計測標準研究部門

不確かさ伝播則の適用不確かさ伝播則の適用つまり，用いる式は， ではなく，これを変形した，ˆ( )y x x y

00 ˆ

y yx x 0

である．この式のことを校正式と呼ぶ．ここで，y0は，測定物をは0かりに載せたときの読み値で，x0は校正後の値である．

この式に不確かさの伝播則を適用すると，

22 2

2 2 2 20 0

0

ˆˆ

x x xu x u y u y uy y

2

2 2 2 200 02 2

1 ˆˆ ˆ

y yu x u y u y u

28

となる．

計測標準研究部門

不確かさ伝播則の適用不確かさ伝播則の適用2

1 2 2 2 200 02 2

1 ˆˆ ˆ

y yu x u y u y u

2 ここで， については前述の通り． 2u y 2 ˆu

20u y は，測定物の質量の読み値のばらつきを表す． 0y ，測定物 質量 読み値 ら きを表す

状態が安定したものを測っている限り，校正の際，分銅を載せたときの表示値のばらつきと同じであることが期待される また 読み値は回 繰り返し測定 平均値 あるる．また，この読み値はl回の繰り返し測定の平均値であるとすると， 2

2 eˆ( )u y

0( )u y

l

となる．ばらつきが同じでないときには，そのときのばらつきを分散 表 たも を用 ればよ

29

分散で表したものを用いればよい．

計測標準研究部門

不確かさ伝播則の適用不確かさ伝播則の適用2

1 2 2 2 200 02 2

1 ˆˆ ˆ

y yu x u y u y u

ここで，式を整理すると，22 2 2

2 0ˆ ˆ ˆ1 1 y y 2 e e 0 e0 22 2 2

1 1( ) ˆ ˆ ˆ ( )i

y yu x

l n x x

2202 e

0 2 2 2

ˆ 1 1( ) ˆ ˆ ( )y y

u xl n x x

( )il n x x

となる

30

となる．

計測標準研究部門

例：はかりの校正例：はかりの校正

• 先ほどあげた例で校正を行ったあと ある品先ほどあげた例で校正を行ったあと，ある品物をこのはかりで3回繰り返し測定した平均値が75 426 gであり そのばらつきが で代

2値が75.426 gであり，そのばらつきが で代用可能であるとすると，

e

2 22 202 e

0 2 2 22 2 2

75.426 60.0014ˆ 1 1 0.004305 1 1( ) ˆ ˆ 1.00003 3 5 1.00003 22000 300 / 5( )i

y yu x

l n x x

0.0000109859

0( ) 0.003314 gu x

となる

31

となる．

計測標準研究部門

例：マイクロGCを用いたプロパン例：マイクロGCを用いたプロパンガスの濃度分析

• ガスの濃度分析を行うときには，標準ガスを用い 検量線を作成したあと 分析対象ガス用い，検量線を作成したあと，分析対象ガスの濃度をその検量線により求めるという方法が良く用いられる ここでは 最初に標準プが良く用いられる．ここでは，最初に標準プロパンガスをマイクロGCで測定し，そのピーク

面積を求めることによって，検量線を作成し，その検量線を用いてあるプロパンガスの濃度その検量線を用いてあるプロパンガスの濃度を決定することを考える．

32

計測標準研究部門

例：マイクロGCを用いたプロパン例：マイクロGCを用いたプロパンガスの濃度分析

• 標準ガスの濃度とその標準ガスを測定したときのピーク面積きのピーク面積

標準ガス濃度 繰り返し(ピーク面積)合計 平均

標準ガス濃度(μmol/mol)

繰 ( 面積)合計 平均

1 2 3 4 529472.39 51632 51637 51659 51648 51670 258246 51649.230710.99 53872 53870 53847 53845 53839 269273 53854.630428.24 53375 53369 53361 53384 53345 266834 53366.839053 85 68439 68465 68478 68442 68450 342274 68454 839053.85 68439 68465 68478 68442 68450 342274 68454.8

前例と違うのは，各標準ガスで繰り返し測定が行われている．

33

前例と違うのは，各標準ガスで繰り返し測定が行われている．

計測標準研究部門

例：マイクロGCを用いたプロパン例：マイクロGCを用いたプロパンガスの濃度分析

• モデル式は，

1 2 1 2 ˆij iy x x y 1, 2, ,i m 1, 2, ,j n

ガス濃度 繰り返しm m n

このとき 1 1 1

1 1ˆ

i ijm ni i j

i iji j

x yx y

m

1 1

2

2 1

1.751658i j

m

im

m

x

2 1

1

ii

in x

m

34

計測標準研究部門

例：マイクロGCを用いたプロパン例：マイクロGCを用いたプロパンガスの濃度分析

• これを図示すると

75000

80000

65000

70000

55000

60000

45000

50000

35

45000

25000 30000 35000 40000 45000

計測標準研究部門

例：マイクロGCを用いたプロパン例：マイクロGCを用いたプロパンガスの濃度分析

• 残差は，

2

1 1

ˆm n

ij iy x x y 1 12

eˆ 515.56892

i j

mn

となる．

36

計測標準研究部門

例：マイクロGCを用いたプロパン例：マイクロGCを用いたプロパンガスの濃度分析

実際に値付けしたいサンプルの測定結果

繰り返し実際に値付けしたいサンプルの測定値

1 594872 597153 597174 595875 59624

平均 59626平均 59626分散 9262

標準偏差 96.24

37

標準偏

平均の標準偏差 43.04

計測標準研究部門

例：マイクロGCを用いたプロパン例：マイクロGCを用いたプロパンガスの濃度分析

SAMSAM 34011.80 μmol/molˆ

y yx x

このときの不確かさは

このサンプルの濃度は，

このときの不確かさは，

2

2 2 2 2SAMSAM SAM2 2

1 ˆˆ ˆ

y yu x u y u y u

22 2

2 e SAM eSAM 22 2

ˆ ˆ1ˆ ˆ

y yu y

SAM 22 2

2 1

m

imi

i

ymn

xn x

1i

i m

38となる．

SAM 24.75 μmol/molu x

計測標準研究部門

切片の不確かさ切片の不確かさ

物性などでは 直線回帰を行った後 その切片を外挿によって求物性などでは，直線回帰を行った後，その切片を外挿によって求め，それを測定結果として用いることがある．このときの不確かさ評価を考える．

例：熱拡散率測定の不確かさ

ザ シ 法による熱拡散率 測定は ザによ 試レーザフラッシュ法による熱拡散率の測定はレーザによって試料表面を加熱し，その試料裏面の温度応答を観測する．しかし，試料の温度は加熱によって上昇するので この測定で得られた試料の温度は加熱によって上昇するので，この測定で得られた熱拡散率は，その温度変化域内での熱拡散率の平均値のような値として算出される．よって，加熱エネルギーに対する熱拡散算率の変化を調べ，加熱エネルギーをゼロに外挿することによって切片を求め，加熱前の一定温度での熱拡散率を決定する．

39

計測標準研究部門

切片の不確かさ切片の不確かさ

加熱前の一定温度での熱拡散率熱拡散率

これを求めたいこれを求めたい

回帰で求められた直線

温度上昇x x x x 温度上昇1x 2x 3x nx・・・

40

計測標準研究部門

切片の不確かさ切片の不確かさ

このときの出力の推定値y0は のx=0のときであるˆ( )y x x y このときの出力の推定値y0は， のx 0のときである．( )y x x y

0ˆy x y

この式に不確かさの伝播則を当てはめると，2 2 2 2ˆ ˆ

2 222 2 20 0 e e

0 2ˆ

ˆi

y yu y u u y xy nx x

22 2

0 e 21ˆ xu yn x x

i

n x x

となる

41

となる．

計測標準研究部門

切片の不確かさ切片の不確かさ測定結果は，

温度上昇(K) 熱拡散率( 2/ )温度上昇(K) 熱拡散率(m2/s)2.8162 9.986×10-5

2.8215 9.973×10-5

2.2042 1.001×10-4

2.2463 9.979×10-5

1.5706 1.008×10-4

1.6394 1.013×10-4

0.9505 1.003×10-4

0.9698 1.025×10-4

0.4831 9.853×10-5

42

0.4831 9.853 100.5152 1.028×10-4

計測標準研究部門

切片の不確かさ切片の不確かさ

線• 直線回帰を行うと

2.8162 2.8215 0.5152 2.8162 2.8215 0.5152 1.6216810

x

9 986 9 973 10 28 5 49.986 9.973 10.28 10 1.006 1010

y

72

ˆ 5.486 10i i

i

x x y y

x x

4ˆˆ 1.015 10y x i2

6ˆˆ[ ( ) ]

ˆ 1 297 10i iy x

43

e 1.297 102n

計測標準研究部門

切片の不確かさ切片の不確かさ

• これらの答えを不確かさの伝播則の式に代入すると，

2

71 x

70 e 2

1ˆ 8.946 10i

xu yn x x

となり，加熱前の一定温度での熱拡散率の測定の不確かさを算出することができた．不確かさを算出する とができた．

このように不確かさの伝播則を用いれば，どのようなものにも対応できる

44

どのようなものにも対応できる．

計測標準研究部門

単純な直線回帰を行ったときの単純な直線回帰を行ったときのxの不確かさについて

単純な直線回帰は，

i i iy x x y を元にして行われるを元にして行われる

つまり この回帰はxに不確かさが存在しない または無視できつまり，この回帰はxに不確かさが存在しない，または無視できる，という前提で行われている．しかし，xの不確かさが無視し得ないときも存在する．

45

計測標準研究部門

単純な直線回帰を行ったときの単純な直線回帰を行ったときのxの不確かさについて

そのような場合，1） デミングの回帰などの，xの不確かさも考慮した回帰を行い，不） デミングの回帰などの， の不確かさも考慮した回帰を行 ，不確かさ評価を行う．ことが一番望ましい．

デ グただし，デミングの回帰をはじめとしたこれらの回帰は非常に数学的に難しく，すべてにおいて適用することが難しい．また 測定装置 ソフトウェアによっては 自動的にxの不確かさをまた，測定装置，ソフトウェアによっては，自動的にxの不確かさを考慮しない回帰を行い，結果を出力するものもある．このような場合には，ような場合 ，2）回帰はxの不確かさを考慮しないものを行うが，不確かさ評価ではxの不確かさを考慮する．と う とを行う

46

ということを行う．

計測標準研究部門

単純な直線回帰を行ったときの単純な直線回帰を行ったときのxの不確かさについて

逆推定の場合は，

に不確かさの伝播則を適用した00 ˆ

y yx x

2 2 2

2 2 2 2 201 1 ˆy yu x u y u y u u x

0 0 2

220 2e

ˆ ˆ ˆ

1 1

u x u y u y u u x

y y

0 2e22 2ˆ ˆ

i

y yu x

l n x x

47

によって，評価すればよい．（u(x)：xの不確かさ）

計測標準研究部門

単純な直線回帰を行ったときの単純な直線回帰を行ったときのxの不確かさについて

不確かさ評価に

22

02 2e0 22 2

1 1ˆ ˆ

y yu x u x

l n x x

i

l n x x

を用いることができる条件．1） 各xの不確かさが等しいと見なせる．2） 各 間の相関が12） 各x間の相関が1

↓となる。 u x u x

48

となる。 u x u x

計測標準研究部門

Bタイプ評価と相関Bタイプ評価と相関Bタイプ評価で相関が1となる場合．

相関係数が1のとき とはどのようなときか相関係数が1のとき，とはどのようなときか例：・2kgの分銅を校正するために1kgの分銅を同・2kgの分銅を校正するために1kgの分銅を同時に2個用いるとき．500Ωの抵抗を校正するとき 100Ωの抵抗を5・500Ωの抵抗を校正するとき，100Ωの抵抗を5

個同時に用いるとき

このように，同じ標準器を同時に用いるときに相関が1と考えて良い場合が多い．

49

相関が1と考えて良い場合が多い．（厳密には過大評価となる）

計測標準研究部門

Bタイプ評価と相関Bタイプ評価と相関

なぜ相関が1と考えられるのか？なぜ相関が1と考えられるのか？

これらの分銅はばらつきをこれらの分銅はばらつきを持っている．そのばらつきは周りの影響などが原因である．このとき，2つの分銅はほぼ同じ，

影響を受けるので，片方が少し重い方にかたよると もう一し重い方にかたよると，もう方も重い方にかたよると考える方が適切である

50

る方が適切である．

計測標準研究部門

単純な直線回帰を行ったときの単純な直線回帰を行ったときのx軸の不確かさについて

相関が1のとき

51