確率モデルによる画像処理技術入門kazu/tutorial...2 august, 2007 pip-miru2007...
TRANSCRIPT
2 August, 20072 August, 2007 PIPPIP--MIRU2007 (HiroshimaMIRU2007 (Hiroshima)) 11
確率モデルによる画像処理技術入門確率モデルによる画像処理技術入門
東北大学東北大学 大学院情報科学研究科大学院情報科学研究科
田中田中 和之和之
[email protected]@smapip.is.tohoku.ac.jp
http://www.smapip.is.tohoku.ac.jp/~kazu/http://www.smapip.is.tohoku.ac.jp/~kazu/
共同研究者D. M. Titterington (University of Glasgow, UK)
2 August, 20072 August, 2007 PIPPIP--MIRU2007 (HiroshimaMIRU2007 (Hiroshima)) 22
ContentsContents
1.1. 序論序論2.2. 確率的画像処理確率的画像処理3.3. 確率伝搬法確率伝搬法4.4. まとめまとめ
本本講演講演の参考文献の参考文献
田中和之著田中和之著:: 確率モデルによる画像処理技術入門確率モデルによる画像処理技術入門,,森北森北出版,出版,20062006年年99月月 ..
2 August, 2007 PIP-MIRU2007 (Hiroshima) 3
確率的画像処理確率的画像処理
確率的画像処理手法によるノイズ除去
173110218100120219202190202192
Average =⎪⎭
⎪⎬
⎫
⎪⎩
⎪⎨
⎧
192 202 190
202 219 120
100 218 110
192 202 190
202 173 120
100 218 110
信号処理の知見をもとにした画像処理の確率モデル化
マルコフ確率場モデル 確率的画像処理
基本単位は画素
画素上の数字はディスプレイの光の強度
アルゴリズム化
最も簡単な既存のフィルター
2 August, 20072 August, 2007 PIPPIP--MIRU2007 (HiroshimaMIRU2007 (Hiroshima)) 44
ContentsContents
1.1. 序論序論2.2. 確率的画像処理確率的画像処理3.3. 確率伝搬法確率伝搬法4.4. まとめまとめ
2 August, 2007 PIP-MIRU2007 (Hiroshima) 5
画像修復の確率モデル
原画像 劣化画像
通信路
雑音
{ } { } { }{ }
43421
48476444 8444 76444 8444 76
周辺尤度
事前確率尤度事後確率
劣化画像
原画像原画像劣化画像劣化画像原画像
PrPr|Pr|Pr =
白色ガウス雑音原画像劣化画像 +=
2 August, 2007 PIP-MIRU2007 (Hiroshima) 6
2値画像の事前確率(Prior Probability)
赤い線が少ないほど確率が高くなるように確率モデルを設計
問題設定画素の周辺の状態が固定されているとき着目画素の状態は?
?
>
== >p p
周りが白ければ着目画素も白くあるべき
2 August, 2007 PIP-MIRU2007 (Hiroshima) 7
2値画像の事前確率(Prior Probability)2値画像の事前確率(Prior Probability)
赤い線が少ないほど確率が高くなるように確率モデルを設計
画素がいくつか集まると周りの画素の状態をよく見ながら自分の状態を決めないといけなくなる もっとたくさん集まったらどうなるか?
問題設定画素の周辺の状態が固定されているとき着目画素の状態は?
?-?== >
p p
> >=
2 August, 2007 PIP-MIRU2007 (Hiroshima) 8
ゆらぎが大きいときに何が実際に起こっているのか? p
0.0
0.2
0.4
0.6
0.8
1.0
0.0 0.2 0.4 0.6 0.8 1.0lnp
無秩序状態 秩序状態ゆらぎが大きく点の近くのパターン
p が小さい p が大きい
最近接画素間の共分散
マルコフ連鎖モンテカルロ法によるサンプリング
Markov Network
2 August, 2007 PIP-MIRU2007 (Hiroshima) 9
ゆらぎが大きいときのパターンを画像処理に使えるか?
0.0
0.2
0.4
0.6
0.8
1.0
0.0 0.2 0.4 0.6 0.8 1.0ln p
最近接画素間の共分散
p
似ている
Markov Network大小
2 August, 2007 PIP-MIRU2007 (Hiroshima) 10
強磁性体と確率モデル強磁性体と確率モデル
p p
p p
>
=
=
>
=
=
x
y
画像は各画素ごとの強さの異なる光であらわされる.
0 255
共通点:まわりと同じ状態をとろうとする
Ising モデル
Markov Random Field (MRF) モデル
2 August, 2007 PIP-MIRU2007 (Hiroshima) 11
強磁性体の平均場理論強磁性体の平均場理論
p p
>
=
=
(a) 平均場近似(P. Weiss, 1907)(b) Bethe近似(H. A. Bethe, 1935)(c) クラスター変分法(R. Kikuci, 1951)(d) 厳密解(L. Onsager,C.N.Yang, 1940)
↑と↓の個数の割合
Ising モデルMRFのアルゴ
リズムとして使い回す
1/ln p
2 August, 2007 PIP-MIRU2007 (Hiroshima) 12
Binary Image Restoration by Gaussian Graphical Model
原画像 劣化画像 修復画像
2 August, 2007 PIP-MIRU2007 (Hiroshima) 13
Image Restoration by Gaussian Graphical Model and Conventional Filters
( )2ˆ||
1MSE ∑Ω∈
−Ω
=i
ii ff
327Statistical Method
445(5x5)
486(3x3)Median Filter
413(5x5)388(3x3)Lowpass
Filter
MSE
(3x3) (3x3) LowpassLowpass (5x5) Median(5x5) MedianStatistical MethodStatistical Method
Original ImageOriginal Image Degraded ImageDegraded Image
2 August, 2007 PIP-MIRU2007 (Hiroshima) 14
Gray-Level Image Restoration(Spike Noise)
Original Image
MSE:135MSE: 217
MSE: 371 MSE: 523
MSE: 244
MSE: 3469
MSE: 2075
Degraded Image
Belief Propagation Lowpass Filter Median Filter
MSE: 395
2 August, 2007 PIP-MIRU2007 (Hiroshima) 15
Digital Images Inpaintingbased on MRF
Inpu
t
Out
put
MarkovNetwork
M. Yasuda, J. Ohkubo and K. Tanaka: Proceedings ofCIMCA&IAWTIC2005.
2 August, 20072 August, 2007 PIPPIP--MIRU2007 (HiroshimaMIRU2007 (Hiroshima)) 1616
ContentsContents
1.1. 序論序論2.2. 確率的画像処理確率的画像処理3.3. 確率伝搬法確率伝搬法4.4. まとめまとめ
2 August, 2007 PIP-MIRU2007 (Hiroshima) 17
扱いやすい確率モデルのグラフ表現
扱いやすい確率モデルの数理構造
⎟⎟⎠
⎞⎜⎜⎝
⎛⎟⎟⎠
⎞⎜⎜⎝
⎛⎟⎟⎠
⎞⎜⎜⎝
⎛= ∑∑∑
∑ ∑ ∑
===
= = =
FT,FT,FT,
FT, FT, FT,
),(),(),(
),(),(),(
CBA
A B C
DChDBgDAf
DChDBgDAf
A
B CD∑ ∑ ∑
= = =FT, FT, FT,A B C
扱いやすくない確率モデルの数理構造
∑ ∑ ∑= = =FT, FT, FT,
),(),(),(A B C
AChCBgBAf
A
B C
∑ ∑ ∑= = =FT, FT, FT,A B C
木構造をもつグラフ表現
閉路を含むグラフ表現
別々に和を計算できる
別々に和を計算することが難しい
2 August, 2007 PIP-MIRU2007 (Hiroshima) 18
確率的画像処理における確率伝搬法(Belief Propagation)
着目画素とその近傍画素だけを残すと木構造になる.
確率伝搬法(Belief Propagation)の統計的近似アルゴ
リズムとしての転用
2 August, 2007 PIP-MIRU2007 (Hiroshima) 19
確率的画像処理における確率伝搬アルゴリズムの基本構造
ひとつの画素ごとに4種類の更新パターン
4近傍の場合は3入力1出力の更新式
画素上での動作の様子の一例
2 August, 20072 August, 2007 PIPPIP--MIRU2007 (HiroshimaMIRU2007 (Hiroshima)) 2020
ContentsContents
1.1. 序論序論2.2. 確率的画像処理確率的画像処理3.3. 確率伝搬法確率伝搬法4.4. まとめまとめ
2 August, 2007 PIP-MIRU2007 (Hiroshima) 21
確率モデルによる画像処理技術入門確率モデルによる画像処理技術入門
ベイズ統計をつかった画像処理ベイズ統計をつかった画像処理画像処理の事前分布画像処理の事前分布磁性体の物理モデルとの類似性磁性体の物理モデルとの類似性確率伝搬法確率伝搬法
2 August, 2007 PIP-MIRU2007 (Hiroshima) 22
脳の物理モデルの記憶容量,パーセプトロンの容量の評価に類似の議論
標本平均による統計的性能
11→gr
Prio
r Pr
obab
ility
1fr
2fr
3fr
21→gr
12→gr
22→gr
13→gr
23→grN
oise
11→mr
12→mr
21→mr
22→mr
31→mr
32→mr
Mar
kov
Net
wor
k
推定画像劣化画像
Mean Square Error の標本平均
原画像
スピングラス理論による解析的評価が可能
Nishimori and Wong (1999): Physical Review ENishimori and Wong (1999): Physical Review E
マルコフ連鎖モンテカルロ法
2 August, 20072 August, 2007 PIPPIP--MIRU2007 (HiroshimaMIRU2007 (Hiroshima)) 2323
MRF, Belief Propagation MRF, Belief Propagation and Statistical Performanceand Statistical Performance
GemanGeman and and GemanGeman (1986): IEEE Transactions on PAMI(1986): IEEE Transactions on PAMIImage Processing for Image Processing for Markov Random Fields (MRF)Markov Random Fields (MRF)(Simulated Annealing, Line Fields)(Simulated Annealing, Line Fields)
Nishimori and Wong (1999): Physical Review ENishimori and Wong (1999): Physical Review EStatistical Performance Estimation for MRFStatistical Performance Estimation for MRF(Spin Glass Theory)(Spin Glass Theory)
Tanaka and Morita (1995): Physics Letters ATanaka and Morita (1995): Physics Letters ACluster Variation Method for MRF in Image ProcessingCluster Variation Method for MRF in Image Processing
Cluster Variation Method (CVM)Cluster Variation Method (CVM)= Generalized Belief Propagation (GBP)= Generalized Belief Propagation (GBP)
StatisticalStatistical--Mechanical Informatics for Image ProcessingMechanical Informatics for Image Processing
2 August, 20072 August, 2007 PIPPIP--MIRU2007 (HiroshimaMIRU2007 (Hiroshima)) 2424
ReferencesReferencesK. Tanaka: StatisticalK. Tanaka: Statistical--Mechanical Approach to Mechanical Approach to
Image Processing (Topical Review), J. Phys. A, Image Processing (Topical Review), J. Phys. A, 3535 (2002).(2002).
A. S. Willsky: Multiresolution Markov Models for A. S. Willsky: Multiresolution Markov Models for Signal and Image Processing, Proceedings of Signal and Image Processing, Proceedings of IEEE, IEEE, 9090 (2002).(2002).