預測編碼 (predictive coding)
DESCRIPTION
預測編碼 (Predictive Coding). 4. 簡介. Delta modulation (DM) Difference pulse code modulation (DPCM). Delta Modulation. Delta Modulation. Delta Modulation. Adaptive Delta Modulation. Adaptive Delta Modulation. DPCM. DPCM. 定義 為差異序列 (difference sequence) 的變異量 (variance) (4.1) - PowerPoint PPT PresentationTRANSCRIPT
預測編碼(Predictive Coding)
4
簡介 Delta modulation (DM)
Difference pulse code modulation (DPCM)
Delta Modulation
0負差值 正差值
輸出
輸入
Delta Modulation
輸入
單位時間延遲
輸出
預測值
積分器
+_
+
+
Delta Modulation
原波形
粒狀雜訊之範圍
重建波形
斜率超負載之範圍
送出之脈衝
Adaptive Delta Modulation
1
1
單位時間延遲
+_
適應性函數
1KS1KE
+
+
kX 1kX
存於其中
,E , mink k
1 k
Adaptive Delta Modulation
1 1
1 min
1
min 1 min
1 1
1
2
k k k
k k k k
k
k k
k k k
E sign of S X
E E if
E if
X X
DPCM
Q
P
+_
+
+
xn dn dn^
pn
xn^
pn
Ppn
dn^
xn^+
+
Encoder
Decoder
DPCM
定義 為差異序列 (difference sequence)的變異量 (variance)
(4.1)假設量化階極小而能以 取代
(4.2)
2d
22d n nσ E x p
ˆnx nx
1 2 0
1 2 0
ˆ ˆ ˆ( , , , )
( , , , )n n n
n n
p f x x x
f x x x
DPCM
假設預測函數是線性方程式,則
(4.3) N 的值就是預測函數的階數 (order)
由 (4.1) 及 (4.3) ,可得
(4.4)
1
ˆN
n i n ii
p a x
2
2
1
N
d n i n ii
σ E x a x
DPCM
設計預測器就是要找出使 最小的 。
對每個 ai取 的偏微分,並令為零。
(4.5)
2d { }ia
2d
2
111
2
212
2
1
2 0
2 0
2 0
Nd
n i n i ni
Nd
n i n i ni
Nd
n i n i n NiN
dE x a x x
da
dE x a x x
da
dE x a x x
da
DPCM
(7.5) 可改寫為:
(4.6)
1
1
1
( 1) (1)
( 2) (2)
( ) ( )
N
i xx xxi
N
i xx xxi
N
i xx xxi
a R i R
a R i R
a R i N R N
DPCM
Rxx(k) 就是 xn的自相關函數 (autocorrelation functio
n)
(4.7)
上述公式可用矩陣形式表示RA = P (4.
8)
其中,
( ) [ ]xx n n kR k E x x
DPCM
(4.9)
(4.10)
1
2
3
(0) (1) (2) ( 1)
(1) (0) (1) ( 2)
(2) (1) (0) ( 3)
( 1) ( 2) ( 3) (0)
xx xx xx xx
xx xx xx xx
xx xx xx xx
xx xx xx xx
N
R R R R N
R R R R N
R R R R R N
R N R N R N R
a
a
A a
a
DPCM
(4.11)
若知道自相關係數 {Rxx(k)} ,就能找出預測器係數。 A=R-1P (4.12)
(1)
(2)
(3)
( )
xx
xx
xx
xx
R
R
P R
R N
DPCM
範例 若右圖為影像之一部分 B
XA
DC ..........
..........
..........
.......... ...ˆ 0.97A
ˆ 0.5A 0.5C
ˆ 0.9A 0.81B 0.9C
ˆ 0.75A 0.5B 0.75C
ˆ A B C
x
x
x
x
x
DPCM
量化器的最佳化量化器的設計可依據統計結果或是人類視覺系統 (VHS, human visual system)
然而人類視覺系統不易描繪。
DPCM
,其中 e 是實數或整數而 e*
是離散變數, 。
定義 ,使得若 e (di, di+1] 則 e* rj。
只要針對已知的 p(e) 最佳化 {di} 及 {ri} ,就可以完成量化器的最佳化。
*:Q e e 0 1 1*
ie r ,i , ,.....,N
0 1i d ,i , ,....,N
DPCM
使 最小化,可得到
(4.13)
(4.14)
11
2
0
i
i
N d
idi
D e r p e de
1 1
1
2i i
i i
i ii
d d
i d d
r rd
r ep e p e de
DPCM
(4.13) 與 (4.14) 可用數值方法求解step1: 以亂數設定 di初始值;step2: 使用 di及 (4.14) 計算 ri;step3: 使用 ri及 (4.13) 計算 di;step4: 回到 step2 直到 di及 ri收斂為止。
多數狀況下, di 及 ri會在幾次迭代之內收斂。
DPCM
例如:給定 N = 8 及 p(e) : Laplacian 分布p(e)
e0
DPCMi Probability Huffman code0 (-255, -16] -20 0.025 1111111 (-16, -8] -11 0.047 111102 (-8, -4] -6 0.145 1103 (-4, 0] -2 0.278 004 (0, 4] 2 0.283 105 (4, 8] 6 0.151 016 (8, 16] 11 0.049 11107 (16, 255] 20 0.022 111110
8-level Lloyd-max quantizer for Lena
A( 適應性 )DPCM
DPCM 及 DM 的問題 粒狀雜訊 (granular noise)
斜率超載 (slope overload)
適應性預測器可改善 類似 ADM 的設計方式 針對邊緣部份可改善影像品質達 4dB
ADPCM
適應性量化器 (adaptive quantizer)
正規化 (normalize) 誤差訊號並使用 來調整 及 。
或正規化 並使用固定的 及 。交換量化器 (switched quantizer)
使用 2 階或 3 階馬可夫程序。 不同的狀態對應不同的量化器
e idir
e id ir
ADPCM量化器一
預測器一
+_ +
+
編碼器一
誤差一
+_
量化器二
預測器二
+_ +
+
編碼器二
誤差二
+_
量化器三
預測器三
+_ +
+
編碼器三
誤差三
+_
量化器四
預測器四
+_ +
+
編碼器四
誤差四
+_
nx
選
擇
器
之
邏
輯
電
路
編碼器輸出
額外資訊
實驗結果 LENA BOOTS
TechniqueBit rate
bits/pixelRMSE(0-255)
SNR(dB)
RMSE(0-255)
SNR(dB)
1-D DPCM 1.00 18.67 22.71 22.79 20.981-D DPCM 2.00 9.44 28.63 10.96 27.331-D DPCM 3.00 5.11 33.96 5.33 33.62-D DPCM 1.00 14.58 27.74 15.91 24.12-D DPCM 2.00 6.93 31.32 7.7 30.42-D DPCM 3.00 3.71 36.74 4.01 36.07
1-D ADPCM 1.20 10.91 27.37 14.12 25.131-D ADPCM 2.20 4.37 35.32 5.97 32.611-D ADPCM 3.20 2.16 41.44 3.16 38.142-D ADPCM 1.20 7.84 30.24 10.2 27.962-D ADPCM 2.20 2.87 38.97 4.75 34.62-D ADPCM 3.20 1.37 45.4 2.56 39.97
1 predictor
ˆ 0.97
D
x A
2 predictor
ˆ 0.75A 0.50B 0.75C
D
x
實驗結果 DPCM, 1.0 bpp
實驗結果 DPCM, 2.0 bpp
實驗結果 DPCM, 3.0 bpp
實驗結果 DPCM, 2.0 bpp
實驗結果 ADPCM, 1.2 bpp
實驗結果 ADPCM, 2.2 bpp
實驗結果 ADPCM, 3.2 bpp
結論預測編碼與無失真壓縮
JPEG
Prediction
0 No
1 A
2 B
3 C
4 A+B-C
5 A-(B-C)/2
6 B-(A-C)/2
7 (A+B)/2
B
XA
DC ..........
..........
..........
.......... ...
結論預測編碼大多做為後處理器使用
JPEG :轉換後的 DC 係數之編碼 MPEG-4 :紋理編碼中,轉換後之 DC 與 AC 係數之編碼
Lena Huffman Arithmetic AHuff AArith Winzip JPEG-LS
No
DPCM 1.05 1.05 1.06 1.43 1.12
D P C M 1.59 1.59 1.62 1.56 1.50 1.74