makalah regresi robust (tiar indarto g152144051)
TRANSCRIPT
-
8/17/2019 Makalah Regresi Robust (Tiar Indarto G152144051)
1/25
i
MAKALAH
ANALISIS REGRESI TERAPAN
TIAR INDARTO G152144051
PROGRAM STUDI STATISTIKA TERAPAN
SEKOLAH PASCA SARJANA
INSTITUT PERTANIAN BOGOR
2016
-
8/17/2019 Makalah Regresi Robust (Tiar Indarto G152144051)
2/25
ii
DAFTAR ISI
DAFTAR ISI ii
A.
PENDAHULUAN 11. LATAR BELAKANG 1
2. TUJUAN 2
B. TINJAUAN PUSTAKA 2
1. REGRESI LINEAR BERGANDA 2
2. OLS UNTUK REGRESI LINEAR BERGANDA 3
3. UJI ASUMSI MODEL REGRESI LINEAR 3
a. UJI NORMALITAS 3
b. UJI MULTIKOLINEARITAS 3
c. UJI HOMOSKEDASITAS9 3
d. UJI AUTOKORELASI 3
4. PENCILAN (OUTLIER) 4
a. STANDARDIZED RESIDUAL 4
b. DELETED (STUDENTIZED RESIDUAL) 4
c. DFITS 5
5.
REGRESI ROBUST 5
a. Estimasi M 5
b. Estimasi Least Trimmed Square (LTS) 9
c. Estimasi S 9
d. Estimasi MM 10
e. Estimasi LMS 10
f. Estimasi W 11
g. Estimasi L 11
h. Estimasi R 11
C. PEMBAHASAN 12
1. PENERAPAN ESTIMASI M 12
a. Estimasi M (Huber) 12
b. Estimasi M (Tukey Bisquare) 18
2. PENERAPAN ESTIMASI LTS 20
D. DAFTAR PUSTAKA 23
-
8/17/2019 Makalah Regresi Robust (Tiar Indarto G152144051)
3/25
1
A. PENDAHULUAN
1. LATAR BELAKANG
Analisis terhadap hubungan antara dua variabel atau lebih menggunakan sebuah persamaan
matematik (model regresi) adalah analisis regresi. Dalam model regresi terdapat dua variabel
yakni variabel Y (variabel tak bebas/dependent /respon/akibat) dan variabel X (variabel
bebas/independent /penjelas/sebab). Dalam analisis regresi dapat dibagi menjadi regresi linear
sederhana, regresi linear berganda dan regresi non linear. Terdapat beranekaragam metode yang
dapat digunakan untuk melihat hubungan antara Y dengan X seperti metode kuadrat terkecil
(ordinary least square), metode kemungkinan maksimum (maximum likelihood method), metode
bootstrap, metode kuadrat terkecil terboboti (weighted least square method ), dan lain – lain
(Bambang, 2009). Metode yang familiar digunakan adalah metode kuadrat terkecil/ordinary Least
Square (OLS), karena mudah penggunaanya. Ada beberapa asumsi yang harus dipenuhi dalam OLS
agar hasil estimasinya bersifat BLUE (best linear unbiased estimator ), yaitu : (1) sisaan menyebar
normal dengan 0 dan , (2) sisaan memiliki ragam yang homogeny(homoskedasitas), (3) sisaan menyebar bebas yakni ( , ) ( , ) 0 (serialindependent ). Namun OLS memiliki kekurangan yakni sensitive terhadap pencilan/outlier. karena
apabila terdapat outlier maka akan terjadi penyimpangan pendugaan OLS atau terjadi bias
estimasi. Sehingga model regresi dapat memberikan gambaran hubungan yang jauh dari keadaan
sebenarnya. Untuk mengatasi hal tersebut dibutuhkan suatu penduga robust (kekar) yang
mempunyai kemampuan mendeteksi pencilan sekaligus menyesuaikan dugaan parameter regresi,
sehingga memberikan hasil yang resistant (stabil).
Regresi robust menjadi alternatif solusi dalam mengatasi hal tersebut. Regresi kekar terhadap
outlier tersebut diperkenalkan Andrews (1972). Regresi robust yang baik adalah yang sebanding
dengan OLS tanpa outlier. Suatu estimator semakin robust terhadap outlier ketika memiliki
efisiensi dan breakdown point yang tinggi. Kemungkinan tertinggi breakdown point untuk sebuah
estimator adalah 50%. Ada 8 prosedur estimasi parameter dalam regresi robust, antara lain:a. Estimasi M
b. Estimasi Least Trimmed Square (LTS)
c. Estimasi S
d.
Estimasi MM
e. Estimasi LMS
f. Estimasi W
g.
Estimasi L
h.
Estimasi R
-
8/17/2019 Makalah Regresi Robust (Tiar Indarto G152144051)
4/25
2
Masalah yang akan dibahas dalam tulisan makalah ini adalah pengujian ketidakpenuhan asumsi
klasik, cara pendeteksian outlier dan pendugaan model pada data penjualan rokok tahun 2012 di
yogyakarta dengan menggunakan metode regresi robust hingga didapat persamaan model
terbaiknya.
2. TUJUAN
Tujuan dari penulisan makalah ini adalah untuk menggunakan regresi robust estimasi M IRLS
dengan fungsi pembobot Huber dan Bisquare Tukey dan regresi robust estimasi LTS pada data
yang terdapat outlier .
B. TINJAUAN PUSTAKA
1.
REGRESI LINEAR BERGANDA
Menurut Montgomery and Peck (1992), secara umum peubah tak bebas y kemungkinan
berhubungan dengan k peubah bebas. Model ini : = β 0 + β 1 x i1 + β 2 x i2 + … + β k x ik + ε i (1) adalah peubah tak bebas pada pengamatan ke-i , x i1 , x i2 , …, x ik adalah nilai peubah bebas padapengamatan ke-i dan parameter ke-k , β0 , β1 , … , βk adalah parameter regresi, dan εi adalah error
pengamatan ke-i .
2. OLS UNTUK REGRESI LINEAR BERGANDA
Dalam kasus k -peubah bebas, penaksir metode kuadrat terkecil diperoleh dengan
meminimumkan :∑ = = ∑ = ∑ = )2 (2) di mana ∑ = adalah jumlah kuadrat sisaan. Dalam notasi skalar, metode kuadrat terkeciltercapai dalam menduga β0 , β1 , … , βk sehingga ∑ = sekecil mungkin. Ini dicapai denganmenurunkan persamaan (2) secara parsial terhadap
0 ,
1 , … ,
k dan menyamakan hasil yang
diperoleh dengan nol.
Berdasarkan Montgomery and Peck (1992), dalam notasi matriks, metode kuadrat terkecil sama
dengan meminimumkan .Dengan persamaan : (3) Oleh karena itu,
2 (4)
-
8/17/2019 Makalah Regresi Robust (Tiar Indarto G152144051)
5/25
3
adalah matrik 1 x 1, atau suatu skalar. Transposenya adalah skalar.Pendugaan metode kuadrat terkecil harus memenuhi :
∑ 2 2 (5) Bila disederhanakan menjadi :2 2 0 2 2 (6) Untuk menyelesaikan persamaan (6) kalikan keduannya dengan invers dari . jadi pendugaankuadrat terkecil dari adalah − (7) 3. UJI ASUMSI MODEL REGRESI LINEAR
a. UJI NORMALITAS
Pada regresi linier klasik diasumsikan bahwa tiap εi didistribusikan normal dengan lambang :~0,. Uji statistik yang dapat digunakan untuk menguji normalitas residual adalah ujistatistik Kolmogorov-Smirnov (K-S).
b. UJI MULTIKOLINIERITAS
Menurut Montgomery and Peck (1992), untuk mendeteksi ada atau tidaknya multikolinieritas di
dalam model regresi, dapat dilihat pada nilai VIF (variance inflation factors).
VIF j =− (8)
dengan adalah nilai koefisien determinasi yang diperoleh dari meregresikan peubah bebas x j dengan peubah bebas lainnya. Nilai VIF > 10 menunjukkan multikolinieritas yang kuat.
c. UJI HOMOSKEDASITAS
Untuk menguji ada tidaknya kesamaan variansi residual dari satu pengamatan ke pengamatan
yang lain. Uji ini dapat menggunakan Scatter plot. Sumbu X adalah nilai-nilai prediksi ZPRED =
Regression Standartdized Predicted Value. Jika garfik yang diperoleh menunjukkan adanya pola
tertentu dari titik-titik yang ada, dikatakan terjadinya heteroskedastisitas. Akan tetapi, jika tidak
membentuk pola tertentu, dikatakan tidak terjadi heteroskedastisitas.
d. UJI AUTOKORELASI
Menurut Gujarati (1997), dengan menggunakan lambing : E( , εj) = 0 ; i ≠ j. Secara sederhanadapat dikatakan model klasik mengasumsikan bahwa error yang berhubungan dengan
pengamatan tidak dipengaruhi oleh error yang berhubungan dengan pengamatan lain yang
-
8/17/2019 Makalah Regresi Robust (Tiar Indarto G152144051)
6/25
4
manapun. Salah satu cara yang dapat digunakan untuk mendeteksi masalah autokorelasi adalah
dengan uji Durbin Watson.
Dengan terpenuhi semua asumsi regresi linier di atas, model yang dihasilkan dianggap baik untuk
melihat pengaruh peubah-peubah bebas terhadap peubah-peubah tak bebas. Selanjutya, model
dapat digunakan sebagai penduga.
4. PENCILAN (OUTLIER)
Menurut Montgomery and Peck (1992), pencilan adalah suatu pengamatan yang ekstrim. Residual
yang nilai mutlaknya jauh lebih besar daripada yang lain dan bisa jadi terletak tiga atau empat
simpangan baku dari rata-ratanya adalah yang menyebabkan data sebagai pencilan. Pencilan
adalah titik-titik data yang tidak setipe dengan titik data yang lainnya.
Menurut Draper and Smith (1992), adakalanya pencilan memberikan informasi yang tidak bisa
diberikan oleh titik data lainnya. Berdasarkan Montgomery and Peck (1992), sebagai kaidah
umum, pencilan baru ditolak jika setelah ditelusuri ternyata merupakan akibat dari kesalahan-
kesalahan seperti memasukkan ukuran atau anlisis yang salah, ketidaktepatan pencatatan data,
dan terjadi kerusakan alat pengukuran. Bila ternyata bukan akibat dari kesalahan-kesalahan
semacam itu, penyelidikan yang seksama harus dilakukan. Menghapus data tersebut untuk
“memperbaiki persamaan yang cocok” dapat berbahaya, tindakan tersebut dapat menimbulkan
kesalahan ketelitian dalam mengestimasi atau memprediksi. Ryan (1997) mengelompokkan
pencilan dalam berbagai tipe :
a. Pencilan-x, yakni pengamatan yang hanya menyimpang pada sumbu x saja. Pengamatan ini
disebut juga sebagai titik leverage.
b.
Pencilan-y, yakni pengamatan yang menyimpang hanya karena arah peubah tak bebasnya.
c.
Pencilan-x,y, yaitu pengamatan yang menyimpang pada keduanya yakni pada peubah x dan
peubah y.
Untuk mendeteksi adanya pencilan dapat dilakukan dengan beberapa metode sebagai berikut:
a. Standardized residual
Standardized residual merupakan nilai residual yang distandarkan. Nilai ini digunakan untuk
mendeteksi pencilan. Jika | ri | > 2 atau | r i | > 3, maka data pada pengamatan ke-i merupakan
pencilan y.
b. Deleted (Studentized Residual )
Deleted Studentized Residual merupakan nilai-nilai standardized residual dimana observasi ke-i
dihilangkan. Nilai ini digunakan untuk mendeteksi ada atau tidaknya pencilan. Data dikatakan
pencilan jika ti > ( α, n-p) dengan p adalah banyak parameter.
-
8/17/2019 Makalah Regresi Robust (Tiar Indarto G152144051)
7/25
5
c. DFITS
DFITS yaitu mengukur pengaruh suatu pengamatan terhadap nilai dengan respon ketika suatu
pengamatan tidak disertakan dalam analisis. Nilai ini digunakan untuk mendeteksi pengaruh
pengamatan ke-i terhadap nilai ̂ dirinya sendiri. Jika nilai | DFITS | > 2 √ dengan p menyatakan jumlah parameter dalam model bersangkutan maka hal ini merupakan pengamatan berpengaruh. 5. REGRESI ROBUST
Menurut Chen (2002), regresi robust adalah sebuah alat yang penting untuk menganalisis data
yang terkontaminasi pencilan. Tujuan utama regresi robust adalah untuk memberikan hasil
yang stabil karena kehadiran pencilan.
a.
Estimasi M
Berikut adalah diagram alur pembentukan model estimasi M :
Mulai
Mencari estimasi baru dengan weighted least
square.
Estimasi parameter b dengan OLS
Menghitung fungsi pembobot melalui (,− )
Paramater
(−)
Pengujian
signifikansi
parameter
Tidak terpenuhi
r e v i s i
Model estimasi M
selesai
ya
ya
Tidak konvergen
-
8/17/2019 Makalah Regresi Robust (Tiar Indarto G152144051)
8/25
6
Estimasi M diperkenalkan oleh Huber pada tahun 1973 dan ini merupakan pendekatan yang
paling sederhana baik secara teori maupun perhitungan. Diketahui: ⋯ (9)iii
x y ' (10)
Untuk observasi ke-i dari n observasi, model yang sesuai adalah, ⋯ (11)iii eb x y
' (12)
Estimator M umumnya dengan meminimumkan fungsi objektifnya adalah,∑ ∑ == (13)Dimana fungsi ρ memberikan kontribusi untuk setiap residual dari untuk fungsi objektifnya.
Misalkan ′ dengan merupakan turunan dari ρ. Untuk meminimumkan fungsi objektif,maka fungsi objektif akan diturunkan terhadap dan hasilnya persamaan, sebagai berikut :∑ 0= (14) merupakan fungsi influence yang digunakan dalam memperoleh bobot (weight ). Denganfungsi pembobot ∗∗ dimana ∗ merupakan residual yang distandarkan, makapersamaannya menjadi :
∑ 0= (15)
Apabila dinotasikan dalam matrik : , bentuk matrik tersebut dinamakanleast square dengan penimbang (weighted least square) yang akan meminimalkan∑ = . Weighted least square dapat digunakan untuk mendapatkan estimasi M,estimasi parameternya menjadi : − (16)Penimbang tergantung pada residual, residual tergantung pada koefisiean yang diestimasi,
dan koefisien yang diestimasi tergantung pada penimbang. Untuk menyelesaikan masalah
tersebut dilakukan proses iterasi yang disebut sebagai Iteratively Reweighted Least-Square
(IRLS). Langkah – langkahnya sebagai berikut :
1) Pilih estimasi b(0) , seperti estimasi least-squares.
2) Pada setiap iterasi , hitung residuals ei l-1 dan asosiasikan penimbang w i (l-1) =w[ei (l-1) ] dari iterasi sebelumnya.
3)
Penyelesaian untuk estimasi penimbang baru.
[ ′−
]−
′−
(17)
-
8/17/2019 Makalah Regresi Robust (Tiar Indarto G152144051)
9/25
7
dengan 1lw merupakan matrik diagonal dengan elemen diagonalnya adalah 1, liw .
Sehingga estimasi parameter pada iterasi pertama ( l = 1 ) menggunakan ei,0 dan 0,iw .
4)
Langkah 2 dan 3 diulangi sampai koefisien yang diestimasi konvergen.
Tiga bentuk estimasi M diantaranya estimasi least square, Huber dan Tukey bisquare
(biweight ). Bentuk fungsi objektif , fungsi influence dan fungsi pembobot untuk ketiga jenis
estimasi M sebagai berikut :
Metode Least Square Huber Tukey Bisquare
Fungsi
objektif
2** )()( i LS ee
r euntuk r er
r euntuk e
e
ii
ii
H ||,2/||
||,2/)(
)(*2*
*2*
*
r euntuk r
r euntuk e
i
ir
ek i
*2
*
32
6*
B
6/
11)(
*2
Fungsi
influence
**
)( i LS ee
r euntuk r r euntuk r
r euntuk e
e
i
i
ii
*
*
**
*
H
r euntuk
r euntuk ee
i
ir
e
ii
*
*22
*
*
B 0
1*
Fungsi
Pembobot 1)( * ew LS
r euntuk er
r euntuk ew
ii
i
**
*
*
H/
1
r euntuk
r euntuk ew
i
ir
ei
*
*22
*B
0
1*
Tabel 1 Fungsi objektif, fungsi influence, dan fungsi pembobot pada estimasi M (Sumber : Fox (2002),
Mongomery (1992))
Nilai r pada fungsi objektif, influence dan pembobot adalah tunning constant. Kuzmic et.al
(2004) menyebutkan estimasi M Huber efektif digunakan pada α = 5% dengan r=1,345,
sedangkan estimasi M Tukey Bisquare dengan r=4,685. Kelly (2008) menyatakan
permasalahan dalam estimasi regresi robust adalah perlu dilakukan pemilihan tunning
constant agar estimasi yang diperoleh lebih spesifik dan memimimumkan jumlah kuadrat
residual. Apabila menurunkan tunning constant akan menaikan pembobot terhadap residual
yang besar, sedangkan menaikkan tunning constant akan menurunkan pembobot terhadap
residual yang besar. Semakin besar r maka estimasi robust akan mendekati least square.
Setelah estimasi telah didapatkan, maka langkah selanjutnya adalah melakukan pengujian
parameter dalam model regresi bertujuan untuk mengetahui apakah parameter tersebut
telah menunjukkan hubungan yang nyata antara variabel prediktor dan variabel respon.
Disamping itu juga untuk mengetahui kelayakan parameter dalam menerangkan model.
Terdapat dua tahap pengujian yaitu uji serentak dan uji parsial (individu).
1)
Uji Serentak
Uji serentak merupakan pengujian secara bersama semua parameter dalam model regresi.
Hipotesis yang digunakan adalah sebagai berikut :
H0 : 0 = 1 = ... = j = 0
-
8/17/2019 Makalah Regresi Robust (Tiar Indarto G152144051)
10/25
8
H1 : paling tidak ada satu j 0, j = 0, 1, ... k
Statistik uji yang digunakan untuk OLS adalah
Fhitung = MSE
MSR =
)1/()ˆ(
)/()ˆ(
1
2
1
2
k n y y
k y y
n
i
ii
n
i
i
Sedangkan untuk Weighted least squares (WLS)
Fhitung(weighted) =
weighted
weighted
MSE
MSR
=
)1/()ˆ(
)/()ˆ(
1
2
1
2
k n y yw
k y yw
n
i
iii
n
i
ii
(18)
Ket : MSR : Mean Square Regression
MSE : Mean Square Error
Pengambilan keputusan adalah apabila Fhitung F (k, n-k-1) dengan k adalah parameter maka H0
ditolak pada tingkat signifikansi , artinya paling sedikit ada satu j yang tidak sama dengan
nol. Pengambilan keputusan juga dapat melalui P-value dimana H0 ditolak jika P-value < α.
2)
Uji Parsial
Uji parsial merupakan pengujian secara individu parameter dalam model regresi yang
bertujuan untuk mengetahui parameter model regresi telah signifikan atau tidak. Hipotesis
yang digunakan adalah sebagai berikut :
H0 : j = 0
H1 : j 0, j = 0, 1, 2, ..., k
Statistik uji yang digunakan untuk metode OLS adalah
)( j
j
hitungbS bt (19)
Dengan
MSE X X bS T
j
12 )()( (20)
Sedangkan untuk metode Weighted least squares (WLS)
)( )(
)(
)(
weighted j
weighted j
weighted hitungbS
bt (21)
dengan )( )(2
weighted jbS merupakan diagonal matrik kovarian.
-
8/17/2019 Makalah Regresi Robust (Tiar Indarto G152144051)
11/25
9
Pengambilan keputusannya yaitu apabila |thitung| t(1-/2, n-k-1) dengan k adalah parameter
maka H0 ditolak pada tingkat signifikansi , artinya ada pengaruh xi terhadap model.
Pengambilan keputusan juga dapat melalui P-value, dimana H0 ditolak jika P-value < α.
b. Estimasi Least Trimmed Square (LTS)
Langkah – langkah yang dilakukan dalam mengestimasi parameter regresi robust dengan
estimasi LTS, sebagai berikut :
1)
Menghitung kuadrat residual () urutkan dari yan terkecil sampai terbesar danmenghitung h dimana ℎ ++ .
2) Menghitung ∑ = . 3)
Melakukan estimasi parameter dari ℎ pengamatan. 4) Menentukan kuadrat residual
dari
ℎ pengamatan.
5)
Menghitung . 6) Melakukan iterasi dari langkah 4 s.d. 5 sampai mendapatkan fungsi objektif (h) yang
terkecil dan konvergen ke nol.
7)
Kemudian lakukan uji hipotesis untuk mengetahui apakah variabel bebas mempunyai
pengaruh yang signifikan terhadapa variabel tak bebas.
c. Estimasi S
Langkah – langkah yang dilakukan dalam mengestimasi parameter regresi robust dengan
metode estimasi S, sebagai berikut :
1) Menghitung nilai residual yakni ̂ 2) Menghitung standar deviasi sisaan
̂ | |0.6745 ,1 1 = , >1
Dengan
0.199
3) untuk mendapatkan nilai 4)
Menghitung nilai pembobot 1 1.54722 , || ≤1.5470 , || ≥1.547 5) Menghitung nilai koefisien parameter penduga ′1 ′ 6)
Dari koefisien parameter penduga yang didapat kembali ulangi langkah 1 s.d. 4 sampai
didapatkan kekonvergenan.
-
8/17/2019 Makalah Regresi Robust (Tiar Indarto G152144051)
12/25
10
7)
Kemudian lakukan uji hipotesis untuk mengetahui apakah variabel bebas mempunyai
pengaruh yang signifikan terhadapa variabel tak bebas.
d. Estimasi MM
Estimasi MM merupakan gabungan dari estimasi S dan estimasi M. Prosedur estimasi ini
adalah dengan mengestimasi parameter regresi menggunakan estimasi S yang
meminimumkan skala sisaan dari estimasi M dan dilajutkan dengan estimasi M. langkah-
langkahnya sebagai berikut :
1)
Menghitung nilai sisaan ̂ dari estimasi S2)
Menghitung nilai ̂ 3) Menghitung nilai 4)
Menghitung pembobot
1 4.6850, || ≤4.685, || ≥4.685
5)
Menghitung parameter estimasi MM dengan metode WLS dengan pembobot 6)
Mengulangi langkah 2 s.d. 4 sampai diperoleh nilai estimasi MM yang konvergen.7) Kemudian lakukan uji hipotesis untuk mengetahui apakah variabel bebas mempunyai
pengaruh yang signifikan terhadapa variabel tak bebas.
e.
Estimasi LMS
LMS (Least Median of Square) didefenisikan sebagai vector-p, argmin Dimana, < < ⋯ < adalah error (residual) kuadrat yang diurutkan, ( ), 1,…,,
h didefenisikan sebagai interval dari
1 ≤ ℎ ≤ ++. Nilai breakdown untuk
estimasi LMS juga bernilai − . Namun, estimasi LTS mempunyai beberapa keunggulandibandingkan dengan estimasi LMS. Fungsi objektifnya “lebih halus”, membuat LTS lebih stabil
(kecuali sensitive untuk efek local) daripada estimasi LMS. Efisensi statistiknya lebih baik
karena estimasi LTS normal secara asymptotic dimana estimasi LMS memiliki tingkat
konvergensi yang lebih rendah.
-
8/17/2019 Makalah Regresi Robust (Tiar Indarto G152144051)
13/25
11
f. Estimasi W
Estimasi W mewakili bentuk alternative dari estimasi M. Masing-masing estimasi W
mempunyai karakteristik fungsi penimbang W(.) menggambarkan pentingnya tiap sample
dalam kontribusinya pada estimasi T , yang dihubungkan pada estimasi M yang bersesuaian
mengikuti . Parameter optimal diperoleh dengan menyelesaikan, ∑ = 0 Yang sama seperti persamaan untuk masalah regresi Weighted Least Square. W-Estimator
menawarkan prosedur penghitungan iterative M-Estimator yang sederhana dan
menyenangkan, dimana persamaan W-Estimator dalam iterasi sekarang diselesaikan dengan
perbaikan nilai penimbang, , pada iterasi sebelumya. Prosedur untuk memperoleh hasilmerujuk pada Iterative Reweighted Least-Square (IRLS atau RLS). Seperti pada kasus estimator
M dan W, IRLS bergantung pada skala prefix dan akurat untuk defenisi penimbangnya. Skala
estimasi yang paling umum digunakan adalah 1,483 x MAD.
g. Estimasi L
Estimasi L didasarkan pada order statistic (statistic terurut), sebagai contoh andaikan kita ingin
mengestimasi parameter lokasi suatu distribusi dari sample acak , , … , . Order statisticsampel ini adalah ≤ ≤ ⋯ ≤ . Median sample merupakan estimasi L, karena itumerupakan suatu ukuran lokasi order statistic.
h.
Estimasi R
Sebagai tambahan terhadap estimator M, ada pendekatan lain untuk regresi robust. Estimasi
R adalah prosedur yang didasarkan pada ranking (urutan). Untuk menggambarkan prosedur
yang umum, ganti satu factor pada fungsi sasaran kuadrat terkecil ∑ = dengan rankingnya. Demikian jika adalah ranking dari , lalu kita inginmeminimalkan ∑ = . Lebih umumnya, kita dapat mengganti ranking (yang manainteger 1,2,…,n) dengan fungsi skor a(i)=1,2,…,n, sehingga fungsi sasarannya menjadi :
min = Jika kita menetapkan fungsi skor sama dengan ranking (ranks), a(i)=i , hasilnya disebut skor
Wilcoxon. Kemungkinan lain adalah menggunakan skor median, dimana a(i)=-1 jika < + dan a(i)=1 jika > + .
-
8/17/2019 Makalah Regresi Robust (Tiar Indarto G152144051)
14/25
12
C. PEMBAHASAN
1. PENERAPAN ESTIMASI M
a. Estimasi M (Huber)
Data pengamatan penjualan rokok tahun 2012 di yogyakarta:
No Sales (y) jml outlet
(X1)
iklan radio
(X2)
iklan out
(X3)
iklan koran
(X4)
1 215.36 7 13.23 27.9 20.98
2 295.15 5 13.44 32.28 22.41
3 254.26 10 15.26 29.49 22.98
4 452.62 5 18.45 39.17 23.21
5 150.5 8 19.58 34.25 23.25
6 320.14 8 12.03 33.63 23.45
7 254.25 6 13.87 29.38 24.86
8 235.26 9 15.69 29.19 24.889 302.21 9 16.35 32.82 25
10 120.35 8 12.88 33.44 25.12
11 222.32 8 18.97 29.14 25.87
12 265.99 11 12.05 32.09 25.89
13 300.12 7 12.23 32.33 26.23
14 265.21 5 15.87 30.22 26.23
15 110.6 6 13.67 35.42 26.25
16 323.45 9 18.29 33.72 28.94
17 362.02 8 15.26 35.84 29.8
18 423 5 13.56 37.12 32.2619 400.23 9 18.78 36.1 32.79
20 412.6 6 13.02 36.85 33.45
21 423.22 7 16.59 37.44 33.98
22 400.25 9 14.23 36.15 34.55
23 366.25 9 15.26 35.92 34.76
24 435.23 8 15.78 38.2 35.99
25 430.22 10 13.33 37.91 36.21
26 352.16 9 12.89 34.79 36.25
27 365.21 8 12.45 35.91 36.87
28 415.25 8 19.25 36.96 36.9929 451.29 8 14.32 38.98 40.12
30 512.33 8 13.45 39.33 44.98
-
8/17/2019 Makalah Regresi Robust (Tiar Indarto G152144051)
15/25
13
Dilakukan uji asumsi terlebih dahulu, yakni :
Pertama, uji normalitas :
150100500-50-100-150-200-250
99
95
90
80
70
60
50
40
30
20
10
5
1
RESI1
P e r c e n t
Mean -1.65793E-13
StDev 62.06
N 30
KS 0.222
P -Valu e
-
8/17/2019 Makalah Regresi Robust (Tiar Indarto G152144051)
16/25
14
Output minitab :
b.
c.
d.
e.
f.
g.
h.
i.
j.
k.
l.
m.
n.
o.
p.
q.
r.
s.
t.
u. Dengan menggunakan minitab didapatkan model regresinya adalah :
v. Y = - 296 - 5.27 X1 + 2.15 X2 + 11.1 X3 + 8.38 X4
w. Model tersebut merupakan hasil metode OLS.
x.
y.
z.
aa.
bb.
Didapatkan model : Y = - 296 - 5.27 X1 + 2.15 X2 + 11.1 X3 + 8.38 X4
The regression equation is
Y = - 296 - 5.27 X1 + 2.15 X2 + 11.1 X3 + 8.38 X4
Predictor Coef SE Coef T P
Constant -296.0 175.3 -1.69 0.104
X1 -5.272 8.390 -0.63 0.535
X2 2.149 5.398 0.40 0.694
X3 11.127 5.882 1.89 0.070
X4 8.380 3.215 2.61 0.015
S = 66.8377 R-Sq = 64.0% R-Sq(adj) = 58.2%
Analysis of Variance
Source DF SS MS F P
Regression 4 198473 49618 11.11 0.000
Residual Error 25 111682 4467Total 29 310155
Source DF Seq SS
X1 1 22
X2 1 268
X3 1 167831
X4 1 30352
Unusual Observations
Obs X1 Y Fit SE Fit Residual St Resid
4 5.0 452.6 347.6 46.6 105.0 2.19R
5 8.0 150.5 279.8 31.8 -129.3 -2.20R10 8.0 120.3 272.1 21.8 -151.7 -2.40R
15 6.0 110.6 315.8 23.3 -205.2 -3.28R
R denotes an observation with a large standardized residual.
-
8/17/2019 Makalah Regresi Robust (Tiar Indarto G152144051)
17/25
15
Kemudian dilakukan pengujian dengan nilai standarized residual , dan DFITS. Hasilnya sebagai
berikut :
Berdasarkan nilai standarized residual dan DFITS bahwa observasi ke 4, 5, 10, dan 15
terindikasi sebagai outlier.
No. Y X1 X2 X3 X4 RESI1 SRES1 Ket DFIT1 Ket
1 215.36 7 13.23 27.9 20.98 33.60611 0.558925 bukan 0.267548 bukan
2 295.15 5 13.44 32.28 22.41 41.68024 0.688291 bukan 0.318063 bukan
3 254.26 10 15.26 29.49 22.98 49.50712 0.81805 bukan 0.380858 bukan
4 452.62 5 18.45 39.17 23.21 105.0144 2.192299 outlier 2.325677 outlier
5 150.5 8 19.58 34.25 23.25 -129.308 -2.19936 outlier -1.29745 outlier
6 320.14 8 12.03 33.63 23.45 61.77952 1.025108 bukan 0.492108 bukan
7 254.25 6 13.87 29.38 24.86 16.8644 0.28069 bukan 0.134248 bukan
8 235.26 9 15.69 29.19 24.88 11.72612 0.189704 bukan 0.07651 bukan
9 302.21 9 16.35 32.82 25 35.86113 0.564972 bukan 0.183758 bukan
10 120.35 8 12.88 33.44 25.12 -151.718 -2.40083 outlier -0.92369 outlier
11 222.32 8 18.97 29.14 25.87 -21.275 -0.3742 bukan -0.22725 bukan
12 265.99 11 12.05 32.09 25.89 20.09009 0.358121 bukan 0.227852 bukan
13 300.12 7 12.23 32.33 26.23 27.22495 0.429757 bukan 0.142166 bukan
14 265.21 5 15.87 30.22 26.23 -2.57364 -0.04508 bukan -0.02689 bukan
15 110.6 6 13.67 35.42 26.25 -205.212 -3.27562 outlier -1.57932 outlier
16 323.45 9 18.29 33.72 28.94 9.898683 0.158066 bukan 0.057791 bukan
17 362.02 8 15.26 35.84 29.8 18.91155 0.29062 bukan 0.066872 bukan
18 423 5 13.56 37.12 32.26 32.86992 0.540145 bukan 0.241811 bukan
19 400.23 9 18.78 36.1 32.79 26.87856 0.436059 bukan 0.179808 bukan
20 412.6 6 13.02 36.85 33.45 21.934 0.350028 bukan 0.12756 bukan
21 423.22 7 16.59 37.44 33.98 19.14765 0.29964 bukan 0.090166 bukan
22 400.25 9 14.23 36.15 34.55 21.37045 0.331832 bukan 0.090473 bukan
23 366.25 9 15.26 35.92 34.76 -14.0437 - 0.2178 bukan -0.05829 bukan
24 435.23 8 15.78 38.2 35.99 12.86916 0.201158 bukan 0.05966 bukan
25 430.22 10 13.33 37.91 36.21 25.05154 0.411587 bukan 0.183596 bukan26 352.16 9 12.89 34.79 36.25 -22.954 -0.36657 bukan -0.1344 bukan
27 365.21 8 12.45 35.91 36.87 -31.8887 -0.50844 bukan -0.18443 bukan
28 415.25 8 19.25 36.96 36.99 -9.15084 -0.15439 bukan -0.07887 bukan
29 451.29 8 14.32 38.98 40.12 -11.2238 -0.18023 bukan -0.06887 bukan
30 512.33 8 13.45 39.33 44.98 7.062236 0.122821 bukan 0.071332 bukan
-
8/17/2019 Makalah Regresi Robust (Tiar Indarto G152144051)
18/25
16
Untuk penentuan nilai bobotnya menggunakan fungsi influence dan fungsi pembobot Huber, sebagai berikut :
No. SRES1 |SRES1| PSI(e*)1 W(e*)1 SRES2 |SRES2| PSI(e*)2 W(e*)2 SRES3 |SRES3| PSI(e*)3 W(e*)3 SRES4 |SRES4| PSI(e*)4 W(e*)4 SRES5 |SRES5| PSI(e*)5 W(e*)5 SRES6 |SRES6| PSI(e*)6 W(e*)6 SRES7 |SRES7| PSI(e*)7 W(e*)7 SRES8 |SRES8| PSI(e*)8 W(e*)8
1 0.558925 0.558925 0.558925 1 0.484098 0.484098 0.484098 1 0.508731 0.508731 0.508731 1 0.504845 0.504845 0.504845 1 0.505125 0.505125 0.505125 1 0.505387 0.505387 0.505387 1 0.505154 0.505154 0.505154 1 0.5053 0.5053 0.5053 1
2 0.688291 0.688291 0.688291 1 0.51496 0.51496 0.51496 1 0.463391 0.463391 0.463391 1 0.468679 0.468679 0.468679 1 0.468194 0.468194 0.468194 1 0.467788 0.467788 0.467788 1 0.468065 0.468065 0.468065 1 0.467909 0.467909 0.467909 1
3 0.81805 0.81805 0.81805 1 0.899105 0.899105 0.899105 1 0.884795 0.884795 0.884795 1 0.89634 0.89634 0.89634 1 0.890208 0.890208 0.890208 1 0.893449 0.893449 0.893449 1 0.891791 0.891791 0.891791 1 0.89264 0.89264 0.89264 1
4 2.192299 2.192299 1.345 0.613511 1.639048 1.639048 1.345 0.820598 1.746154 1.746154 1.345 0.770264 1.717176 1.717176 1.345 0.783263 1.725827 1.725827 1.345 0.779336 1.722521 1.722521 1.345 0.780832 1.724016 1.724016 1.345 0.780155 1.72325 1.72325 1.345 0.780502
5 -2.19936 2.199362 -1.345 0.611541 -2.41171 2.411706 -1.345 0.557697 -2.35867 2.358673 -1.345 0.570236 -2.38243 2.382426 -1.345 0.56455 -2.37229 2.37229 -1.345 0.566963 -2.37693 2.376928 -1.345 0.565856 -2.37484 2.374845 -1.345 0.566353 -2.3758 2.375797 -1.345 0.566126
6 1.025108 1.025108 1.025108 1 0.875204 0.875204 0.875204 1 0.814381 0.814381 0.814381 1 0.827852 0.827852 0.827852 1 0.822621 0.822621 0.822621 1 0.824799 0.824799 0.824799 1 0.823716 0.823716 0.823716 1 0.824268 0.824268 0.824268 1
7 0.28069 0.28069 0.28069 1 0.222582 0.222582 0.222582 1 0.260127 0.260127 0.260127 1 0.250557 0.250557 0.250557 1 0.253793 0.253793 0.253793 1 0.252546 0.252546 0.252546 1 0.253094 0.253094 0.253094 1 0.252837 0.252837 0.252837 1
8 0.189704 0.189704 0.189704 1 0.172999 0.172999 0.172999 1 0.190385 0.190385 0.190385 1 0.19147 0.19147 0.19147 1 0.18926 0.18926 0.18926 1 0.190773 0.190773 0.190773 1 0.189938 0.189938 0.189938 1 0.190374 0.190374 0.190374 1
9 0.564972 0.564972 0.564972 1 0.530654 0.530654 0.530654 1 0.466529 0.466529 0.466529 1 0.48344 0.48344 0.48344 1 0.476893 0.476893 0.476893 1 0.479655 0.479655 0.479655 1 0.478352 0.478352 0.478352 1 0.478986 0.478986 0.478986 1
10 -2.40083 2.400834 -1.345 0.560222 -2.61656 2.616557 -1.345 0.514034 -2.50247 2.502466 -1.345 0.53747 -2.57163 2.571626 -1.345 0.523015 -2.53385 2.53385 -1.345 0.530813 -2.55398 2.553979 -1.345 0.526629 -2.5434 2.543404 -1.345 0.528819 -2.54893 2.548933 -1.345 0.527672
11 -0.3742 0.374201 -0.3742 1 -0.40607 0.406075 -0.40607 1 -0.40282 0.402816 -0.40282 1 -0.40151 0.401506 -0.40151 1 -0.40282 0.402821 -0.40282 1 -0.40208 0.402084 -0.40208 1 -0.40243 0.402432 -0.40243 1 -0.40228 0.40228 -0.40228 1
12 0.358121 0.358121 0.358121 1 0.116924 0.116924 0.116924 1 0.121526 0.121526 0.121526 1 0.127039 0.127039 0.127039 1 0.121259 0.121259 0.121259 1 0.124775 0.124775 0.124775 1 0.122805 0.122805 0.122805 1 0.12385 0.12385 0.12385 1
13 0.429757 0.429757 0.429757 1 0.276113 0.276113 0.276113 1 0.282612 0.282612 0.282612 1 0.279701 0.279701 0.279701 1 0.280216 0.280216 0.280216 1 0.280121 0.280121 0.280121 1 0.280088 0.280088 0.280088 1 0.280128 0.280128 0.280128 1
14 -0.04508 0.045081 -0.04508 1 -0.12166 0.121662 -0.12166 1 -0.10069 0.100691 -0.10069 1 -0.11011 0.110107 -0.11011 1 -0.10575 0.105749 -0.10575 1 -0.10791 0.107911 -0.10791 1 -0.10682 0.106818 -0.10682 1 -0.10738 0.107379 -0.10738 1
15 -3.27562 3.275624 -1.345 0.410609 -2.95081 2.950813 -1.345 0.455807 -3.13131 3.131312 -1.345 0.429532 -3.04593 3.045932 -1.345 0.441572 -3.08839 3.088387 -1.345 0.435502 -3.067 3.066997 -1.345 0.43854 -3.07789 3.077894 -1.345 0.436987 -3.07233 3.072328 -1.345 0.43777916 0.158066 0.158066 0.158066 1 0.164222 0.164222 0.164222 1 0.110527 0.110527 0.110527 1 0.1247 0.1247 0.1247 1 0.119433 0.119433 0.119433 1 0.121574 0.121574 0.121574 1 0.120609 0.120609 0.120609 1 0.12106 0.12106 0.12106 1
17 0.29062 0.29062 0.29062 1 0.170904 0.170904 0.170904 1 0.117981 0.117981 0.117981 1 0.128131 0.128131 0.128131 1 0.124711 0.124711 0.124711 1 0.125911 0.125911 0.125911 1 0.125375 0.125375 0.125375 1 0.125625 0.125625 0.125625 1
18 0.540145 0.540145 0.540145 1 0.473021 0.473021 0.473021 1 0.438018 0.438018 0.438018 1 0.438526 0.438526 0.438526 1 0.440666 0.440666 0.440666 1 0.438968 0.438968 0.438968 1 0.439916 0.439916 0.439916 1 0.43942 0.43942 0.43942 1
19 0.436059 0.436059 0.436059 1 0.589289 0.589289 0.589289 1 0.522315 0.522315 0.522315 1 0.54003 0.54003 0.54003 1 0.534411 0.534411 0.534411 1 0.536486 0.536486 0.536486 1 0.535629 0.535629 0.535629 1 0.536014 0.536014 0.536014 1
20 0.350028 0.350028 0.350028 1 0.259393 0.259393 0.259393 1 0.251646 0.251646 0.251646 1 0.248272 0.248272 0.248272 1 0.25068 0.25068 0.25068 1 0.249256 0.249256 0.249256 1 0.249983 0.249983 0.249983 1 0.249617 0.249617 0.249617 1
21 0.29964 0.29964 0.29964 1 0.314006 0.314006 0.314006 1 0.262923 0.262923 0.262923 1 0.271302 0.271302 0.271302 1 0.269864 0.269864 0.269864 1 0.269885 0.269885 0.269885 1 0.270017 0.270017 0.270017 1 0.269914 0.269914 0.269914 1
22 0.331832 0.331832 0.331832 1 0.347546 0.347546 0.347546 1 0.349146 0.349146 0.349146 1 0.350988 0.350988 0.350988 1 0.349731 0.349731 0.349731 1 0.350476 0.350476 0.350476 1 0.350073 0.350073 0.350073 1 0.350287 0.350287 0.350287 1
23 -0.2178 0.217799 -0.2178 1 -0.32887 0.328869 -0.32887 1 -0.32503 0.325033 -0.32503 1 -0.32555 0.32555 -0.32555 1 -0.32626 0.326257 -0.32626 1 -0.32575 0.325755 -0.32575 1 -0.32605 0.326053 -0.32605 1 -0.3259 0.325898 -0.3259 1
24 0.201158 0.201158 0.201158 1 0.189205 0.189205 0.189205 1 0.153896 0.153896 0.153896 1 0.160237 0.160237 0.160237 1 0.158712 0.158712 0.158712 1 0.159044 0.159044 0.159044 1 0.158958 0.158958 0.158958 1 0.158981 0.158981 0.158981 1
25 0.411587 0.411587 0.411587 1 0.388645 0.388645 0.388645 1 0.380951 0.380951 0.380951 1 0.385869 0.385869 0.385869 1 0.382974 0.382974 0.382974 1 0.384547 0.384547 0.384547 1 0.383705 0.383705 0.383705 1 0.384149 0.384149 0.384149 1
26 -0.36657 0.366565 -0.36657 1 -0.50588 0.505879 -0.50588 1 -0.43459 0.43459 -0.43459 1 -0.44915 0.44915 -0.44915 1 -0.4459 0.445901 -0.4459 1 -0.4466 0.446595 -0.4466 1 -0.44645 0.446453 -0.44645 1 -0.44648 0.446477 -0.44648 1
27 -0.50844 0.508437 -0.50844 1 -0.73786 0.73786 -0.73786 1 -0.67511 0.675108 -0.67511 1 -0.69141 0.691414 -0.69141 1 -0.68689 0.68689 -0.68689 1 -0.68839 0.688395 -0.68839 1 -0.68783 0.68783 -0.68783 1 -0.68807 0.688074 -0.68807 1
28 -0.15439 0.154389 -0.15439 1 -0.05084 0.050845 -0.05084 1 -0.08488 0.084878 -0.08488 1 -0.07782 0.077816 -0.07782 1 -0.07916 0.079162 -0.07916 1 -0.07902 0.07902 -0.07902 1 -0.07893 0.078934 -0.07893 1 -0.07903 0.079025 -0.07903 1
29 -0.18023 0.180229 -0.18023 1 -0.25214 0.252137 -0.25214 1 -0.2376 0.237601 -0.2376 1 -0.24319 0.243195 -0.24319 1 -0.24102 0.241025 -0.24102 1 -0.242 0.242003 -0.242 1 -0.24155 0.241545 -0.24155 1 -0.24177 0.24177 -0.24177 1
30 0.122821 0.122821 0.122821 1 0.305892 0.305892 0.305892 1 0.380055 0.380055 0.380055 1 0.364461 0.364461 0.364461 1 0.370391 0.370391 0.370391 1 0.368074 0.368074 0.368074 1 0.369149 0.369149 0.369149 1 0.36864 0.36864 0.36864 1
-
8/17/2019 Makalah Regresi Robust (Tiar Indarto G152144051)
19/25
17
Dengan menggunakan minitab, maka di dapatkan model regresi untuk tiap iterasi sebagai
berikut :
Iterasi ke Model regresi
1 Y = - 288 - 5.10 X1 + 0.42 X2 + 13.4 X3 + 6.55 X4
2 Y = - 312 - 5.03 X1 + 0.89 X2 + 14.4 X3 + 6.00 X4
3 Y = - 307 - 5.14 X1 + 0.78 X2 + 14.2 X3 + 6.10 X4
4 Y = - 308 - 5.06 X1 + 0.81 X2 + 14.3 X3 + 6.07 X4
5 Y = - 308 - 5.10 X1 + 0.80 X2 + 14.3 X3 + 6.08 X4
6 Y = - 308 - 5.08 X1 + 0.80 X2 + 14.3 X3 + 6.08 X4
7 Y = - 308 - 5.09 X1 + 0.80 X2 + 14.3 X3 + 6.08 X4
8 Y = - 308 - 5.09 X1 + 0.80 X2 + 14.3 X3 + 6.08 X4
Sehingga model regresi robust untuk estimasi M adalah :
Y = - 308 - 5.09 X1 + 0.80 X2 + 14.3 X3 + 6.08 X4
Kemudian dilakukan uji secara serentak (apakah keragaman Y dapat dijeaskan oleh model
regresi X terhadap Y signifikan secara statistik?) dan uji individu (apakah peubah X i
berpengaruh terhadap peubah Y apabila peubah lainnya tetap?). hasil output minitab sebagai
berikut :
Weighted analysis using weights in W(e*)8
The regression equation is
Y = - 308 - 5.09 X1 + 0.80 X2 + 14.3 X3 + 6.08 X4
Predictor Coef SE Coef T P
Constant -307.8 136.1 -2.26 0.033
X1 -5.088 6.394 -0.80 0.434
X2 0.802 4.239 0.19 0.851
X3 14.260 4.687 3.04 0.005
X4 6.077 2.586 2.35 0.027
S = 50.3678 R-Sq = 74.0% R-Sq(adj) = 69.8%
Analysis of Variance
Source DF SS MS F P
Regression 4 180198 45049 17.76 0.000
Residual Error 25 63423 2537
Total 29 243621
Source DF Seq SS
X1 1 74
X2 1 82
X3 1 166034
X4 1 14008
Unusual Observations
Obs X1 Y Fit SE Fit Residual St Resid
5 8.0 150.50 296.88 26.14 -146.38 -2.38R
10 8.0 120.35 291.32 17.28 -170.97 -2.55R
15 6.0 110.60 337.23 19.07 -226.63 -3.08R
R denotes an observation with a large standardized residual.
-
8/17/2019 Makalah Regresi Robust (Tiar Indarto G152144051)
20/25
18
Untuk uji serentak didapatkan p-value sebesar 0.000 yang lebih kecil dari alpha sebesar 0.05,
sehingga secara statistik keragaman Y dapat dijeaskan oleh model regresi X terhadap Y
signifikan. Untuk uji individu didapatkan peubah X1 dan X2 tidak signifikan, namun ini masihlebih baik dari model regresi non robust dimana ada empat peubah yang tidak signifikan yakni
constant, peubah X1, X2, dan X3.
b. Estimasi M (Tukey Bisquare)
Dengan menggunakan minitab didapatkan model regresinya adalah :
Y = - 296 - 5.27 X1 + 2.15 X2 + 11.1 X3 + 8.38 X4
Model tersebut merupakan hasil metode OLS.
Dengan menggunakan minitab, maka di dapatkan model regresi untuk tiap iterasi sebagai
berikut :
Iterasi ke Model regresi
1 Y = - 290 - 5.77 X1 + 0.09 X2 + 14.1 X3 + 6.19 X4
2 Y = - 317 - 4.58 X1 + 0.99 X2 + 14.5 X3 + 5.85 X4
3 Y = - 303 - 6.12 X1 + 0.29 X2 + 14.8 X3 + 5.83 X4
4 Y = - 316 - 4.33 X1 + 1.00 X2 + 14.4 X3 + 5.87 X4
5 Y = - 302 - 6.34 X1 + 0.28 X2 + 14.8 X3 + 5.85 X4
6 Y = - 317 - 4.04 X1 + 1.08 X2 + 14.3 X3 + 5.91 X4
7 Y = - 301 - 6.59 X1 + 0.25 X2 + 14.8 X3 + 5.89 X4
8 Y = - 318 - 3.71 X1 + 1.19 X2 + 14.2 X3 + 5.97 X4
9 Y = - 299 - 6.85 X1 + 0.21 X2 + 14.8 X3 + 5.94 X4
10 Y = - 320 - 3.38 X1 + 1.31 X2 + 14.0 X3 + 6.04 X4
11 Y = - 297 - 7.07 X1 + 0.17 X2 + 14.7 X3 + 6.00 X4
12 Y = - 321 - 3.09 X1 + 1.43 X2 + 13.9 X3 + 6.10 X4
13 Y = - 295 - 7.24 X1 + 0.14 X2 + 14.7 X3 + 6.06 X4
14 Y = - 321 - 2.89 X1 + 1.51 X2 + 13.8 X3 + 6.15 X4
15 Y = - 293 - 7.35 X1 + 0.13 X2 + 14.6 X3 + 6.11 X4
16 Y = - 322 - 2.76 X1 + 1.57 X2 + 13.7 X3 + 6.19 X4
-
8/17/2019 Makalah Regresi Robust (Tiar Indarto G152144051)
21/25
19
17 Y = - 293 - 7.42 X1 + 0.12 X2 + 14.6 X3 + 6.14 X4
18 Y = - 322 - 2.69 X1 + 1.60 X2 + 13.6 X3 + 6.21 X4
19 Y = - 292 - 7.45 X1 + 0.11 X2 + 14.6 X3 + 6.15 X4
20 Y = - 322 - 2.65 X1 + 1.62 X2 + 13.6 X3 + 6.22 X4
21 Y = - 292 - 7.47 X1 + 0.11 X2 + 14.6 X3 + 6.16 X4
22 Y = - 322 - 2.63 X1 + 1.62 X2 + 13.6 X3 + 6.23 X4
23 Y = - 292 - 7.48 X1 + 0.11 X2 + 14.6 X3 + 6.16 X4
24 Y = - 322 - 2.62 X1 + 1.63 X2 + 13.6 X3 + 6.23 X4
25Y = - 292 - 7.48 X1 + 0.11 X2 + 14.6 X3 + 6.17 X4
26 Y = - 322 - 2.62 X1 + 1.63 X2 + 13.6 X3 + 6.23 X4
27 Y = - 292 - 7.49 X1 + 0.11 X2 + 14.6 X3 + 6.17 X4
Dalam kasus ini, ternyata model regresi robust dengan tukey bisquare konvergen ke dua
model yakni :
Y = - 322 - 2.62 X1 + 1.63 X2 + 13.6 X3 + 6.23 X4
R-square R-square adj Uji F Uji T
70.4% 65.7% signifikan X1 dan X2 tidak signifikan
Dan
Y = - 292 - 7.49 X1 + 0.11 X2 + 14.6 X3 + 6.17 X4
R-square R-square adj Uji F Uji T
77.3% 73.6% signifikan X1 dan X2 tidak signifikan
Sehingga model terpilih adalah Y = - 292 - 7.49 X1 + 0.11 X2 + 14.6 X3 + 6.17 X4
-
8/17/2019 Makalah Regresi Robust (Tiar Indarto G152144051)
22/25
20
2. PENERAPAN ESTIMASI LTS
Langkah awal untuk menentukan h dimana ℎ ++ dan ∑ = digunakanmodel hasil dari OLS. Didapatkan
5798.007 dan h = 18 yang artinya 18 data baru
(telah diurutkan secara ascending berdasarkan yang akan digunakan untuk estimasiLTS iterasi ke 1, hasil output minitabnya sebagai berikut :
Dengan 577,9835.nilai h baru untuk iterasi ke 2 adalah 12 yang artinya 12 data baru yang akan digunakan,
hasil output minitab sebagai berikut :
Dengan 183.79.
The regression equation is
Y = - 365 - 5.34 X1 + 0.28 X2 + 18.3 X3 + 3.92 X4
Predictor Coef SE Coef T P
Constant -364.95 51.16 -7.13 0.000
X1 -5.342 2.276 -2.35 0.035
X2 0.275 1.493 0.18 0.857
X3 18.315 2.239 8.18 0.000
X4 3.921 1.361 2.88 0.013
S = 13.5080 R-Sq = 98.0% R-Sq(adj) = 97.4%
Analysis of VarianceSource DF SS MS F P
Regression 4 117648 29412 161.19 0.000
Residual Error 13 2372 182
Total 17 120020
Source DF Seq SS
X1 1 250
X2 1 2156
X3 1 113729
X4 1 1514
Unusual Observations
Obs X1 Y Fit SE Fit Residual St Resid
2 8.0 512.33 492.72 9.57 19.61 2.06R
R denotes an observation with a large standardized residual.
The regression equation is
Y = - 308 - 5.07 X1 - 1.55 X2 + 15.8 X3 + 5.69 X4
Predictor Coef SE Coef T P
Constant -307.54 38.89 -7.91 0.000
X1 -5.069 1.351 -3.75 0.007
X2 -1.547 1.114 -1.39 0.207
X3 15.831 2.167 7.30 0.000
X4 5.689 1.676 3.39 0.012
S = 7.56569 R-Sq = 99.5% R-Sq(adj) = 99.2%
Analysis of Variance
Source DF SS MS F P
Regression 4 78567 19642 343.15 0.000
Residual Error 7 401 57
Total 11 78967
Source DF Seq SS
X1 1 0
X2 1 114
X3 1 77793
X4 1 659
-
8/17/2019 Makalah Regresi Robust (Tiar Indarto G152144051)
23/25
21
nilai h baru untuk iterasi ke 3 adalah 9 yang artinya 9 data baru yang akan digunakan,
hasil output minitab sebagai berikut :
Dengan 37.5484.nilai h baru untuk iterasi ke 4 adalah 8 yang artinya 8 data baru yang akan digunakan,
hasil output minitab sebagai berikut :
Dengan 126.7744.
The regression equation is
Y = - 345 - 5.39 X1 - 1.49 X2 + 16.9 X3 + 5.67 X4
Predictor Coef SE Coef T PConstant -344.89 30.14 -11.44 0.000
X1 -5.3908 0.8230 -6.55 0.003
X2 -1.4929 0.7848 -1.90 0.130
X3 16.889 1.411 11.97 0.000
X4 5.675 1.042 5.45 0.006
S = 4.03036 R-Sq = 99.9% R-Sq(adj) = 99.8%
Analysis of Variance
Source DF SS MS F P
Regression 4 57117 14279 879.07 0.000
Residual Error 4 65 16
Total 8 57182
Source DF Seq SS
X1 1 26
X2 1 766
X3 1 55843
X4 1 482
The regression equation is
Y = - 321 - 5.17 X1 - 2.00 X2 + 15.7 X3 + 6.39 X4
Predictor Coef SE Coef T P
Constant -321.32 21.06 -15.26 0.001
X1 -5.1693 0.5277 -9.80 0.002
X2 -2.0034 0.5330 -3.76 0.033
X3 15.7200 0.9969 15.77 0.001
X4 6.3890 0.7129 8.96 0.003
S = 2.55122 R-Sq = 100.0% R-Sq(adj) = 99.9%
Analysis of Variance
Source DF SS MS F P
Regression 4 52540 13135 2018.07 0.000
Residual Error 3 20 7
Total 7 52560
Source DF Seq SS
X1 1 54
X2 1 1208
X3 1 50755
X4 1 523
-
8/17/2019 Makalah Regresi Robust (Tiar Indarto G152144051)
24/25
22
nilai h baru untuk iterasi ke 5 adalah 7 yang artinya 7 data baru yang akan digunakan,
hasil output minitab sebagai berikut :
Dengan 20.2058.Iterasi berhenti sampai iterasi ke 5 karena nilai h pada itreasi ke 6 sama dengan iterasi
ke 5 yakni 7.
The regression equation is
Y1 = - 334 - 5.56 X11 - 1.45 X21 + 16.6 X31 + 5.57 X41
Predictor Coef SE Coef T PConstant -333.999 9.930 -33.63 0.001
X11 -5.5644 0.2569 -21.66 0.002
X21 -1.4483 0.2802 -5.17 0.035
X31 16.6446 0.5079 32.77 0.001
X41 5.5721 0.3862 14.43 0.005
S = 1.12714 R-Sq = 100.0% R-Sq(adj) = 100.0%
Analysis of Variance
Source DF SS MS F P
Regression 4 45404 11351 8934.59 0.000
Residual Error 2 3 1
Total 6 45406
Source DF Seq SS
X11 1 958
X21 1 222
X31 1 43959
X41 1 264
-
8/17/2019 Makalah Regresi Robust (Tiar Indarto G152144051)
25/25
D. DAFTAR PUSTAKA
Bambang J. 2009. Ekonometrika: Pemodelan dan Pendugaan. Bogor (ID): IPB Pr.
Chen C. 2002. Robust Regression and Outlier Detection with the Robustreg Procedure. Paper
265-27, Statistics and Data Analysis, SUGI 27, North Carolina: SAS Institute Inc.
Draper NR, Smith. 1992. Analisis Regresi Terapan. Diterjemahkan oleh Bambang Sumantri.
Jakarta (ID): Gramedia.
Montgomery DC, Peck EA. 1992. Introduction to Linear Regression Analysis. New York (NY):
John Wiley and Sons.
Musarifah, Raupong, Nasrah S. Perbandingan Metode Robust Least Trimmed Square Dengan
Metode Scale Dalam Mengestimasi Parameter Regresi Linear Berganda Untuk Data
Yang Mengandung Pencilan. [Internet]. Makassar (ID). [diunduh 2016 jam 14:28 WIB].
Tersedia pada:
http://repository.unhas.ac.id/bitstream/handle/123456789/13647/JURNAL.pdf?sequence=1
Paper Robust.
Rokhdana DB. Regresi Robust Dengan M-Estimation.
Ryan TP. 1997. Modern Regression Methods. Canada: John Wiley & Sons Inc.
Yuliana S, Hasih P, Sri SH. 2013. Optimasi Model Regresi Robust Untuk Memprediksi Produksi
Kedelai di Inodonesia. [Internet]. Yogyakarta (ID). [diunduh 2016 jam 17:45 WIB].
Tersedia pada: https://core.ac.uk/download/files/335/18454387.pdf
Yuliana. 2014. Penerapan Model Regresi Linear Robust Dengan Estimasi M Pada Data Nilai
Kalkulus II Mahasiswa Universitas Widya Dharma Klaten. Magistra No. 90 Th. XXVI
[Internet]. Hlm 87 – 97; [diunduh 2016 jam 09:46 WIB]. Tersedia pada:
http://download.portalgaruda.org/article.php?article=298460&val=6820&title=PENER
APAN%20MODEL%20REGRESI%20LINEAR%20ROBUST%20DENGAN%20ESTIMASI%20
M%20PADA%20DATA%20NILAI%20KALKULUS%20II%20MAHASISWA%20UNIVERSITAS
%20WIDYA%20DHARMA%20KLATEN
http://repository.unhas.ac.id/bitstream/handle/123456789/13647/JURNAL.pdf?sequence=1http://repository.unhas.ac.id/bitstream/handle/123456789/13647/JURNAL.pdf?sequence=1https://core.ac.uk/download/files/335/18454387.pdfhttp://download.portalgaruda.org/article.php?article=298460&val=6820&title=PENERAPAN%20MODEL%20REGRESI%20LINEAR%20ROBUST%20DENGAN%20ESTIMASI%20M%20PADA%20DATA%20NILAI%20KALKULUS%20II%20MAHASISWA%20UNIVERSITAS%20WIDYA%20DHARMA%20KLATENhttp://download.portalgaruda.org/article.php?article=298460&val=6820&title=PENERAPAN%20MODEL%20REGRESI%20LINEAR%20ROBUST%20DENGAN%20ESTIMASI%20M%20PADA%20DATA%20NILAI%20KALKULUS%20II%20MAHASISWA%20UNIVERSITAS%20WIDYA%20DHARMA%20KLATENhttp://download.portalgaruda.org/article.php?article=298460&val=6820&title=PENERAPAN%20MODEL%20REGRESI%20LINEAR%20ROBUST%20DENGAN%20ESTIMASI%20M%20PADA%20DATA%20NILAI%20KALKULUS%20II%20MAHASISWA%20UNIVERSITAS%20WIDYA%20DHARMA%20KLATENhttp://download.portalgaruda.org/article.php?article=298460&val=6820&title=PENERAPAN%20MODEL%20REGRESI%20LINEAR%20ROBUST%20DENGAN%20ESTIMASI%20M%20PADA%20DATA%20NILAI%20KALKULUS%20II%20MAHASISWA%20UNIVERSITAS%20WIDYA%20DHARMA%20KLATENhttp://download.portalgaruda.org/article.php?article=298460&val=6820&title=PENERAPAN%20MODEL%20REGRESI%20LINEAR%20ROBUST%20DENGAN%20ESTIMASI%20M%20PADA%20DATA%20NILAI%20KALKULUS%20II%20MAHASISWA%20UNIVERSITAS%20WIDYA%20DHARMA%20KLATENhttp://download.portalgaruda.org/article.php?article=298460&val=6820&title=PENERAPAN%20MODEL%20REGRESI%20LINEAR%20ROBUST%20DENGAN%20ESTIMASI%20M%20PADA%20DATA%20NILAI%20KALKULUS%20II%20MAHASISWA%20UNIVERSITAS%20WIDYA%20DHARMA%20KLATENhttp://download.portalgaruda.org/article.php?article=298460&val=6820&title=PENERAPAN%20MODEL%20REGRESI%20LINEAR%20ROBUST%20DENGAN%20ESTIMASI%20M%20PADA%20DATA%20NILAI%20KALKULUS%20II%20MAHASISWA%20UNIVERSITAS%20WIDYA%20DHARMA%20KLATENhttp://download.portalgaruda.org/article.php?article=298460&val=6820&title=PENERAPAN%20MODEL%20REGRESI%20LINEAR%20ROBUST%20DENGAN%20ESTIMASI%20M%20PADA%20DATA%20NILAI%20KALKULUS%20II%20MAHASISWA%20UNIVERSITAS%20WIDYA%20DHARMA%20KLATENhttps://core.ac.uk/download/files/335/18454387.pdfhttp://repository.unhas.ac.id/bitstream/handle/123456789/13647/JURNAL.pdf?sequence=1http://repository.unhas.ac.id/bitstream/handle/123456789/13647/JURNAL.pdf?sequence=1