MODEL REGRESI SEDERHANA

DI SUSUN OLEH :

1). Misfah Fazariani (7123341068)2). Nela Permata Sari Lubis (7123341075)3). Titin Siti Kholiza (7123341116)4). Setiawan S.P.L (7123341106)

Kelas B – Eks

Dosen Pengampu : Dr.Dede Ruslan, M.Si

PROGRAM STUDI PENDIDIKAN EKONOMI

FAKULTAS EKONOMI

UNIVERSITAS NEGERI MEDAN

MODEL REGRESI SEDERHANA

1. Representasi regresi sederhana

Suatu model regresi sederhana dapat direpresentasikan sebagai berikut:

Y=β0+β1 x+u

Dimana :

Y = variabel terikat

x = variabel bebas

variabel u = error term atau residual yang berfungsi untuk menampung seluruh factor yang mempengaruhi y selain x (tidak terbatas) pada variabel lain namun mungkin juga kesalahan bentuk fungsional, kesalahan pengukuran ).

Parameter β1disebut slope

Parameter β0 disebut dengan intersep

Parameter β1 menunjukan kuantitas hubungan antara variabel bebas dan variabel terikat dengan mengasumsikan seluruh factor lain ( yang mencakup dalam u ) adalah konstan. Dalam persamaan 1, β1 adalah linear, dengan demikian perubahan x sebesar ∆ xakan berimplikasi pada perubahan y sebesar ∆ y .

Untuk mengestimasi hubungan antara tingkat penjualan dan promosi. Hal ini merumuskan dalam model sebagai berikut :

Penjualan=β0+β1Promosi+u

Katakana lah kita mengukur penjualan dan promosi dalam satuan jutaan rupiah. Dengan demikian perubahan Rp 1 juta pada pengeluaran promosi akan berimplikasi pada perubahan penjuakan sebesar Rp β1 juta rupiah .

2. Estimasi Model : Ordinary Least Squares

Tujuan ekonometrika adalah mengestimasi population regression function/PRF dari suatu simple. Hasil dari estimasi ini disebut dengan sample regression function/SRF yang berbentuk Penjualan=β0+β1Promosi+u

Error term diperlukan mengingat hasil yang diperoleh dari sample ini hanya merupakan suatu dugaan yang diharapkan yang berlaku atas dasar asumsi atau prinsif statistic tertentu. Dengan kata lain selalu terdapat kemungkinan kesalahan atas dugaan populasi karena mengunakan data dari sample.

Parameter β0 dan Parameter β1 dapat diestimasi dengan menggunakan ordinary least squares (OLS). Secara intiutif kita dapat membayangkan penggunaan metode OLS sebagai pencarian suatu garis lurus yang melewati sekumpulan titik pasangan observasi (variabel terikat; y dan variabel penjelas ; x ) garis ini harus memenuhi suatu criteria secara terbaik. Criteria yang digunakan adalah meminimalkan selisi antara nilai prediksi yang diberikan oleh garis lurus tersebut dengan nilai actual nya. Secara lebih formal, penyelesaian permasalah pencarian garis dapat dirumuskan sebagai upaya meminimalkan jumlah kuadrat residual. Jika kita memiliki data variabel y dan x sebanyak n, maka Parameter β0 dan Parameter β1(yang merupakan intersep dan slope garis tersebut), dapat diperoleh dengan menyelesaikan masalah berikut :

y

y i

U i ;residual y= β0 + β1 x

y1 ; fitted value

x

x i

Minβ0 ;β1

∑i=1

n

ui2(¿∑

i=1

n

( y−β0−β1 x ¿¿¿2 ))

Dengan menggunakan teknik kalkulus dan penerapan aturan penjumlahan dapat ditunjukkan bahwa parameter β0 dan β1 adalah :

β1=∑i=1

n

(x1−x ) ( y1− y )

∑i=1

n

( x1− x )2

=Cov ( x , y )Var ( x )

β0 = y−β1 x

Parameter yang diperoleh dari persamaan diatas disebut estimator OLS. Dari estimator ini kita dapat memperoleh nilai prediksi ( Fitted Value) dari y ketika x = xi yang diberikan sebagai

y i= β0+ β1 x i

Ini adalah nilai prediksi dari y jika kita mengetahui nilai x adalah tertentu.

3. Pengujian hipotesis

Setelah melakukan estimasi langkah selanjutnya adalah menguji apakah parameter yang diperoleh adalah signifikan secara statistic. Tahap ini disebut dengan pengujian hipotesis. Pengujian hipotesis dapat dilaksanakan dengan dua arah (two way), melihat apakah nilai estimate adalah sama atau tidak dengan nulai tertentu atau satu arah (one way). Lebih besar atau lebih kecil dari nilai tertentu.

Pembahasan mengenai pengujian hipotesis satu arah akan dilakukan pada bagian tersendiri. Pada bagan ini akan diuraikan pengujian dua arah. Pengujian hipotesis dilakukan dengan membandingkan statistic uji (statitstik t) dengan nilai kritisnya. Statistic ini dapat dihitung dengan formula sebagai berikut :

t= β−β

se ( β )

Dimana β adalah estimasi terhadap β dan se ( β ) adalah standar deviasi sampling dari hasil

estimasi (standar error). Dalam banyak kasus empiris yang ditemui, hal ini disederhakan kembali dengan menggunakan ¿0 , dan demikian persamaannya menjadi :

t= β

se ( β )

Nilai t yang diperoleh kemudian di bandingkan dengan nilai kritis yang berlaku sesuai dengan derajat bebeas dan tingkat signifikansi (level of significance;α ) yang dikehendaki melalui table . apabila nilai statistic uji melebihi nilai kritis maka hipotesis null akan ditolak, dan sebaliknya (hipotesis null tidak dapat ditolak) jika nilai statistic uji lebih kecil dari nilai kritis.

Cara lain untuk mnguji hipotesis adalah dengan menghitung p value, yaitu probabilitas mengobservasi nilai t sebesar tertentu jika hipotesis null berlaku. P value kemudian di bandingkan dengan level signifikansi atau α yang digunakan . jika p value yang diperoleh lebih kecil dari α maka hipotesis null ditolak(dan sebaliknya). Eviews umumnya telah menghitung p value dari berbagai statistic uji yang diperlukan untuk menguji berbagai konstruksi hipotesis.

Dengan demikian selanjutnya dalam buku ini akan selalu digunakan metode p value dalam memverifikasikan hipotesis. Untuk model regresi bivariat seperti diatas, standar erroe bagi masing masing parameter dapat diperoleh berdasarkan formula.

se (β0 )=s √ ∑i−1

N

x i2

N∑i−1

N

(x1−x )2

se (β1 )=s√ 1

N∑i−1

N

(x1−x )2

Di mana s adalah estimasi standar deviasi dari residual regresi, N adalah jumlah sampel dan x adalah rata-rata dari nilai x sampel. Nilai estimasi dari standar deviasi residual regresi dapat diperoleh dengan formula.

s=√∑i=1

N

ui2

N−2

Pada contoh hubungan penjualn promosi diatas dapat dilihat bahwa intersep dan slope memiliki nilai p value sebesar 0,059 dan 0,005. Jika digunakan α = 5 % (0,05), maka dapat disimpulkan bahwa intersep tidak signifikan secara statistic sedangkan slope adalah signifikan.

4. Kelaikan Suai (Goodness of Fit)

Kita dapat memandang OLS sebagai suatu dekomposisi yi kedalam dua bagian , yakni fitted value dan suatu residual. Fitted value dan residual tidak memiliki korelasi pada sampel. Untuk melihat hal ini dapat merujuk pada terminology sebagai berikut :

Sum Square Total (SST) = ∑i=1

n

( y i− y )2

Sum Square Explained (SSE) = ∑i=1

n

( y i− y )2

Sum Square Residual (SSR) = ∑i=1

n

( y i− y )2(¿∑i=1

n

u i2)

SST adalah ukuran variasi sampel yi (menunujukkan seberapa besar dispersi sampel yi di sekitar rata-ratanya). SSE menunjukkan variasi sampel pada yi dan SSR mengukur variasi dari ui.

Dapat ditunjukkan di sini bahwa total variasi pada y adalah sama dengan jumlah SSE danm SSR , atau

SST = SSE + SSR

Selanjutnya dengan membagi persamaan 2.21 dengan SST kita dapat memperoleh 1 = SSESST

+ SSRSST

Kita dapat mendefinisikan R2, koefisien determinasi, sebagai

R2 = SSESST

=1− SSRSST

Seperti yang dapat dilihat pada persamaan 2.23, koefisien determinasi menunjukkan proporsi variasi variabel terikat (y) yang dapat dijelaskan oleh variasi variabel bebas (x). nilai R2 selalu terletak antara 0 dan 1 karena SSE dan SSR tidak mungkin melebihi nilai SST. R2 adalah suatu ukuran kesesuaian model (model fit)

Secara intuitif, ukuran kelaikan suai menunjukkan peningkatan kemampuan menjelaskan model regresi dibandingkan dengan rata-rata. Rata-rata sampel merupakan suatu penduga perilaku dari variabel terikat (meskipun sangat naïf). Dengan demikian tentu saja suatu model regresi harus memberikan suatu kemampuan menjelaskan yang lebih baik dibandingkan rata-rata. Peningkatan kemampuan menjelaskan ini ditunjukkan oleh semakin besarnya proporsi y1− y (dalam bentuk

kuadrat : sum square explained) dibandingkan y i− y1 (dalam bentuk kuadrat : sum square error). Semakin baik kemampuan menjelaskan (semakin tinggi R2) Ditunjukan dengan jumlah selisih kuadrat error yang semakin kecil. Dengan perkataan lain, selisih garis regresi (berwarna terang) dengan titik observasi semakin kecil.

Kembali pada contoh regresi penujualan dan promosi diatas, dapat dilihat disini bahwa nilai R2

adalah 0,65. Dengan demikian variasi pada variabel promosi menjelaskan 65 % variasi pada penjualan .

Perlu dicatat disini bahwa meskipun R2 adfalah suatu ukuran kesesuaian model, ia bukan satu-satunya ukuran. Penekanan yang berlebihan pada koefisien ini dapat memberikan model bukanlah fenomena yang jarang.

y, y , y

y i− y i y=α0+α1 x+ε

y i− y

y i− y

y=∑i=1

n

y i

n

x