İKİ DEĞİŞKENLİ BASİT DOĞRUSAL REGRESYON MODELİ

Regresyon Y ile X (X ler) arasındaki ortalama ilişkinin matematik fonksiyonla ifadesidir.

X’e bağlı olarak Y’nin ortalamasının nasıl değiştiğini gösterir.

1 2E(Y|X)=f(X)=b b X

Sabit terim Eğim

21 uXbbYi

Yi deki değişim=[Düzenli değişim]+[Rassal değişim]

Yi deki değişim=[Açıklanan değişim]+[Açıklanamayan değişim]

Ekonometrik modelin ortaya çıkmasına sebep olan hata teriminin kaynakları:

ÖLÇME HATALARI: Toplam tüketim ve milli gelir, kiralar ve

hane gelirleri gibi değişkenlerin değerlerinden hareketle

ekonometrik bir modeli tahmin ediyoruz. ‘‘Bu değerler nasıl

tespit edilmektedir’’sorusunun cevabı bize ölçme hatalarını

açıklayacaktır.

• Tarım ve sanayi sektöründe üreticilerin fiyatlarını tespit ederken

üreticiler yanlış beyanda bulunabilir. Yine hanelerle anket

yaparken gelirlerini düşük beyan ederken, çeşitli mal ve

hizmetler(kira,gıda,ulaştırma, vb.) yaptıkları harcama tutarlarını

olduğundan fazla söyleyebilirler. İşte bu tür hatalara ölçme

hataları veya sistematik hatalar denir.

• Bütün bu hatalar tüketim veya gelirler veyahut başka bir konuda

topladığımız rakamların gerçeklerden sapmasına sebep olurlar

ki bunların hepsine birden ölçme hataları denir.

• C ve Yd değerleri gerçeğe nazaran (C+X) ve (Yd+Z) gibi sapmalı

olacaktır. Böylece,

C=a+bYd

de ve tahmini değerleri, X ve Z sapmaları nisbetinde

güvenilemez olacaktır.

• İktisat kanunlarının doğruluğu veya anlaşılabilmesi, istatistik

verilerinin (tüketim,gelir, kira, nüfus miktarları ile ilgili

rakamların) kalitesine, doğruluğuna ve elde bulunmasına

bağlıdır.

𝑎ො�� 𝑏

• Bu rakamların objektif ve doğru bir şekilde toplanamaması

halinde ortaya çıkan ölçme hataları ortadan kaldırılamamaktadır.

İstatistik ve ekonometride gerçekleştirilen tüm metodolojik

yenilikler, bunların hatalı verilere uygulanması durumunda

faydasız olacaktır.

TOPLAMA HATALARI: Ekonomik analizlerde birbirinden farklı

hane halklarına veya kişilere ait değerler toplanır ve bunların

ortalaması hesaplanır.(toplam tüketim,ortalama tüketim,ortalama

gelir gibi)

• Her ortalama ise serisini tek bir kıymetle ifade eden bir tahmindir.

• Ortalama hesabı ile her hane veya birime ait değerler bir tek

değere indirilmiş olmakta ve birimlerin kendi değerleri(özellikleri)

kaybolmaktadır.

• En yüksek gelirli ile en düşük gelirli; en yüksek kira ödeyenle en

az kira ödeyen ortalama gelir veya ortalama kira tutarı ile bir

tutulmaktadır. Burada bir hata olduğu açıktır, bu hatalarada

‘‘toplama hataları denilmektedir.’’

ÖRNEKLEME HATALARI(TESADÜFİ HATALAR,

STOKASTİK HATALAR): Memurların dalgınlığı veya

dikkatsizliği sonucu bazı rakamların yanlış yazılması ile ortaya

çıkan hatalarla örnekleme yapılması sebebiyle ortaya çıkan

hataları kapsar.

• Örneğin, Türkiye’de ortalama kirayı bulabilmek için, toplam 3

milyon kiracıdan %1’ini (30bin) seçerek örnekleme yapılabilir.

%1 örnekleme yerine binde bir yani 3bin kiracı alabiliriz veya

12 yıllık dönem yerine 25 yıllık dönem alabiliriz.

• Bu farklı hane sayısı veya yıl sayısı (örnek büyüklüğü) ile

yapılacak kira ve tüketim fonksiyonları için farklı katsayılar (a

ve b’ler) bulunacaktır. Muhtelif örnekler arasında, örneğe giren

birimlerin kiraları arasındaki farklılıklar sebebiyle ortaya çıkan

tahmin farklılıkları örnekleme hatalarını oluşturur.

• Bu hatalar artı ve eksi iki yönlüdür. Yani mümkün olan bütün

örnekler çekildiği ve kira fonksiyonu tahmin edildiğinde

, ve ’lerin bir kısmı anakütle gerçek b1 ve b2

katsayılarından küçük; bir kısmının da bu anakütle değerlerinden

büyük ve dağılımlarının normal olduğu görülür.

𝑌= 𝑏1 + 𝑏2 𝑋 𝑏1 𝑏2

• Bu sebeple üç milyonluk anakütleden çekilebilecek tüm

örneklerin, katsayı tahminleri hesaplanır ve ayrı ayrı

ortalamaları veya beklenen değerleri

hesaplanırsa, ve

(marjinal kira

tüketim eğilimi)’dır.

• Ölçme hataları, ortadan kaldırılmadığı halde örnekleme hataları

iki yönlü (artı ve eksi) olduklarından birbirinin tesirini ortadan

kaldırabilirler.

𝑏1 𝑣𝑒 𝑏2 𝐸൫𝑏1 ൯𝑣𝑒 𝐸(𝑏2 ) 𝐸൫𝑏1 ൯= 𝑏1 = 𝑎𝑛𝑎𝑘ü𝑡𝑙𝑒 𝑠𝑎𝑏𝑖𝑡 𝑡𝑒𝑟𝑖𝑚𝑖

𝐸൫𝑏2 ൯= 𝑏2 = 𝑎𝑛𝑎𝑘ü𝑡𝑙𝑒 𝑟𝑒𝑔𝑟𝑒𝑠𝑦𝑜𝑛 𝑘𝑎𝑡𝑠𝑎𝑦ı𝑠ı

• SPESİFİKASYON HATALARI: İktisadi teori,gerçeğin bilerek

basitleştirilmiş şeklidir. Toplam tüketim sadece harcanabilir gelire

bağlı değildir, tüketicilerin zevkleri, fiyatlar seviyesi, servet gelir

dağılımı, yaş piramidi, tüketicilerin son zamanlardaki gelir

durumu gibi diğer bazı bağımsız değişkenlerede bağlıdır.

• Modele tüm bu değişkenleri alabilsek bile-ki uygulamalarda veri

noksanlığı gibi sebeplerle bu mümkün olamamaktadır-

değişkenler arasındaki ilişki C=a+b Yd şeklinde doğrusal

olmayabilir.

• Gerçek ilişki;

gibi veya daha karmaşık bir ilişki olabilir. Veya tüketim fonksiyonu

böyle tek denklemli değilde, 6 denklemli bir model olarak

çözülmesi

gerekebilir. Bütün bu sebeplerden ortaya çıkan hatalar

“spesifikasyon hataları” denilmektedir. Bu hatalar ekonometrik bir

araştırmada ilk olarak göz önünde tutulması gereken hatalardır.

𝐶= 𝑎𝑖𝑙𝑜𝑔𝑌𝑑 + 𝑎2𝑦𝑥𝑎3𝑠ℎඥ𝑌𝑑

.

..

.

y4

y1

y2

y3

x1 x2 x3 x4

}

}

{

{

u1

u2

u3

u4

x

y E(y|x) = 0 + 1x

y2

y1

x2x1

Y

X

ΔX

ΔY= b2 ΔX

Doğrusal denklemin grafiği düz bir çizgi olup sabit ve eğim katsayılarını birbirinden ayırma özelliğine sahiptir. Sabit sayı X=0 olduğu zaman Y’nin alacağı azami değer ve eğim ise ΔY/ ΔX oranı olup X üzerindeki bir noktadan diğer bir noktaya olan hareketliliği göstermektedir.

b1

XbbY 21ˆ

b1 ve b2 hakkında bazı çıkarsamalar:

Eğer b2 pozitif ise çizginin veya doğrunun eğimi soldan sağa yukarıya doğru; yok eğer negatif ise tersi geçerlidir.

Eğer b2’in mutlak değeri büyükse doğru daha dik olmaktadır.

Eğer b2= 0 ise doğru X eksenine b1 noktasında paralleldir.

Bir çok fonksiyonlar düz çizgi halinde değildirler

Örneğin: 4000 nüfuslu bir kasabada 500 hane bulunsun ve bunlardan sadece 60’ı memur olsun.

Anakütle Regresyon Denklemi

Örnek Regresyon Denklemi

2

110

1

2

n

i

n

ii XYe

İfadesini minimize eden parametre tahmincilerinin değerlerini bulabilmek için eşitliğin 0 ve 1 ‘e göre türevleri alınıp 0’a eşitlenir.

2

110

01

2

0

n

i

n

ii XYe

n

i

XY1

102

2

110

11

2

1

n

i

n

ii XYe

n

i

XYX1

102

Her iki denklemi de 0’a eşitlersek;

0

02

110

110

n

i

n

i

XbbY

XbbY

0.

0..2

110

110

n

i

n

i

XbbYX

XbbYX

0‘a göre türev alınırsa; 1‘e göre türev alınırsa;

En Küçük Kareler Denklemleri

0

02

110

110

n

i

n

i

XbbY

XbbY

0.

0..2

110

110

n

i

n

i

XbbYX

XbbYX

Parantezleri açarsak;

0. 10 XbbnY 0210 XbXbXY

Bu denklemlere doğrunun NORMAL DENKLEMLERİ denir. Normal denklemler alt alta yazılıp birlikte çözüldüklerinde b0 ve b1 tahmincileri bulunur.

XbbnY 10.

210 XbXbXY n

XX

nYX

XYb 2

21 )(

)).((

XbYb 10

şeklindeki formüller yardımıyla da tahminciler bulunabilir.

Ortalamadan Sapmalar Yoluyla En Küçük Kareler Denklemlerinin İspatı

XbYb 21

olduğundan

Bu ifadenin her iki tarafını n ile böldüğümüzde

veya

elde edilir.

Bu eşitlik ortalamalar orjinine göre regresyon denklemidir.

Ortalamalar orjinine göre regresyon denkleminden tahmini anakütle regresyon denklemi şöyle yazılabilir:

elde edilir.

olmak üzere,

Hata terimleri kareleri toplamı şu şekilde ifade edilebilir:

Bu ifadenin ‘e göre türevi alınıp sıfıra eşitlendiğinde;

elde edilir.

için diğer bir formül ise şöyledir:

Basit En Küçük Kareler Regresyon Modelinin

Varsayımları

Varsayım 1: Hata terimi ortalaması sıfıra eşit stokastik bir

değişkendir:

• Hata terimi u, pozitif ve negatif her iki yöndeki çok sayıda

sebeplerin toplamının etkisini göstermektedir. Bu sebepten

anakütle hata terimi u, X’in her değeri için şansa bağlı olarak

pozitif, negatif veya sıfır değerlerini belli bir ihtimalle

alabilmektedir. Yani u stokastik bir değişkendir ve değerleri

önceden kesin olarak bilinmemektedir.

iu

• Bazı bağımsız değişkenlerin modele alınamaması, modelin

matematiksel biçiminin yanlış seçilmiş olması, değişkenlerdeki

ölçme hataları, fertlerin davranışlarının yaradılış icabı farklı

olması gibi durumlar u’nun artı değer alabileceği gibi eksi değer

de alabileceğini gösterir.

• Modele dahil edilmeyen değişkenlerin etkisi, bazen Y’yi

gözlenebilecek olan değerinden daha büyük bazen de daha

küçük değerli yapabilecektir. Yani genelde, sürekli olarak artış

yönünde veya sürekli olarak azalış yönünde olan

sapmalar(farklar) beklenmeyecektir. Bu da u’nun stokastik

olduğu anlamına gelir.

• u’lar sürekli artan veya sürekli azalan bir görünüm arzetmezler,

düzensiz bir görünüm sergilerler.

• Ayrıca, ui nin muhtelif değerleri birbirinden bağımsız stokastik

değişkenlerdir.

• Tüketim örneğinde, u’nun stokastik ve değerlerinin birbirinden

bağımsız olması şöyle açıklanabilir:

Bir hane için ui hata terim değerini pozitif elde etme ihtimali ne

artar, ne de azalır. Ayrıca u hata terimi değerlerinin dağılımının

normal, ortalamasının sıfır ve varyansının olduğunu

varsayacağız.

𝜎𝑢𝑖2

• Sonuç olarak,

yazılabilir. Yani ui ler, birbirinden bağımsız, sıfır ortalamalı, eş,t

varyanslı normal dağılımlıdır.

𝑢𝑖 ∼ 𝑁(0,𝜎𝑢𝑖2 )

Varsayım 2: Hata terimi u normal dağılımlıdır:

• EKK tahmincilerinin ihtimal dağılımları, ui nin ihtimal

dağılımı hakkında yapılan varsayıma bağlıdır. Bu sebepten

b tahminleri konusunda bir test uygulamak gerektiğinde

(t,F testi gibi)dağılımlarının normal olması gerekir, bu da

ui nin dağılımının normal olmasını gerektirmektedir.

• Uygulamalarda anakütle u değerleri bilinmediğinden,

Merkezi Limit Teoremi’ne göre normal dağıldıkları kabul

edilir.

ui değerleriE(ui)=0

u’ların normal dağılımı

• Normal dağılım eğrisinde, absiste u’nun ortalamasına (0)

tekabül eden noktadan çıkılacak dikmenin iki tarafı tam bir simetri

arzeder. ui normal dağılıyorsa, EKK nin tahmincileride

normal dağılırlar.

• Uygulamalarda u’nun dağılımının normal olup olmadığı,

Lilliefors grafik testi, χ2 uygunluk testi ve Jarque-Bera testi ile

araştırılmaktadır.

𝑏1 𝑣𝑒 𝑏2

Varsayım 3: Hata terimi ui değerleri arasında ilişki(otokorelasyon)

yoktur:

• u’nun herhangi bir ui değeri kendisinden önceki uj değeri ile

bağımlı değildir. Bu varsayım ui ve uj nin kovaryanslarının sıfıra

eşit olmasını gerektirir:

Kov(ui ,uj )=E[ui – E(ui)] [E[uj – E(uj)]

varsayım 1’e göre E(ui)=E(uj)=0’dır. O halde,

Kov(ui ,uj )=E(uiuj)=0, i≠j

Bu varsayım, Kov(Yi ,Yj )=0, i≠j varsayımı demektir.

Varsayım 4: Hata terimi ui nin varyansı eşittir,sabittir.

(homoskedastiklik veya eşit varyanslılık)

• ui nin varyansının her Xi için eşit olduğu varsayımı şöyle ifade

edilmektedir:

Var(ui │Xi)= E[ui – E(ui)]2

Varsayım 1’e göre E(ui)=0 olduğundan,

Var(ui │Xi)= E[ui2]

Var(ui │Xi)=σ2 veya Var(ui)=σ2 (1)

(1) eşit varyanslık halini göstermektedir.

• Bu varsayımın anlamı şudur: Her Xi değeri için hata terimi ui’nin

varyansı belli bir sabit sayı olup σ2 ’ye eşittir. Buna

homoskedastiklik varsayımı, veya eşit(homo) dağılan(skedastik),

veya eşit varyans varsayımı da denir.

• Varsayım 5: Bağımsız değişken X, hata terimi u ile ilişkili

olmayıp, stokastik değildir:

• Bağımsız değişken Xi ile hata terimi ui arasında ilişki yoktur, yani

kovaryansları sıfıra eşittir:

Kov(ui,Xi)= E[ui – E(ui)] [Xi – E(Xi)]

Kov(ui ,Xi)=0

• X değişkeninin birden fazla olduğu çoklu modellerde de ui ile her

X değişkeni arasındaki kovaryans sıfıra eşit olmalıdır:

Kov(ui ,X2)=Kov(ui ,X3)=0

• Bu varsaymın anlamı şudur:

Anakütle Regresyon Denkleminde Xi ve u’nun Y’ye etkisi

ayrıayrıdır(toplanabilirdir). Eğer, X ile u arasında ilişki varsa,

herbirinin Y bağımlı değişkeni üzerindeki etkisini ferdi olarak

takdir edemeyiz.

Eğer X ile u arasında aynı yönde pozitif ilişki varsa, u artarken

X’de artacak ve u azalırken X’de azalacaktır. Benzer şekilde X ile

ters yönde negatif ilişkili iseler, u azalırken X artar ve u artarken

X azalır. Bu nedenle, X ve u’nun Y üzerindeki etkisinin tahmini

mümkün olmayacaktır.

Varsayım 6: Bağımsız değişken X, tekrarlı örneklere göre

sabittir. Xi ile ui arasında ilişki olmaması yani Kov(ui,Xi)=0

varsayımı X’in stokastik bir değişken olmamasını (tesadüfi

dağılmasını) gerektirir. Bu da istatistiki olarak,

anakütleden çekilebilecek tüm örnekler için X değerlerinin

sabit değerli olduğunu gösterir.(aynı X değişkeni değerleri

için ayrı Y değerleri sözkonusu.) Şöyleki:

Kov(ui,Xi)= E[ui – E(ui)] [Xi – E(Xi)]

Varsayım 1’e göre E(ui)=0 olduğundan:

Kov(ui,Xi)= E[ui – E(ui)] [Xi – E(Xi)] E(ui)=0

Kov(ui,Xi)= E[ui(Xi – E(Xi)]

= E[uiXi– uiE(Xi)]

Xi ‘ler sabit kabul edilirse,

E[E(Xi)]=E(Xi)

Kov(ui,Xi)= E(uiXi)– E(ui)E(Xi)

Varsayım 1’ e göre E(ui)=0’dır. Yani;

Kov(ui,Xi)= E(uiXi)

= 0 (Varsayım 5 gereği)

Varsayım 7: Bağımsız değişken X’in varyansı sonlu pozitif

bir sayı olmalıdır.

Anakütleden çekilebilecek örneklerin herbiri için X değişkeni

değerlerinin sabit kabul edilmesi,X değişkeninin tüm

değerlerinin eşit olması demek değildir.

Buna rağmen X değerlerinin aynı zamanda eşit olması

halinde ,

Burada tüm X değerleri eşit ise ‘dır ve payda

olacaktır. Böylece sabit/0= olacağından

ve dolayısıyla tahmin edilemeyecektir.

Yani ,

Sonlu olmalıdır. Burada Q sonlu pozitif sabit bir sayıyı göstermektedir.

Varsayım 8: Modelin spesifikasyonu doğrudur.

İki değişkenli doğrusal regresyon modelinin EKK ile

tahmininde kabul edilen en önemli varsayımlardan biri

regresyon modelinin spesifikasyonunun doğru yapıldığı,

modelin spesifikasyon hatası taşıyıp taşımadığıdır.

Modele bazı değişkenlerin alınmaması , eğrisel bir fonksiyon

alınması gerekirken doğrusal fonksiyon alınması, model

değişkenleri konusunda hatalı varsayımlar yapılması

hallerinde tahmin edilen fonksiyon güvenilir olmayacak,

spesifikasyon hatalı olacaktır.

Varsayım 9: Bağımsız değişkenler arasında İlişki yoktur.

(Çoklu doğrusal Bağlantı olmaması Varsayımı)

EKKY’nin bu varsayımı, birden fazla bağımsız değişkeni

olan çoklu modellerle ilgilidir. Bu varsayıma göre ,çoklu

modellerde bağımsız değişkenler arasında ilişki yoktur.

Bağımlı Değişken Y nin Dağılımı

Y bağımlı değişkeninin ortalaması

1 2( )E Y b b X Varyansı

2 2 2( ) ( ( )) ( ) i i i i uVar Y E Y E Y E u

olduğu gösterilecektir.

1. Y nin ortalaması kendisinin beklenen değerine eşittir.

1 2i iY b b X u

Beklenen değer alındığında

1 2( ) ( )i iE Y E b b X u

1 2( ) ( ) ( )i iE Y E b b X E u ( ) 0iE u

b1 ve b2 parametreler iken Xi değerleri değişmez değerler kümesinden geldikleri için

1 2( )iE Y b b X bulunur.

1 2i iY b b X u

1 2( ) ( )i iE Y E b b X u

2. Yi nin varyansı

2 2 2( ) ( ( )) ( ) i i i i uVar Y E Y E Y E u

1 2i iY b b X u 1 2( )iE Y b b X ve

eşitliklerini varyans tanımında yerine koyarsak

2 2 21 2 1 2( ) ( ) ( )i i i uVar Y E b b X u b b X E u

ui lar sabit varyanslıdır. Yani hepsinin varyansı 2u

sabit değerlidir.2 2( )i uE u

Yani 2 2 2( ) ( ( )) ( ) i i i i uVar Y E Y E Y E u

3. Yi nin dağılımı normaldir.

Yi nin dağılımının biçimi, ui nin dağılımının biçimiyle

belirlenir ve bu dağılım varsayım gereğince normaldir. b1 ve

b2 sabit parametreler olmaları nedeniyle Yi nin dağılımını

etkilemezler. Ayrıca Xi açıklayıcı değişkenin değerleri de

varsayım gereğince değişmez değerler kümesinde olduğundan

Yi nin dağılım biçimini etkilemezler.

ÖRNEK REGRESYON DENKLEMİ

i21i XbbY

Katsayıların TahminiNormal Denklemler ile,Doğrudan Formüller ile,Ortalamadan Farklar ile,

Tüketim Gelir75 80

88 100

95 120

125 140

115 160

127 180

165 200

172 220

183 240

225 260

NORMAL DENKLEMLER

Y = n + XXY= X + X2

1b 2b

1b 2b

Y=? , X=? , XY= ? , X2= ? , n

758895

125115127165172183225

Y

80100120140160180200220240260

X YX X2

60008800

1140017500184002286033000378404392058500

6400100001440019600256003240040000484005760067600

Y=1370 X2=322000X=1700 YX=258220

NORMAL DENKLEMLER

= 10 + = +

-170 /

- = -1700 - = +

25320 = 330002b

= 0.7672727

= 6.5636364

2b

1b

1b 2b

2b1b

1b 2b

2b1b

XY 7672727.05636364.6ˆ

ÖRNEK REGRESYON DENKLEMİ

i21i XbbY

22

2

1 )X(Xn

XYXYXb

2)1700()322000.(10

)258220).(1700()1370).(322000(

= 6.5636364

DOĞRUDAN FORMÜLLER

DOĞRUDAN FORMÜLLER

222 )X(Xn

YXXYnb

2)1700()322000)(10(

)1370)(1700()258220).(10(

= 0.7672727

XY 7672727.05636364.6ˆ

ÖRNEK REGRESYON DENKLEMİ

i21i XbbY

ORTALAMADAN FARKLAR

22 x

xyb

XbYb 21

yx=? x2=?y=? x=??X ?Y

Y

X

i

i

iiii

i

i

i

i

•

•

•

•

•

•

•

•

y

x

Y

Y

Y

Y

Y

0X X

( , )X Y

••

••

•

•

e

y =y -e = -Yi

y

N (X , Y )

i

i

ÖRD= =b +b X1 2^^

^}

}

Ortalamalar Orijinine göre Örnek Regresyon Doğrusu (ÖRD)

758895

125115127165172183225

Y

80100120140160180200220240260

X

-62-49-42-12-22-10

28354688

-90-70-50-30-101030507090

Y=1370 x=0X=1700

YYy XXx

y=0

137Y 170X

ORTALAMADAN FARKLAR

ORTALAMADAN FARKLAR

558034302100360 220

-100840

175032207920

810049002500900100100900

250049008100

384424011764

144484100784

122521167744

x2yx y2

yx=25320 x2=33000 y2=20606

ORTALAMADAN FARKLAR

22 x

xyb

33000

25320 = 0.7672727

XbYb 21 = 6.5636364=137-(0.7672).(170)

XY 7672727.05636364.6ˆ

ÖRNEK REGRESYON DENKLEMİ

i21i XbbY

ELASTİKİYETLERİN HESAPLANMASI

i

i

Y

X .

dX

dY

X/X

Y/Ylim

EX

EYE

i

i

0xyx

•Nokta Elastikiyet

•Ortalama Elastikiyet

NOKTA ELASTİKİYET

0

i

Y

X .

ˆdX

dYE

0YX

0

i

Y

X .

ˆb2

X0 = 130

0Y

130 .

ˆ767.0E 130YX0

NOKTA ELASTİKİYET

0Y 0 X0.76727275636364.6

(130) 0.76727275636364.6

3091.106

106.3091

130 .767.0E 130XY 0

0.94

ORTALAMA ELASTİKİYET

Y

X .

dX

dYE XY

Y

X . b2

170X ; 137Y

137

170 . 767.0E XY = 0.95

Tahminin Standart Hatası ve Varyansı

n

)YY(s

2i

n

e2i

(n30 ise)

2n

)YY(s

2ii

2n

e2i

(n<30 ise)

?Y 2)YY( ?e2

Tahminin standart hatası, regresyon doğrusu etrafındaki dağılımın bir ölçüsüdür.

Tahminin Standart Hatası ve Varyansı

i21i XbbY

ii X 7672727.05636364.6Y

Tahminin Standart Hatası ve Varyansı

Tüketim iY

67.945583.290998.6364

113.9818129.3273144.6727160.0182175.3636190.7091206.0545

758895

125115127165172183225

80100120140160180200220240260

Gelir iii YYe 2ii

2i )YY(e

7.05454.7091

-3.636411.0182

-14.3273-17.6727

4.9818-3.3636-7.709118.9455

49.766622.175513.2231

121.4003205.2707312.3253

24.818511.314059.4301

358.93021370Yi Y=1370 e=0 e2=1178.6545

Tahminin Standart Hatası ve Varyansı

2-10

1178.6545s 147.3318 =12.138

s2= 147.3318

2n

YXbYbYs 21

2

210

)258220(7672727.0)1370(5636364.6208296s

Y2 =? Y = ? YX=? b1 =? b2 =?

= 12.138

Tahminin Standart Hatası ve Varyansı

2n

yxbys 2

2

YYy XXx y2 = ? yx = ? b2= ?

210

)25320(7672727.020606s

= 12.138

DEĞİŞKENLİKLER

2)YY( 2)YY( 2)YY(

Y

X

X

Y

Yi

Xi

2)YY(2)YY(

2)YY(

2 y 2y 2e

DEĞİŞKENLİKLER

2)YY( 2)YY( 2)YY(

y2=20600 3455.19427y2 e2=1178.6545

384424011764

144484100784

122521167744

49.766622.175513.2231

121.4003205.2707312.3253

24.818511.314059.4301

358.9302

4768.53022884.66641471.7686

529.836758.870758.8707

529.83671471.76862884.66644768.5302

DEĞİŞKENLİKLER

2)( YY 2)YY( 2)ˆ( YY y2 =

2y e2+

2n

e

2n

y

2n

y 22222

ˆ2 sss yy

20606 = 19427.3455 + 1178.6545

210

6545.1178

210

3455.19427

210

206062575.75 = 2428.4182 + 141.3318

varyanslar

BELİRLİLİK KATSAYISI

Noktaların doğruya yakınlık derecesini göstermektedir. Y’deki değişmelerin yüzde kaçının X tarafından açıklanabildiğini ifade etmektedir.

R2 0 ile 1 arasında değişmektedir.

KORELASYON KATSAYISI

Y ile X arasındaki ilişkinin yönünü ve şiddetini vermektedir.

-1 ile +1 arasında yer almaktadır.

BELİRLİLİK KATSAYISI

varyansToplam

varyansAçıklanan

s

sr

2y

2y2

varyansToplam

an varyansAçıklanmay

s

sr1

2y

22

varyansToplam

an varyansAçıklanmay

s

s1r

2y

22

75.2575

4182.2428 = 0.9428

75.2775

3318.1471 = 0.9428

75.2575

3318.147 = 0.0572

2

2

)(

)(

YY

YY2

2

)(

)ˆ(

YY

YY

2

2

)(

)ˆ(

YY

YY

2

2

2

2

2

2 ˆ

y

e

y

y

y

y

2

2

2

2ˆ

y

e

y

y

TD

HBD

TD

RBD

TD

TD

2

221

y

er

2

221

y

er Belirsizlik katsayısı

BELİRLİLİK KATSAYISI

22

22

yx

)xy( r

)20606)(33000(

)25320(

2

= 0.9428

22 yx

xy r

)20606)(33000(

25320 = 0.9710

DAĞILMA DİYAGRAMLARIY

X

•

•

• •

•

•

•

•

••

•

••

15

10

5

15

105 20

3

Y=3+0.5X

r=0.82s=1.94

-6

Y

X15

10

5

15

105 20

3

Y=3+0.5X

r=0.82s=1.94

-6

Y

X15

10

5

15

105 20

3

Y=3+0.5X

r=0.82s=1.94

-6

Y

X15

10

5

15

105 20

3

Y=3+0.5X

r=0.82s=1.94

-6

(d)(c)

(b)(a)

••

••

•

•

• •

•

•

Aşırı kıymet

••••

STANDARTLAŞTIRILMIŞ HATA TERİMLERİ

0.58120.38796

-0.299590.90774

-1.18037-1.455980.41043

-0.27712-0.635121.56084

7.05454.7091

-3.636411.0182

-14.3273-17.6727

4.9818-3.3636-7.709118.9455

80100120140160180200220240260

eiei/s Xi

e/s 'nin dağılma diyagramı

-2

0

2

60 100 140 180 220 260

EKK Tahminlerinin Standart Hataları ve Kullanılışı

EKK tahminleri ve örnek verilerine dayanarak hesaplanır.

Bir anakütleden bir çok örnek çekilebilir, bu durumda her örnek seti

için farklı tahminciler elde edilecektir. Örnek değerlerinin anakütle

değerleri b1 ve b2 ye ne ölçüde yakın olduğu standart hatalarla

hesaplanır.

Standart hata, tahmincinin örnekleme dağılımının standart

hatasıdır.

1b 2b

Bir tahmincinin örnekleme dağılımı anakütleden seçilebilecek aynı

büyüklükteki örneklerin lerin dağılımıdır. (75 milyar)

60 hanelik anakütleden çekebileceğimiz onluk (75 milyar) örnek için

hesaplanan değerlerinin örnekleme dağılımı ortalama

etrafında normal dağılmaktadır.

Anakütleden çekilen örnekler için hesaplanan EKK leri

örneklerin farlı değerli Y(tüketim) ve X(gelir gibi) e sahip

hanelerden oluşması gibi örnekleme hatalarından dolayı gerçek

değerinden farklıdır.

b

2b )ˆ( 2bE

2b

2b

Örnekleme hataları + ve – yönde aynı ihtimalle ortaya çıkan hatalardır. Ortalama ölçüsü standart hatadır.

En Küçük Karalerle Parametre Tahminlerinin Ortalama ve Varyansı

1b ’in ortalaması:

1 1ˆ( )E b b

1b ’in varyansı:

22 2

1 1 1 2ˆ ˆ( ) ( ) . i

ui

XVar b E b b

n x

2b ’nin ortalaması:

2b ’n'in varyansı:

2 2ˆ( )E b b

2 22 2 2 2

1ˆ ˆ( ) ( ) .ui

Var b E b bx

Katsayıların Standart Hataları

2

2

1 xn

X . s)b( s

22x

s)b( s

)33000.(10

322000 . 138.12 = 11.99

33000

138.12 = 0.0668

Aralık Tahminleri

± t/2 . s( ) 1b 1b

±t/2 . s( ) 2b 2b = 0.7672727 2.306

(0.0668) 0.6132319< 2 <0.9213135

= 6.5636364 2.306 (11.99)

-21.0853 < 1 < 34.2126

Hipotez Testleri

0.6132319< 2 <0.9213135

-21.0853 < 1 < 34.2126

Güven Aralığı Yaklaşımı İle

Hipotez Testleri

Anlamlılık Testi Yaklaşımı İle

•Hipotezlerin Formüle Edilmesi

•Tablo Değerlerinin Bulunması

•Test İstatistiğinin Hesaplanması

•Karar Verilmesi

Hipotez Testleri

1.Aşama H0: 2 = 0

H1: 2 0

2.Aşama = ? = 0.05 ; S.d.=? = n-k = 10-2=8

3.Aşama

t,sd =? t0.05,8=? =2.306

?)b(s

bbt

2

*22

hes

0668.0

07672727.0 =11.4861

4.Aşama |thes= 11.4861 | > |ttab= 2.306 |

H0 hipotezi reddedilebilir

Regresyon ve Varyans Analizi

Değişkenlik KaynağıSapma KareleriToplamı=SKT

SerbestlikDerecesi=sd

SKT Ortalaması=SKTO

Regresyona BağlıDeğişkenlik=RBD

2y f1=k-1=12y

Hata Terimine BağlıDeğişkenlik=HBD

e2 f1=n-k kn

e2

=s2

ToplamDeğişkenlik=TD

y2 n-1

Regresyon ve Varyans Analizi

DeğişkenlikKaynağı

SKT sd SKTO

RBD 19427.3455 2-1=1 19427.3455HBD 1178.6545 10-2=8 147.3318

TD 20606 10-1=9 Fhes=3318.147

3455.19427=131.8612

EKK Modelinde Önceden Tahmin

•İleriye Ait Tahmin

•Önceden Tahmin

•Örnekten Tahmin Edilen İlişkinin Ayni Kaldığı

•X Değerlerinin Aynı Eğilimde Olacağı

Y’nin Aralık Tahmini

0Y ± t/2 . s 2

20

x

)XX(

n

11

0Y ± t/2 . s)Y(0 Y0’ın güven aralığı

Y’nin Aralık Tahmini

0YX0=80 = 67.9455

67.9455 ±

2

33000

)80(101

1 170

35.47840 Y0| X0 100.41251

Y’nin Ortalamasının Aralık Tahmini

0Y ± t /2 . s2

20

x

)XX(

n

1

0Y ± t/2 . s)Y(0 Y’nin ortalamasının güven aralığı

Y’nin Ortalamasının Aralık Tahmini

0YX0=80 = 67.9455

67.9455 ±

2

33000

)80(101 170

51.49402 E(Y0| X0) 84.39689

Y’nin Güven Aralıkları

35.4784052.0157268.2857784.2635999.93034

115.27579130.29996145.01304159.43390173.58749

100.41251114.56610128.98696143.70004158.72421174.06966189.73641205.71423221.98428238.52160

80.00100.00120.00140.00160.00180.00200.00220.00240.00260.00

51.4940269.3382186.90184

103.99618120.34284135.68829150.03254163.62911176.75639189.60311

84.3968997.24361

110.37089123.96746138.31171153.65716170.00382187.09816204.66179222.50598

X0 Alt Sınır Üst Sınır Üst SınırAlt Sınır

Y’ninAralık Tahminleri Y’nin OrtalamasınınAralık Tahminleri

X

3002001000

Y 240

220

200

180

160

140

120

100

80

60

40

20

0

En Küçük Kareler Tahminlerinin Özellikleri

Genellikle bir tahminin ana kütle parametresinin gerçek

değerine yakın olması ve bu gerçek parametre

yakınlarında dar bir aralıkta değişmesi istenir. Ana kütle

parametresine ‘yakınlık’ çeşitli ekonometri tahmin

yöntemleri ile bulunmuş tahminlerin örnekteki

dağılımların ortalaması ve varyansıyla ölçülür.

1. Tahmin Edicilerin Küçük Örnek Özellikleri

Burada her zamanki varsayımsal yenilemeli örnekleme süreci kullanılır, yani her biri n gözlemli çok sayıda örneğin alındığı varsayılır. Ekonometri yöntemlerinin her birini kullanarak her örnekten hesaplanıp dağılımları oluşturulur.

Küçük örnekten bulunmuş iyi bir tahmin edici için temel ölçütler:Sapmasızlık, En küçük varyans, Etkinlik, Doğrusal en iyi, sapmasızlık (DES), En küçük ortalama hata karesi (OHK), Yeterlilik dir.

b

En Küçük Kareler Tahminlerinin Özellikleri

a. Sapmasız Tahmin EdiciBir tahmin edicinin sapması, beklenen değeriyle

gerçek parametre arasındaki fark olarak tanımlanır.

Sapma= -bEğer sapma sıfırsa yani = b ise, sapmasız olur.

Bu da örneklerin sayısı artıkça, sapmasız tahmin edicinin, parametrenin gerçek değerlerine yaklaştığı anlamına gelir. Sapmasız bir tahmin edici ‘ortalama olarak’ parametrenin gerçek değerini verir.

Aranan bir özellik olmasına karşın, sapmasızlık kendi başına çok önemli değildir. Ancak küçük bir varyansla birleşirse önemli olur.

)ˆ(bE)ˆ(bE

, b’nin sapmalı tahmin edicisidir

, b’nin sapmasız tahmin edicisidir

b b

a. Sapmasız Tahmin Edici

b. En Küçük Varyanslı Tahmin Edici (En İyi Tahmin Edici)…

Bir tahmin, başka ekonometri yöntemleriyle bulunmuş başka herhangi bir tahminle karşılaştırıldığında en küçük varyansa sahip olduğu görülürse en iyi tahmindir. nin en iyi olma koşulu:

<Ya da;

Var( )<Var( )

Burada , gerçek parametre b nin (sapmasız olması gerekmeyen) herhangi bir başka tahminidir.

b

2)]ˆ(ˆ[ bEbE 2)]~

(~

[ bEbE

b b~

b~

Varyansı küçük olduğu halde sapması büyük olan bir tahmin edici, gerçek b parametresinden oldukça uzak bir değer etrafında toplanabilmektedir.

, b nin büyük varyanslı sapmasız tahmin edicisidir.

, b nin küçük varyanslı sapmalı bir tahmin edicisidir.

b

b~

b. …En Küçük Varyanslı Tahmin Edici (En İyi Tahmin Edici)

c. Etkin Tahmin Edici

Bir tahmin edici; sapmasız ve başka herhangi sapmasız tahmin ediciyle karşılaştırıldığında daha düşük varyansa sahipse etkin tahmin edicidir.

Aşağıdaki iki koşul yerine getirilirse etkindir:

(i)

ve

Burada , gerçek b nin başka bir sapmasız tahmin edicisidir. Başka bir deyişle, etkin tahmin edici, bütün tahmin sapmasız ediciler sınıfı içinde en düşük (en iyi) varyansa sahip olan tahmin edicidir.

bbbE )ˆ(

2**2 )]([)]ˆ(ˆ[ bEbEbEbE

*b

(ii)

d. Doğrusal Tahmin Edici…

Bir tahmin edici, örnekteki gözlemlerin doğrusal bir fonksiyonuysa doğrusal sayılır. Örnek gözlemleri veriyken, doğrusal bir tahmin edici şu biçimi alır:

Burada ki ler sabit değerlerdir.

Örneğin

olduğundan

örnek ortalaması doğrusal bir tahmin edicidir. Çünkü:

1 1 2 2 ... n nk Y k Y k Y

Y

1 2

1... nk k k

n

1 2 1 2

1 1 1 1 1... ... )i

i n n

YY Y Y Y Y Y Y Y

n n n n n n

örnek ortalaması hesaplanırken her gözleme, 1/n ye eşit olan

aynı k ağırlığı verilmiştir.

Y

d...Doğrusal Tahmin Edici…

e. Doğrusal en iyi sapmasız tahmin edici (DEST)

Bir tahmin edici, doğrusalsa sapmasızsa ve gerçek

b nin öteki doğrusal sapmasız tahmin edicileriyle

karşılaştırıldığında en küçük varyansa sahipse,

DEST olur.

f. En küçük ortalama hata kareli (OHK) tahmin edici

Ortalama hata karesi ölçütü, sapmasızlık ve en küçük varyans özelliklerinin bir bileşimidir. Burada OHK, tahmin edicinin, ana kütledeki gerçek parametre b ile olan farkının karelesinin beklenen değeri olarak tanımlanır:

OHK nin, tahmin edicinin varyansıyla sapma karesinin toplamına eşit olduğu gösterilebilir:

2ˆ ˆ( ) ( )OHK b E b b

)ˆ()ˆ()ˆ( 2 bsapmabVarbOHK

2 2ˆ ˆ ˆ ˆ ˆ ˆ( ) ( ) 2 [ ( )][ ( ) ]E b E b E b b E b E b E b b

2ˆ( )OHK E b b

2ˆ ˆ ˆ( ) ( )E b E b E b b

2ˆ ˆ ˆ( ) ( )E b E b Var b

22ˆ ( )E b b sapma b

f… En küçük ortalama hata kareli (OHK) tahmin edici…

İspat:

ˆ ˆ ˆ[ ( )][ ( ) ] 0E b E b E b b

2ˆ ˆ ˆ ˆ ˆ( ) ( ) ( )E bE b E b bb bE b

2 2ˆ ˆ ˆ ˆ( ) ( ) 0E b E b bE b bE b

)ˆ()ˆ()ˆ( 2 bsapmabVarbOHK

Çünkü:

f. En küçük ortalama hata kareli (OHK) tahmin edici

g. Yeterli tahmin edici

Yeterli bir tahmin edici, gerçek parametre hakkında bir

örneğin içerdiği bütün bilgileri kullanıma koyan bir tahmin

edicidir. Bu başka hiçbir tahmin edicinin, tahmin edilmekte

olan gerçek ana kütle parametresi hakkında daha fazla bilgi

sunamayacağı anlamına gelir.

2. Tahmin edicilerin büyük örnek özellikleri: Asimtotik özellikler

Büyük örnek özelliklerinin, bir tahminin iyiliğini belirleme ölçütü

olarak kullanılması, örneğin sonsuz büyük olmasını gerektirir. İşte

bu nedenle bu özelliklere asimtotik özellikler denir. Örnek büyük

olduğu zaman bu özelliklerin yaklaşık olarak sağlandığı varsayılır.

Özellikler ise şunlardır: asimtotik sapmazlık, tutarlılık ve

asimtotik etkinlik.

Asimtotik dağılım:

Bir dizi rassal değişken düşünüldüğünde;

Bunlardan her birinin kendi dağılımı, ortalaması ve

varyansı vardır. Dağılımlar gitgide artan örnek

büyüklüklerinden oluşturulmuştur. nT sonsuza

giderken bu dağılımlar da belli bir dağılıma doğru

yaklaşıyor olabilirler. İşte bu dağılıma {X(n)} dizisinin

asimtotik dağılımı denir.

2...Tahmin edicilerin büyük örnek özellikleri: Asimtotik özellikler

( ){ } .T1 2 nn n nX X X X

a. Asimtotik sapmasızlık…

Bir tahmincinin asimtotik sapması, asimtotik ortalaması ile gerçek parametre arsındaki farka eşittir.

b

ˆlim ( )nn

E b b

ˆ 'ˆlim ( )nn

b nin

asimtotik E b b

sapması

Eğer edicisinin asimtotik ortalaması, ana kütlenin gerçek b parametresine eşit ise, bu tahmin edici, bu parametrenin asimtotik sapmasız tahmin edicisidir.

Eğer bir tahmin edici (sonlu küçük örneklerde)

sapmasızsa aynı zamanda asimtotik sapmasızdır,

ama bunun tersi doğru değildir.

a… Asimtotik sapmasızlık

Asimtotik bir sapmasız tahmin edici, örnek

büyüklüğü yeterine büyük olduğunda sapması

kaybolan bir tahmin edicidir.

b. Tutarlılık…

ˆ,b

b

ˆlim ( )nn

E b b

ˆlim ( ) 0n

Var b

Bir edicisi, aşağıdaki iki koşulla, ana kütlenin b gerçek parametresinin tutarlı bir tahmin edicisidir:

1. asimtotik sapmasız olmalıdır.

2. n sonsuza giderken 'nin varyansı sıfıra yaklaşmalıdır:

b

Eğer varyans sıfırsa, dağılım ana kütlenin gerçek parametresinin üstünde bir noktada toplanır.

Bir tahmin edicinin tutarlı olup olmadığını anlamak için, n arttıkça sapmanın ve varyansının ne olduğuna bakılmalıdır. (n) büyüdükçe hem sapma hem varyans azalmalı ve limitte ( iken) sıfır olmalıdır. Tutarlılık kavramı aşağıda çizilmiştir. Örnek büyüklüğü artıkça hem sapma hem varyans azalmaktadır.

n

Tutarlılık…

c. Asimtotik etkinlik

Eğer

(1) tutarlıysa

(2)Başka herhangi bir tutarlı tahmin ediciye göre daha küçük bir asimtotik varyansı varsa

bu tahmin edici ana kütlenin gerçek b parametresinin asimtotik etkin bir tahmincisidir.

Eğer;

ise asimtotik etkindir. Burada , b nin başka bir tutarlı tahmin edicisidir. Tutarlı tahmin ediciler karşılaştırıldığında hangisinin varyansı daha hızla sıfıra yaklaşıyorsa o, asimtotik etkendir.

b

21 ˆlim ( )nnE n b b

n

2*lim1

bbEn

nn

b *b

3. En Küçük Kareler Tahmin Edicilerinin Özellikleri

Hata terimi u'nun bazı genel varsayımları yerine

getirmesi, yani ortalamasının sıfır ve varyansının

sabit olması koşuluyla, en küçük kareler

tahmincilerinin DES ( doğrusal, en iyi,

sapmasız) özelliklerini sağlamasına Gauss-Markow

en küçük kareler teoremi denmektedir.

a. Doğrusallık En küçük kareler tahminleri ve gözlenen örnekteki Yi

değerlerinin doğrusal fonksiyonlarıdır. Varsayım gereği Xi ler hep aynı değerlerle göründüklerine göre en küçük kareler tahminlerinin yalnız Y değerlerine bağlı olduğu gösterilebilir.

1b 2b

2 2ˆ i

i i ii

xb Y k Y

x 2

ii

i

xk

x

1ˆ ( )b f Y 2

ˆ ( )b f Yİspat:

Varsayım gereği X değerleri sabit değerler kümesidir. Bu durumda ki lerde örnekten örneğe değişmezler.

Bu durumda şunu yazabiliriz:

2 1 1 2 2ˆ ... ( )i i n nb k Y k Y k Y k Y f Y

2b Y’lerin doğrusal bir fonksiyonudur. Bağımlı değişken

değerlerinin doğrusal bir bileşimidir.

1

1ˆ [ ]i ib Xk Yn

X ve ki Örnekten örneğe değişmez.

katsayı tahmini sadece Y ye bağlıdır.

…Doğrusallık

b. Sapmasızlık

ve nin sapmasızlık özelliği ve

şeklindedir. Bu özelliğin anlamı, örneklerin sayısı artıkça tahminler de parametrelerin gerçek değerine yaklaşır. Başka bir deyişle, n sayıda Y ve X gözleminden oluşan, olanak içindeki bütün örnekleri seçildiğinde ve ile

tahminleri her örnek için hesaplandığında, bu tahminlerden çok fazla sayıda elde edilir. Bunların ortalaması ise ilişkinin parametrelerine eşit olur. Tahminlerin dağılımı, orta nokta olarak parametrenin gerçek b değeri üzerinde toplanacaktır.

1b 2b 2 2ˆ( )E b b1 1

ˆ( )E b b

1b 2b

c. En Küçük Varyans

Gauss-Markow teoremi ispatı: Bu teoreme göre en küçük kareler tahminleri, başka ekonometri yöntemleriyle bulunmuş herhangi bir başka doğrusal sapmasız tahmin ediciler arasında en iyisidir ( varyansı en küçük olandır). EKK yönteminin tercih edilmesinin temel nedeni de bu özelliktir.