آموزش همبستگی و رگرسیون خطی در spss

همبستگي و رگرسيون خطي درSPSSدر

:مدرس

آرمان ري بددانشجویی دکتري آمار

دانشگاه بیرجند

و رگرسیونهمبستگی SPSSخطی در

faradars.org/fvst9408

فرادرس

FaraDars.org

ضريب همبستگي

وجود ارتباط بين دو متغير•

-1و يا + 1ارتباط دو متغير شديد، مقدار ضريب نزديک به •

كاهش ارتباط بين دو متغير مقدار ضريب نزديک به صفر•

دو متغير مستقل، مقدار ضريب همبستگي برابر صفر•

استقاللبرای دو متغير نرمال، ضريب همبستگي برابر صفر •



فرادرس

FaraDars.org

محاسبه ضريب همبستگي

Scatter (Dot) plot–مشاهده ارتباط دو متغير از طريق نمودار نقطه ای •

.استCovarianceمحاسبه ضريب همبستگي پيرسون براساس مقدار •

•Covarianceشاخص اندازه گيری ميزان ارتباط بين دو متغير

•Covariance وابسته به واحد و مقياس متغيرها

( درصد)شاخص بدون واحد Correlationضريب همبستگي •



فرادرس

FaraDars.org

نمودار خط همبستگي

(رابطه مستقيم)ضريب همبستگي مثبت •

Y V

ari

ab

le

X Variable

رابطه مستقیم



فرادرس

FaraDars.org


ضريب همبستگي منفي•

Y V

ari

ab

le

X Variable

معکوسرابطه



فرادرس

FaraDars.org


همبستگي ضعيف•

0

200

400

600

800

1000

0 200 400 600 800 1000

Y V

ari

ab

le

X Variable

بدون رابطه ی خطی



فرادرس

FaraDars.org

]پيرسون[محاسبه ضريب همبستگي

روش محاسبه كوواريانس•

روش محاسبه ضريب همبستگي پيرسون•

)Y(E).X(E)XY(E])]Y[EY])(X[EX[(E)Y,X(iancevarCo

)Y(Var)X(Var

)Y(E).X(E)XY(E)Y,X(nCorrelatio



فرادرس

FaraDars.org

انواع ضريب همبستگي

•Covariance

•Correlationهمبستگيضريب همبستگي پارامتری•

( Pearson–ضريب همبستگي پيرسون )همبستگي خطي –.فرض بر اين است كه هر دو متغير دارای توزيع نرمال دو متغيره هستند•

ضريب همبستگي ناپارامتری–

(Spearman-ضريب همبستگي اسپيرمن)همبستگي رتبه ای –(Kendall’s Tau_b–ضريب همبستگي كندال)همبستگي ترتيبي تفاضلي –



فرادرس

FaraDars.org

پيرسوناستنباط آماری ضريب همبستگي

توزيع تقريبي ضريب همبستگي و آزمون مربوطه•

9

),(N~W

Z

n,)ln(

)n

),ln((N~)R

Rln(W

w

w

ww

10

3

1

1

1

2

1

3

1

1

1

2

1

1

1

2

1

2



فرادرس

FaraDars.org

آزمون ضريب همبستگي

H0 H1آماره آزمون ناحیه بحرانی

=0 >0 Z>z1-

=0 <0 “ “ Z<-z1-

=0 0 “ “ |Z|>z1-/2

w

wWZ

0



فرادرس

FaraDars.org

ضريب همبستگي جزئي

(آنتاثيرحذفيا)سوممتغيركنترلصورتدرمتغيردوبينخطيهمبستگيميزانسنجش•

محاسبهروش•

)r)(r(

rrrr

BCAC

BCACABC,AB

22 11



فرادرس

FaraDars.org

Regression–رگرسيون معادله خط برگشت



فرادرس

FaraDars.org

Regression-خط برگشت

X-متغير مستقل•

قابل كنترل–

غير تصادفي–

Y|x-متغير وابسته•

متغير تصادفي–

xوابسته به مقدار –

13



فرادرس

FaraDars.org

رگرسيون

رگرسيون خطي، تعيين ضرايب معادله خطي•

پيدا كردن بهترين معادله خط براساس يک معيار•

-LSE)انتخاب معيار كمترين مربعات خطا • Least Square Error)

تعيين روند و پيش بيني براساس معادله خط•

مربوط به محور افقي ( Independent)متغير يا متغيرهای مستقل •

(تابع خطي از متغير مستقل)مربوط به محور عمودی ( Dependent)متغير وابسته •



فرادرس

FaraDars.org

رگرسيون

:مثال•تعيين رابطه بين فشار و نقطه جوش آب–

(نمودار رشد)تعيين رابطه بين سن و وزن نوزادان –

.برآورد ميزان فروش فروشندگان يک فروشگاه براساس، سن، تجربه، ميزان تحصيالت–

وص برآورد ميزان محصول براساس ميزان بارندگي، نوع كود، نوع بذر و استفاده از روشهای مخص–رفع آفات



فرادرس

FaraDars.org

رگرسيون

Y|xمدل خطي ساده • = a+bx+E•

•Y|x متغير تصادفي وابسته بهx

•E(Y|x)=a+bx

•Var(Y|x)=2

• E2= [y-(a+bx)]2

σ 2خطای تصادفي با ميانگين صفر و واريانسEمتغير تصادفي •

.a,b, σ2پارامترهای اين مدل عبارتند از •



فرادرس

FaraDars.org

رگرسيون

مفروضات•ونرمالبايدامانده هباقيتوزيعيا.استنرمالتوزيعيکوابستهمتغيرتوزيعمستقل،متغيرمقدارهربرای–

.باشدديگرمشاهداتازمستقل

.برای همه مقادير متغير مستقل بايد واريانس متغير وابسته ثابت باشد–

.همه مشاهدات باقي مانده ها بايد تصادفي باشند–

.ارتباط دو متغير وابسته و مستقل؛ بايد خطي باشد–



فرادرس

FaraDars.org

رگرسيون

معادله خط رگرسيون •

• Y=a+bx+e

•a مقدار عرض از مبدا ياconstantناميده مي شود.

•bمقدار شيب خط يا ضريب متغير مستقل ناميده مي شود.

•eخطای مشاهده و مدل رگرسيون است.

.هرچه اندازه متوسط مربعات خطا كمتر باشد معادله رگرسيون بهتر مشاهدات را مدل كرده است•



فرادرس

FaraDars.org

فرض نرمال بودن خطاها و ثابت بودن انحراف استاندارد

و E(Y|x=65)توزیع نرمال با میانگین انحراف استاندارد

و E(Y|x=90)توزیع نرمال با میانگین انحراف استاندارد



فرادرس

FaraDars.org

برآورد ضرایب رگرسیونی

Least Square-روش كمترين مربعات•

(Residual)برآورد پارامترها براساس كمينه كردن مربع باقي مانده ها –

مشتق گيری و حل دستگاه معادالت–

20

n

i

ii

n

i

i )]bxa(y[eRSS1

2

1

2



فرادرس

FaraDars.org

برآورد ضرايب رگرسيون

كمينه كردن مجموع مربعات خطا : روش برآورد ضرايب مدل رگرسيوني•

:برآورد ضرايب مدل رگرسيوني•

xbya ˆˆ

x

y

s

srb ˆ

2222

xy sbsˆ



فرادرس

FaraDars.org

آزمون مربوط به ضرایب معادله رگرسیونی

22

H0 H1آماره آزمون ناحیه بحرانی

=0

>0 T>t(n-2,1-)

<0 T<-t(n-2,1-)

0 |T|>t(n-2,1-/2)

b=b0

b>b0 T>t(n-1,1-)

b<b0 T<-t(n-1,1-)

bb0 |T|>t(n-1,1-/2)

2

2

0

x

i

nS

xS

aaT

xS

S

bbT 0



فرادرس

FaraDars.org


مدل خطي مربوط به مثال–

23

771.28 1.909y x



فرادرس

FaraDars.org


Least Square-روش كمترين مربعات•

(Residual)برآورد پارامترها براساس كمينه كردن مربع باقي مانده ها –

:كل تغييرات–

رابطه كل تغييرات با تغييرات جزئي–

24

n

i

ii

n

i

i )]bxa(y[eRSS1

2

1

2

n

i

i )yy(SSTotal1

2

RSSSStotalSSreg



فرادرس

FaraDars.org

جدول آنالیز واریانس

تشخيص مناسب بودن مدل•

سهم مدل در تعيين تغييرات كل–

در تعيين تغييرات كل( باقي مانده ها)سهم خطاهای تصادفي –

25

2

n

RSSMSres

1

SSregMSreg

MSres

MSregF



فرادرس

FaraDars.org

منبع تغییرات آزادیدرجه مربعاتمجموع مربعاتمیانگین F Sig

Regression 1 MSreg=SSreg MSreg/MSres P-Value

Residual n-2 MSres=Ssres/n-2

Total n-1

جدول آناليز واريانس

26

2)yy(SSreg i 2)yy(SSres i2)yy(SStot i



فرادرس

FaraDars.org

آزمون فرضيات

فرض نرمال بودن باقي مانده ها•

Normal Q-Q Plotيا رسم نمودار Normal P-P Plotرسم نمودار –

(kolmogorov-Lilian)آزمون های آماری مرتبط با توزيع –

فرض ثابت بودن واريانس باقي مانده ها•رسم نمودار مقادير پيش بيني در مقابل باقي مانده ها–

(Leven’s test)آزمون مربوط به مقايسه واريانس ها –

فرض تصادفي بودن باقي مانده ها•رسم نمودار مقادير پيش بيني در مقابل باقي مانده ها–

(Run test)-آزمون آماری مرتبط–



فرادرس

FaraDars.org

نرمال بودن باقي مانده ها



فرادرس

FaraDars.org

ثابت بودن واريانس باقي مانده ها

عدم وجود شکل قيف در نمودار باقي مانده ها در مقادير پيش بيني شده•



فرادرس

FaraDars.org

تصادفي بودن باقي مانده ها

عدم وجود الگو در نمودار باقي مانده ها •



فرادرس

FaraDars.org

رگرسيون چند متغيره

Multiple Regression



فرادرس

FaraDars.org


مشابه رگرسيون يک متغيره •

تعيين اهميت هر متغير مستقل در مدل خطي•

!وجود رابطه بين متغيرهای مستقل•



فرادرس

FaraDars.org


متغيره pشکل عمومي رگرسيون •

• Y |x=b0+b1x 1+...+bpxp+ei

روش برآورد ضرايب، كمينه كردن مجموع مربعات خطا•

تغير ماتريس ضرايب و بردار متغيرها و بردار خطاها و بردار م)استفاده از روشهای برداری و ماتريسي •(وابسته



فرادرس

FaraDars.org


:تعيين متغيرهايي كه بيشترين نقش را در معادله رگرسيون دارند•

. در اين روش همه متغيرها وارد مدل مي شوندEnterروش –

. در اين روش همه متغيرها از مدل خارج مي شوندRemoveروش –

.در اين روش متغيرها با توجه به ضابطه خروج متغيرها يکي يکي از مدل خارج مي شوندBackwardروش –

.در اين روش متغيرها با توجه به ضابطه ورود يکي يکي به مدل اضافه مي شوندForwardروش –

لي در اين روش با ورود هر متغير مجددا ضابطه مورد بررسي قرار مي گيرد و ممکن است متغيرهای قبStepwiseروش –(روش موثر. )باقي مانده يا از مدل خارج شوند



فرادرس

FaraDars.org


.ه استبرای بررسي صحت مدل رگرسيون آزمون هايي مشابه روش رگرسيون خطي ساده قابل استفاد•



فرادرس

FaraDars.org

رگرسيون غيرخطي

ورت خطي با استفاده از بعضي از تبديالت روی متغيرهای مستقل امکان تبديل رابطه غيرخطي به ص•

.وجود دارد

.باشد2برای مثال ممکن است رابطه به صورت درجه –

مي توان معادله را به صورت خطي با متغير مستقل w=x2با استفاده از يک متغير جايگزين مثال –

w بدست آورد و با جايگزين كردن آن باx2برای بدست آوردن معادله غيرخطي اقدام كرد.

نيز مي توان رابطه های نمايي را به صورت خطي logاز تغيير متغير –

Y|x=Exp(a+bx+e).درآورد



فرادرس

FaraDars.org

رگرسيون غيرخطي

مدل توان دو•

مدل نمايي•

2

2, ,

y x e

y x y w e w x

log( ) log(b),

xy b e

y x



فرادرس

FaraDars.org

رگرسيون با متغير مستقل طبقه ای

اگر متغير طبقه ای صفر باشد•

اگر متغير طبقه ای يک باشد•

1 1 1

1 1 2

...

...

p p

p p

y b x b x a E

y b x b x a E



فرادرس

FaraDars.org

این اسالید ها بر مبناي نکات مطرح شده در فرادرس« SPSSهمبستگی و رگرسیون خطی در »

.تهیه شده است

.دنماییلینک زیر مراجعه براي کسب اطالعات بیشتر در مورد این آموزش به




فرادرس

FaraDars.org

آموزش همبستگی و رگرسیون خطی در spss

Education