پروژه جبرخطی - زنجیره مارکوف

36
ی ط خ ر ب ج ا ی ب ی ا ن ش ه درس آ ور ر پ ف ی ر ش ی" عت ن ص گاه ش ن دآ ی ل ن ص ح" ت رم دوم سال" پ90 - 91 5 ورآن پ ردآد ف، ) هاب ش( ی م ی ر ک5 ن سی ح90104395 ، 90103869 [email protected] , [email protected]

Upload: fardad-pouran

Post on 31-Oct-2015

52 views

Category:

Documents


2 download

TRANSCRIPT

Page 1: پروژه جبرخطی - زنجیره مارکوف

پروژه درس آشنایی با جبر خطی

دانشگاه صنعتی شریف

91-90ترم دوم سال تحصیلی

حسین کریمی)شهاب( ، فرداد پوران

90104395 ، 90103869

[email protected] , [email protected]

مدرس : میثم مدنی

زنجیره مارکوف : انواع و کاربردها

Page 2: پروژه جبرخطی - زنجیره مارکوف

با رویکرد ماتریسی

چکیده

در عالم بیرون، ماهمیشه درگیر فرآیندهایی هستیم کHه در طHول زمHان بHه صHورت

احتمHHالی در حHHالت تغیHHیر می باشHHند. خHHواه این فرآینHHد یHHک فرآینHHد زیسHHتی، خHHواه

فیزیکی و خواه اجتماعی باشند. حال حالتی را فرض کنید که سیستم در حال تغیHHیر

است و وضعییت هر حالت تنها تHHابعی از حHHالت قبلی می باشHHد.یعHHنی بHHا در دسHHت

داشتن احتمال وقوع رخHدادی در هHر حHالت، می تHوان در مHورد احتمHال وقHوع آن

رخداد در حالت بعدی اظهار نظر کرد.به این گونه فرآیند هHHا،فرآینHHد هHHای مHHارکوف

اطالق می شود.

در این مقاله فرایند مارکوف با تکیه بHHر تHHبین لHHزوم اسHHتفاده از زبHHان مHHاتریس، بHHا

طرح ریزی ابتدایی به واسطه ابزار ترکیبیHHات بHHا توجHHه بHHه شHHهود گHHرافی و سHHپس

جبری کردن گراف، فضای فرآیند های مارکوف را تحت عنوان زنجHHیر مHHارکوف بHHه

مدل های جبر خطی در می آوریم.

مقدمه

ابتدا بHHا طHHرح چنHHد مسHHاله و سHHوال ملمHHوس، لHHزوم طHHرح نفس سHHاخت زنجHHیره

مارکوف را محسوس می کنیم و در انتها پاسHHخ این مسHائل یHHاد شHHده را ارائHHه می

دهیم.

: یک دانشکده علوم اجتماعی می خواهHHد در بHHاره احتمHHال فHHارغ التحصHHیل1مساله

شدن گروه هایی از دانشHHجویانش اطالعHHاتی بدسHHت آورد.این دانشHHکده برحسHHب

امتیازاتی که دانشجویان بدست آورده اند، آنان را به عنHHوان درجHHه یHHک و درجHHه دو

می شناسد.داده های این دانشکده مبین آن اسHHت کHHه از یHHک تHHرم پHHاییزه تHHا تHHرم

Page 3: پروژه جبرخطی - زنجیره مارکوف

% از آنHان بHه30% از داتشجویان درجه دو فارغ التحصیل شده ،40پاییزه ی بعدی

% بHHه طHHور دائم تHHرک تحصHHیل می30عنHHوان دانشHHجوی درجHHه دو بHHاقی مانHHده و

% تا پHHاییز آینHHده10کنند.در مورد دانشجویان درجه یک تحقیقات نشان می دهد که

% درجه20% درصد دانشجوی درجه یک می شوند، 50فارغ التحصیل می شوند و

% به طور دائم ترک تحصHHیل می کننHHد. طی سHHال جHHاری،20یک باقی می مانند و

% درجه دو.فرض می کنیم که این رونHHد50% از دانشجویان درجه یک هستند و 50

به طور نامعین ادامه یابد.دانشگاه می خواهد اطالعات زیر را بدست آورد.

-درصد دانشجویان فعلی که تا پاییز آینده فارق التحصیل می شوند،درصدی که تHHا1

سال آینده دانشجوی درجه دو می شوند، درصدی که تا سال آینده درجه یHHک بHHاقی

می مانند، و درصدی از دانشجویان که تا پاییز آینده ترک تحصیل می کنند.

برای پاییز دو سال بعد.1- همان درصد های قسمت 2

-درصد دانشجویان فعلی که نهایتا فارغ التحصیل می شوند.3

: صفات ارث رسیده به فرزند توسط یک جفت ژن تعیین می شHHود کHHه از2مساله

نشHHان داده می شHHوند.g و Gوالدین به ارث می رسند.این ژن ها دونوع اند که بHHا

نماینده صفت مغلوب. در یک فرزنHHد بHHا نHHوع وراثتg نمایانگر صفت غالب و Gژن

Gg یا GG صفت غالب بروز می کند و در یک فرزند با نوع وراثت ggصفت مغلوب

صHHاحبGgبروز می کند.می خواهیم ببینیم که احتمHHال آنکHHه پHHدری بHHا نHHوع وراثت

فرزندی با هر یک از انواع وراثت می شود چقدر است؟

فرض کنید جمعیت مورد نظر به اندازه کافی بزرگ بوده، جفت گیری نسبت به نوع

وراثت تصادفی، و توزیع هر یHHک از انHHواع وراثت در میHHان جمعیت از جنس و طHHول

عمر مورد انتظار مستقل باشد.

(Markovآندری مارکوف )نگاهی بر زندگی .1

Page 4: پروژه جبرخطی - زنجیره مارکوف

میالدی ، تحصیالت آکادمی خود را با19 ، دانشمند روسی قرن آندری مارکوف

در دانشگاه سنت پطرزبورگ به پایان رساند. از کارهای1878مقطع دکترا در سال

ابتدایی اش می توان به نظریه اعداد و آنHHالیز ، نظریHHه تقHHریب و همگHHرایی سHHری ها

اشاره کرد.

میالدی تحت تHHأثیر اسHHتاد خHHود ، چبیشHHف ، بHHه پیشHHبرد نظریHHه1900او از سHHال

قضHHیه حHHد بHHه اثبHHات اولیه ای بHHرای مHHارکوف و چبیشفاحتماالت پرداخت.کارهای

انجامید.مرکزی

بHHود کHHه او بیشHHتر بHHه همین مبحثزنجیرهای مارکوفاما کارهای اساسی او همین

مشهور است.

جالب است بدانید که مارکوف به شعر عالقه مند بود و پیرامون ساختارهای شHHعری

مطالعاتی انجHHام داده اسHHت. امHHا جHHالب تر این اسHHت کHHه مHHارکوف پسHHری هم نHHام

خودش داشت که راه پدر را ادامه داد.

در سنت پطرزبورگ دیHHده از جهHHان1922سرانجام مارکوف در سال بیستم جوالی

فروبست.

مفهوم زنجیر مارکوف )بیان احتماالتی( :.2

فرض کنید یک فرآیند تصادفی شامل دنبHHاله ای از حHHاالت بHHا احتمال هHHای وقHHوع

وابسHHته بHHه حHHالتفقطمختلف داریم. اگر احتمHHال وقHHوع هHHر یHHک از این حHHاالت

پیشینش باشد ، آن دنباله را زنجیر مارکوف می نامیم.

به زبان نظریه احتماالت ریاضی خواهیم داشت :

X}: فرض کنید دنباله ای از متغیرهای تصHHادفی و مسHHتقلw زنجیر مارکوفتعریف i}

n∈Nدر اختیار داریم. این دنباله را زنجیر مارکوف گویند هرگاه این ویژگی برای هر

برقرار باشد :

Page 5: پروژه جبرخطی - زنجیره مارکوف

P ( Xn= j|Xn−1=i , …, X1=x1¿ = P ( Xn= j|Xn−1=i ¿

این تعریف همHHانطور کHHه پیداسHHت ، بHHر حالت هHHای گسسHHته و نهایتHHا شHHمارا داللت

Xمی کند و i هستند.فضای نمونه ای ها از مجموعه شمارای

k∈Nک ارHHر یHHه هHHرتیب کHHه این تHHود ؛ بHHمعموال در این تعریف به زمان اطالق میش

Xحاالت k را حالت وضعیت سیستم در زمان kاربردHHگویند. اما می توان بر حسب ک

واحد طول یا هر واحد فیزیکی دیگHHری را نسHHبت دهیم. در این مقالHHه مHHا معHHادال از

استفاده می کنیم.زمان

P(iعبارت فوق را به صورت , j) عیت می نویسیم وHHال ورود از وضHHاحتمiانHHدر زم

n−1 به j در زمان n+1 . می خوانیم

P ( i , j ,0,1} در شHHرایط زیHHر صHHدق می کنHHد کHHه ( …, M مجموعHHه مقHHادیر متغیرهHHای{

تصادفی است :

P ( i , j ) ≥ 0

∑j=0

M

P (i , j )=1

∑زیرا j=0

M

P (i , j برابر است با :(

∑j=0

M

P (i , j )=∑j=0

M

P ( X n= j∨Xn−1=i )=∑j=0

MP ( i∩ j )

P ( i )=∑j=0

M

P ( i∩ j )

P (i )=∑j=0

M

P ( i ) P ( j )

P (i )=∑

j=0

M

P ( j )=1

حال اگر زنجیر مارکوف ، نسبت به زمان همگن باشد ، خواهیم داشت :

∀n∈N : P ( Xn+1= j|X n=i¿=P ( Xn= j|Xn−1=i ¿

∀n∈N : P ( Xn= j|Xn−1=i ¿=P ( X 2= j|X1=i¿ یا

Page 6: پروژه جبرخطی - زنجیره مارکوف

برابHHر احتمHHالn+1 در زمHHان j به n−1 در هر زمان iیعنی احتمال ورود از وضعیت

است.2 به زمان 1این تغییر وضعیت از زمان

دقت کنید که در این مقالHه زنجیرهHای همگن بررسHی می شHود مگHر خالفش ذکHر

شود.

اما اساسا زنجHیر مHارکوف در تغیHیر حالت هHای چنHد مHرحله ای بررسHی می شHود ؛

را بHHا این مرحلHHة زمHHانی n طی j بHHه وضHHعیت iتغییر حالت از وضعیت بنابراین ما

نماد تعریف میکنیم :

Pn (i , j )=P ( Xn= j|X0=i ¿

Pnکه در زنجیرهایی که ما بررسی می کنیم : ( i , j )=P ( Xn+m= j|X m=i¿ ∎

wیز هم چنین با استفاده از قانون به سادگی می توان دید :ب

P ( Xn=in , Xn−1=in−1 , …, X0=i0 )=¿P ( Xn=in∨Xn−1=in−1 ,…, X0=i0 ) P ( Xn−1=in−1 ,…, X 0=i0 )=¿

P(in−1 ,in)P ( X n−1=in−1 , …, X0=i0 )

بنابراین با ادامه این روند می توان به استقرا ثابت کرد :

P ( Xn=in , Xn−1=in−1 , …, X0=i0 )=P (in−1 ,in ) P (in−2 , in−1 ) …P( i0 , i1)P ( X0=i0 )

کالس های ارتباط.3

کالس ارتباط عبارت است از مجموعه ای از حاالت که احتمال ورود فرآیند

به آن حالت وجود دارد و تمامی آن حاالت با هم مرتبHHط انHHدو همچHHنین کالس

در ارتباط اند.X هایی که با حالت y ، متشکل از همه ی Xارتباط

Page 7: پروژه جبرخطی - زنجیره مارکوف

درy بHHه X بHHه آن معناسHHت کHHه حHHرکت از XYبه بیان فرمال می نویسیم

در ارتباط اسHHت. بHHرایY با Xمتنهاهی مرحله ممکن است یا به عبارت دیگر

مثبت:nهر

XY ⟺ Pr ( Xn= y|X0=x )>0 ⟺∑n=1

Pr ( Xn= y|X0=x )>¿0¿

Y و X⟶Yدقت کنید که اگر داشته باشیم: ⟶ X می نویسیم X⟷Y.

به صورت زیر نوشته می شود:Xکالس ارتباط

C ( x ) ∶= {x }∪ { y∈S|x⟷ y }

که فی الواقع هم ارز گزاره

C ( x )= { y∈S|x⟷ y∨ x= y }

است.

کالس های باز و بسته:

به کالس ارتباطی که امکان ترک کردن وجود داشته باشد کالس باز گفته می شود.

ای خارج کالس به طوریکهy ای عضو کالس و xبه عبارت دیگر، وجود داشته باشد

x⟶ y.

کالس که در آن هیج متغیری بHHا حHHالت یHHاد شHHده وجHHود نداشHHته باشHHد کالس بسHHته

اطالق می شوند.

زنجیره مارکوف و نگاه ترکیبیاتی.4

با توجه به برداشت ما از فرآیند های مارکوف، از همچین فرایند هایی برمی آید که

یک پروسه زمانی )یا گاهی مکانی( در محیطی مانند مجموعه در جریHHان اسHHت. بHHا

این نگاه که هر کدام از عناصر حاالت، یکی از اعضHHای مجموعHHه انHHد. بنHHابرین اگHHر

مجموعه ی ما یک کالس ارتباط باشد، تمامی حاالت، قابلیت تغیHHیر وضHHعیت بHHه هم

Page 8: پروژه جبرخطی - زنجیره مارکوف

را دارند و با همین توجیه فرآیند های مارکوف بHاز و بسHته، بHه تHرتیب جریHان هHای

تصادفی در یک کالس ارتباط باز و بسته می باشد. مHHا در این بخش در پی آنیم کHHه

با شهود بخشیدن به واسطه ابHHزار قدرتمنHHد ترکیHHبی گHHراف، فرآینHHد هHHای انHHتزاعی

مارکوف را مبدل به نمود گرافی کنیم.قدم اول ساخت یک گراف برای هر موضوع،

تبیین تعبیر رئوس و یال های آن گHHراف اسHHت. بHHا توجHHه بHHه این موضHHوع، وضHHعیت

کنونی هر عضو مجموعه را، به راس گراف نسبت می دهیم و مسیر تغییر حالت را

به یال جهت دار. با این توجه که احتمال تغییر وضعیت آن عضو را، روی یال گHHراف

عضHHوی5می نویسم. برای محسوس کردن موضوع، فرض کنیHHد یHHک مجموعHHه ی

موجHHود اسHHت کHHه اعضHHای آن تصHHادفا در حHHال تغیHHیر وضHHعیت بHHه جایگHHاه هHHای

یکدیگرند.این مجموعه را به این صورت نمایش می دهیم:

Page 9: پروژه جبرخطی - زنجیره مارکوف

این گراف را یک گراف وضعیت می نHHامیم. حHHال در پی آنیم کHHه تغیHHیرات وضHHعیت

هایمان را با مفاهیم احتمال همسان سازی کنیم.

از آنجHHا کHHه فضHHای رخHHداد حHHالت فعلی و فضHHای رخHHداد حHHالت بعHHد، مسHHتقل از

یکدیگرند، مطابق عبارت:

Pr ( A|B )=Pr ( B )⟹Pr ( A ∩ B )=Pr ( A ) Pr (B)

بنابرین برای انتقال وضHHعییت از حHHالتی بHHه حHHالتی دیگHHر احتمHHاالت حHHاالت بین این

مسیر در هم ضرب می شود. بیHHان گHHرافی این مطلب این اسHHت کHHه اگHHر از راس

اول با عبور از یک یال به راس دوم)یا خود همان راس( بHرویم، تعبHیرش این اسHت

که این انتقال با احتمال روی آن انجام شده است. حال اگر هر یال دیگری را بHHرای

حرکت انتخاب کنیم و در واقع به راس سHHوم بHHرویم، می تHHوانیم اسHHتنتاج کHHنیم کHHه

Page 10: پروژه جبرخطی - زنجیره مارکوف

احتمال انتقHال وضHعیت از راس اول بHه راس سHوم برابHر بHا ضHرب احتمHال هHای

موجود بر روی یال بین راس اول و دوم، و یال بین راس دوم و سوم اسHHت. توجHHه

کنید که هر سه راس مذکور می تواند بر یک راس اطالق شHود کHه در این صHورت،

معنای دو بار گذر به خود آن راس، احتمال تغیHHیر وضHHعییت نHHدادن این حHHالت در دو

مرحله است:

P ( A , B )=0.3

P (B , C )=P ( A ,B ) P (B , C )=(0.3 )(0.2)

P (B , B )=0.8

P2 (B ,B )=(0.8 )(0.8)

Pn (B )=(0.8 ) …(0.8)

نکته مورد توجه دیگر آن است که، عدم وجHHود هHHر مسHHیر بHHه معنHHای آن اسHHت کHHه

احتمال تغییر وضعیت بین این دو، برابر با صفر است.

می توانیم کالس های ارتباط را نیز اینگونه تعبیر کنیم که نمHودار گHرافی اسHت کHه

بین تمامی راس های آن، یک مسیر رفت و یک مسیر برگشت وجود دارد.

در ذیل دو نکته مطرح می کنیم که تقریبا شهودا واضح است:

نکته: حاصلجمع احتمال یال های خروجی از هر راس، همواره برابر یک است.

است. همانطور که ذکر شHHد هHHر راسضریب نسبت توزیعیکی از نکات قابل توجه

حHHالت اسHHت. میN دارای Nگراف، بیانگر یک حالت است.حال گHHرافی بHHا مرتبHHه

∑ نسHHبت داد بHHه طوریکHHه αتوان به هر حالت یک ضریب نسبت توزیع i=1

n

αi=1.دHHباش

این بیانگر آن است که هر حالت چه نسبتی)یا چه درصHHدی( از فضHHای نمونHHه مHHا را

کرده است. یا به عبHارٍة� اخHری چنHد درصHد از فضHای نمونHه فعال در اینجذب فعال

Page 11: پروژه جبرخطی - زنجیره مارکوف

حالت قرار دارند. فی الواقع مهم ترین رسHHالت زنجHHیره ی مHHارکوف آن اسHHت کHHه

اعالم کند، در هر مرحله دلخواه،ضریب نسبت توزیع فضای نمونه در حاالت مختلف

چگونه است.

حال ما می خواهیم بررسی کنیم که با داشتن نسبت توزیع فعلی، چگونه می تHHوان

این ضرایب را در مرحله بعد بدست آورد.

قضیه ی اول گراف شهاب-مارکوف:-

موجود اسHHت.ابتHHدا این گHHراف را بHHه یHHکnفرض کنید که گراف وضعیتی با مرتبه

تبدیل می کنیم. یعنی از هر راس به هر راس مسHHیری بHHهگراف وضعیت استاندارد

طول یک وجود داشته باشد، هرچند با احتمال صفر. در واقع آن تغییر وضعیت هHHای

ناممکن را با یالی متضمن احتمال صفر نشHHان می دهیم. فHHرض می کHHنیم ضHHرایب

αفعلی توزیع، n ... α باشHند. از آنجHایی کHه گHراف را اسHتاندارد کHرده ایم، بHه ازای هHر1

Tراس i ، nه یکی ازHHوط بHHدام مربHHیال داخل شده به آن راس وجود دارد که هر ک

Tرئوس است. توجه کنید که یکی از یال های داخل شده به راس iدهHHیال خارج ش ،

Tاز همان راس i هم هست. حال احتمال پیوست شده به یال خارج شده از راسT j

Tو داخل شده به راس i را با Pr j(T i) نشان می دهیم. اگر βn...β1بتHHرا ضرایب نس

توزیع در مرحله بعد در نظر بگیریم داریم:

β i=∑j=1

n

α j Pr j(T i)

در واقع رابطه ی فوق-که به قضیه ی اول گراف شHHهاب-مHHارکوف موسHHوم اسHHت-

روش بدست آوردن ضرایب نسبت توزیع مرحله بعد، با داشتن ضرایب نسبت توزیع

مرحله فعلی را نشان می دهد. یعنی در مرحله بعدی درصد یا نسبت وجHHود فضHHای

β ام برابر با iنمونه در حالت iادهHHاتی سHHه ترکیبیHHاست. اثبات این مطلب یک توجی

دارد که از بحث این مقاله خارج است.

Page 12: پروژه جبرخطی - زنجیره مارکوف

داریم کHHه در حHHد گHHراف هHHا حال برای بررسی این ضرایب در بی نهHHایت، نیHHاز بHHه

قضیه دوم گراف شHهاب-مHارکوف مطHرح می شHود. امHا تبHیین این بحث خHارج از

موضHHوع این مقالHHه اسHHت. امHHا در بخش بعHHد بHHا بیHHان حHHد ماتریسHHی در برداشHHت

ماتریسی زنجیره ی مارکوف، به این سوال پاسخ خواهیم داد.

زنجیره مارکوف و برداشت ماتریسی.5

مطابق دستور زیر ارایه کنیم :Pفرض کنید ماتریس

[P ]ji=P(i , j)

نوشHHته شHHدهj بHHه حHHالت iکه برابر است با احتمالی که روی یال رسHHاننده حHHالت

.j به حالت iاست و همچنین احتمال تغییر حالت سیستم از حالت

( می گویند.احتمال ، انتقال و یا ...) تصادفی به این چنین ماتریسی ، یک ماتریس

iحالت های ممکن در واقع در اینحا ما اینگونه به ماتریس نگاه می کنیم :

¿ j حالت های ممکن

(j ( را باالی ماتریس می نویسیم و حالت های مقصHHد )iیعنی گویی حالت های مبدأ )

، همان خانه متناظر باj به iرا سمت راست ماتریس و آنگاه متناظر با تغییر حالت

P ، یعنی خانه j و iحالت ji. را مقدار می گذاریم

البته با توجه به نوع مقدارگذاری در ماتریس دو نوع ماتریس به وجود می آید :

یکی همانگونه که اینجا معرفی کردیم ، و دیگری اینکه حالت مبHHدأ را درسHHمت چپ

و حالت مقصد را باالی ماتریس بنویسیم )به تعبیری که معرفی کردیم.( .

است.1: مجموع درایه های هر ستون ماتریس احتمال برابر قضیه

Page 13: پروژه جبرخطی - زنجیره مارکوف

∑ _ام برابر است باiاثبات : مجموع درایه های ستون j=0

M

P (i , j کHHه قبال ثHHابت کHHردیم (

∎ است1برابر

خود یک ماتریس احتمال است )بHHا این تعریHHف کHHه مجمHHوع Pn: ماتریس قضیه

باشد(1درایه های روی هر ستون برابر

⟹p00=1: که واضح است ؛ زیرا n=1اثبات : برای p002 nفرض کنیHHد بHHرای 1=

باشد.1برابر Pnصحیح باشد . یعنی مجموع درایه های هر ستون از ماتریس

[ P ] jin+1

=∑k=0

M

[ P ] jkn

. pki⟹∑h=0

M

[ P ]hin+1

=∑h=0

M

∑k=0

M

[ P ]hkn

. pki=¿∑k=0

M

∑h=0

M

[ P ]hkn

. pki=∑k=0

M

pki .∑h=0

M

[ P ]hkn قبل طبققضیه

¿¿

Pn : قضیه ( i , j Pn_ام از ماتریس i_ام و ستون j برابر است با درایه سطر حالت (

. یا :

Pn ( i , j )=[ Pn] ji

ثHHابت می شHHود کHHه مHHا آن را اینجHHا nاین قضHHیه بHHه سHHادگی بHHا اسHHتقرا بHHه روی

. آن گHHاه خHHواهیمn=2نمی آوریم ؛ اما بHHرای بHHه دسHHت آوردن شHHهود ، قHHرض کنیHHد

داشت :

[ P ] ji2=∑

k=0

M

p jk . pki

هHHایk بHHه ازای j بHHه k و از kبHHه iکه به وضHHوح مجمHHوع حالت هHHایی اسHHت کHHه از

در دو مرحله !j به iمختلف است و این دقیقا یعنی سیر کردن از حالت

اما اصوال زنجیر مارکوف برای پیش بینی وضعیت سیستم در زمان دور مورد کاربرد

و سخن ماست. بنابراین نیازمند داشتن ماتریس احتمال در در آینده به اندازه کافی

های به اندازه کافی بزرگ هستیم .nبه ازای Pnدور یعنی

بدین منظور مفهوم حد را به توان ماتریسها گسترش می دهیم .

Page 14: پروژه جبرخطی - زنجیره مارکوف

همگراست هرگHHاه L ماتریس به Pn می گوییم ماتریس تعریف حد ماتریس ها :

i به ازای هر , j : داشته باشیم

limn → ∞

[ Pn] ji=[ L]ji

در زیر قضیه ای بدون اثبات شبیه به حد دنباله های عددی می آوریم ؛ چون تاکیHHد مHHا

بر خود قضیه نیست.

A1فرض کنید : قضیه , A2 n دنبHHاله ای از ماتریس هHHای .…, × pطHHای مختلHHا درایه هHHب

PrهمگراینHHد. در این صHHورت بHHرای هHHر مHHاتریس Lباشد که به مHHاتریس × n ,Qp × s اHHب

درایه های مختلط خواهیم داشت :

limm→ ∞

Am Q=¿ limm→ ∞

P Am= limm→∞

Am ¿

)=Qبه ماتریس یا بردارw : تعریف بردار توزیع احتمال q0

⋮qM

، بردار توزیع احتمال(

گویند ، هرگاه :

∑i=0

M

qi=1

این بردار همHHانطور کHHه از نHHامش پیداسHHت ، توزیHHع متغیرهHHای تصHHادفی در فضHHای

نمونه ای را نمایش می دهد و درایه هایش در واقع فراوانی نسبی متغیرهاست .

توزیع متغیرهای تصادفی در فضHHای نمHHونه ای پس از گذشHHت یHHکPQحال ماتریس

مرحله از تغییر سیستم است. چون :

∑k=0

M

p jk . qk 1=q j 1(1)

Q(1که منظور از توزیع متغیرها پس از یک مرحله است.(

Page 15: پروژه جبرخطی - زنجیره مارکوف

Q(mبHHدین ترتیب و بنHHابر قضHHایای فHHوق )=Pm QایHHادفی در فضHHای تصHHع متغیرهHHتوزی

مرحله را نشان می دهد .mنمونه ای پس از گذشت

بنابراین اگر بخواهیم توزیع اعضای سیستم را در زمان دور بررسی کنیم ، بایHHد حHHد

Pmماتریس Q را وقتی که n → را محاسبه نماییم.∞

در زیر قضیه ای را ارایه می دهیم که برای تشخیص حد نداشHHتن یHHک مHHاتریس مفیHHد

است .

lim: قضیهm→ ∞

Am

که درایه هایش مختلط اند ،وجود دارد ؛ هنگامی که و تنها هنگامی

که شرایط زیر برقرار باشند :

¿باشد ، آنگاه A یک مقدار ویژه λ)الف( اگر λ∨≤ 1.

برابر است با تکHHرار1باشد ، آنگاه بعد فضای ویژه نظیر A مقدار ویژه 1)ب( اگر

به عنوان مقدار ویژه .1

باشHHد ،A مقHHدار ویHHژه λشرط لزوم الف به سادگی ثابت می شود. زیHHرا کHHه اگHHر

آنگاه :

limm→ ∞

( Am v )= limm→ ∞

( λm v )= limm→ ∞

( λm ) v

و

limm→ ∞

( Am v )=( limm→∞

Am) v=Lv

¿پس لزوم همگرایی این است که λ∨≤ 1 . ∎

باشHHد ،متشHHابهالبته اگر ماتریس قطری پذیر باشHHد یعHHنی بHHا یHHک مHHاتریس قطHHری

محاسبه حد آن بسیار ساده می شود :

A=Q−1 DQ⟹ Am=Q−1 Dm Q

رسیده اند . m به سادگی به دست می آید زیرا قطرهایش به توان Dmکه

Page 16: پروژه جبرخطی - زنجیره مارکوف

است.1اندازه مقادیر ویژه ماتریس احتمال ، کمتر یا مساوی : قضیه

Aاثبات : فرض کنید v=λ v آنگاه .Am v=λm v:

[ pm00 ⋯ pm

0 M

⋮ ⋱ ⋮pm

M 0 ⋯ pmMM

]( v1

⋮vM

)=λm( v1

⋮vM

)⟹ v1 pm00+…+vM pm

0 M=λm v1

vاما چون i هستند ،1 ها کمتر یا مساوی

v1 pm00+…+vM pm

0 M ≤ pm00+…+ pm

0M=1

، طرف راست واگرا می شود و تناقض !λ|>1|اما اگر

مقدار ویژه هر ماتریس احتمالی هست .1: قضیه

detاثبات : باید ثابت کنیم (P−I )=0.

det [ p00−1 ⋯ p0 M

⋮ ⋱ ⋮pM 0 ⋯ pMM−1]

با اضافه کردن همه سطرهای دوم تا آخر به سطر اول جمHHع درایه هHHای هHHر سHHتون

اسHت ، درایه هHای سHطر اول دترمینHان همگی صHفر می شHوند و در نتیجHه1برابر

مقدار دترمینان صفر می شود .

را ثHHابت گوینHHد ،ΠبHHردار توزیHHع احتمHHال : تعریف بردار توزیع احتمال ثابت

Pهرگاه Π=Π.

m∈N∀ بنابراین : : Pm Π =Π

و این یعنی در بی نهایت نیز همین توزیع احتمال حفظ می شود .

اما معموال محاسبه این حدود ماتریس ها بسیار دشوار است . زیرا باید به ضابطه ای

برای درایه هایش دست یابیم یا آن را شبه قطری کنیم .

Page 17: پروژه جبرخطی - زنجیره مارکوف

اما خوشبختانه دسته بسیار بزرگی از زنجیرهHHای مHHارکوف وجHHود دارندکHHه حدشHHان

می نامند.منظموجود دارد و به سادگی به دست می آید . این نوع ماتریس ها را

گوینHHد ، هرگHHاهمنظمیک مHHاتریس تغیHHیر وضHHعیت را : تعریف ماتریس منظم

توانی از ماتریس موجود باشد که فقط از درایه های مثبت تشکیل شده باشد .

در بخش بعدی ، راهکاری گرافی برای تشخیص منظم بودن گراف ارایه می کنیم .

حال می خواهیم راهکاری برای محاسبه حدود این دسته از ماتریس ها ارایه کنیم .

ΠبHHرای زنجHHیر مHHارکوف منظم ، : قضیه i= limm→ ∞

pijm

ΠموجHHود اسHHت و i ، 0 ≤ i≤ M،

دو معادله زیر است : یاجواب یکت

Π i=∑k=0

m

p jk Π k=[ pi 0 ⋯ pℑ ] [ Π 0

⋮Π M

]=[ p i 0 ⋯ pℑ ] . Π

∑i=0

m

Π i=1

در اینجا چند نکته جالب وجود دارد که به آن ها می پردازیم :

)الف( همانطور که می بینید ، مقادیر این حد ، مستقل از شHHماره سHHتون ها اسHHت و

فقط به سطر بستگی دارد ؛ یعنی در ماتریس حدی ، ستون ها با هم برابرند .

)ب( از معادله اول قضیه باال و کنار هم قرار دادن سطرها نتیجه می شود که :

Π=PΠ

ثHHابت که همه عناصر ماتریس حدی را می سازد خودش بردار توزیع احتمال Πیعنی

1 کHHه جمHHع عناصHHرش 1است ! یعنی یکی از بردار ویژه های متناظر با مقدار ویژٍة

تHHک1باشد ، حد ماتریس را تشکیل می دهد . بنابراین اگر فضای ویHHژه نظHHیر عHHدد

را پیدا کنیم ؛ به1بعدی باشد ، کافی است مضربی از یکی از بردار ویژ ه های نظیر

باشد .1طوری که مجموع عناصرش

Page 18: پروژه جبرخطی - زنجیره مارکوف

اتصال مفهوم ترکیبی به برداشت ماتریسی:.6

در دو بخش قبل با دونگاه ماتریسی و گرافی به بررسی این زنجیر پرداخHHتیم. حHHال

می خواهیم تناظر بین این دو بیان را مشHHخص کینم و نتیجHHه بگHHیریم کHHه در هHHر دو

نوع مدل سازی، یک فرآیند واحد صورت می گیرد.

ابتدا به همان گراف ابتدایی بحث توجه کنید:

همانطور که پیداست، ماتریس مجاورت این گراف، برابر است با:

Page 19: پروژه جبرخطی - زنجیره مارکوف

[0.7 0 0 0 0 0.60.3 0.8 0.4 0 0 00 0.2 0 0 0 00 0 0.6 0.3 0.2 00 0 0 0.7 0.1 00 0 0 0 0.7 0.4

] توجه کنید که این ماتریس را اگر به صورت :

A B C D E F

[0.7 0 0 0 0 0.60.3 0.8 0.4 0 0 00 0.2 0 0 0 00 0 0.6 0.3 0.2 00 0 0 0.7 0.1 00 0 0 0 0.7 0.4

]ABCDEF

)Pبنویسیم یک ماتریس احتمال تشکیل می دهند. حال احتمال A , B) طرHHه سHHدرای B

، می باشHد. بHا دیHدگاه گHرافی پی می بHریم کHه این درایHه دقیقHا همHانAو سHتون

متصل است.B و Aاحتمال الصاقی به یالی است که بین

)Pnاز طرفی برای محاسبه A , B) التHHکه بیانگر احتمال رسیدن از ح A التHHه حHHب B

و مجمHHوع ضHHربB و A بHHار گHHذر کHHرن از یال هHHای متصHHل بین nبود ، در گراف با

احتمال های روی یال های عضو مسیر، حاصل می شود.

مHHارکوف را مطHHرح نمHHوده و اصHHطالح- در مبحث گراف قضیه ی اول گراف شهاب

ضریب نسبت توزیع را برای بدست آوردن درصد های توزیعی فضHHای نمونHHه در هHHر

مرحله دلخوه بیان کردیم . جHHالب توجHHه اسHHت کHHه در بیHHان ماتریسHHی این مجوعHHه

α1)ضرایب همان بردار توزیع احتمال است و با تو جه به اینکه اگHHر

⋮αn

)=qردارHHک بHHی

Page 20: پروژه جبرخطی - زنجیره مارکوف

یک ماتریس احتمال، برای بدسHHت آوردن توزیHHع مرحلHHه بعHHدیMاحتمال باشد، و

Mq:را محاسبه می کردیم یعنی

[ P1,1 ⋯ P1 ,n

⋮ ⋱ ⋮Pn ,1 ⋯ Pn ,n

] [α1

⋮αn

]=[ β1

⋮βn

]βکه به ازای هر i:داریم ،

β i=∑j=1

n

α j Pr j(T i)

که این همان رابطه ی قضیه اول گراف شهاب- مارکوف است.

ماتریس های منظم و قضیه گراف فرداد-مارکوف :

بین هر دو حالت موجHHود در فضHHایnتعریف گراف منظم این است که به ازای یک

مرحله وجود باشد .nنمونه ای احتمال رسیدن در

مرحله از یHHHکnبا توجه به تناظر یک به یک ماتریس ها و گراف ها و اینکه حرکت در

بHHا شHHروع از آن راس یHHاnحالت به حالت دیگر معادل طی کردن مسیری به طول

حالت تا حالت دیگر است .

ای بین هHHر دو راسnبنابراین برای اینکه یک ماتریس منظم باشد ، باید به ازای یک

یHHالn موجود باشد ؛ یعنی بتوانیم با گHHذر از nدر گراف مارکوف ، مسیری به طول

از هر راس به هر راس دیگر رسید.

پاسخ به یکی از مسائل مذکور در مقدمه

Page 21: پروژه جبرخطی - زنجیره مارکوف

]=Pفرض کنید pqr ، GG به ترتیب ، نسبت افراد بالغ با انواع وراثت [ Gg وgg در آغاز

آزمایش باشد . این آزمایش یک زنجیر مارکوف سه وضHHعیتی بHHا مHHاتریس وضHHعیت

]=Bزیر است : 12

14

0

12

12

12

014

12]

منظمB مثبت هستند ، بنابراین B2به سادگی قابل تحقیق است که تمام درایه های

تولید مثل کنند ، نسبت فرزند با نوعGgاست . با فرض آنکه تنها جنس ذکور

] که برابر با Bوراثت مشخص ، به جمعیت مورد تظر در بردار احتمال ثابت 141214]

است ، به حد ایستایی خود خواهد رسید .

gg و GGاکنون فرض کنید که آزمایش های مشابهی با جنس ذکور با نوع وراثت

انجام شود. همانند باال این آزمایش ها زنجیرهای مارکوف سه وضعیتی به ترتیب زیر

تشکیل می دهند تشکیل می دهند :

C=[0 0 0

112

0

012

A=[1 و [1 12

0

012

1

0 0 0]

برای در نظر گرفتن حHHالتی کHHه تمHHام افHHراد مHHورد بررسHHی در وراثت نقش داشHHته

را تشHHکیل دهیم کHHه یHHک تHHرکیبM=pA+qB+rCباشند ، باید ماتریس تغییر وضعیت

Aخطی از , B ,C: بوده و ضرایب آن نسبت ذکور با هر نوع وراثت است . بنابراین

Page 22: پروژه جبرخطی - زنجیره مارکوف

M=[ p+ 12

q12

p+ 14

q 0

12

q+r12

p+ 12

q+ 12

r p+ 12

q

014

q+12

r12

q+r ]+a=pبرای ساده کردن نمادها ، قرار می دهیم 1

2q و b=1

2q+r که a و bنسبت

را نشان می دهد . پس :g و Gژن های

M=[a12

a 0

b12

a

012

b b ] .a+b=p+q+r=1که در آن

p' ، qفرض کنید r و ' ، GG به ترتیب نسبت توزیع فرزندان با نوع وراثت ' Gg وgg

باشد . بنابراین :

P=[p 'q 'r ' ]=MP=[ ap+ 1

2aq

bp+ 12

q+ar

12

bq+br ]=[ a2

2abb2 ]

برای آنکه تأثیر جفت گیری بدون قید را در بین فرزندان نسل اول در نظر بگیریم ،

باید یک ماتریس تغییر وضعیت مطابق با زمان حال یعنی برای فرزندان را بر

اساس توزیع نوع وراثت نسل اول تعیین کنیم . مانند قبل خواهیم داشت :

Page 23: پروژه جبرخطی - زنجیره مارکوف

~M =[ p '+ 12

q '12

p '+ 14

q ' 0

12

q ' +r '12

p' +12

q '+ 12

r ' p '+ 12

q '

014

q '+12

r '12

q '+r ' ]'که درآن a=p '+ 1

2q b و ' '=1

2q '+r . اما :'

b '=12

(2ab )+b2=b (a+b )=b∧a'=a2+ 12

(2 ab )=a (a+b )=a

~بنابراین M =Mلذا توزیع فرزندان نسل دوم در بیت این سه نوع وراثت به .

صورت زیر است :

~M ( MP )=M 2 P=[ a3+a2ba2 b+ab+ab2

ab2+b3 ]=[ a2(a+b)ab (a+1+b)

b2(a+b) ]=[ a2

2abb2 ]=MP

wکه همان توزیع فرزندان نسل اول است. به عبارت دیگر ، بردار احتمال Mثابت

است و تنها پس از یک نسل تعادل وراثتی در جمعیت ایجاد می شود . این نتیجه را

w قانون هاردی-وینبرگ یا به طورa=b گویند . توجه کنید که در حالت خاص و مهم

، توزیع در حالت تعادل عبارت است از :p=rمعادل

MP=[ a2

2abb2 ]=[

141214]

Page 24: پروژه جبرخطی - زنجیره مارکوف

مراجع

[1] Ross. Sh , A First Course In Probability

[2] Igusa. K , stochastic processes’ course

[3] wikipedia.org , Markov Chain and Stochastic Matrix

[4] Friedberg. E , Linear Algebra