یادگیری بر پایه نمونه

23
ری گی اد ی ر ب ه ی ا ی ه ی و م نInstance Based Instance Based Learning-2 Learning-2 Instructor : Saeed Shiry Mitchell Ch. 8

Upload: christmas

Post on 31-Jan-2016

85 views

Category:

Documents


0 download

DESCRIPTION

یادگیری بر پایه نمونه. Instance Based Learning-2. Instructor : Saeed Shiry & Mitchell Ch. 8. Radial Basis Functions. روشی برای تقریب توابع است . یادگیری با RBF ارتباط نزدیکی با شبکه های عصبی مصنوعی و Distance-weighted regression دارد . در این روش فرضیه یادگرفته شده بصورت زیر میباشد : - PowerPoint PPT Presentation

TRANSCRIPT

Page 1: یادگیری بر پایه نمونه

نمونه پایه بر یادگیری

Instance Based Instance Based Learning-2Learning-2Instance Based Instance Based Learning-2Learning-2

Instructor : Saeed Shiry

Mitchell Ch. 8

Page 2: یادگیری بر پایه نمونه

Radial Basis Functions

است توابع تقریب برای روشی.با یادگیری RBF عصبی های شبکه با نزدیکی ارتباط

.دارد Distance-weighted regression و مصنوعیمیباشد زیر بصورت شده یادگرفته فرضیه روش این در:

تعداد از روش این در k استفاده تابع تقریب برای کرنل تابع انتخاب گاوسی تابع یک بصورت معموال کرنل تابع .میشود:میشود

k

uuuu xxdKwwxf

10 )),(()(ˆ

2),(

22

1

)),((

xuxd

uuu exxdK

Page 3: یادگیری بر پایه نمونه

Radial Basis Functionsانتخاب گاوسی کرنل تابع کافی تعداد صورتیکه در که است شده داده نشان

.زد تقریب کمی نسبتا خطای با را تابعی هر میتوان RBF از استفاده با شوند،که نمود تشبیه الیه دو عصبی شبکه یک به میتوان را فوق رابطه

و ها کرنل مقادیر اول الیه مینماید محاسبه را آنها مجموع دوم الیه.

x1 x2 x3 xn

K1 K2 Kk

w1

w2wk

k

uuuu xxdKwwxf

10 )),(()(ˆ

W0

1

f(x)

Page 4: یادگیری بر پایه نمونه

RBF آموزش

، آموزشی مثالهای از ای مجموعه داشتن صورت در:میگیرد صورت مرحله دو در RBF آموزش

با دیگر بعبارت میشود. انتخاب کرنل توابع تعداد xu , 2 مقادیر K,برای مقداری انتخاب

u تابع هر برای .میگردد تعیین کرنل

داده با شبکه که میشوند انتخاب طوری شبکه وزنهای رابطه از استفاده با اینکار گردد. منطبق آموزشی های

میشود انجام زیر کلی خطای

Dx

xfxfwE2

))(ˆ)((21

)(

Page 5: یادگیری بر پایه نمونه

واحدهای تعداد انتخاب نحوهمخفی

گاوسی کرنل یک< xi,f(xi)>آموزشی مثال هر بازا1..میشود داده تخصیص

مقدار آنها تمامی برای و بوده xi مرکزیت به تابع این1..میشود گرفته نظر در 2 یکسان

تقریبی بتواند که میشود داده آموزش طوری RBF شبکه2. مثال هر که شود توجه کند. پیدا هدف تابع برای کلی

زده تقریب تابع xi همسایگی در میتواند فقط آموزشی.دهد قرار تاثیر تحت را شده

مثال هر بازا که میشوند محاسبه طوری وزنها 3.رابطه درخروجی< xi,f(xi)>آموزشی f’(x)=f(x) شبکه با کامل بطور RBF شبکه ترتیب بدین باشد. برقرار.داشت خواهد انطباق آموزشی مثالهای

Page 6: یادگیری بر پایه نمونه

واحدهای تعداد انتخاب نحوهمخفی

تعداد از کمتر شده انتخاب کرنل تابع تعداد روش این در2..مثالهاست

.دارد قبلی روش از بیشتری بازدهی روش این2.

.نمود انتخاب یکنواخت بصورت میتوان را ها کرنل مرکز3.

را ها کرنل توزیع میتوان باشند یکنواخت غیر ها نمونه توزیع حالتیکه در4..نمود انتخاب مشابهی بصورت هم

کالستر هر به کرنل یک تخصیص و ها نمونه کالسترینگ دیگر راه یک5..است

K1 K2

Page 7: یادگیری بر پایه نمونه

RBF شبکه های ویژگی

عصبی های شبکه از آسانتر ها شبکه این آموزش Back Propagation روش از که است معمولی.میکنند استفاده

از استفاده با را تابع از کلی تقریب یک شبکه این .میکند محاسبه محلی تقریبات مجموع

Page 8: یادگیری بر پایه نمونه

Case Based Reasoning

Page 9: یادگیری بر پایه نمونه

Case Based Reasoning

پایه بر یادگیری های سیستم اصلی خاصیت سه:نمونه

تا تعمیم عمل که هستند تنبلی یادگیری روشهای میافتد تعویق به جدید نمونه مشاهده

مشابه ازمثالهای جدید نمونه بندی دسته برای میشود استفاده

در حقیقی مقادیر با نقاطی توسط ها نمونه میشوند داده نشان بعدی n فضای برای که حالی در میکند تبعیت اول ویژگی ازدو CBRیادگیری روش بدست دلیل همین به. مینماید استفاده سمبلیک روش از ها نمونه نمایشاست تر مشکل مشابه های نمونه آوردن

Page 10: یادگیری بر پایه نمونه

CBR شیوه به که را مسائلیمیکنیم حل

CBR از برخی حل برای آدمی که است روشی مشابه :نظیر .میبرد بکار مسائل

پزشکی: مواجهه در و سپرده بخاطر را بیماران قبلی های نمونه پزشکان اغلب.میبرند سود گذشته تجربه از جدید بیماران با

حقوق: اختالفات اساس بر انگلستان و امریکا مثل درکشورهائی قضاوت

.میشود انجام است شده صادر آنها برای که هائی رای و گذشتهمسکن بنگاه:

فروش اخیرا که مشابهی های خانه اساس بر ها خانه قیمت معموال.میگردند تعیین اند رفته

Page 11: یادگیری بر پایه نمونه

CBR سیستم اجزا

Case-baseقبلی مثالهای از بیس دیتا یک

Retrieval of relevant casesبیس دیتا در موجود مثالهای برای ایندکس از استفادهمثالها ترین شبیه با تطبیق قابلیتمشابه مثالهای از استفاده با حل راه آوردن بدست

Adaptation of solutionمورد مثال بین اختالف بنحویکه حل راه دادن تغییر

نظر در را بیس دیتا در شده پیدا های نمونه و بررسی.بگیرد

Page 12: یادگیری بر پایه نمونه

Retain Review

Adapt

Retrieve

Database

NewProblem

Similar

SolutionSolution

CBR Solving Problems

Page 13: یادگیری بر پایه نمونه

نرخ تعیین CBR :از مثالیمسکن

Case Locationcode

Bedrooms Receprooms

Type floors Cond-ition

Price£

1 8 2 1 terraced 1 poor 20,500

2 8 2 2 terraced 1 fair 25,000

3 5 1 2 semi 2 good 48,000

4 5 1 2 terraced 2 good 41,000

Case Locationcode

Bedrooms Receprooms

Type floors Cond-ition

Price£

5 7 2 2 semi 1 poor ???

Test instance

Page 14: یادگیری بر پایه نمونه

قوانین ایجاد چگونگی

هم شبیه زیادی حد تا که میکنیم پیدا را مثالهائی باشند

case 1 and case 2قانون :R1 تعداد اگر recep-rooms کند تغییر 1 به 2 از

.دهید کاهش 5,000£را قیمتcase 3 and case 4قانون :R2 اگر Type از semi به terraced کند تغییر

.دهید کاهش 7,000£را قیمت

Page 15: یادگیری بر پایه نمونه

انطباق

شده ذخیره مثالهای با را بررسی مورد مثال :میکنیم مشخص را انطباق موارد و کرده مقایسه

matches(5,1) = 3 matches(5,2) = 3 matches(5,3) = 2 matches(5,4) = 1

Estimate price of case 5 is £25,000

Page 16: یادگیری بر پایه نمونه

Adaptation

میشود معکوس 2 قانون:قانون :R2 اگر Type از semi به terraced کند تغییر

.دهید افزایش 7,000£را قیمتمعکوس قانون اعمال

32,000 £نظر مورد مسکن قیمت از جدید بینی پیش است

Page 17: یادگیری بر پایه نمونه

یادگیری

یک ترتیب بدین case جدید قیمت یک و جدید .است شده زده تخمین

نمیشود اضافه بیس دیتا به چیزی مرحله این در.فروش 35,000 £قیمت به خانه این آینده در اگر

اضاقه جدید case یک عنوان به مورد این برودمیشود اضافه هم جدید قانون یک و شده

3,000£میزان به را قیمت کند تغییر 7 به 8 از اگر .میشود اضافه

Page 18: یادگیری بر پایه نمونه

CADET : CBR از مثالی

سیستم CADET از CBR مفهومی طراحی برای استفاده آب شیر مثل ساده مکانیکی ابزارهای.میکند

قبال مکانیکی طرح 75 دارای سیستم این کتابخانه است شده طراحی

بصورت مثالها< qualitative function, mechanical structure >میشوند ذخیره.

نیاز مورد عملکرد: سیستم به شده ارائه سوال مناسب مکانیکی ساختار یافتن: هدف

Page 19: یادگیری بر پایه نمونه

CADET : CBR از مثالی

Q1, T1

Q2, T2

Q3, T3

T = temperatureQ = waterflow

Q1

Q2

Q3+

+

T1

T2

T3+

+

T اتصال با لوله: شده ذخیره case یک

مثال عملکرد شده ذخیره رابطه بصورت مقدار بین کمی در عبوری آب

و ورودیها و لوله خروجیهای

حرارت درجه.میشود بیان

`ُ Function

با که معناست این به + عالمت آن مقدار Q1 در آب جریان افزایش

.میابد افزایش نیز Q3 در

Structure

Page 20: یادگیری بر پایه نمونه

CADET : CBR از مثالی

جدید طراحی مسئله یک:Structure ?

Ct

Cf

Qm+

+

Tc

Th

Tm+

+

+

Qc

Qh

+

++

+

سرد آب

گرم آب

مخلوط آبحرارت کنترل سیگنال

آب جریان کنترل سیگنال

Page 21: یادگیری بر پایه نمونه

CADET : CBR از مثالی

سیستم CADET گرافهای به آنرا مسئله حل برای با که میگردد مثالهائی بدنبال و کرده تقسیم جزئی.باشند مشابه آن

یک از استفاده با را شده پیدا حلهای راه سپس تا میکند ترکیب هم با Knowledge based سیستم

.برسد مطلوب نتیجه بهلزوم درصورت قبلی دانش از استفاده با همچنین

:میکند نیز استنتاج فیزیکی روابط مورد در`َAB is rewriten as AxB

+++

Page 22: یادگیری بر پایه نمونه

استفاده موارد

معموال CBR تئوری که میشود استفاده مواقعی در کردن مدل امکان اینکه یا و ندارد وجود مناسبی.نیست میسر خبره افراد توسط مسئله

از مثالها استثنائات تعداد مواردیکه در همچنین .باشد موثر میتواند روش این است زیاد قوانین

های سیستم CBR استفاده آماده بسرعت بیشتر نیز آنها قدرت مثالها افزایش با و میشوند.میشود

Page 23: یادگیری بر پایه نمونه

مشکالت

راه نباشد بیس دیتا در مشابهی مثال هیچ که وقتی .بود خواهد نامناسب CBR حل

CBR دهد تشخیص را جدید مثال یک تا نیست قادر. ترکیب و به caseبازیابی پاسخی یافتن برای ها

روشهای نیازمند است ممکن فعلی سوالKnowledge based reasoning حل روشهای و

.search-intensiveمسئله باشد