hebb rule training algorithms

23
Hebb Rule Hebb Rule Training Algorithms Training Algorithms Algoritma Pembelajaran Algoritma Pembelajaran Algoritma Pelatihan Algoritma Pelatihan

Upload: alida

Post on 27-Jan-2016

207 views

Category:

Documents


11 download

DESCRIPTION

Hebb Rule Training Algorithms. Algoritma Pembelajaran Algoritma Pelatihan. Pengertian. Training/pelatihan  langkah penting. Prinsip: Training  menentukan bobot koneksi Algoritma training  memodifikasi bobot koneksi. Jaringan sama, training bisa berbeda. Jenis pelatihan. - PowerPoint PPT Presentation

TRANSCRIPT

Page 1: Hebb Rule Training Algorithms

Hebb RuleHebb RuleTraining AlgorithmsTraining Algorithms

Algoritma PembelajaranAlgoritma Pembelajaran

Algoritma PelatihanAlgoritma Pelatihan

Page 2: Hebb Rule Training Algorithms

PengertianPengertian

Training/pelatihan Training/pelatihan langkah langkah penting.penting.

Prinsip:Prinsip: Training Training menentukan bobot koneksi menentukan bobot koneksi

Algoritma training Algoritma training memodifikasi memodifikasi bobot koneksi.bobot koneksi.

Jaringan sama, training bisa berbeda.Jaringan sama, training bisa berbeda.

Page 3: Hebb Rule Training Algorithms

Jenis pelatihanJenis pelatihan

Unsupervised:Unsupervised: Input diberikan, output tidak ditentukan.Input diberikan, output tidak ditentukan.

Supervised:Supervised: Input diberikan, output ditentukan.Input diberikan, output ditentukan.

Page 4: Hebb Rule Training Algorithms

UnsupervisedUnsupervised

Cocok untuk:Cocok untuk: KlasifikasiKlasifikasi Data miningData mining

Page 5: Hebb Rule Training Algorithms

KlasifikasiKlasifikasi

Pola data diberikan Pola data diberikan diolah oleh JST diolah oleh JST salah satu neuron pada output salah satu neuron pada output layer aktif.layer aktif.

Pola tersebut diklasifikasikan kepada Pola tersebut diklasifikasikan kepada neuron yang aktif tsb.neuron yang aktif tsb.

Page 6: Hebb Rule Training Algorithms

Contoh klasifikasiContoh klasifikasi

Jaringan KohonenJaringan Kohonen

Input: dot/pixel pada gambar tulisan Input: dot/pixel pada gambar tulisan tangan.tangan.

Output: 26 neuron mewakili alpabet.Output: 26 neuron mewakili alpabet. Jaringan Kohonen meng-klasifikasi Jaringan Kohonen meng-klasifikasi

input menjadi 26 klas.input menjadi 26 klas.

Page 7: Hebb Rule Training Algorithms

Data MiningData Mining

Data sangat banyak Data sangat banyak mana mana informasi yg penting ?informasi yg penting ?

JST mengelompokan JST mengelompokan kita kita mengambil informasi penting. mengambil informasi penting.

Page 8: Hebb Rule Training Algorithms

SupervisedSupervised

Output ditentukan sesuai harapan Output ditentukan sesuai harapan pelatih.pelatih.

Perbedaan output perhitungan dgn Perbedaan output perhitungan dgn output harapan output harapan parameter parameter modifikasi.modifikasi.

Page 9: Hebb Rule Training Algorithms

Contoh supervisedContoh supervised

BackpropagationBackpropagation

Simulated annealingSimulated annealing

Genetic algorithmGenetic algorithm

Page 10: Hebb Rule Training Algorithms

Error CalculationError Calculation

Error digunakan untuk mengukur Error digunakan untuk mengukur seberapa tepat output yg seberapa tepat output yg diharapkan.diharapkan.

Algoritma pelatihan berhenti bila:Algoritma pelatihan berhenti bila: Error < nilai yg ditentukanError < nilai yg ditentukan Looping (epoch) mencapai nilai yg Looping (epoch) mencapai nilai yg

ditentukan.ditentukan.

Page 11: Hebb Rule Training Algorithms

Training AlgorithmTraining Algorithm

Salah satu algoritma pelatihan yang Salah satu algoritma pelatihan yang terkenal adalah terkenal adalah Hebb’s Rule. Hebb’s Rule.

Dikembangkan oleh Dikembangkan oleh Donald Hebb Donald Hebb untuk untuk jenis pelatihanjenis pelatihan supervised supervised..

Hebbs rulHebbs rule ditulis secara matematise ditulis secara matematis: :

adalahadalah learning rate learning rate aaii dandan a ajj adalahadalah a aktifasi untuk setiap neuronktifasi untuk setiap neuron

jiij aaW

Page 12: Hebb Rule Training Algorithms

Heb AlgorithmsHeb Algorithms

Step0Step0Inisialisasi semua bobot:Inisialisasi semua bobot:wwii = 0 = 0 (i = 1 to n)(i = 1 to n)

Step1Step1Untuk setiap pasangan input-target (s:t), Untuk setiap pasangan input-target (s:t), do Steps 2-4:do Steps 2-4:

Step2Step2 Isi input dgn data pelatihan:Isi input dgn data pelatihan:xxii = s = sii (i = 1 to n)(i = 1 to n)

Step3Step3 Isi output dgn data target:Isi output dgn data target:y = ty = t

Step4Step4 Modifikasi bobot:Modifikasi bobot:wwii(new) = w(new) = wii(old) + x(old) + xiiyy (i=1 to (i=1 to

n)n)Modifikasi bias:Modifikasi bias:

b(new) = b(old) + yb(new) = b(old) + y

Page 13: Hebb Rule Training Algorithms

PenyederhanaanPenyederhanaan

WW(new) = (new) = WW(old) + (old) + WW WW = = XYXY

ww11 = x = x11tt (t=target)(t=target)

ww22 = x = x22tt

Page 14: Hebb Rule Training Algorithms

Contoh AplikasiContoh Aplikasi

1

x1

x2

y

b

w1

w2

u

uuf

0

1)(

bwxwxu 2211

Page 15: Hebb Rule Training Algorithms

Gerbang ANDGerbang AND

INPUTINPUT TARGETTARGET

xx11 xx22 11 tt

11 11 11 11

11 00 11 00

00 11 11 00

00 00 11 00

Page 16: Hebb Rule Training Algorithms

Langkah PerhitunganLangkah Perhitungan

INPUTINPUT TARGETTARGET Weight Weight changeschanges

WeightsWeights

xx11 xx22 11 tt ww11 ww22 bb ww11 ww22 bb

00 00 00

11 11 11 11 11 11 11 11 11 11

11 00 11 00 00 00 00 11 11 11

00 11 11 00 00 00 00 11 11 11

00 00 11 00 00 00 00 11 11 11

Page 17: Hebb Rule Training Algorithms

Hasil AkhirHasil Akhir

Setelah pelatihan selesai, diperoleh:Setelah pelatihan selesai, diperoleh: w1 = 1w1 = 1 w2 = 1w2 = 1 b = 1b = 1

Dengan hasil yg diperoleh tersebut, Dengan hasil yg diperoleh tersebut, kemudian diadakan pengujian atau kemudian diadakan pengujian atau simulasisimulasi

Page 18: Hebb Rule Training Algorithms

Pengujian / simulasiPengujian / simulasi

Pengujian atau simulasi adalah Pengujian atau simulasi adalah memasukkan data input baru pada memasukkan data input baru pada bobot koneksi hasil pelatihan.bobot koneksi hasil pelatihan.

Kalau output sesuai dengan target, Kalau output sesuai dengan target, maka pelatihannya disebut sukses.maka pelatihannya disebut sukses.

Page 19: Hebb Rule Training Algorithms

Contoh simulasiContoh simulasi

Dari hasil pelatihan diperoleh:Dari hasil pelatihan diperoleh: w1 = 1w1 = 1 w2 = 1w2 = 1 b = 1b = 1

Data baru misalnya x1 = 1 dan x2 = Data baru misalnya x1 = 1 dan x2 = 0 maka: 0 maka:

Page 20: Hebb Rule Training Algorithms

U = (1)(1)+(0)(1)+1U = (1)(1)+(0)(1)+1

U = 2U = 2

Agar hasilnya sesuai dgn target maka Agar hasilnya sesuai dgn target maka nilai Ɵ harus dipilih secara cermat. nilai Ɵ harus dipilih secara cermat. Dalam kasus ini nilai Ɵ misalnya 3.Dalam kasus ini nilai Ɵ misalnya 3.

Maka f(u) = f(2) = 0Maka f(u) = f(2) = 0

bwxwxu 2211

Page 21: Hebb Rule Training Algorithms

Gerbang ORGerbang OR

INPUTINPUT TARGETTARGET

xx11 xx22 11 tt

11 11 11 11

11 00 11 11

00 11 11 11

00 00 11 00

Page 22: Hebb Rule Training Algorithms

Langkah PerhitunganLangkah Perhitungan

INPUTINPUT TARGETTARGET Weight Weight changeschanges

WeightsWeights

xx11 xx22 11 tt ww11 ww22 bb ww11 ww22 bb

yy xx11yy xx22yy yy 00 00 00

11 11 11 11

11 00 11 11

00 11 11 11

00 00 11 00

Page 23: Hebb Rule Training Algorithms

Diskusi kelompokDiskusi kelompok

Dgn Heb rule, hitunglah bobot Dgn Heb rule, hitunglah bobot koneksi dan nilai bias-nya.koneksi dan nilai bias-nya.

Tentukan nilai Ɵ agar jaringan Tentukan nilai Ɵ agar jaringan berfungsi sbg gerbang OR.berfungsi sbg gerbang OR.