7/24/2019 Bahan 10 - Jst

1/10

BAHAN 10NEURAL NETWORK/JARINGAN SYARAF TIRUAN

I. Pendahuluan

Komputasi Neural merupakan jenis komputasi baru yang diharapkan dapatmengatasi kelemahan sistem komputasi konvensional yang berbasis vonNeumann machine.

Kele!han "#n Neu$ann $a%h!ne&1. Fast arithmetic2. Doing precise what the programmers programm them to do

Kele$ahan "#n Neu$ann $a%h!ne&1. Peka terhadap noise.2. Data struktur harus dalam format yangprecise3. Sulit mengimplementasikan massive parallelism paralelisme secara

besar!besaran"4. #idak fault tolerant. $isal memory rusak% program berantakan."5. Sulit beradaptasi dengan keadaan

La'a( Bela)an* Neu(al +#$,u'!n*1. $elihat kemampuan manusia dalam memproses informasi% mengenal

wajah% tulisan% dsb. $elihat wajah dari sudut pandang yang belum pernah

dialami sebelumnya.2. &ahkan anak!anak dapat melakukan hal tsb.3. $asih belum tahu algoritma yang digunakan.4. $elihat analogi biologis.5. 'tak manusia berisi kira!kira () billion (*)" nerve cells.6. Dipercayai bahwa kekuatan komputasi otak terletak pada

a. hubungan antar nerve cells + sel saraf%b. hierarchical organi,ation%c. firing characteristics%d. banyaknya jumlah hubungan

Ha(a,an a'a& Neu(al +#$,.1. $embantu dalam pemecahan masalah yang

a. -lgoritmanya tidak diketahui secara pastib. memiliki banyak contohc. ingin diketahui strukturnya dari contoh!contoh tsb.

A(&!'e)'u( K#$,u'a&! Neu(al1. $emiliki beberapa hal yang menarik

a. Komputasi lokal% adaptive interaction betweenelementsb. Paralelc. Simple processing elements

d. High degree of interconnectionse. $asalah sering direpresentasikan dalam strukturf. $emungkinkan implementasi hardwarevlsi% optical"g. Biological computation

1

7/24/2019 Bahan 10 - Jst

2/10

PERKE-BANGAN NEURAL NETWORK

1. Tahun 10an $a&a ,e($ulaan neu(al ne'2#()a. Neu(an -%-ull#%hP!''&

/arren$c0ulloch dan /alter Pitts mendesain apa yang dianggap sebagai

neural network yang pertama *123". Keduanya mendapati bahwamengkombinasi neural ke dalam system neural akan meningkatkankemampuan komputasi. &erat dari tiap neuron dari system $c$ulloch!Pitts diset sehingga neuron membentuk sutu fungsi logika dimanarangkaian neuron yang berbeda akan membentuk fungsi yang berbeda.Neuron!neuron dapat dirangkai menjadi jaringan untuk menghasilkanoutput yang merepresentasikan suatu fungsi tertentu.

. He lea(n!n*Donald 4ebb% psikolog dari $c5ill 6niversity% mendesain hukumpembelajaran pertama dalam jaringan saraf tiruan 4ebb% *121". Diamenyatakan bahwa jika ada dua neuron diaktifkan bersamaan% kekuatan

koneksi + hubungan di antara kedua neuron itu akan meningkat.

3. Tahun 140150 $a&a )e6a7aan ,e('a$aa. Pe(%e,'#n

Percepton diperkenalkan dan dikembangkan oleh Frank 7osenblatt.Percepton terdiri dari lapisan input yang dihubungkan melalui jaringandengan berat yang tetap ke rangkaian neuron% dimana berat pada neurondapat diset. Sistem pembelajaran pada percepton menggunakan iterasidari pengesetan berat neuron. -turan dalam percepton mengaturhubungan berat ke unit ketika inputnya tidak tepat. -turan dibuat untukmengurangi perbedaan antara input dengan output dan output yang

diinginkan. 4al ini akan menghasilkan error yang semakin mengecil.

b. Adal!ne-daline adalah adaptive linier system. -daline dikembangkan oleh&ernard /idrow dan $arcian. -daline hampir sama dengan perceptonhanya saja aturan pembelajarannya pada single layer adalah perintisaturan backpropagation pada multi layer.

8. Tahun 190an $a&a 'enan*a. K#h#nen

$etode percepton mengalami keterbatasan pada kasus!kasus yangsangat kompleks. Kohonen mengembangkan suatu metode yangberkaitan dengan asosiasi memori dalam neural network. $etode yangdiperkenalkannya banyak dikembangkan untuk pengelompokkan dataclustering" dan self-organizing mapping. $etode ini dipakai dalamspeech recognizing% penyelesaian Traveling Salesman Problemdll.

. Ande(n8ames -nderson mengembangkan metode asosiasi memori kohonen. 9deyang dikembangkannya memotong output linier dari model asal untukmenjaga output agar tidak terlalu besar ketika melakukan iterasi untukmenghasilkan solusi yang stabil.

%. G(#&&e(*Stephen 5rossberg mengembangkan metode yang sangat matematis danbiologis dalam pengembangan neural network.

2

7/24/2019 Bahan 10 - Jst

3/10

d. +a(,en'e(0arpenter mengembangkan teori self-organizing neural network yangdikenal dengan adaptive resonance teori

. Tahun 1:0 $a&a ,e$ul!han

a. BackpropagationSalah satu hal yang menghambat perkembangan neural network padatahun :)!an adalah kegagalan percepton single layer dalammenyelesaikan kasus!kasus sederhana dan kekurangan metode umumuntuk pembelajaran system multi layer . $etode perambatan informasikesalahan pada unit output ke lapisan hidden layer mampu mengurangikesalahan output. $etode ini merupakan salah satu cara untukmengoptimalkan neural network.

. H#,;!eld ne'&4opfield mengembangkan sejumlah neural networkyang didasarkan pada

fied weight dan adaptive activation. 8aringan yang dikembangkannyamampu berfungsi sebagai asosiasi memori dan dapat menyelesaikanbeberapa persoalan seperti Salesman #raveling Problem.

%. Ne#%#*n!'(#nNeocognitron merupakan searangkaian neural network yang berfungsiuntuk mengenal pola karakter. Neocognitron dikembangkan oleh KunihikoFukushima di laboratorium N4K % #okyo.

A,l!)a&! ANN

7/24/2019 Bahan 10 - Jst

4/10

Sebuah Neural Network merupakan perakitan saling elemen sederhanaprocesing + unit + node% yang fungsi secara longgar didasarkan pada neuronhewan. Kemampuan pengolahan jaringan disimpan dalam hubungankekuatan antar!unit atau pemberat% yang diperoleh dengan proses adaptasi%atau pembelajaran% dan satu set pola pelatihan.

K. 5urney "

2. !n artificial neural network is an information processing system that hascertain performance characteristics in common with biological neural network.8aringan saraf tiruan adalah sistem pemrosesan informasi yang memilikikarakteristik kinerja tertentu yang sama dengan jaringan syaraf biologi.

7/24/2019 Bahan 10 - Jst

5/10

II. K#n&e, >a&a(Artificial Neural Network

A. A(&!'e)'u( Neural Network-rsitekur neural networkadalah susunan neuron dalam layer lapisan" danpola koneksi untuk tiap neuron. -da 3 jenis arsitektur neural networkberdasarkan bentuk umum lapisannya% yaitu ;

1. Ja(!n*an &!n*le la7e(8aringan single!layer merupakan bagian dari jaringan feedforward% dimanasinyal datang dari input mengalir ke ouput. 8aringan single layer hanyamempunyai satu lapisan koneksi. Dalam system single layer% unit dapatdibedakan sebagai unit input dan unit output secara jelas. &iasanya dalammodel single layer setiap unit input terhubung ke unit output tetapi tidak

terhubung ke unit input lainnya. 0ontoh single layer dapat dilihat pada5ambar (.

input

x1

x2

x3

x4

w1

w

2

w3

wb

Y1

Y2

ouput

Gambar 2.Single-Layer Net

5

Gambar 1.Sel Saraf

7/24/2019 Bahan 10 - Jst

6/10

3. Ja(!n*an multi layer8aringan multi layeradalah jaringan yang mempunyai lebih dari satu lapisannodes titik hubung + koneksi" di antara input dan outputnya. &iasanya adalapisan untuk menyatakan berat weight" di antara dua level yang berdekatan.8aringan multi layer dapat menyelesaikan permasalahan yang lebih

kompleks. 0ontoh jaringan multi layerdapat dilihat pada 5ambar 3.

3. Competitive layer%ompetitive layer merupakan bentuk yang banyak dipakai dalam aplikasineural network. Dalam competitive layer pemisahan unit input dan output sulitdibedakan karena unit input bisa menjadi unit output yang lain begitu jugasebaliknya. 0ontoh competitive layerdapat dilihat dalam 5ambar 2.

B. -enen'u)an e(a'

7/24/2019 Bahan 10 - Jst

7/10

8. Fied!weight netsDalam metode fied-weight nets% nilai berat untuk tiap unit input dibuattetap% sehingga tidak memberikan training untuk menyesuaikan nilai berat.

+. Fun*&! a)'!"a&! da&a(Salah satu operasi dasar dalam neural networkadalah operasi penjumlahanberat sinyal input untuk menghasilkan output atau fungsi aktivasi. Dalam unitinput% fungsi ini adalah fungsi identitas yang dinyatakan dengan ;

( ) xxf = untuk semua =sedangkan untuk fungsi aktivasinya ada beberapa macam% yang seringdigunakan adalah ;

1. Fun*&! !den'!'a&Fungsi identitas dinyatakan dengan >

( ) xxf = untuk semua =

5rafik dari fungsi identitas dapat dilihat pada 5ambar ?.

2. Fun*&! &'e, !ne(Fungsi step dinyatakan dengan ;

( )

0__

0__1

xjika

xjika

oxfFungsi step biner sering disebut juga fungsi thresholdambang batas".

3. Fun*&! &!*$#!d

7

fx!

x

Gambar 5."un#$i %dentita$

x

Gambar 6."un#$i Step &iner

1

7/24/2019 Bahan 10 - Jst

8/10

Fungsi sigmoid merupakan fungsi yang sangat berguna dalam fungsiaktivasi. Fungsi sigmoid sangat berguna dalam trainingdengan metodebackpropagation dikarenakan kesederhanaan hubungan antara nilaifungsi pada suatu titik dan nilai derivatif turunan" pada titik tersebut yangmengurangi beban komputasi selama proses training. Fungsi sigmoid

dinyatakan dengan ;

( )!exp1

1

xxf

+

=

( ) ( ) ( )[ ]xfxfxf = 1'

>. Neu(#n -%-ull#%hP!''&

Secara umum arsitektur neural $c$ulloch!Pitts menerima sinyal darisejumlah neuron. Setiap koneksi bisa mendukung% berat w@)% atau menghalangi%

berat Ap p@)". $isalkan ada sejumlah n input yang beratnya berbilai positif danm input yang beratnya bernilai negatif maka fungsi aktivasinya adalah ;

( )0_

0_

0

1_

=injika

injikainyf

dimana > yBin C total sinyal input yang diterima) C adalah ambang batas

Tugas Kelompok!

&uatla( conto( $oal $eder(ana ma$in#)ma$in# 1 $oal

*

X1

Xn

Xn+m

Y

+

+

)p

Ga$a( 9.-rsitektur $c$ulloch Pitts

7/24/2019 Bahan 10 - Jst

9/10

untu, Sin#le la-er dan 1 $oal ulti la-er/ beri $olu$i

untu, ,edua $oal ter$ebut dan ,umpul,an min##u

depan di,ela$ den#an dituli$ bolpoint dan

men##una,an ,erta$ folio1 ,elompo, (an-a men#umpul,an 1 tu#a$!

%ontoh program sederhana menggunakan matlab &

' Program sederhana kasus !"( dengan "eural "etworks' tanpa training')))))))))))))))))))))))))))))))))))))))))))))))))))))))))

function output*Simple!nd+,$ ' inisialisasithreshold*/w,*,/w*,/' pen0umlahan bobot dan masukan1*,2w,32w/' keluaran dari 0aringanif+14*threshold

output*,/

else output*5/end

' Program sederhana kasus "1T dengan "eural "etworks' tanpa training')))))))))))))))))))))))))))))))))))))))))))))))))))))))))

function output*Simple"ot+' inisialisasi

threshold*-5.6/w*-,/' pen0umlahan bobot dan masukan1*2w/' keluaran dari 0aringanif+14*threshold

output*,/else output*5/end

' Program sederhana kasus 17 dengan "eural "etworks' tanpa training')))))))))))))))))))))))))))))))))))))))))))))))))))))))))

function output*Simple1r+,$ ' inisialisasithreshold*/

7/24/2019 Bahan 10 - Jst

10/10

w,*/w*/' pen0umlahan bobot dan masukan1*,2w,32w/' keluaran dari 0aringan

if+14*thresholdoutput*,/else output*5/end

10