Amanda Katrafinka Nabilla – 1501182406 Putu Ayu Zaskya Shavitri – 1501183996Rizka Rafika - 150118104404 PPT

Decision tree learning adalah metode yang menggunakan kesimpulan induktif untuk mendekati fungsi target, yang akan menghasilkan nilai-nilai yang bersifat diskrit. Decision tree learning banyak digunakan padadata yang robust hingga noisy, dan dianggap sebagai metode praktis untuk mempelajari ekspresi disjungtif.

Masalah yang tepat untuk Decision Tree LearningDecision tree learning umumnya paling cocok untuk masalah dengan karakteristik sebagai berikut:

1. Instansi/contoh diwakili oleh pasangan atribut-nilai. Ada daftar terbatas atribut (misalnya warna rambut) dan contoh masing-masing

menyimpan nilai atribut itu (misalnya pirang). Ketika setiap atribut memiliki sejumlah kecil nilai yang berbeda (misalnya pirang,

coklat, merah) akan lebih mudah bagi decision tree untuk mencapai solusi yang efektif

Algoritma dapat diperpanjang untuk menangani atribut bernilai real (misalnya suhu floating point).

2. Fungsi target memiliki nilai output diskrit. Decision Tree Learning mengklasifikasikan setiap contoh sebagai salah satu nilai

output.o Kasus yang paling sederhana terjadi ketika hanya ada dua kemungkinan kelas

(klasifikasi Boolean, true atau false).o Namun, mudah untuk memperpanjang pohon keputusan untuk menghasilkan

fungsi sasaran dengan lebih dari dua nilai output yang mungkin. Meskipun kurang umum, algoritma juga dapat diperluas untuk menghasilkan fungsi

sasaran dengan output bernilai real.3. Deskripsi disjungtif mungkin diperlukan.

Decision Tree alami merupakan ekspresi disjungtif.4. Training Data yang kemungkinan akan mengandung kesalahan/error.

Kesalahan dalam klasifikasi contoh, atau dalam nilai atribut menggambarkan contoh tersebut dapat ditangani dengan baik oleh decision tree.

5. Training Data dapat berisi nilai atribut yang hilang. Metode Decision Tree dapat digunakan bahkan ketika beberapa contoh pelatihan

memiliki nilai yang tidak diketahui (misalnya, kelembaban hanya dikenal sebagian kecilnya saja dari contoh).

Representasi Decision Tree

Decision tree mengklasifikasikan kasus dengan menyortir mereka secara menurun dari akar node ke beberapa leaf node, yang menyediakan klasifikasi instansi. Setiap node di pohon menentukan tes dari beberapa atribut contoh, dan setiap cabang turun dari node yang sesuai dengan salah satu nilai yang mungkin untuk atribut ini.

Sebuah contoh diklasifikasikan dengan memulai pada node akar pohon menguji atribut yang ditentukan oleh node ini, kemudian pindah ke cabang pohon yang sesuai dengan nilai

atribut. Proses ini kemudian diulang pada node di cabang ini dan seterusnya sampai simpul daun tercapai.

Diagram

Setiap node nonleaf terhubung ke tes yang membagi set kemungkinan jawaban menjadi subset sesuai dengan hasil uji yang berbeda.

Setiap cabang membawa subset hasil uji tertentu ke node lain. Setiap node terhubung ke satu set jawaban yang mungkin.

Contoh Kasus Decision Learning Tree

Data yang diberikan:

Independent Attributes/Condition AttributesDependent Attributes /

Decision Attributes

Name Hair Height Weight Lotion ResultSarah blonde average light no sunburned (positive)Dana blonde tall average yes none (negative)Alex brown short average yes none

Annie blonde short average no sunburnedEmily red average heavy no sunburnedPete brown tall heavy no noneJohn brown average heavy no noneKatie blonde short light yes none

Fase 1: Dari Data menuju Tree

1. Lakukan perhitungan average entropy pada set data yang telah komplit untuk setiap 4 atribut

b1 = blondeb2 = red

b3 = brownAverage Entropy = 0.50

Contoh perhitungan entropy biasa untuk atribut “hair color”

b1 = shortb2 = averageb3 = tall

Average Entropy = 0.69

b1 = lightb2 = averageb3 = heavy

Average Entropy = 0.94

Contoh perhitungan entropy biasa untuk atribut “height”

Contoh perhitungan entropy biasa untuk atribut “weight”

b1 = nob2 = yes

Average Entropy = 0.61

Hasilnya:

Attribute Average Entropy

Hair Color 0.50Height 0.69Weight 0.94Lotion 0.61

1. Atribut “Hair Color” dipilih sebagai tes pertama karena ia meminimalisasi entropy.

Contoh perhitungan entropy biasa untuk atribut “lotion”

2. Sekarang kita memilih tes lain untuk memisahkan individu sunburned dengan subset inhomogenous blonde-haired, {Sarah, Dana, Annie, dan Katie}.

Results

Attribute Average Entropy

Height 0.50Weight 1.00Lotion 0.00

Atribut “lotion” dipilih karena ia meminimalisasi entropy pada subset blonde hair.

Maka, penggunaan tes “hair color” dan “lotion” secara bersamaan memastikan identifikasi yang benar dari semua sampel.

Decision tree yang sudah tuntas

Contoh lain :1. Ada : sudah memiliki handphone atau belum2. Rusak: apakah handphone yang sudah dimiliki rusak3. Spec: bagaimana spec handphone yg mau dibeli dibandingkan dengan handphone yang sudah dimiliki (lebih buruk, sama, lebih bagus)4. Uang: apakah ada uangnya5. Harga: bagaimana harganya (murah, mahal)6. Bayar: bagaimana pembayaran yang bisa dilakukan (tunai, cicil)

“true” tree untuk keputusan membeli

Pengertian Artificial Neural Network

Artificial Neural Network atau jaringan saraf tiruan adalah system komputasi dimana arsitektur dan komputasi diilhami dari pengetahuan tentang sel saraf dalam otak. ANN merupakan model yang meniru cara kerja jaringan neural biologis. Dengan kata lain, Artificial Neural Network (NN) adalah suatu model yang dibuat untuk meniru fungsi belajar yang dimiliki otak manusia.

Perbedaan expert system dan ANN

Expert system

Dalam pemecahan masalah dibutuhkan programmer Knowledge dibuat programmer, sehingga dapat ditelusuri proses pembuatannya. Sample input cacat tidak menghasilkan output.

ANN

Dapat memecahkan kasus rumit yang tidak dapat dilakukan Expert System. Knowledge terbentuk dengan sendirinya. Dapat menghasilkan output walau input cacat.

Arsitektur Artificial Neural Network

Lapisan input (Input Layer)

Berfungsi sebagai penghubung jaringan ke dunia luar (sumber data). Neuron – neuron ini tidak melakukan apapun pada data, hanya meneruskan data ini kelapisan berikutnya.

Lapisan Tersembunyi (Hidden Layer)

Suatu jaringan dapat memiliki lebih dari satu hidden layer atau bahkan tidak bisa punya sama sekali. Jika jaringan memiliki beberapa lapisan tersembunyi, maka lapisan tersembunyi paling bawah yang menerima dari input dari input layer. Besar nilai masukan (net) neuron ke-J pada lapisan tersembunyi ini tergantung pada akumulasi jumlah perkalian antar nilai bobot (W, adalah kekuatan hubungan antar neuron, dengan nilai keluaran U) neuron ke-I pada lapisan sebelumnya (neuron input) ditambahkan dengan nilai bias (W, neuron ke-J).

Nilai bias ini merupakan nilai konstan yang dimiliki setiap neuron (kecuali neuron pada lapisan input) yang digunakan untuk memperbaiki keluaran jaringan agar dapat menyamai atau mendekati nilai keluaran yang diinginkan. Bobot W(ji) bernilai 0 (nol) menunjukkan bahwa antara neuron ke-J dan ke-I tidak berhubungan nilai keluaran neuron pada lapisan tersembunyi ini merupakan fungsi dari nilai masukannya pada eksperimen ini digunakan F C net(ji) fungsi signoid

Output Layer

Prinsip kerja pada lapisan ini sama dengan prinsip kerja pada hidden layer dan ini juga digunakan fungsi sigmoid. Tetapi keluaran dari lapisan ini sudah dianggap dari keluaran proses.

Skema Proses yang terjadi pada setiap neuron

Model Artificial Neural Network

Elemen dasar dari Artificial Neural Network terdiri dari 3 bagian utama : bobot (weight), threshold, dan fungsi aktivasi

input : x1,x2,x3,…xn adalah sinyal yg masuk ke sel syaraf

Bobot(weight) : w1,w2,w3,…wn adalah faktor bobot yang berhubungan dengan masing-masing node. Setiap input akan dikalikan dengan bobot dari node-nya masing-masing, xT.w. Tergantung dari fungsi aktivasi yang dipakai, nilai xT.w dapat membangkitkan (excite) node atau menghalangi (inhibit) node

Threshold : nilai ambang internal dari node adalah besarnya offset yang mempengaruhi aktivasi dari output node y :

Fungsi aktivasi : merupakan operasi matematika yang dikenakan pada sinyal output y. Ada beberapa fungsi aktivasi yang biasa dipakai dalam Artificial Neural Network tergantung dari masalah yang akan diselesaikan.’

Contoh Soal Perceptron Manual

Soal :

Buatlah perceptron untuk mengenali fungsi logika AND dengan masukan dan keluaran bipolar, inisialisasi awal bobot = 0, bias = 1, α = 1 dan threshold = 0.

Penyelesaian :

· Tabel masukan dan target berupa bipolar untuk logika AND.

Masukan Target

X1 X2 1 T

1 1 1 1

1 -1 1 -1

-1 1 1 -1

-1 -1 1 -1

Tabel 1. Masukan dan Target Bipolar Logika AND

· Untuk threshold = 0, maka fungsi aktivasinya menjadi :

y = f (net)

· Iterasi untuk seluruh pola disebut epoch. Adapun tabel epoch 1 yaitu :

Masukan Target net y Perubahan Bobot Bobot Baru

( X1 X2 1 ) t f(net) ( ∆w1 ∆w2 ∆b ) ( w1 w2 b )

inisialisasi ( 0 0 0 )

( 1 1 1 ) 1 0 0 ( 1 1 1 ) ( 1 1 1 )

( 1 -1 1 ) -1 1 1 ( -1 1 -1 ) ( 0 2 0 )

( -1 1 1 ) -1 2 1 ( 1 -1 -1 ) ( 1 1 -1 )

( -1 -1 1 ) -1 -3 -1 ( 0 0 0 ) ( 1 1 -1 )

Ternyata tidak semua pola f(net) = target maka iterasi dilanjutkan ke epoch ke 2. Semua pola kembali dimasukkan dalam jaringan dengan menggunakan bobot terakhir yang diperoleh sebagai bobot awalnya.

· Tabel epoch 2 yaitu :

Masukan Target net y Perubahan Bobot Bobot Baru

( X1 X2 1 ) t f(net) ( ∆w1 ∆w2 ∆b ) ( w1 w2 b )

Bobot dari epoch 1 ( 1 1 -1 )

( 1 1 1 ) 1 1 1 ( 0 0 0 ) ( 1 1 -1 )

( 1 -1 1 ) -1 -1 -1 ( 0 0 0 ) ( 1 1 -1 )

( -1 1 1 ) -1 -1 -1 ( 0 0 0 ) ( 1 1 -1 )

( -1 -1 1 ) -1 -3 -1 ( 0 0 0 ) ( 1 1 -1 )

Dalam iterasi epoch 2, ternyata semua pola f(net) = target, maka jaringan sudah mengenal semua pola dan iterasi dihentikan.