teori principal components analysis (pca)

8/18/2019 Teori Principal Components Analysis (PCA)

1/12

Teori PrincipalComponents Analysis

(PCA)Nama Kelompok :

Ayu Purnama Sari (0901128120028)

Ayu !a"ayu (0901128120019)

#elly Putra (0901128120011)

K"arisma $es%an (090112812001&)

Nina Nuria #r' Karo (090112812002)

oi Tiara Pratama (0901128120009)

$osen Pem*im*in : Sutarno+ S'T'+ ,'T'


2/12

Se-ara"

PCA adalah teknik statistik yang sudah digunakan secara luas bpengenalan wajah maupun pengenalan pola dari sebuah ga

Principal Component Analysis (PCA) dibuat pertama kali oleh pardan ditemukan oleh Karl Pearson pada tahun l!l yang membidang biologi. Kemudian tidak ada perkembangan baru pada tperkembangannya baru mulai pesat pada akhir tahun l#! daMetode Principal Component Analysis (PCA) dibuat pertama kali statistik dan ditemukan oleh Karl Pearson pada tahun l!l yangpada bidang biologi. Kemudian tidak ada perkembangan baru pdan. perkembangannya baru mulai pesat pada akhir tahun l$%!. &etelah itu perkembangannya berkurang sebentar samtelah berhasil didesain sehingga dapat mengaplikasikan temasalah'masalah yang masuk akal. Pada tahun $% teori ini mcukup independen sebagai teori probabilitas yang ditemukan odan kemudian dikembangkan oleh oe*e pada tahun l+#" seh

juga dinamakan Karhunen'oe*e trans,orm pada bidang ilmu tePCA adalah sebuah trans,ormasi linier yang biasa digunakan p

data.

http://informatika.web.id/pengenalan-pola.htmhttp://informatika.web.id/pengenalan-pola.htmhttp://informatika.web.id/pengenalan-pola.htmhttp://informatika.web.id/pengenalan-pola.htm


3/12

Aloritma teori .an ta"apanprosesnya


4/12

/nput .ata (mn)

-ata awal dipersiapkan dalam sebuah matriks ukuran mn. /a jumlah *ariable n akan berkurang menjadi k jumlah p

component yang dipertahankan. PrePCA

Cara standarisasi adalah dengan menggunakan Z-Score.

Cara menghitungnya adalah dengan0

1asil dari 2'score ini adalah data dengan mean 3 ! dan s

de*iasi 3 $. &ederhananya" proses 2'score0 tiap data obser*asi pada s

*ariabel dikurangi dengan mean *ariabel tersebut dan dengan standar de*iasinya (dengan kata lain" tiap barkolom dikurangi mean kolom tersebut" dibagi dengan stade*iasi kolom yang sama).

http://en.wikipedia.org/wiki/Standard_scorehttp://en.wikipedia.org/wiki/Standard_score


5/12

Proses PCA

4ntuk dapat mentrans,ormasi dari data asal ke *ariabel yang salin

berkorelasi" adalah dengan menggunakan eigen*ector dari matriks korelasi

1' ien3alue $ecompisition

,encari ien3alue

/ilai eigen*alue dari suatu matriks bujursangkar merupakan pokarakteristik dari matriks tersebut5 jika 6 adalah eigen*alue dari Aakan ekui*alen dengan persamaan linier

(A 7 68) * 3 !

(dimana 8 adalah matriks identitas) yang memiliki pemecahan non'9ero *

eigen*ector)" sehingga akan ekui*alen dengan determinan.

det (A 7 68) 3 !

:ungsi p(6) 3 det (A 7 68) adalah sebuah polynomial dalam 6 karena detdihitung dengan sum o, product. &emua eigen*alue dari suatu matriks dihitung dengan menyelesaikan persamaan pA(6) 3 !. ;ika A adalah ukuran n n" maka pA memiliki derajat n dan A akan memilikibanyak nbuah eigen*alue.


6/12

,encari ien3ector

;ika eigen*alue 6 diketahui" eigen*ector dapat dicari dengan memecahka

(A 7 68) * 3 !

-alam beberapa kasus dapat dijumpai suatu matriks tanpa eigemisalnya0

dimana karakteristik bilangan polynomialnya adalah 6< = $ sehingga eigadalah bilangan kompleks i" 'i. >igen*ector yang berasosiasi juga tidak ri

;ika diberikan matriks0

maka polynomial karakteristiknya dapat dicari sebagai berikut0

ini adalah persamaan kuadrat dengan akar'akarnya adalah 6 3 < dan 63

Adapun eigen*ector yang didapat ada dua buah. >igen*ector pertamdengan mensubtitusikan 6 3 # ke dalam persamaan. Misalnya ?!eigen*ector yang berasosiasi dengan eigen*alue 63 #. &et ?!

dengan nilai0


7/12

Kemu.ian su*titusikan 0 .enan 3 pa.a persamaan:

( A 7 68) * 3 !

sehingga diperoleh0 (< 7 #)@! = ('?!) 3 !

! = (# 7 #)?! 3 !

dapat disederhanakan menjadi0

'@! '?! 3 ! atau ?! 3 '@!

sehingga eigen*ector untuk eigen*alue 6 3 # adalah0

1ubungan antara eigen*alue dan eigen*ector dari suatu matriks digamboleh persamaan 0

C *i 3 6i *i

dimana * adalah eigen*ector dari matriks M dan 6 adalah eigen*alue. erdapat n buah eigen*ector daneigen*alue dalam sebuah n n matriks


8/12

2' Sinular 4alue $ecomposition (S4$)

&ingular Balue -ecomposition (&B-) adalah suatu pem,aktoran m

dengan mengurai suatu matrik ke dalam dua matrik P dan . ;ikadiketahui suatu matrik adalah matrik A berukuran mDn dengan rE ! " maka dekomposisi dari matrik A dinyatakan sebagai

P!5S$6! PN7SA/AN S/N67A! 4A76 $C5,P5S

(S4$)' Prose.ur Penyelesaian S4$ untuk matrik *erukuran mm

$. Misal diketahui matrik F berukuran mm non singularfullrank G matrik yang determinannya tidak sama dengan nol).


9/12

#. Mencari eigen*alue (λ) dari matrik ? dan 2 . -imana determinan dari mdan 2 dikurangi λ dikalikan dengan matrik identitas (8) sama deFanyaknya eigen*alue (λ) yang akan diperoleh sama dengan ukuran

dan 2 yaitu sebanyak m.

%. &etelah diketahui nilai'nilai λ nya" langkah selanjutnya adalah

eigen*ektor untuk masing'masing λ. >igen*ektor diperoleh melalui rum

&ehingga nanti akan diperoleh persamaan dalam bentuk $"


10/12

H. Menentukan - yang merupakan matrik diagonal dengan ediagonalnya adalah akar dari eigen*alue matrik ? atau 2.

+. -iperoleh &B- dengan mengoperasikan P- dimana hasilny

sama dengan matrik F.


11/12

'

Prose.ur Penyelesaian S4$ untuk matrik *erukuran mn

$. Misal diketahui matrik F berukuran mn.

igen*ektor diperoleh melalui rumus 0


12/12

H. -ekomposisi nilai singular matrik F dinyatakan dalam0

∆ 3 matrik diagonal yang berisi akar kuadrat dari eigen*alue mC atau -

∆'$ 3 in*ers ∆

$ 3 eigen*ektor dari matrik C (F F)

$ 3 transpose $

teori principal components analysis (pca)

Documents