SVEUČILIŠTE J.J. STROSSMAYERA U OSIJEKU, EKONOMSKI FAKULTET U OSIJEKU

2. Inteligentne metode

MARIJANA ZEKIĆ-SUŠAC

1

Što ćete naučiti u ovom poglavlju?

▪ Opisati što čini umjetnu inteligenciju i strojno učenje

▪ Opisati Turingov test i kritike Turingova test (kineska soba)

▪ Nabrojati područja razvoja i primjene umjetne inteligencije

▪ Nabrojati metode strojnog učenja koje se koriste u prediktivnoj analitici

2

M. ZEKIĆ-SUŠAC, OSNOVE UMJETNE INTELIGENCIJE

Što je umjetna inteligencija?

Postoji više definicija umjetne inteligencije (eng. Artificial Intelligence). Navodimo neke:

UI je znanost i praksa kreiranja inteligentnih strojeva, te posebno inteligentnih računalnih programa. (McCarthy, 2007)

UI je inteligencija strojeva, kao i grana računalne znanosti kojoj je cilj kreirati inteligentne strojeve. (Wikipedia)

UI je the studija i dizajn inteligentnih agenata (Poole et al, 1998, u Russell, Norvig, 2003)

i druge.

Definicije se razlikuju prema tome da li na UI gledaju kao na:◦ Sustave koji razmišljaju kao ljudi (vezano uz odlučivanje, rješavanje problema)

◦ Sustave koji razmišljaju racionalno (imaju neke mentalne sposobnosti)

◦ Sustave koji se ponašaju kao ljudi

◦ Sustave koji se ponašaju racionalno

M. ZEKIĆ-SUŠAC, OSNOVE UMJETNE INTELIGENCIJE

Što je inteligencija?

Inteligencija je sposobnost postizanja ciljeva. (McCarthy, 2007)

Česta definicija je da je to sposobnost snalaženja u novim situacijama. (http://www.iqtestinteligencije.com/inteligencija.html)

Postoji nekoliko skupina definicija inteligencije, a obično se navode slijedeće sposobnosti kao osnova inteligencije:

◦ brzina adaptacije na postojeće i novonastale uvjete

◦ brzina i lakoća učenja

◦ apstraktno mišljenje

◦ brzina osjetljivosti za zadani problem

◦ shvaćanje matematičkih problema

◦ sposobnost korištenja riječi prilikom govora i pisanja, razumijevanje ideja

◦ opća sposobnost osobe uključujući svrsishodnu primjenu svih iznad navedenih sposobnosti

M. ZEKIĆ-SUŠAC, OSNOVE UMJETNE INTELIGENCIJE

Prapočetak UI

Britanski matematičar Alan Turing, smatra se ocem moderne računalne znanosti, doprinio razvoju digitalnog računala.

1950. godine objavio je rad u kojem prvi uvodi pojam umjetne inteligencije (UI), i predlaže test koji će biti standard za proglašenje nekog stroja inteligentnim (kasnije nazvan Turingov test)

Prvi napisao program za igranje šaha

Izvor: http://www.turing.org.uk/turing/

M. ZEKIĆ-SUŠAC, OSNOVE UMJETNE INTELIGENCIJE

Turingov test

U sobi A nalazi se samo računalo, a u sobi B čovjek. U sobi C je ispitivač koji postavlja pitanja.

Odgovore na ista pitanja ispitivač dobiva iz sobe A i iz sobe B.

Ukoliko nakon testa ispitivač ne može prepoznati u kojoj sobi je računalo, a u kojoj čovjek, tada se računalo smatra inteligentnim -uspjelo je zavarati čovjeka da je ono samo čovjek.

A B

C Postoji više inačica ovog testa, jedna od njih je Igra imitacije. Do sada još niti jedno računalo nije prošlo test, ali se svake godine organizira natjecanje gdje sudjeluju vodeći proizvođači računala i dodjeljuje se Loebner-ova nagrada za računalo koje pokaže visok stupanj inteligencije

M. ZEKIĆ-SUŠAC, OSNOVE UMJETNE INTELIGENCIJE

Kritike Turingova testa

Mnogi istraživači smatrali su da nije moguće kreirati inteligentni stroj, pa se javljaju kritike Turingova testa, najpoznatija je metafora Kineske sobe (Searle)

Metafora kineske sobe = eksperiment koji želi pokazati da računalo ne može imati razum, nego može biti samo simulacija razuma ako je dobro programirano.

Eksperiment: u sobu je zatvoren čovjek koji ne zna kineski jezik, ali ima priručnik u kojem mu pišu pravila kako odgovoriti na neki niz kineskih znakova. Ako ispod vrata sobe dobije na papiru nešto napisano na kineskom, on će prema priručniku odgovoriti drugim nizom kineskih znakova.

Čovjek koji je izvan sobe pomislit će da osoba u sobi poznaje kineski jezik, a zapravo ne.

M. ZEKIĆ-SUŠAC, OSNOVE UMJETNE INTELIGENCIJE

Kako čovjek uči?

JABUKA

Način na koji čovjek uči još je uvijek nepoznat.

Malo dijete može vrlo lako naučiti prepoznavati predmete i lica, dok je to vrlo složeno prenijeti u stroj.

M. ZEKIĆ-SUŠAC, OSNOVE UMJETNE INTELIGENCIJE

Sposobnosti inteligentnog strojaDa bi neko računalo položilo Turingov test, trebalo bi imati sljedeće sposobnosti:

Obradu prirodnog jezika – za komuniciranje na engleskom ili dr. jeziku

Predstavljanje znanja – za memoriranje znanja

Automatizirano zaključivanje – kako bi pohranilo informaciju za odgovor na neko pitanje i izvuklo zaključke

Strojno učenje – kako bi se prilagodilo novim uvjetima i detektiralo uzorke

M. ZEKIĆ-SUŠAC, OSNOVE UMJETNE INTELIGENCIJE

UI kao znanstvena disciplina

UI - prihvaćena je 1958. na konferenciji na Darthmouth College, SAD. Grupa od 5 istraživača predvođena Marvinom Minsky (MIT AI Lab) predložila je da se UI uvrsti kao znanstvena disciplina o stvaranju inteligentnih strojeva.

Kao posebna područja UI u ranoj fazi pojavila su se:◦ Prepoznavanje uzoraka

◦ Prepoznavanje govora

◦ Obrada prirodnog jezika (prevođenje)

Izvor: http://en.wikipedia.org/wiki/Marvin_Minsky

M. ZEKIĆ-SUŠAC, OSNOVE UMJETNE INTELIGENCIJE

Faze razvoja UI

1. faza: 1958-1970-tihRad na strukturiranim problemima, kao npr. matematički teoremi, geometrija, te igre

(šah)Fokus: kreirati općenite strojeve koji mogu razmišljati i rješavati različite probleme

2. faza: 1970-tih – 1980-tihSužavanje na uska specifična problemska područja i kreiranje sustava koji će

zamijeniti ljudsko znanje u tim specifičnim područjima (npr. medicinska dijagnostika, konfiguriranje računala i dr.) – ekspertni sustavi. Razvijeni su posebni jezici za predstavljanje znanja (Lisp, Prolog i SmallTalk), kreirane su prve komercijalne aplikacije

3. faza: 1980-tih naovamo

Rješavanje problema prepoznavanja uzoraka, govora, obrade prirodnog jezika i prevođenja, zaključivanja, te kontrole robota.

Novija područja UI: connectionism – neuronske mreže Biološki modeli – genetički algoritmi Alternativni logički modeli – fuzzy (neizrazita) logika Inteligentni agenti

M. ZEKIĆ-SUŠAC, OSNOVE UMJETNE INTELIGENCIJE

Srodne znanstvene discipline

Sa UI mnogo dodirnih točaka imaju ove znanstvene discipline:

Kognitivna znanost (eng. congnitive science) – spaja računalne AI modele s eksperimentalnim tehnikama iz psihologije kako bi konstruirala precizne teorije o tome kako čovjek uči i razmišlja (Russel, Norvig, 2004)

Teorija odlučivanja – kombinira teoriju vjerojatnosti s teorijom korisnosti (utility), i predstavlja okvir za donošenje odluka u uvjetima neizvjesnosti

Neuroscience – znanost o živčanom sustavu, posebice mozgu.

Psihologija, Računalno inženjerstvo, Teorija kontrole, Kibernetika i dr.

M. ZEKIĆ-SUŠAC, OSNOVE UMJETNE INTELIGENCIJE

Područja i metode umjetne inteligencijeU nastavku dajemo prikaz glavnih područja UI i nekih reprezentativnih metoda za svako područje:

▪ Predstavljanje znanja – metoda ekspertnih sustava

▪ Strojno učenje – metode neuronskih mreža, stabala odlučivanja, metode potpornih vektora, najbližeg susjeda, klasteriranja i dr.

▪ Biološki sustavi – metoda genetičkih algoritama

▪ Alternativna logika – Fuzzy (neizrazite) metode

▪ Agenti – metoda inteligentnih agenata

▪ Prepoznavanje govora - koriste se metode strojnog učenja

▪ Obrada prirodnog jezika - koriste se metode strojnog učenja, lingvističke metode, semantika

▪ Robotika

▪ i druga područja

M. ZEKIĆ-SUŠAC, OSNOVE UMJETNE INTELIGENCIJE

Područja primjene UI

Neki od primjera primjene UI tehnika su:

Predviđanje i klasifikacija –neuronske mreže

Planiranje i raspoređivanje (scheduling) – NASA-in Remote Agent program za kontrolu operacija za svemirske letjelice

Igre – IBM-ovo računalo Deep Blue prvi je računalni program koji je pobijedio čovjeka u šahu (partija s Kasparovom) 1997.

Izvor: www.frontiernet.net/~imaging/java_vrml.html

M. ZEKIĆ-SUŠAC, OSNOVE UMJETNE INTELIGENCIJE

Područja primjene UI - nastavak

Autonomna kontrola – ALVINN computer vision sustav može kontrolirati auto da vozi u svojoj traci

Medicinska dijagnoza – ekspertni sustavi, dijagnostički programi (DENDRAL, MYCIN)

Logističko planiranje – 1991. US Forces, Dynamic Analysis and Replanning Tool (DART) koji radi automatsko logističko planiranje i raspoređivanje transporta za vojsku

Robotika – automobilska industrija, mikrokirurgija

Obrada prirodnog jezika – prevođenje (program Google Translator)

Prepoznavanje govora i rješavanje problema – program PROVERB (Littmann, 1999) rješava križaljke

Ekonomija – predviđanje prodaje, profita, bankrota, prijevara na kreditnim karticama, odobravanje kredita, i dr.

M. ZEKIĆ-SUŠAC, OSNOVE UMJETNE INTELIGENCIJE

Inteligentne metode kao dio sustava za potporu odlučivanju

Metode umjetne inteligencije (inteligentne metode) svoju primjenu u ekonomiji nalaze kao dio inteligentnih sustava za potporu odlučivanju

Inteligentni sustav za potporu odlučivanju (IDSS) je dio informacijskog sustava tvrtke (tj. poslovnog informacijskog sustava) koji pomaže srednjoj i višoj razini menadžmenta u donošenju poslovnih odluka, a koristi inteligentne metode (npr. neuronske mreže, genetičke algoritme, stabla odlučivanja, prepoznavanje govora, obradu prirodnog jezika i dr.)

Inteligentne metode u poslovnom odlučivanju

Inteligentne metode koj se koriste u poslovnom odlučivanju mogu se podijeliti na:

▪ sustave zasnovane na znanju (engl. Knowledge-based systems), zovu se još i Ekspertni sustavi▪ Koriste znanje ljudskog eksperta koje se unosi u sustav kroz metode za

predstavljanje znanja, i mehanizam zaključivanja (engl. Inference engine)s kojim se pretražuje baza znanja da bi se od polaznih informacija došlo do odluke sustava

▪ sustave zasnovane na učenju na temelju slučajeva (engl. Case-based reasoning), zovu se još i metode strojnog učenja:▪ Umjetne neuronske mreže

▪ Metode stabala odlučivanja (engl. tree-partitioning methods)

▪ Metoda najbližeg susjeda (nearest neighbour)

▪ Bayesov klasifikator

▪ Metoda klasteriranja

▪ Metoda potpornih vektora

17

Ekspertni sustaviEkspertni sustavi su programi koji koriste specijalizirano znanje ljudskog eksperta ugrađeno u bazu znanja i s pomoću mehanizma zaključivanja i korisničkog sučelja služe za pomoć pri odlučivanju.

18

Slika. Arhitektura ekspertnog sustava (Izvor: IGCSE ICT, 2017.)

Ekspertni sustav sastoji se od:• Baze znanja - u kojoj je predstavljeno znanje eksperta• Mehanizma zaključivanja (engl. Inference engine) – za pretraživanje baze

znanja• Korisničkog sučelja (engl. User interface) – za komunikaciju s korisnikom

Načini predstavljanja znanja u ESU bazi znanja ekspertnog sustava, znanje se može predstaviti pomoću ovih metoda:▪ Logička „Ako-tada” ( engl. If-then) pravila pomoću kojih se kreira stablo odlučivanja

▪ Predikatna logika

▪ Semantičke mreže

▪ Objektni okviri i dr.

▪ S obzirom da se većina odluka donosi uz pomoć više kriterija, tu se radi o problemu višekriterijskog odlučivanja.

▪ Jedna od poznatijih metoda za višekriterijsko odlučivanje je Analytical Hierarchy Process – AHP metoda koju je predložio Tomas Saaty (1989)

▪ AHP je višekriterijska metoda odlučivanja sa konfliktnim kriterijima ialternativama (opcijama odluke)

19

CILJ

kriterij1 kriterij2 kriterij3

Alternativa1 Alternativa2

Odobrenje kredita

Posao Nekretnina Starost

Da, odobriti Ne odobriti

Primjer

Primjena ES-aEkspertni sustavi mogu se primijeniti na probleme:

▪ dijagnoze, odnosno klasifikacije (npr. pogreške stroja (škarta), bolesti, itd)

▪ dizajn (npr. konfiguriranje računalnih sustava, ponude hotela, karakteristika proizvoda, itd.)

▪ interpretacija, odnosno prepoznavanje uzoraka (npr. geoloških podataka, ultrazvučnih slika, satelitskih slika, itd).

ES koriste se u ES u: medicini, inžinjerstvu, geologiji, računalstvu, ekonomiji, poslovanju, pravu, vojsci, obrazovanju, i dr.

Alati za ES – ExSys Corvid, XpertRule,

20

Primjer baze znanja ES-aPrimjer baze znanja iz ekspertnog sustava za donošenje odluke o darovitosti djece.

21

S pomoću logičkih pravilaZnanje je pretočeno u if-thenPravila koja su unesena u sustav.(Izvor: Pavleković, Zekić-Sušac, Đurđević, 2008)

Upotreba ekspertnog sustavaKod upotrebe ES-a, korisnik koji nije ekspert iz određenog područja, može kroz korisničko sučelje upisati samo vrijednosti ulaznih atributa, tj. odgovoriti na pitanja koja mu sustav postavi, i kao rezultat dobiva odluku sustava o određenom problemu.

22

(Izvor: Pavleković, Zekić-Sušac, Đurđević, 2008)

Odluka sustava

Metode zaključivanja na temelju slučajevaMetode zaključivanja na temelju slučajeva (eng. case based reasoning) ne koriste znanje ljudskog eksperta, nego na temelju podataka o prošlim slučajevima (iz baza podataka, tablica i dr.) nastoje pronaći funkcijske veze među podacima, i tako donose odluku.

Prednost – mogu se koristiti kod problema gdje ljudski ekspert nije raspoloživ, a podaci jesu, pa su ove metode sve popularnije zbog sve veće raspoloživosti podataka iz baza podataka tvrtki i sa Internet mreže

Kako ove metode uče na prošlim slučajevima na način da mogu automatizirano podešavati svoje parametre funkcija, i prilagoditi se novim podacima, zovu se još i metode strojnog učenja (engl. Machine learning).

Najčešće korištene metode strojnog učenja: stabla odlučivanja, umjetne neuronske mreže, metoda najbližeg susjeda, metoda potpornih vektora, Bayesov klasifikator, klasteriranje i druge.

Ove metode se danas najviše koriste u okviru PODATKOVNE ANALITIKE, odnosno ako se radi o upotrebi u poslovanju, tada u okviru POSLOVNE ANALITIKE.

23

Poslovna analitika – pojam i podjelaPoslovna analitika je primjena podatkovne analitike u poslovanju.

Podatkovna analitika osim same analize podataka podrazumijeva i sve faze upravljanjapodacima koje prethode analizi, kao što su prikupljanje, čišćenje, organiziranje, pohrana i izvješćivanje o rezultatima, a dijeli se na:

▪ deskriptivnu,

▪ dijagnostičku,

▪ prediktivnu i

▪ preskriptivnu analitiku.

Deskriptivna analitika uglavnom koristi jednostavne statističke metode koji opisujujednu varijablu i njezinu raspodjelu, npr. učestalosti pojavljivanja, udjele, prosječnevrijednosti, ili smjer kretanja troškova, prihoda, profita i sl.,

Dijagnostička analitika fokusira se na traženje uzroka događaja koji su se pojavili u prošlosti i traži odgovore na pitanja zbog čega se nešto pojavilo. Primjerice, zbog čegajedna od prodavaonica ima učestalo manji promet od ostalih? Dijagnostička analitika se provodi na višedimenzionalnim podacima s pomoću OLAP analiza i sličnih metoda.

24

Prediktivna i preskriptivna analitikaPrediktivna analitika ima za cilj odrediti vrijednost nekog obilježja(varijable) koja će se vjerojatno pojaviti u budućnosti.

◦ Ona istražuje snagu i smjer veza, trendove, uzorke i izuzetke, aproksimira funkcije, kako bi se kreirali modeli koji se mogu koristiti u prediktivne svrhe. Primjeriproblema koji se rješavaju metodama prediktivne analitike su predviđanjeprodaje, predviđanje sutrašnje cijene dionice, predviđanje rasta poduzeća, ali isegmentiranje kupaca prema vjerojatnosti buduće kupnje nekog proizvoda, razvrstavanje tražitelja kredita prema vjerojatnosti urednog vraćanja kredita islično. Za ovu analitiku koriste se osim statističkih metoda za modeliranje i metode strojnog učenja.

Preskriptivna analitika koristi rezultate deskriptivne i prediktivne analitike, na temelju njih sugerira i usmjerava aktivnosti koje će dovesti do željenihrezultata.

U analitičkim alatima raspoloživim za analizu aktivnosti korisnika na web sjedištu tvrtke (kao npr. Google Analytics) najčešće se koriste metodedeskriptivne analitike, dok dijagnostička, prediktivna i preskriptivnaanalitika postaju sve značajnije na transakcijskim bazama ili skladištimapodataka te u okviru Big Data platformi pri čemu omogućuju stvaranjeznanja iz raspoloživih podataka.

25

Prediktivna analitika

26

Slika. Prediktivna analitika na transakcijskim bazama i u okviru Big Data platforme (Izvor: Zekić-Sušac, Has, 2016)

Literatura▪ G. Klepac, L. Mršić, Poslovna inteligencija kroz poslovne slučajeve, Lider, Tim Press, Zagreb, 2006. ▪ Ž. Panian, G. Klepac, Poslovna inteligencija, Masmedia, Zagreb, 2003. ▪ V.Čerić, M., Varga, Informacijska tehnologija u poslovanju, Element, Zagreb, 2004., poglavlja 13-16.▪T. Hastie, R. Tibshirani, J. Friedman, The Elements of Statistical Learning, Data Mining, Inference, and

Prediction, Springer, Second Edition, 2013. ▪ F. Provost, T. Fawcett, Data Science for Business, What You Need to Know about Data Mining and

Data-Analytic Thinking, O'Reilly Media, 2013.▪ S. J. Russell, P.Norvig, Artificial Intelligence: A Modern Approach, Prentice Hall; 2nd edition, 2002.▪ I.H. Witten, E. Frank, Data Mining: Practical Machine Learning Tools and Techniques with Java

Implementation. Morgan Kaufman Publishers, San Francisco, CA, 2000. ▪ C. Bishop, Neural Networks and Machine Learning, Springer Verlag, Berlin, 1998.▪ D. Graupe, Principles of Artificial Neural Networks (2nd edition), Advanced Series in Circuits and

Systems - Vol. 6, World Scientific, Singapore 2007.▪ J. Jackson, Data Mining: A Conceptual Overview, Communications of the AIS, Volume 8, 2002, pp.

267-296.▪ M. Pavleković, M. Zekić-Sušac, I. Đurđević, Recognizing Mathematically Gifted Children by Using

Expert systems', Teachers', and Psychologists' Estimations, Društvena istraživanja, Vol. 19 No. 3 (107), 2010, ISSN: 1330-0288 ▪M. Prević, Što je poslovna inteligencija, InfoTrend, Broj 134, Studeni 2005,

http://www.trend.hr/clanak.aspx?BrojID=43&KatID=5&ClanakID=504, 10.04.2008.▪T. Saaty, J. Alexander. Conflict Resolution: The Analytic Hierarchy Process. New York, New York:

Praeger, 1989.▪M. Zekić-Sušac, A. Has, Predictive analytics in Big Data platforms – comparison and strategies, MIPRO

BIS 2016, Opatija, Hrvatska

27

M. ZEKIĆ-SUŠAC, OSNOVE UMJETNE INTELIGENCIJE

Web izvori▪ Business Intelligence, Poslovna inteligencija ili poslovna analitika?, https://sqlbicro.wordpress.com/2013/04/21/poslovna-inteligencija-ili-poslovna-analitika/, 11.10.2017.

▪ FinanceOnline, Pros and Cons of Grow BI: A Business Intelligence Solution for the Power User, https://financesonline.com/pros-cons-grow-bi-business-intelligence-solution-power-user/, 11.10.2017.

▪ IGCSE ICT, What is an expert system, https://www.igcseict.info/theory/7_2/expert/, 10.10.2017.

▪ W3Resource, MySQL Create Database, https://www.w3resource.com/mysql/creating-using-databases-tables/what-are-database-and-tables.php, 12.10.2017.

▪ SAS, Big Data Analytics, https://www.sas.com/en_us/insights/analytics/big-data-analytics.html, 10.10.2017.

▪ Skladistenje.com, http://www.skladistenje.com/, 11.10.2017.

▪ S. Russell, P. Norvig, AI on the web, http://aima.cs.berkeley.edu/ai.html, 14.11.2013.

▪ Wikipedia Artificial Intelligence, http://en.wikipedia.org/wiki/Artificial_intelligence, 01.03.09.

▪ J. McCarthy, What is AI, http://www-formal.stanford.edu/jmc/whatisai/, 2007, (06.03.09.)

▪ B. Dalbelo-Bašić, Sustavi koji uče i umjetne neuronske mreže, Fakultet elektrotehnike i računarstva Zagreb, www.zemris.fer.hr/~bojana (06.03.2009)

Arhiva podataka za seminarski rad za neuronske mreže:

http://www.ics.uci.edu/~mlearn/MLSummary.html ili

http://www.cs.sfu.ca/~wangk/ucidata/dataset/