Collegio Arcivescovile Castelli Liceo Scientifico Esame di Stato anno 2014-2015 Stefano Pinzan

- 1 -

Indice 1 Introduzione ...................................................................................... 2 2 Alan Turing: l’inventore del primo computer .......................................... 5

2.1 La vita ........................................................................................ 5 2.2 Il test di Turing ............................................................................ 7

3 Progresso tecnologico: dove siamo arrivati ........................................... 10 3.1 Cibernetica ................................................................................. 10

3.1.1 Nascita della cibernetica ............................................................ 10 3.1.2 Meccanismi di controllo ............................................................. 12 3.1.3 Carattere interdisciplinare della cibernetica .................................. 13

3.2 Intelligenza Artificiale .................................................................. 15 3.2.1 Nascita della intelligenza artificiale ............................................. 15 3.2.2 Computer che pensano in modo formale ..................................... 16 3.2.3 Computer che pensano in situazioni incerte ................................. 17

4 La paura del futuro ............................................................................ 18 4.1 Elon Musk .................................................................................. 18 4.2 Stephen Hawking ........................................................................ 19 4.3 Bill Gates ................................................................................... 20

5 Andare oltre con Asimov..................................................................... 21 5.1 Isaac Asimov .............................................................................. 21 5.2 “Io Robot” .................................................................................. 22 5.3 “La prima legge” da “Il secondo libro dei robot” .............................. 25 5.4 “Parola chiave” dai racconti su Multivac ......................................... 26

6 Considerazioni finali ........................................................................... 28 Bibliografia ............................................................................................ 29 Allegato 1. La prima legge .................. Errore. Il segnalibro non è definito. Allegato 2. Parola chiave ........................................................................ 29

- 2 -

1 Introduzione Lo sviluppo umano, sia intellettuale che sociale, è sempre stato caratterizzato da strumenti che l’uomo ha saputo creare con lo scopo prima di difendersi e di controllare poi la natura. La direzione del progresso umano va dall’utensile verso lo strumento per poi arrivare alla macchina. Questi utensili all’inizio erano utilizzati come supporto alla vita quotidiana, ma più il tempo passava, più la loro funzione era sostitutiva all’operato umano. Lo sviluppo degli “strumenti” utilizzati dall’uomo lo si può suddividere in quattro fasi. La prima fase riguarda l’uso di utensili come la zappa, estensione della mano dell’uomo, ovvero un mezzo comodo e perfezionato per eseguire il compito necessario di dissodare la terra. L’utensile, o attrezzo che dir si voglia, è un oggetto passivo che fu inventato dall’uomo non appena questi scoprì che certi materiali naturali molto comuni, ad esempio bastoni e pietre, se adattati e usati opportunamente, avrebbero potuto alleviare lo sforzo che egli doveva compiere per procurarsi il cibo. Questa è la fase della tecnologia prescientifica, ossia dell’invenzione di semplici oggetti atti ad eseguire lavori quotidiani in grado di alleviare la fatica dell’uomo. Il balzo in avanti verso la seconda fase fu determinato dall’invenzione degli strumenti; si costruirono cioè oggetti artificiali progettati specificamente per realizzare compiti particolari e precedentemente

- 3 -

determinati. Questa seconda fase fu raggiunta con l’avvento degli strumenti scientifici. Un nome su tutti a cui dobbiamo questo sviluppo è Galileo con il piano inclinato e il telescopio. Per la prima volta venne costruito un oggetto particolare al solo scopo di dimostrare e verificare una affermazione scientifica riguardante un fenomeno naturale. La terza fase è più vicina ai giorni nostri ed è quella dei primi calcolatori e delle prime macchine. Con macchine intendiamo organi meccanici autonomi che lavorano indipendenti dall’uomo, ma si attivano a fronte di un comando impartito dall’uomo stesso. In questa fase si passa al concetto di macchina in grado di elaborare un’enorme massa di dati e di fornire/attuare delle funzioni a fronte di comandi ricevuti. Con l’evolversi della tecnologia si sono sviluppate diverse linee di ricerca scientifica e fra queste la cibernetica. Grazie allo sviluppo della cibernetica, ora si lavora allo studio di sistemi complessi altamente organizzati e alla realizzazione di macchine ad alto grado di automatismo, atte a sostituire l’uomo nel ruolo di controllore. Parallelamente allo sviluppo della cibernetica c’è quello dell’Intelligenza Artificiale, che cerca di capire se sia possibile far pensare le macchine e far loro riprodurre processi mentali complessi come quelli caratteristici dell’uomo “sapiens”. Ed è proprio con i progressi nel campo dell’intelligenza artificiale che si sta aprendo la quarta fase e cioè quella delle macchine “pensanti”. Le più grandi menti stanno

- 4 -

dibattendo sulla pericolosità o meno delle future macchine “pensanti” e sugli accorgimenti che l’uomo dovrà intraprendere per mantenere il controllo. Il precursore del’intelligenza artificiale , a detta di tutti gli esperti del settore, è Alan Turing, il primo uomo che attraverso un test cercò di capire se una macchina fosse in grado di pensare. Nei prossimi capitoli verrà descritto il rapporto tra l’uomo e la macchina, proprio a partire dalle esperienze di Alan Turing.

- 5 -

2 Alan Turing: l’inventore del primo computer 2.1 La vita Alan Mathison Turing è passato alla storia come uno dei pionieri dello studio della logica dei computer e come uno dei primi ad interessarsi all'argomento dell'intelligenza artificiale. Nato il 23 giugno 1912 a Londra, ha ispirato i termini ormai d'uso comune nel campo dell'informatica, come quelli di "Macchina di Turing" e di "Test di Turing". Più nello specifico, si può dire che come matematico ha applicato il concetto di algoritmo ai computer digitali e la sua ricerca nelle relazioni tra macchine e natura ha creato il campo dell'intelligenza artificiale. Interessato soltanto alla matematica e alla scienza, iniziò la sua carriera come matematico al King's College alla Cambridge University nel 1931. Trasferitosi poi alla Princeton University, il grande matematico iniziò ad esplorare quella che poi verrà definita come la "Macchina di Turing" la quale, in altri termini, non rappresenta altro che un primitivo e primordiale "prototipo" del moderno computer. L'intuizione geniale di Turing fu quella di "spezzare" l'istruzione da fornire alla macchina in una serie di altre semplici istruzioni, nella convinzione che si potesse sviluppare un algoritmo per ogni problema: un processo non dissimile da quello affrontato dai programmatori odierni. Durante la Seconda Guerra Mondiale, Turing mise le sue capacità matematiche al servizio del "Department of Communications" inglese per decifrare i codici usati nelle comunicazioni tedesche, un compito particolarmente difficile in

Alan Turing

- 6 -

quanto i tedeschi avevano sviluppato un tipo di computer denominato "Enigma", che era capace di generare un codice che mutava costantemente. Durante questo periodo al "Department of Communications", Turing ed i suoi compagni lavorarono con uno strumento chiamato "Colossus" che decifrava in modo veloce ed efficiente i codici tedeschi creati con "Enigma". Si trattava, essenzialmente, di un insieme di servomotori e metallo, ma era il primo passo verso il computer digitale. Dopo questo contributo fondamentale allo sforzo bellico, finita la guerra continuò a lavorare per il "National Physical Laboratory" (NPL), proseguendo la ricerca nel campo dei computer digitali. Lavorò nello sviluppo all'"Automatic Computing Engine" (ACE), uno dei primi tentativi di creare un vero computer digitale. Fu in questo periodo che iniziò ad esplorare la relazione tra i computer e la natura. Scrisse un articolo dal titolo "Intelligent Machinery", pubblicato poi nel 1969. Fu questa una delle prime volte in cui sia stato presentato il concetto di "intelligenza artificiale". Turing, infatti, era dell'idea che si potessero creare macchine che fossero capaci di simulare i processi del cervello umano, sorretto dalla convinzione che non ci sia nulla, in teoria, che un cervello artificiale non possa fare, esattamente come quello umano (in questo aiutato anche dai progressi che si andavano ottenendo nella riproduzione di "simulacri" umanoidi, con la telecamera o il magnetofono, rispettivamente "protesi" di rinforzo per l'occhio e la voce).

Colossus

- 7 -

Turing, insomma, era dell'idea che si potesse raggiungere la chimera di un'intelligenza davvero artificiale seguendo gli schemi del cervello umano. A questo proposito, scrisse nel 1950 un articolo in cui descriveva quello che attualmente è conosciuto come il "Test di Turing". Turing lasciò il National Physical Laboratory prima del completamento dell'"Automatic Computing Engine" e si trasferì alla University of Manchester dove lavorò alla realizzazione del Manchester Automatic Digital Machine (MADAM), con il sogno non tanto segreto di poter vedere, a lungo termine, la chimera dell'intelligenza artificiale finalmente realizzata. Personalità fortemente tormentata (anche a causa di una omosessualità vissuta con estremo disagio), dalle mille contraddizioni e capace di stranezze e bizzarrie inverosimili, Turing morì suicida, appena quarantenne, il 7 giugno 1954.

2.2 Il test di Turing Si tratta di una situazione sperimentale ideale che consiste in un gioco a tre partecipanti: un uomo A, una donna B e una terza persona C. Quest’ultimo è tenuto separato dagli altri due e, tramite una serie di domande, deve stabilire quale sia l’uomo e quale la donna. Dal canto loro, anche A e B hanno dei compiti: A deve ingannare C e portarlo a fare un’identificazione errata, mentre B deve aiutarlo. Affinché C non possa disporre di alcun indizio (come l’analisi della grafia o della voce), le risposte alle domande di C devono essere dattiloscritte o similarmente trasmesse. Il test di Turing si basa sul presupposto che una macchina si sostituisca ad A. In tal caso, se C non si accorgesse di nulla, la macchina dovrebbe essere considerata intelligente, dal momento che sarebbe indistinguibile da un essere umano.

- 8 -

Per comprendere il test di Turing si può riassumerlo attraverso le parole di Gianni Rigamonti: “Immaginiamo il seguente gioco di società: in una stanza chiusa ci sono due giocatori, un uomo e una donna. In un’altra stanza c’è un terzo giocatore, che deve indovinare quale dei due – li conosce solo come A e B – è la donna, e l’unico modo che ha per farlo è il mandare delle domande scritte e ricevere le risposte scritte; ma sia A, sia B devono far credere di essere la donna. Dopo un po’, il terzo giocatore avrà a disposizione parecchi bigliettini di A e altrettanti di B. Troverà la soluzione giusta? E’ evidente che se il maschietto è sveglio, una volta liberato dagli impedimenti dell’aspetto fisico e della voce riuscirà a ‘imitare la femminilità’ molto bene, e per il terzo giocatore le probabilità di sbagliare saranno uguali a quelle di indovinare. E adesso supponiamo che nella stanza chiusa ci siano non un uomo e una donna, ma una persona (non importa se maschio o femmina) e una macchina, e che entrambe debbano far credere di essere la persona. Se la macchina fosse così abile da ‘imitare l’umanità’ alla perfezione, come non concludere che pensa? Infatti saprebbe riprodurre esattamente la manifestazione del pensiero, quella che ci fa concludere che gli esseri umani pensano; e non si possono usare due pesi e due misure.

- 9 -

Questo, dunque, il primo punto. È stato individuato un ‘test del pensiero’. Ma è possibile, di principio, che una macchina lo superi? Lo è, perché il linguaggio è un sistema ‘discreto’ e in linea di principio un automa numerico può riprodurre qualsiasi sistema discreto. È solo una questione di complessità. E certo quella del linguaggio umano è enorme, ma strutturalmente esso non ha una natura diversa da quella dei linguaggi degli automi, e col tempo questi diventeranno, secondo Turing, abbastanza complessi da superare a pieni voti il test dell’imitazione.”

- 10 -

3 Progresso tecnologico: dove siamo arrivati 3.1 Cibernetica

3.1.1 Nascita della cibernetica La parola inglese cybernetics fu introdotta dal matematico Norbert Wiener nel 1947 e deriva dal greco “kybernetes” che come significato ha timoniere, pilota della nave. L'origine della cibernetica risale al progetto di un meccanismo di puntamento per artiglieria antiaerea condotto nella seconda guerra mondiale da Wiener e dall'ingegnere Julian Bigelow. Il problema principale derivava dalla necessità di lanciare il proiettile non direttamente sul bersaglio, dal momento che questo era dotato di elevata velocità, ma in un punto antecedente la traiettoria, in modo tale che l'aereo e il proiettile giungessero infine ad incontrarsi. Ma nel frattempo l'aereo poteva cambiare direzione in maniera casuale, anche se non del tutto arbitraria. Era quindi necessario un strumento di previsione della posizione dell'areo che agisse in maniera rapida e che dirigesse il puntamento del pezzo antiaereo. Inoltre il puntamento del pezzo doveva continuamente essere corretto mediante un meccanismo di retroazione (dall'inglese feedback) che riceveva informazioni sul reale comportamento dell'aereo nemico. Nel corso di questo progetto furono ravvisate alcune similitudini con il comportamento umano nella soluzione di problemi di orientamento. I due studiosi ipotizzarono quindi che anche nel comportamento umano agisse un meccanismo di retroazione.

Norbert Wiener

- 11 -

Wiener e Bigelow si rivolsero dunque al medico e fisiologo messicano Arturo Rosenblueth, con il quale Wiener aveva già collaborato, per avere una conferma della loro ipotesi. Da questa collaborazione vide la luce l'articolo “Behaviour, Purpose, and Teleology” pubblicato nella rivista "Philosophy of Science" (1943). Nacque così l'idea di una scienza unificata dei meccanismi di controllo nelle macchine e negli esseri viventi. Quando arrivò il momento di battezzare la nuova scienza fu suggerito il termine greco “kybernetes”. Infatti il primo scritto sulla retroazione risale all'Ottocento ed è un articolo di Maxwell sui regolatori (in inglese si chiamanano governors) ideati da Watt per le macchine a vapore; governor deriva dal latino gubernare che a sua volta ha origine dal greco kybernetes. Inoltre kybernetes significa timoniere e il meccanismo di controllo del timone era uno dei sistemi a retroazione all'epoca meglio sviluppati. Ogni sistema di controllo richiede la trasmissione di informazioni e quindi la cibernetica affrontò sin dalla propria nascita lo studio della teoria della comunicazione. Non a caso il libro di Wiener che segna la nascita della cibernetica si intitola Cibernetica, ovvero il controllo e la comunicazione nell'uomo e nella macchina. La cibernetica è strettamente legata all'informatica, alla teoria dell'intelligenza artificiale, alla robotica e all'applicazione di metodi automatici nel controllo della produzione industriale.

Julian Bigelow

- 12 -

3.1.2 Meccanismi di controllo Uno dei concetti fondamentali della cibernetica è la retroazione negativa. Si tratta del meccanismo mediante il quale un sistema che interagisce con l'ambiente si mantiene in uno stato stabile, modificando opportunamente il proprio comportamento in risposta a variazioni dell'ambiente. Un esempio elementare di retroazione negativa è l'impiego di un termostato per regolare la temperatura in un locale; un esempio più complesso è il processo mediante il quale un mammifero mantiene una temperatura corporea costante. Tutti gli organismi viventi utilizzano la retroazione negativa per sopravvivere. Infatti le condizioni interne di un essere vivente devono rimanere entro valori molto ristretti, poiché una variazione eccessiva è incompatibile con la vita. Le variazioni dell'ambiente sono quindi bilanciate da variazioni interne che compensano le mutate condizioni. Altri esempi di sistemi artificiali che utilizzano la retroazione negativa sono il meccanismo di guida di un missile dotato di ricerca autonoma del bersaglio, il pilota automatico di un aereo, l'ottica adattiva di un telescopio.

Funzionamento sistema di retroazione

- 13 -

Una parte del segnale di uscita di un processo soggetto a disturbi viene trasmessa, tramite un apparato chiamato trasduttore, al controllore. Quest'ultimo confronta il segnale ricevuto con un segnale di ingresso che rappresenta la condizione desiderata; in base alla differenza rilevata tra i due segnali agisce sul processo mediante un apparato chiamato attuatore, modificando così il segnale di uscita, fino a portarlo in sintonia con il segnale in entrata. Il meccanismo prende il nome di retroazione perché è un circuito chiuso nel quale ogni variazione in uscita viene riportata indietro al controllore. La retroazione è negativa quando l'intervento del controllore si oppone alle variazioni del segnale di uscita, in modo da stabilizzare il processo. La retroazione è positiva quando una modifica del segnale viene esaltata dal controllore. Si ha un esempio di retroazione positiva nel comportamento di un animale in una situazione di pericolo incombente. In questo caso il controllore (cervello e sistema endocrino) agisce in modo da provocare il rilascio di sostanze, come l'adrenalina, che aumentano l'attenzione e la capacità di reazione, allontanando l'organismo dallo stato stabile usuale.

3.1.3 Carattere interdisciplinare della cibernetica I principi di funzionamento della retroazione, sia essa positiva o negativa, si adattano in eguale misura alle macchine e agli animali. E' questo uno dei temi fondamentali della cibernetica: qualsiasi meccanismo di controllo oggetto di studio da parte di questa disciplina è applicabile ai sistemi artificiali e agli organismi viventi. La cibernetica si presenta quindi come una teoria unificante che tenta di sviluppare teorie e concetti appropriati per i sistemi biologici e fisici, naturali e artificiali. Per raggiungere questo scopo, la cibernetica prende da altri settori scientifici metodi, concetti e teorie di cui cerca di dimostrare la validità interdisciplinare.

- 14 -

Un esempio di tale procedimento è l'uso del concetto biologico di omeostasi (meccanismo interno di regolazione degli esseri viventi) che la cibernetica ha esteso ai sistemi artificiali, proponendo la costruzione di macchine capaci di autoregolarsi mediante omeostasi. Un altro esempio consiste nella proposta di von Neumann di realizzare automi capaci di riprodursi e dotati di un codice di programmazione con funzioni simili al DNA. Segue la stessa linea di pensiero il tentativo di utilizzare la definizione statistica di entropia per misurare l'informazione, creando così un legame tra fisica, teoria dell'informazione e biologia. Tra i molti influssi che la cibernetica ha esercitato sulle discipline biologiche si può ricordare l'importanza che essa ha avuto nel mutare l'opinione dei neurofisiologi sul ruolo del cervello. Il sistema nervoso centrale era visto come un organo autosufficiente che riceve informazioni dagli organi di senso e quindi ordina il movimento dei muscoli. Questa visione è radicalmente cambiata, in quanto si è imposto il concetto di retroazione. Il sistema nervoso centrale fa parte di un processo circolare nel quale l'esito del movimento muscolare viene riportato indietro al cervello affinché questo possa continuamente correggere il comando di posizione in base al segnale di ritorno. Si deve inoltre sottolineare come attualmente quasi tutti i processi fisiologici, dalla produzione di ormoni al funzionamento del sistema immunitario, siano spiegati nell'ambito di processi di controllo basati sul concetto di retroazione.

- 15 -

3.2 Intelligenza Artificiale 3.2.1 Nascita della intelligenza artificiale

Il tentativo di simulare le funzioni umane è stato presente fin dagli inizi dell’informatica. Nel 1956 J. McCarthy organizzò a Dartmouth un convegno, nel corso del quale fu coniato il termine i. artificiale nel senso usato oggi, che segna la nascita di questa disciplina come settore autonomo; durante il convegno vennero presentati alcuni programmi di calcolo capaci di comportamenti intelligenti, quale per es. il “logic theorist”, in grado di dimostrare teoremi di logica matematica. In una prima fase di evoluzione l’i. artificiale si è rivolta alla soluzione di problemi di tipo logico, relativamente ben formalizzati, registrando significativi successi. Nel 1957 fu sviluppato il programma “General problem solver”, destinato a emulare il comportamento umano nella soluzione di problemi di tipo generale; nel 1959 D. Gelertner presentò un programma per la dimostrazione di teoremi di geometria e, subito dopo, uno per l’integrazione simbolica. In una seconda fase, sull’onda del successo, si è cercato di espandere la gamma di problemi cui l’i. artificiale potesse dare risposta, muovendosi verso l’emulazione del sistema di percezione umano e verso l’interazione con l’ambiente, registrando viceversa un sostanziale insuccesso. In effetti ci si rese presto conto che per i problemi di gestione efficace di informazioni incomplete e incerte mancavano i modelli concettuali che potessero supportare l’attività di sistemi automatizzati.

John McCarthy

- 16 -

In una terza fase il settore si è articolato in indirizzi specifici di simulazione di attività umane cercando di affrontare alcuni problemi delimitati, registrando alcuni interessanti successi e contribuendo comunque all’approfondimento dei complessi problemi che stanno dietro a molte attività umane, solo apparentemente semplici.

3.2.2 Computer che pensano in modo formale Il pensiero umano è una realtà estremamente complessa, sicuramente non riconducibile a schemi semplici, ed è per questo che i ricercatori dell’ ”IA” hanno deciso di dedicare i loro sforzi su obbiettivi specifici. Inizialmente, infatti, si è affrontato il problema della riproduzione dei ragionamenti di tipo logico-formale, ossia quelli che possono essere descritti e sviluppati all'interno di un sistema preciso e definito di regole e che consentono in qualunque momento di determinare, in un numero finito di passaggi, se una conclusione derivi dalle premesse iniziali in maniera corretta e se sia stata ottenuta applicando le 'regole di grammatica' stabilite. Un esempio di questo tipo di ragionamento è il gioco degli scacchi, uno dei terreni preferiti di sperimentazione dell'IA. Qui hanno fatto epoca le sfide tra i più grandi campioni del mondo e potenti elaboratori, come la partita giocata nel 1996 tra il supercalcolatore IBM Deep Blue e l'allora campione mondiale G. Kasparov (n. 1963). La sfida fu vinta per 4 a 2 da quest'ultimo, ma nel 1997 Deep Blue si aggiudicò la rivincita per 3,5 a 2,5. Giocare a scacchi richiede insieme fantasia e ragionamento, ma in ogni caso ogni partita si svolge all'interno di un preciso quadro di regole certe e definite,

Kasparov contro Deep Blue

- 17 -

descrivibili in linguaggio matematico e che si riferiscono a un numero finito di variabili. Così i computer possono elaborare milioni e milioni di situazioni possibili, opponendo la forza bruta della loro velocità di calcolo all'intuizione dei migliori giocatori.

3.2.3 Computer che pensano in situazioni incerte I successi dell'IA nel campo del ragionamento formale costituiscono però solo un aspetto dei compiti che questa disciplina si è assunta. Oggi l'IA è utilizzata per realizzare macchine capaci di espletare compiti tipicamente umani, come per esempio il riconoscimento di un volto, la capacità di trascrivere un discorso parlato o un foglio scritto a mano libera. Ma l'IA si occupa anche di creare programmi per risolvere problemi, come quelli gestionali o logistici di una grande azienda. In tutti questi casi il computer deve affrontare situazioni non dominabili perfettamente, caratterizzate da una molteplicità di variabili a cui si associano valori di verità non più binari, e quindi non associabili a una logica di vero-falso, ma più sfumati e che trasformano le certezze in possibilità. Computer attrezzati a risolvere problemi di questo tipo devono non solo essere in grado di apprendere dall'esperienza, ma essere anche capaci di elaborare contemporaneamente diverse ipotesi. Per questo sfruttano spesso l'architettura delle reti neurali, sistemi informatici che simulano la struttura stessa del cervello, in cui la computazione è eseguita da più unità che lavorano in parallelo senza un programma predefinito.

- 18 -

4 La paura del futuro I progressi nel campo della cibernetica e della intelligenza artificiale applicati alla robotica hanno portato con sè un filone polemico che chiede cautela per il futuro. La preoccupazione più grande, espressa dalle più grandi menti scientifiche del mondo, è che questo percorso di “umanizzazione” della robotica possa in qualche modo sfuggire di mano ed essere dannoso per l’uomo stesso. Di seguito sono riportati gli interventi di tre personaggi che lavorano a stretto contatto con tutto ciò che riguarda l’intelligenza artificiale e la cibernetica. 4.1 Elon Musk Elon Musk è uno di quei personaggi che senza dubbio può essere ritenuto esperto nel settore tecnologico. E’ co-fondatore di Pay Pal, CEO di Tesla Motors e creatore di una delle più importanti startup spaziali del pianeta, Space X. Secondo il suo parere, tutto sta per cambiare, il futuro è ormai alle porte e Musk pone i prossimi 5-10 anni come il lasso di tempo in cui l’umanità potrebbe subire alcuni tra i cambiamenti più grossi della propria storia. Ma c’è una cosa che teme su tutto: l’insorgere delle intelligenze artificiali. In più interviste ha paragonato la ricerca in questo campo come il tentativo da parte di goffi apprendisti stregoni di evocare spiriti demoniaci.

Elon Musk

- 19 -

Google ha acquisito la startup inglese Deepmind per 400 milioni di dollari, che non sono esattamente pochi per un’azienda che non vede all’orizzonte il lancio di alcun prodotto o la creazione di utili. IBM ha invece aperto la sua intelligenza artificiale, Watson, al mondo degli sviluppatori, affinché possano trovare nuovi e creativi modi di usare il suo potenziale. Musk è stato uno dei primi investitori di Deepmind, non per guadagnarci, bensì per tenere d’occhio i suoi sviluppi, così da rimanere informato su quella che crede essere una minaccia superiore a quella delle bombe nucleari. 4.2 Stephen Hawking Anche Stephen Hawking, uno dei fisici e matematici più importanti al mondo, riflette sulla tecnologia e lo sviluppo dell’intelligenza artificiale. Nel corso di un'intervista con la BBC ha detto fuori dai denti che "lo sviluppo dell'intelligenza artificiale completa potrebbe significare la fine della razza umana" perché "gli esseri umani, che sono limitati dalla lenta evoluzione biologica, non potrebbero competere e sarebbero soppiantati". Il suo monito è arrivato come risposta a una domanda sul rinnovo della tecnologia che lui stesso usa per comunicare, che implica una forma di base di intelligenza artificiale. Fra questo sistema e un'intelligenza artificiale "completa" (probabilmente intende con autocoscienza, che è da sempre il passaggio temuto nell'evoluzione delle IA) secondo il fisico britannico c'è una differenza

Stephen Hawking

- 20 -

sostanziale. Finora sono state sviluppate forme primitive di intelligenza artificiale, e si sono dimostrate molto utili. Ma in prospettiva un'evoluzione verso un'IA complessa comporta il rischio che possa eguagliare o superare gli esseri umani. E visto che noi abbiamo limiti biologici che le intelligenze artificiali non avrebbero, rischieremmo seriamente di essere rimpiazzati. 4.3 Bill Gates Per concludere la lista delle personalità illustri che esprimono il loro timore nell’uso non controllato della IA, non si può non riportare il parere di uno degli uomini più ricchi e inflenti del mondo, ovvero quello di Bill Gates. Durante un convegno, il fondatore di Microsoft si è mostrato preoccupato in merito agli eventuali sviluppi nel campo dell’intelligenza artificiale. In particolare Gates ha affermato di essere preoccupato di come la super intelligenza in futuro possa essere utilizzata. In questa prima fase le macchine stanno sostituendo l’uomo nel campo lavorativo. Questo potrebbe essere positivo se create adeguatamente». Gates aggiunge che bisogna capire tra qualche decennio che tipo di sviluppo assumerà, se intende limitarsi al solo campo lavorativo o intende espandersi in contesti ancora inesplorati, nella seconda ipotesi le possibilità di usi impropri e pericolosi diventerebbero molto elevate.

Bill Gates

- 21 -

5 Andare oltre con Asimov Non è ancora stata data all’uomo la possibilità di prevedere con certezza il futuro. Il mondo letterario e di conseguenza anche quello cinematografico si sono divertiti a creare questo futuro. Asimov ci presenta un futuro che ha come protagonisti principali, assieme agli uomini, i robot. Le opere di Asimov fanno riflettere il lettore sull’importanza del progresso tecnologico e mettono in chiara luce il dualismo uomo-macchina. 5.1 Isaac Asimov Nasce a Petrovichi (Russia) nel 1920. Si laurea in Chimica e Biologia, e svolge attività di insegnamento presso la prestigiosa School of Medicine dell'università di Boston. Contemporaneamente dal 1939 svolge attività di scrittore che lo porterà a ritirarsi dall'insegnamento nel 1950 per dedicarsi alla scrittura a tempo pieno. Schivo e modesto di carattere, impiega la quasi totalità del suo tempo alla macchina da scrivere, prova di ciò è la sua immensa produzione che nell'arco di 53 anni annovera circa 450 pubblicazioni. Abitudinario e dedicato al suo lavoro, non ama viaggiare soprattutto in aereo e raramente si allontana dalla sua New York. E' curioso notare come un uomo che ha immaginato una umanità in viaggio attraverso lo spazio/tempo

Isaac Asimov

- 22 -

immenso di millenni nel futuro su distanze di anni luce non amasse viaggiare e fosse terrorizzato dall'aeroplano. In realtà con la sua mente egli ha spaziato ben oltre i limiti fisici e mentali dell'uomo comune ed in questo era completamente appagato, tanto da ringraziare la natura per avergli concesso una mente lucida e piena di idee, e la capacità di renderle chiaramente sulla carta. Andava giustamente orgoglioso di aver coniato il nuovo vocabolo "Robotica" , oltre ad averne previsto le applicazioni, destinate ad avere un impatto sensazionale sui nostri tempi. Pur essendo molto interessato alla religione da un punto di vista filosofico e letterario, si è sempre dichiarato non credente ed "umanista". Era sua convinzione che il destino dell'uomo fosse nelle proprie mani; pur rispettando ogni credenza, ha avversato qualsiasi superstizione, bigottismo o parascienza, erigendosi spesso a paladino del pensiero razionale e scientifico. Isaac Asimov muore a Manhattan il 6 aprile 1992. 5.2 “Io Robot” Asimov narra di galassie lontane e tecnologie impensabili, di futuri impalpabili e mondi astrusi. Eppure, quando plasma quella che tra tutte è l’invenzione che più ha influito sull’immaginario collettivo dagli anni ’50 ad oggi, non fa altro che porre l’uomo di fronte all’uomo. Poiché tra le righe di questo genio che tanto ha scritto di voli interstellari, proprio lui che di volare aveva terrore, possiamo leggere sì di robot, ma così umani da far impallidire l’uomo stesso.

- 23 -

Il filone letterario che Asimov inaugura con la celebre raccolta di racconti “Io, robot”, datata 1950, viene detto da molti “ciclo della robotica”… sarebbe indubbiamente più corretto denominarlo “della robo-etica”. Prendendo ad esempio queste frasi: Robbie entra forse troppo in simbiosi con la bambina che accudisce, Herbie è un bugiardo incallito, Dave ha velleità dittatoriali, Cutie invece è nel bel mezzo di una crisi mistica… Sono forse questi dilemmi etici robotici? Risposta: sì! Da sempre l’uomo ha prima desiderato poi realizzato macchine che facessero il lavoro “sporco” al suo posto. Ovviamente il campo d’impiego è limitato: un buon software batterà indubbiamente il suo avversario in una partita a scacchi, Deep Blue insegna, ma di certo non è possibile pretendere che esso sia anche capace di scrivere un romanzo. La creatività è cosa di un mondo fatto di ossa e carne, non di circuiti. Particolare che Asimov non si permise di tralasciare quando delineò le caratteristiche di questi elettrodomestici tecnologicamente avanzati. Così, per ovviare ad invasioni di campo nel rapporto uomo-macchina, dotò queste ultime di un ingegnoso codice di comportamento costituito da tre dettami ormai famosissimi:

1. Un robot non può recar danno a un essere umano, né permettere che, a causa della propria negligenza, un essere umano patisca danno.

2. Un robot deve sempre obbedire agli ordini degli esseri umani, a meno che contrastino con la Prima Legge.

3. Un robot deve proteggere la propria esistenza, purchè questo non contrasti con la Prima o la Seconda Legge.

- 24 -

Esse sono così chiare e ben esposte che oggi molti campi dell’intelligenza artificiale vi fanno riferimento. Eppure Asimov pare conoscesse bene il detto “le leggi esistono per essere infrante”, visto che il motore di ogni sua narrazione che vede per protagoniste macchine positroniche è basato sulla non osservanza di una delle tre leggi. Per far sì che i robot comprendano le tre leggi, essi vanno dotati di uno stato di coscienza permanente. In base alle leggi a cui essi debbono sottostare riescono poi a frenare gli impulsi della propria coscienza emotiva. Ma la complessità dell’essere tanto simili all’uomo, anche se resta sempre uno stato di imitazione e non di creatività, mista al convivere con l’umano stesso e con tutte le sue contraddizioni, portano inevitabilmente l’entità elettro-meccanica ad un conflitto. A rendere conto dei robot difettosi sono due ingegneri che spesso ritornano tra le pagine del libro: Donovan e Powell, capita loro pure di rischiare la pelle, ma solitamente, con la forza della logica, vengono a capo delle questioni più impervie. E il fatto insolito è che il più delle volte non è tanto la macchina che necessita di miglioramenti, quanto il comportamento umano d’essere compreso più a fondo. Le falle dei robot sono semplicemente generate dalle nostre stesse zone d’ombra. Di conseguenza serve anche un ottimo psichiatra. La robo-psicologa Susan Calvin è molto più a suo agio con le macchine che con le persone, poiché i robot sono fondamentalmente onesti. Isaac Asimov non è famoso per aver lasciato ai posteri opere di qualità letteraria sopraffina, anzi, la sua era una prosa stringata, pochissime

- 25 -

descrizioni e dialoghi a fiumi. Nessuno stile ricercato, per non parlare del lessico, alquanto usuale. Questo suo libro, il primo pubblicato, ne è un perfetto esempio. Perché mai allora dar credito ad uno scrittore di media fattura? Forse perché egli ha sempre dimostrato di dar credito a noi. Quasi fosse un moderno Voltaire, Asimov, con il suo positivismo convinto, ha dimostrato che la logica e la ragione sono in ambito umano la tecnologia più preziosa. E, sfogliando le sue pagine, contempliamo come spesso capiti di dimenticare questo concetto, e come i robot non perdano occasione per riportarcelo alla memoria.

5.3 “La prima legge” da “Il secondo libro dei robot” Pubblicato per la prima volta nell'ottobre del 1956 sulla rivista Fantastic Universe, fa parte dell'antologia “Il secondo libro dei robot” ed è presente anche in altre raccolte di racconti di Asimov. È stato pubblicato in italiano per la prima volta nel 1968 col titolo “Cuore di mamma”. Mike Donovan si trova assieme agli amici a mangiare e a bere, e a un certo punto, tanto per contraddire un amico, dice che una volta ha assistito all'infrazione della Prima Legge della Robotica. Gli amici ovviamente non gli credono e per questo gli chiedono di raccontare la storia. A quel punto Donovan, di malavoglia, dato che si è fatto sfuggire quel commento, accetta di raccontarla. Si trovava su Titano, una luna di Saturno, era il 2025, ed erano appena arrivati i robot sperimentali della serie MA (Emma).

- 26 -

Questi eseguivano egregiamente il loro lavoro, fino a quando uno di essi (Emma Due), decise di andarsene per non tornare mai più. Il tempo passava, e la stagione degli uragani stava per incombere, così Donovan, in mancanza dell'automa, fu costretto ad andare di persona a Kornsk con la propria aereo-macchina, da solo. Il guaio è che, durante il suo viaggio di ritorno, si scatenò una tempesta, e fu quindi costretto a fermarsi al suolo, per proseguire a piedi. In quel momento però, si ritrovò di fronte ad un Cucciolo delle nevi (una specie molto pericolosa ed aggressiva del luogo), seminascosto dalla nebbia. Tirando fuori il disintegratore, Donovan cercò di colpirlo ma a quel punto apparve Emma Due, che gli tolse l'arma dalla mano e portò via con sé la bestia feroce, lasciando Mike di nuovo da solo, senza però aiutarlo a trovare la strada giusta per la base. Per sua fortuna però, la tempesta si placò, e Donovan riuscì a tornare sano e salvo al complesso. Dopo un paio di ore però, si ripresentò anche Emma Due, che portava in braccio con sè, non un Cucciolo delle nevi, come era sembrato all'inizio, ma un piccolo robot, figlio di Emma. Venne battezzato Emma Junior, e si capì inoltre che l'amore materno è molto più forte della Prima legge della robotica. 5.4 “Parola chiave” dai racconti su Multivac “Parola chiave” fu pubblicato per la prima volta nel luglio 1968 nella raccolta Antologia personale.

- 27 -

ll racconto tratta di Multivac, una gigantesca macchina elettronica così complessa da prevedere quale sarà il prezzo del grano la prossima estate. È molto interessante da ascoltare e sa rispondere ad ogni domanda che le si pone. Questo racconto parla di Multivac che non funziona, si rifiuta di rispondere alle domande e non obbedisce agli ordini che le si danno, ma nessuno riesce a trovare il guasto. Todd Nemerson e Jack Weaver, due scienziati, assieme a molte squadre di tecnici vagano negli infiniti visceri del computer, non riuscendo però ad arrivare a nessuna conclusione.

Todd Nemerson ragiona sulle possibili cause del malfunzionamento della macchina, e in seguito chiede a Jack Weaver, tecnico incaricato a porre le domande e dare ordini a Multivac, di ripetere le solite operazioni facendo finta che fosse Nemerson il computer. Weaver all'inizio è un po' imbarazzato, ma obbedisce all'amico. Alla conclusione Nemerson ha capito il problema e chiede a Weaver di ripetere ancora l'operazione, ma questa volta su Multivac. Quando Weaver ha finito, Nemerson aggiunge la parola chiave cioè PER FAVORE, rimettendo così Multivac in funzione.

- 28 -

6 Considerazioni finali Questo percorso, che intende mettere in evidenza il rapporto uomo-macchina, ci offre una costante rappresentata dal dubbio sulla pericolosità dell’intelligenza artificiale. È possibile, come afferma Elon Musk, che da qui a dieci anni ci sia il sopravvento di queste macchine “pensanti”? Personalemente credo che si debba sottolineare il fatto che le intelligenze artificiali non si sono create da sole, evolvendosi in autonomia con il passare del tempo, ma sono il frutto del lavoro dell’uomo. Tutto varia a seconda delle intenzioni dell’uomo. È l’uomo che ha deciso di costruire macchine che poi si sono dimostrate indispensabili, come quelle in ambito medicale. È sempre l’uomo che ha deciso di costruire macchine potenzialmente pericolose, che possono essere usate per scopi violenti. Il pensiero più adatto per spiegare tutto ciò è quello di Asimov. Egli fa capire che sono proprio le zone d’ombra dell’uomo che generano le falle nelle macchine/robot. Il futuro è nelle nostre mani: sta a noi saperlo costruire nel modo più saggio possibile, affinchè la tecnologia sia un aiuto e non un intralcio o un pericolo per l’uomo.

- 29 -

Bibliografia Vita di Alan Turing, riferimento: http://biografieonline.it/biografia.htm?BioID=191&biografia=Alan+Turing Test di Turing, riferimento: http://www.treccani.it/scuola/dossier/2013/Turing/turing_test.html Cibernetica, riferimento: www.murzim.net/notiziario/980406.htm Intelligenza artificiale, riferimento: http://www.treccani.it/enciclopedia/intelligenza-artificiale/ Elon Musk, riferimento: http://www.dolcevitaonline.it/il-futuro-dellintelligenza-artificiale-secondo-elon-musk/ Stephen Hawking, riferimento: http://www.tomshw.it/news/stephen-hawking-perche-l-intelligenza-artificiale-ci-sterminera-62872 Bill Gates, riferimento: http://www.startmag.it/canali/tecnologia-innovazione/bill-gates-lintelligenza-artificiale-e-una-minaccia/ Vita Isaac Asimov, riferiemento: http://www.isaacasimov.it/asibio2.htm “La prima legge”, riferimento: “L’albero delle mele d’oro” di Ivana Bosio ed Elena Schiapparelli “Parola chiave”, riferimento: “L’albero delle mele d’oro” di Ivana Bosio ed Elena Schiapparelli