la paura dell'algoritmo perchè?
TRANSCRIPT
La paura dell’algoritmo: perché
20 aprile 2017
Eleonora PantòLearning, Inclusion e Social Innovation
Donne e ICT – Laboratorio Universita Torino
2
3
Mi presento
5
2011 Software is eating the world
6
Evolution of the desk
7
Evolution of the city
http://youtu.be/9YBOn-Fxg_4
8
Digitisation is shaping the Future of Work
https://www.youtube.com/watch?v=z6Ew7N9tPOo
9
Computational thinking
Dottori, avvocati, insegnanti, allevatori, un qualunque
mestiere. Il futuro di tutte queste professioni sarà
pieno di Pensiero Computazionale. Medicina basata
sui sensori, smart contract, analisi di dati
nell'educazione, agricoltura di precisione: il successo
dipenderà da quanto sarete bravi con il pensiero
computazionale. Mi sono accorto di una tendenza
interessante. Scegliete un qualsiasi settore X, dalla
Archeologia alla Zoologia. Ci sono due possibilità: o
esiste già “X Computazionale” o esisterà presto. E
tutti lo considerano il futuro di quel settore.
http://blog.stephenwolfram.com/2016/09/how-to-teach-computational-thinking/
10
2016 - Computer science for all
Nei prossimi anni, dovremmo lavorare affinché ogni studente possa sperimentare l’informatica e la matematica su computer per renderli pronti per il lavoro dal primo giorno.
Nella new economy l’informatica non è una competenza opzionale, ma fondamentale come leggere e far di conto. 9 genitori su 10 vogliono che questo sia insegnato a scuola.
https://www.whitehouse.gov/blog/2016/01/30/computer-science-all
11
Coding a scuola
Il «coding» a scuola è una
buona idea?
Cosa è il coding?
12
Ricordate questa foto?
Il web è per tutti, ma il software è un club per soli uomini
13
14
Scarsa presenza femminile nelle ICT
85% dei tecnici di Facebook and Yahoo sono uomini
• Appcamp4girl
• Girlswhocode
• Women’s code collective
• Railgirls RubyRails for Girls (Finland)
• Shine for girls - Learning math throughdance
Megan Smith è stata CTO della Casa Bianca, in
qualità di vicepresidente Google ha lanciato la
campagna“Google’s Made With Code” per
avvicinare le ragazze alla programmazione.
15
Invece nel 1946…
“The computers”
Jean Jennings (left) and
Frances Bilas set up the ENIAC
in 1946. Bilas is arranging the
program settings on the Master
Programmer.
http://www.digitaltrends.com/business/where-did-all-the-women-in-computer-science-go/
16
…1961 Hidden figures
Three brilliant African-American women
at NASA -- Katherine Johnson (Taraji P.
Henson), Dorothy Vaughan (Octavia
Spencer) and Mary Jackson (Janelle
Monáe) -- serve as the brains behind
one of the greatest operations in
history: the launch of astronaut John
Glenn (Glen Powell) into orbit, a
stunning achievement that restored the
nation's confidence, turned around the
Space Race and galvanized the world.
17
1967 The computer girls
Now have come the big, dazzling computers—and a whole new kind of work for women: programming. Telling the miracle machines what to do and how to do it. Anything from predicting the weather to sending out billing notices from the local department store. And if it doesn't sound like women's work—well, it just is.“
(Cosmopolitan Magazine 1967)
18http://www.npr.org/sections/money/2014/10/21/357629765/when-women-stopped-coding
19
Donne e futuro del lavoro
Across all industries, almost half of respondents – 44% – said that both unconscious bias among managers and a lack of work-life balance were significant barriers to gender diversity in the workplace. Almost as many – 39% – pointed to a lack of female role models. Although women now outnumber men at university, and graduate in higher numbers, 36% of respondents still said there weren’t enough qualified women for the positions they’re looking to fill. Only 6% blamed a lack of parental leave, and 10% said there were no barriers.
http://www3.weforum.org/docs/WEF_Future_of_Jobs.pdf
20
http://www3.weforum.org/docs/WEF_Future_of_Jobs.pdf
Donne e futuro del lavoro nell’ICT
21
http://www3.weforum.org/docs/WEF_Future_of_Jobs.pdf
Donne e futuro del lavoro nell’ICT
L’algoritmo
22
23
Algoritmo vs Codice
Algoritmi: una sequenza di passi che descrive un'idea per risolvere un problema che soddisfi i criteri di correttezza e terminabilità.Una ricetta astratta per il calcolo indipendente dall'implementazione.
Codice: Un insieme di istruzioni per un computer.Implementazione concreta del calcolo su una piattaforma
specifica in un linguaggio di programmazione specifico.
24
Computer Science
Problem solving – AlgoritmiLogica – astrazione, logica booleanaDati - cos’è informazioneSistemi – modellare sistemi complessi che soddisfano vincoli e requisitiPensiero – intelligenza artificiale, apprendimento automatico, linguaggio naturale
25
“Even more remarkable — and even less widely understood — is that in many areas, performance gains due to improvements in algorithms have vastly exceeded even the dramatic performance gains due to increased processor speed.” — Report to the President and Congress: Designing a digital future (2010)
Algoritmo
https://www.hsdl.org/?abstract&did=10223
26
Algoritmo
“The Industrial Revolution automated manual work and the Information Revolution did the same for mental work, but machine learning automates automation itself. Without it, programmers become the bottleneck holding up progress. With it the pace of progress picks up” — Pedro Domingos, The Master Algorithm
https://www.youtube.com/watch?v=B8J4uefCQMc
27
La paura dell’algoritmo
28
Agosto 2016
29
Marzo 2017
30
La foto censurata
Se c’è una scelta di cosa pubblicare allora Facebook è un editore?
Siamo sicuri che sia stato un algoritmo?
31
2016 – TI potrebbe interessare anche… Cardon parla a tale proposito di governamentalità algoritmica una pratica che appare tanto più insidiosa in quanto non si fonda sulla censura e sulla coercizione ma fa sì che noi accettiamo ciò che ci viene “suggerito” nella convinzione di averlo liberamente scelto. “Gli zelanti profeti dei Big Data, scrive, promuovono l’idea che nuove forme di governo generate operando buoni calcoli su dati validi sarebbero meno ingiuste, paternaliste o deformanti delle istituzioni o dei media poiché la loro comprensione della società nascerebbe direttamente dallo studio delle azioni degli individui
32
Salute htt
p:/
/corr
iere
dib
olo
gna.c
orr
iere
.it/bolo
gna/n
otizie
/cro
naca/2
017/7
-aprile
-2017/s
alu
te-a
lgoritm
o-c
erc
are
-pers
one-p
iu-r
ischio
-em
ilia-2
401454966982.s
htm
l
33
Salute htt
p:/
/new
s.s
tanfo
rd.e
du/2
017/0
4/0
3/d
ee
p-le
arn
ing-a
lgorith
m-a
id-d
rug-d
evelo
pm
ent/
34
Giustizia https://w
ww
.blo
om
berg
.com
/ne
ws/f
eatu
res/2
017
-02
-08/s
erial-kill
ers
-should
-fea
r-th
is-a
lgori
thm
35
La platform economy
https://www.slideshare.net/AntonioAloisi1/la-platformeconomy-e-sfide-del-diritto-del-lavoro
Antonio Aloisi presentazione per Nexa Center
36
La platform economy
https://www.slideshare.net/AntonioAloisi1/la-platformeconomy-e-sfide-del-diritto-del-lavoro
Antonio Aloisipresentazione per NexaCenter
37
La platform economy
https://www.slideshare.net/AntonioAloisi1/la-platformeconomy-e-sfide-del-diritto-del-lavoro
Antonio Aloisi presentazione per Nexa Center
38
2015 Politica
Utilizzando lo stesso software che produce articoli di giornale, sono state creati innumerevoli minime variazioni di un articolo di legge per fare ostruzionismo. La Lega sostiene di averlo fatto per difendere la democrazia
39
2017 – La politica al tempo di Facebookh
ttp
s:/
/mo
therb
oard
.vic
e.c
om
/en
_us/a
rtic
le/h
ow
-ou
r-lik
es-h
elp
ed-t
rum
p-w
in
Obama ha puntato sui social come mezzo per mobilitare le persone, Trump ha usato i dati che le persone lasciano su Facebook
Come le Big 5, la psicometria e i risultati di un ricercatore Kosinski, sono stati usati da una società –la Cambridge Analytica per vincere le elezioni USA
" Seventy "likes" were enough to outdo what a person's friends knew, 150 what their parents knew, and 300 "likes" what their partner knew. More "likes" could even surpass what a person thought they knew about themselves.
40
Data Selfie
https://vimeo.com/d4t4x/dataselfie
41
Le AI e i pregiudizi
AI has the potential to
reinforce existing biases
because, unlike humans,
algorithms are unequipped
to consciously counteract
learned biases, researchers
warn.
Photograph: KTS
Design/Getty
Images/Science Photo
Library RF
https://www.theguardian.com/technology/2017/apr/13/ai-programs-exhibit-racist-and-sexist-biases-research-reveals#img-1
42
Tay, il chatbot sessista
https://www.theverge.com/2016/3/24/11297050/tay-microsoft-chatbot-racist
" The more you chat with Tay, said Microsoft,
the smarter it gets, learning to engage people
through "casual and playful conversation."
Unfortunately, the conversations didn't stay
playful for long. Pretty soon after Tay
launched, people starting tweeting the bot
with all sorts of misogynistic, racist, and
Donald Trumpist remarks. And Tay — being
essentially a robot parrot with an internet
connection — started repeating these
sentiments back to users, proving correct that
old programming adage: flaming garbage pile
in, flaming garbage pile out.
43
Combattere i pregiudizi degli algoritmi
https://www.ted.com/talks/joy_buolamwini_how_i_m_fighting_bias_in_algorithms
44
La responsabilità degli umani
https://www.ted.com/talks/zeynep_tufekci_machine_intelligence_makes_human_morals_more_important
45
@AskCindy per una paga uguale
04.04.17 | 9:56 AM
On Equal Pay Day, this Facebook chatbot will help
women get their money
https://news.fastcompany.com/on-equal-pay-day-this-
facebook-chatbot-will-help-women-get-their-money-
4033835
46
BOT, Social Bot, AI
47
Tutti i modelli sono sbagliati, ma alcuni sono utili -
George Box
48
Anche il modello migliore a volte sbaglia.Il compito dell'analista è quello di scegliere il modello
che funziona meglio o che minimizza i rischi.Il compito di tutti noi è quello di essere consumatori esperti, senza paura di porre domande.E che non accettano che una conversazione si concluda con la parola «algoritmo»
CSP innovazione nelle ICT s.c. a r.l.
Sede legale e operativaStrada del Lionetto, 6 - 10146 - Torino
Centro di ricerca e sviluppoc/o Business Research CenterPolitecnico di TorinoVia Pier Carlo Boggio 59 - 10138 - Torino
Tel +39 011 4815111
Per contatti: [email protected]
www.csp.it
50
La demonizzazione dell’algoritmo
http://littledatablog.com/blog/2017/2/13/the-rise-of-the-
evil-algorithm
https://youtu.be/z5FZkuu9vII
51
Il futuro delle AI
https://youtu.be/72bHop6AIcc