borsa di studio google - sole luna un ponte tra le culture · nella seconda metà del...
TRANSCRIPT
Sole luna – Un ponte tra le culture
www.solelunadoc.org - [email protected]
Borsa di Studio Google - Sole Luna Un Ponte Tra Le Culture
Rose Suman - ricercatrice
Gianluca Costantini - disegnatore
Sole luna – Un ponte tra le culture
www.solelunadoc.org - [email protected]
1
Sintesi
Internet consente libero accesso alla comunicazione a livello globale e possibilità di
navigazione e di esplorazione in tutti i campi di ricerca. Le statistiche mostrano che
attualmente il 51,7% della popolazione mondiale utilizza Internet. Parliamo di un tasso di
crescita del 976% dal 2000 che consente a qualsiasi utente di avere un pubblico di
centinaia di milioni di persone in tutto il mondo. Quello che dovrebbe essere noto è che
la navigazione in Internet è un'arma a doppio taglio: oltre agli aspetti positivi del suo
utilizzo, esiste un’allarmante realtà, le persone possono esprimere odio online senza
difficoltà e senza preoccuparsi dell'impatto che può avere sugli altri. Con l'aiuto di
Google, Sole Luna ha fatto delle ricerche approfondite su questo argomento negli ultimi
tre mesi studiando azioni positive di counter-speech capaci di contrastare l'hate speech,
e cioè il discorso di incitamento all'odio in rete.
L’associazione Sole Luna Un Ponte Tra Le Culture
“Sole Luna nasce con il preciso intento di avviare processi di amicizia e interscambio tra
popoli indirizzando principalmente le sue attività alle giovani generazioni. Nella profonda
convinzione che la conoscenza reciproca sia il naturale ponte di trasmissione di valori
positivi, essa si adopera per realizzare iniziative che si ispirino a diversi linguaggi artistici
nelle loro diverse forme.
Il cinema, la musica, la danza, la pittura, l’architettura, ma anche la scienza in genere,
sono espressioni privilegiate per favorire l’approfondimento della conoscenza dell’”altro”.
Particolare attenzione è rivolta al linguaggio audiovisivo, strumento in grado di mostrare
a un vasto pubblico il mondo vicino e lontano.
Attività principale dell’associazione è il Sole Luna Doc Film Festival che nel 2018 celebra
il suo tredicesimo anniversario.
In questi dodici anni il Festival è cresciuto e ha fatto parlare di se’ grazie alle proprie
rassegne che hanno messo in luce nuovi talenti e promosso il cinema indipendente, ma
anche grazie alle tante attività collaterali al Festival che hanno sviluppato nuovi dialoghi
tra tante comunita”.
Sole luna – Un ponte tra le culture
www.solelunadoc.org - [email protected]
2
Table of Contents
Sintesi .................................................................. 1
Contenuti .............................................................. 2
Introduzione .......................................................... 3
Cos'è il discorso di incitamento all'odio? ................ 5
Libertà di espressione .......................................... 7
I due mondi ........................................................... 9
Riepilogo de "I due mondi" ................................. 11
Settori chiave dell'Hate Speech .......................... 13
Terrorismo e islamofobia .................................... 15
L'azione di counter-speech è la soluzione? ......... 17
La campagna di counter-speech Sole Luna..........18
Risultati della campagna ..................................... 19
Considerazioni finali e suggerimenti .................... 22
Riferimenti ........................................................... 24
Sole luna – Un ponte tra le culture
www.solelunadoc.org - [email protected]
3
INTRODUZIONE
Fin dall’antichità gli esseri umani hanno dovuto affrontare ogni genere di sfida, epidemie,
cataclismi atmosferici, guerre e genocidi.
Nella seconda metà del diciannovesimo secolo la rivoluzione industriale, con il suo
progresso a vantaggio della qualità della vita dell’uomo, cominciò a contaminare
l'ambiente. Ora ci rendiamo conto che il mare, l'aria e il paesaggio stanno soffrendo e
dobbiamo necessariamente combattere l'inquinamento.
Il progresso tecnologico si è sviluppato rapidamente. Negli anni '40 del XX secolo è stata
scoperta l'energia nucleare, una buona risorsa per l'ambiente che divenne un mostro
durante la seconda guerra mondiale. Poi è stato realizzato il primo computer e
successivamente, negli anni '90, la società avanzata si è confrontata con il mondo
cibernetico, scoprendo la possibilità di rimanere "sintonizzati", di essere connessi con il
resto del mondo attraverso Internet. Sebbene oggi usufruiamo di molti lussi che non
esistevano nei secoli precedenti, come la facilità di comunicazione sul web, la nuova
scoperta è che la tecnologia non è immune dai virus e che una nuova epidemia può
attaccare le nostre case come fanno i terremoti e, persino peggio, può distorcere il
nostro libero pensiero, può influenzare e attaccare il nostro intelletto.
Nella nuova era dell’informazione sembra sia impossibile mantenere privati i propri dati
personali, sembra impossibile non essere manipolati dal web o dai suoi utenti.
L'esempio più sconvolgente di questa realtà è quello che viene generalmente chiamato il
"discorso di incitamento all’odio". Il mondo non può difendersi dall'incitamento all'odio
con azioni militari o di polizia. Il discorso dell'odio sta lasciando i colpevoli per lo più
impuniti.
Il web è stato in grado di diffondere le PRIMAVERE ARABE, è stato in grado di arruolare
combattenti stranieri per l’ISIS, i leader religiosi influenzano le masse, le giovani
generazioni sono spesso vittime di abusi e reati.
Manca una soluzione chiara al problema dell'odio in rete. Bisogna fare qualcosa, è
necessario creare consapevolezza per rendere immune la nostra mente dalle
manipolazioni e salvare al contempo la libertà di pensiero.
Sole luna – Un ponte tra le culture
www.solelunadoc.org - [email protected]
4
Pertanto, devono essere utilizzate diverse strategie per mitigare l'incitamento all'odio e
per salvare il mondo da una guerra cibernetica.
Sole Luna - Un ponte tra cultura, grazie alla GOOGLE POLICY FELLOWSHIP, ha
incontrato Rose Suman che è diventata ELGOOGO, il detective alla ricerca di un’azione
di counter-speech.
CHI È ELGOOGO?
La ricerca è stata fatta attraverso Elgoogo, il detective creato da Sole Luna che indaga
sul discorso di incitamento all’odio. La ricerca condotta da Elgoogo è stata suddivisa in
tre tappe:
1. Il primo mese (ottobre 2017) è stato dedicato alla ricerca dei discorsi di
incitamento all'odio online per definire l'estensione del problema.
2. Il secondo mese (novembre 2017) ha visto la nascita di Elgoogo che è entrato a
far parte del web con una propria pagina sul sito internet di Sole Luna.
3. Il terzo mese (dicembre 2017) Elgoogo ha iniziato a riportare tutte le sue
esperienze sulla sua pagina e ha iniziato a proporre soluzioni per contrastare
l'incitamento all'odio.
La ricerca di Elgoogo viene presentata in questa relazione.
Sole luna – Un ponte tra le culture
www.solelunadoc.org - [email protected]
5
COS’ È IL DISCORSO DI INCITAMENTO ALL’ODIO?
Esistono numerose definizioni di discorso di incitamento all'odio che possono essere
trovate online, come ad esempio:
“Il discorso di incitamento all'odio non ha una definizione precisa nei diritti umani
internazionali; è un termine usato per descrivere un discorso ampio che è estremamente
negativo e costituisce una minaccia per la pace sociale.” Consiglio Europeo
“Il discorso di incitamento all'odio o le frasi minacciose che esprimono pregiudizio
nei confronti di un particolare gruppo, specialmente con riferimento alla razza, alla
religione o all'orientamento sessuale sono offensivi.” Dizionario Oxford
L’hate speech non è solo un termine intrinsecamente complesso e controverso da
spiegare e le sue definizioni possono essere ambigue. Ad esempio, la responsabilità
dell’attore può non esistere laddove la definizione di incitamento all'odio sia troppo
ristretta, tuttavia, laddove la definizione sia troppo ampia, questa è esposta alla
manipolazione. Ciononostante, la Corte europea dei diritti dell'uomo ha fornito
indicazioni sull'incitamento all'odio, sottolineando l'importanza del contesto nell'analisi
della legislazione su questa questione:
“È solo da un attento esame del contesto in cui appaiono le parole offensive che si
può trarre una distinzione significativa tra linguaggio scioccante e offensivo che è
protetto dall'articolo 10 (libertà di espressione) e che perde il suo diritto alla tolleranza in
una società”.1
In che modo le piattaforme online definiscono l'hate speech?
GOOGLE:
“I nostri prodotti sono piattaforme per la libera espressione. Ma non supportiamo
contenuti che promuovono o tollerano la violenza contro individui o gruppi in base a
razza o origine etnica, religione, disabilità, sesso, età, nazionalità, stato di reduce di
guerra o orientamento sessuale / identità di genere, o il cui scopo primario è incitare
all'odio sulla base di queste caratteristiche fondamentali. Questo può essere un delicato
Sole luna – Un ponte tra le culture
www.solelunadoc.org - [email protected]
6
atto di bilanciamento, ma se lo scopo principale è quello di attaccare un gruppo protetto,
il contenuto attraversa la linea di confine.” 2
FACEBOOK:
“I contenuti che attaccano le persone in base alla loro effettiva o percepita razza,
etnia, origine nazionale, religione, sesso, genere o identità di genere, orientamento
sessuale, disabilità o malattia non sono ammessi. Tuttavia, consentiamo chiari tentativi
di umorismo o di satira che potrebbero altrimenti essere considerati una possibile
minaccia o attacco. Questo include contenuti che molte persone potrebbero trovare di
cattivo gusto (ad esempio: barzellette, cabaret, testi popolari, ecc.).” 3
TWITTER:
“Comportamento che incita all’odio: non si può promuovere la violenza, attaccare o
minacciare direttamente altre persone sulla base di razza, etnia, origine nazionale,
orientamento sessuale, genere, identità di genere, affiliazione religiosa, età, disabilità o
malattia. Inoltre, non autorizziamo account il cui scopo principale sia quello di provocare
un danno verso gli altri sulla base di queste categorie.” 4
Questi esempi mostrano che non esiste una definizione chiara e coerente di incitamento
all'odio.
Giuseppe Ughi, uno studente di Matematica ad Oxford, ha suggerito che sarebbe
necessario che le piattaforme online creassero una definizione comune in base alla
quale il machine learning che viene utilizzato sia in grado di rilevare i testi offensivi in
qualsiasi contesto. Prosegue dicendo che definizioni precise potrebbero portare ad una
buona identificazione del discorso di incitamento all’odio. Dopo aver esaminato ciò che
Facebook considera l'incitamento all'odio, è chiaro che ci sono molte frasi che per molti
di noi sarebbero di incitamento all'odio, ma che non vengono intercettate dalla
piattaforma. Tuttavia, in realtà accade che, anche quando le definizioni sull’hate speech
sono ponderate e esaustive, possono essere interpretate in maniera errata se
estrapolate dal proprio contesto culturale e storico.5
Sole luna – Un ponte tra le culture
www.solelunadoc.org - [email protected]
7
La controversia tra ‘Odio’ e ‘Discorso’
La ricerca sul discorso di incitamento all’odio ha portato ad un'osservazione interessante
sulla sua stessa definizione. Le due parole, odio e discorso insieme, esprimono concetti
che si contraddicono a vicenda. Genericamente le loro definizioni sono:
Odio: “Provare un profondo disgusto per” – Dizionario Oxford
Discorso:
1. “La manifestazione di o l'abilità di esprimere pensieri e sentimenti mediante suoni
articolati”
2. “Un’esposizione verbale formale rivolta ad un pubblico” – Dizionario Oxford
Di conseguenza, sembra contraddittorio descrivere l'odio online come "discorso” di
incitamento all'“odio" dato che la parola "discorso", nel suo uso tradizionale, è
un'espressione autorevole, quindi ha l'effetto di una dichiarazione importante.
Come è possibile quindi dare autorevolezza all'odio? Siamo dunque noi stessi a
dare importanza all'odio attraverso la definizione coniata?
HATE SPEECH vs. LIBERTÀ DI ESPRESSIONE
Un'analisi sull’hate speech non è completa senza approfondire il tema del diritto alla
libertà di espressione in quanto diritto che inevitabilmente vi si interfaccia. Viviamo in un
mondo in cui la libertà di espressione fa parte dei diritti fondamentali dell’uomo. 6 È
evidente che, per far prosperare una società civile, sia necessaria la libertà di esprimere
apertamente le proprie opinioni.
Tuttavia, quando gli individui in nome della libertà di espressione si sentono liberi di
esprimere qualsiasi tipo di idea, anche di invito all'odio, nasce un problema di natura
etica. Ecco allora sollevata la domanda:
Sole luna – Un ponte tra le culture
www.solelunadoc.org - [email protected]
8
“Dove finisce il diritto di espressione, che tutti noi vogliamo rispettare, e dove inizia la
necessità di sanzionare e prevenire l'incitamento all'odio? Quando, un diritto non può
essere esercitato se implica la violazione di un altro diritto?” 7
È evidente che non esiste certezza del diritto laddove si contrapponga la libertà
di esprimere odio in nome del diritto di libertà di espressione. Tuttavia, un modo
per affrontare questo problema potrebbe essere quello di partire dal presupposto
che la libertà di espressione non sia solo un diritto ma che rappresenti anche una
responsabilità fondamentale. Ecco alcuni esempi che precisano questo punto.
Dal momento che Internet è un luogo virtuale ma connesso alla vita reale delle
persone, si può sostenere che:
incitare all'odio in rete sia come incitare all'odio in una piazza;
pubblicare un'immagine di una ragazza nuda in rete senza il suo consenso
equivalga a mostrare la sua immagine nella sua scuola senza il suo consenso.
In base a quanto esposto, così come è naturale e obbligatorio fare limitazioni alla libertà
degli esseri umani nel mondo reale, è anche naturale e obbligatorio limitare la libertà di
espressione quando si tratta di diffondere l'odio nel mondo virtuale. Ciò fa sì che gli
individui non si sentano esenti da responsabilità solo perchè operano in senso virtuale e
non fisico.
Queste norme sarebbero utili a garantire ai cittadini sicurezza di relazione nel mondo
virtuale senza dover subire ostilità, violenza e discriminazione arbitrarie da parte di
soggetti scorretti, tra l’altro spesso sconosciuti. 8 Per migliorare quindi lo stato attuale dei
fatti, diventa un dovere della società civile e delle autorità quello di riconoscere la
responsabilità di quegli individui che, grazie all’anonimato permesso dalla rete e al diritto
acquisito di libertà di espressione, si sentono liberi di seminare incitamento all'odio in
internet.
Comunque, al momento, i comportamenti di fronte alle conseguenze prodotte
dall'incitamento all'odio online e dall'incitamento all'odio offline sono profondamente
diversi. Pertanto la società, con l’avvento di Internet, ha creato due mondi diversi: il
"Vecchio Mondo" che è quello in cui siamo fisicamente presenti e il "Nuovo Mondo" che
è il World Wide Web - la nostra realtà virtuale.
Sole luna – Un ponte tra le culture
www.solelunadoc.org - [email protected]
9
I DUE MONDI
Il Vecchio Mondo ha 4,54 miliardi di anni 9 e si è civilizzato attraverso regole e norme.
Le leggi sono applicate per proteggere i cittadini e per inserire tutti gli individui in una
comunità. La maggior parte delle leggi e dei regolamenti ha contribuito a creare un
ambiente sicuro e stabile. Questo vale anche per i popoli isolati che vivono in
Amazzonia, anch’essi hanno usi e tradizioni che regolano la vita delle tribù. In sostanza,
se generalmente in ogni luogo le leggi e costumi sono diversi, ovunque sono
fondamentali.
Il nuovo mondo: World Wide Web
Sole luna – Un ponte tra le culture
www.solelunadoc.org - [email protected]
10
Il mondo virtuale nacque nel 1991, quando fu creato il primo sito web.10 Il World Wide
Web si è rapidamente espanso. Le statistiche mostrano che attualmente il 51,7% della
popolazione mondiale utilizza Internet con un tasso di crescita del 976% dal 2000. 11
Questa crescita consente agli utenti del Web di avere un pubblico di centinaia di milioni
di persone in tutto il mondo.12
L'emergere di questo nuovo mondo sta facilitando le persone a definire se stesse e le
loro identità, creando una nuova società sul web. I grafici sottostanti dimostrano la
crescita del mondo virtuale. La figura 1 mostra la quantità di utenti mensili online su
diverse piattaforme di social media. Facebook con due miliardi di utenti mensili
rappresenta una popolazione ben più grande della Cina, paese con una popolazione di
1,4 miliardi di persone.
Figura 1
La Figura 2 mostra il principale motore di ricerca per desktop. Ci sono più di
3,5 miliardi di ricerche al giorno.
Sole luna – Un ponte tra le culture
www.solelunadoc.org - [email protected]
11
RIEPILOGO
In primo luogo, la storia chiarisce che sono necessarie norme e valori affinché una
società possa funzionare. Questa realtà è ben evidente nel mondo fisico in quanto le
leggi che vengono applicate sono la derivazione di queste norme e valori. Questo è
quindi uno dei motivi per cui l'incitamento all'odio nel mondo reale non rappresenta un
grave problema come invece avviene online.
Infatti, la discussione si basa sul fatto che il mondo virtuale manca di governance e
regolamentazione consentendo alle persone di agire liberamente in ogni contesto con
azioni anche discriminatorie o violente. Di conseguenza, il mondo virtuale è diventato un
caos e una delle testimonianze più evidenti ne è il fenomeno dell'incitamento all'odio. Il
Professor Cardani, presidente dell'Autorità italiana per le garanzie delle
telecomunicazioni (AGCOM), ha dichiarato che per affrontare questo tema è necessario
che le autorità competenti comincino a pensare in modo digitale. C'è un reale bisogno di
creare soluzioni innovative per affrontare le sfide del mondo digitale. È necessario che la
polizia postale abbia sia gli strumenti che le competenze di programmazione e di
indagine in grado di rintracciare i crimini online e di poter disporre di contromisure
efficaci. Il counter-speech è particolarmente importante poiché "il problema dei troll
potrebbe essere irrisolvibile".13
I principali motori di ricerca del
mondo
1. Google 6. AOL
2. Bing 7. Excite
3. Yahoo 8. DuckDuckGo
4. Baidu 9. Internet Archive
5. Ask.com 10. ChaCha.com
Le principali piattaforme di social
media a livello globale
1. Facebook 6. Instagram
2. Whatsapp 7. Tumblr
3. QQ 8. Twitter
4. WeChat 9. Baidu Tieba
5. QZone 10. Snapchat
Sole luna – Un ponte tra le culture
www.solelunadoc.org - [email protected]
12
In secondo luogo, nel mondo fisico gli individui possiedono documenti di identità per
poter svogliere alcuni tipi di attività. Al contrario, il mondo virtuale manca del concetto di
documento di riconoscimento, facilitando così gli utenti nel creare numerosi profili falsi
che rimangono anonimi. Nonostante questo rischio, organizzazioni come la Electronic
Frontier Foundation sostengono una valida argomentazione che ribadisce l'importanza
fondamentale dell'anonimato:
“Molte persone non vogliono che le cose che scrivono online siano collegate alle loro
identità offline. Temono il pericolo o per appartenenza politica o per ragioni economiche,
temono molestie o anche minacce alle loro vite. Invece di usare i loro veri nomi per
comunicare, queste persone scelgono di parlare usando pseudonimi o l’anonimato. Per
questi individui (...) l'anonimato sicuro è fondamentale. Può letteralmente salvare delle
vite”.14
Spesso i commenti vili, idrofobi, minacciosi e razzisti vengono scagliati online contro
persone e soprattutto anonimamente. Ciò solleva la questione, qual è la linea di confine
tra l'anonimato protetto e l’esposizione agli attacchi d’odio?
Nell'affrontare la questione dell'anonimato, il requisito di fornire un passaporto per creare
profili online potrebbe limitare le persone a creare numerosi profili falsi? Questo
potrebbe diventare una norma o un regolamento. Tuttavia, sarebbe sufficiente a fermare
le persone? Dopo aver svolto ricerche in questo settore e aver parlato con l’autorità di
regolamentazione delle telecomunicazioni, il Professor Cardani di AGCOM, sembra che
il concetto di creare un documento di identità per gli utenti online sia probabilmente
inefficace. In realtà molti profili pubblicano e diffondono l'odio online usando le reali
identità.
Nel complesso, in questa fase di ricerca, la domanda principale è: e se entrambi i mondi
dovessero operare seguendo le stesse leggi e regolamentazioni? Se sì, quante leggi e
regolamentazioni sono necessarie per risolvere il problema dell'odio in rete? La ricerca
mostra che il web dovrebbe operare sulla base di regolamentazioni simili a quelle del
mondo fisico, pur tuttavia il problema sta nell'applicazione di queste leggi e che quindi la
regolamentazione potrebbe non essere la risposta più efficace per affrontare
l'incitamento all'odio. Sarebbe più utile educare le persone e usare la legge come forma
di supporto quando le persone non si comportano bene? Queste riflessioni rafforzano
ulteriormente la consapevolezza della necessità impellente di un'efficace contromossa.
Sole luna – Un ponte tra le culture
www.solelunadoc.org - [email protected]
13
SETTORI CHIAVE DELL’ HATE SPEECH
È stata creata una mappa mentale per
comprendere le aree chiave del discorso dell'odio
in rete. Questi dati possono essere utilizzati per
creare una campagna di counter-speech ideale.
Questa mappa mentale mostra come l'etnia sia la
principale area di interesse. Usando questi dati
per la ricerca, è emerso che sotto il tema etnia si
registra la più alta percentuale di casi possibili di
incitamento all'odio. Realtà che è stata
ulteriormente supportata dai dati di HateBase15,
come si vede di seguito.
Sole luna – Un ponte tra le culture
www.solelunadoc.org - [email protected]
14
Dati su aree comuni di incitamento all'odio16:
Le lingue più usate nell’incitamento all’odio17:
Sole luna – Un ponte tra le culture
www.solelunadoc.org - [email protected]
15
SETTORE CHIAVE DI INTERVENTO: TERRORISMO
L'aumento degli attacchi terroristici ha creato nuovi nemici, i musulmani; è quindi
interessante concentrarsi su quest'area di incitamento all'odio.
Risulta evidente che i terroristi, attraverso Internet, hanno potuto trovare supporto in
molti campi. Tra gli esempi lampanti:
Usano forum online e chat per condividere informazioni, coordinare attacchi,
diffondere propaganda, raccogliere fondi e fare reclutamento;
I siti web dei terroristi servono come luogo di addestramento virtuale, offrono
tutorial anche per la costruzione di ordigni.
Inoltre, i leader globali hanno sottolineato il ruolo vitale che Internet svolge per il
terrorismo. Ad esempio, il vicepresidente nigeriano ha recentemente commentato che:
“La tecnologia e Internet hanno alterato la natura dei conflitti e della guerra nel
mondo contemporaneo, amplificandone gli effetti e gli impatti provocati
dell’azione dei terroristi”. 18
LE PRINCIPALI PIATTAFORME ONLINE USATE DAI TERRORISTI
Ci sono almeno 70 piattaforme19 usate regolarmente dai terroristi. Tra queste ci sono:20
Youtube, Gmail, Facebook, Twitter, Instagram, Tumblr and Whatsapp.
È chiaro che Internet è uno strumento prezioso per promuovere i programmi dei
terroristi. Ricerche recenti dimostrano che esiste una correlazione diretta tra un aumento
dell'incitamento all'odio e gli attacchi terroristici. Il Telegraph e il New York Times
riportano che vi è stato un picco di crimini legati all’odio a seguito di attacchi terroristici,
che hanno ulteriormente portato a disordini delle comunità e attacchi violenti21. Come
risultato si accerta una crescente islamofobia, derivata da recenti attacchi terroristici in
cui si riconosce come nemico il mussulmano.
Sole luna – Un ponte tra le culture
www.solelunadoc.org - [email protected]
16
ISLAMOFOBIA
L'Independent ha riportato che il solo il 12% degli attacchi terroristici provocati dai
musulmani ha ricevuto una copertura mediatica del 449% rispetto all'88% di copertura di
tutti gli attacchi commessi da altri.22 Nel Regno Unito, dopo i recenti attacchi terroristici
di Manchester e del London Bridge, le forze di polizia hanno registrato un vasto aumento
del fenomeno di islamofobia. 23 Risulta quindi che l'aumento dell'islamofobia è
strettamente legato al terrorismo.
Durante le ricerche sull'islamofobia, sono stati rilevati centinaia di esempi di meme24 e
commenti che incitano all’odio. Numerosi sono i siti web che utilizzano esempi di hate
speech su questo tema. Non solo, esistono anche siti web in cui gli utenti possono
essere condotti a visitare vari account di social media e pagine che incoraggiano
l'incitamento all'odio. Sono aperti al pubblico e consentono a chiunque con un click di
entrare e condividere.25
Alcuni di questi siti web sono nati per aumentare la consapevolezza del pericolo del
discorso dell’odio, ma in realtà diventano ulteriore archivio online di contenuti offensivi e
comunque un mezzo inefficace per contrastare l’incitamento all’odio. Una buona pratica
sarebbe quella di informare direttamente il fornitore delle piattaforme perché ne rimuova
il contenuto offensivo, impedendone così la diffusione. In realtà i gestori delle
piattaforme sono i veri responsabili, la loro inefficienza nella gestione consente
l'aumento delle attività di diffusione dell’odio.
Anche i Media tradizionali, come la carta stampata, sono parte in gioco nell’aumento del
fenomeno dell’islamofobia, come è evidente dall'immagine qui sotto riportata.
Nell'affrontare questi problemi, è fondamentale educare gli utenti del web a essere
pensatori critici, in particolare quando si tratta di leggere le notizie. Cercando di capire a
chi addossare la maggiore responsabilità nella soluzione del problema, ci sono due
strade parimenti percorribili per un’educazione attiva e proficua: la scuola e il web
medesimo. Rimanedo però sul web, con il suo immenso potenziale e dove l'incitamento
all'odio è parte dei contenuti delle piattaforme multimediali, si ritiene fondamentale che
educatori diventino le grandi aziende fornitrici, (Google, Yohoo…ecc) che possedendo
mezzi illimitati all’interno del web, devono disseminare nel mondo virtuale buone
pratiche, esempi positivi, tutorial di difesa, dare suggerimenti su come individuare le
notizie false e utilizzare i mezzi pubblicitari per amplificare la viralità dei messaggi
positivi trasmessi.
Sole luna – Un ponte tra le culture
www.solelunadoc.org - [email protected]
17
IL COUNTER-SPEECH È LA RISPOSTA?
Molti leader, esperti e accademici sostengono che la legislazione potrebbe non essere il
metodo più efficace per affrontare questo problema. Il metodo più efficace è sicuramente
un’azione di counter-speech.
Susan Benesch, una delle principali intellettuali impegnate nel contrastare i discorsi di
incitamento all'odio online, afferma che il counter-speech può aiutare a cambiare le
norme di comportamento verbale nelle comunità. Lei sostiene che:
“I comportamenti delle persone cambiano radicalmente in risposta alle norme della
comunità”.26
Aggiunge inoltre che l'80% delle persone segue le norme del linguaggio coerenti con
uno spazio e una situazione, anche i troll. Ciò suggerisce che un’azione di counter-
speech può essere un mezzo molto efficace per combattere l'incitamento all'odio, ancor
più della legislazione. La vera sfida consiste nel creare una contromossa che aiuti a
cambiare il comportamento e la mentalità delle persone per assicurare che smettano di
diffondere l'odio.
Sole luna – Un ponte tra le culture
www.solelunadoc.org - [email protected]
18
Un caso di studio interessante relativo al counterpspeech, secondo Benesch, arriva dal
Kenya, dove il discorso d’odio nel web era legato alla violenza per le elezioni contestate
del 2007. Mentre il Kenya si preparava alle elezioni del 2013, molti kenioti erano
preoccupati per un discorso pericoloso che si diffondeva sul web. Benesch, lavorando
con esperti di dati, ha scoperto, sorprendentemente, che su Twitter c'erano meno
discorsi offensivi rispetto a Facebook. I messaggi di incitamento all'odio, pubblicati su
Twitter, erano generalmente criticati dai principali utenti di Twitter del Kenya. Questa
contromossa si è rivelata sorprendentemente vincente poiché gli autori dei tweet
offensivi per lo più si scusavano e in seguito hanno cancellato il loro tweet.
Tuttavia, questo comportamento non era di un "troll" 27 ; se l'utente avesse cercato
semplicemente di attirare l'attenzione, non si sarebbe tirato indietro quando il suo tweet
è stato accolto con un’azione di counter-speech. Nondimeno, non è realistico credere
che il comportamento degli irriducibili, dei troll non possa cambiare, tantomeno questo
dovrebbe essere lo spirito con cui si agisce. Non esiste un tasto di segnalazione "beccali
tutti" per tutti i tipi di discorsi di incitamento all'odio. L'obiettivo è quello di influenzare una
massa critica di persone all'interno di una comunità. È importante tenere presente che
ciò che potrebbe essere efficace in un paese o in una comunità potrebbe non esserlo in
un altro. Ad esempio, in Italia potrebbe essere possibile creare una contromossa basata
sul concetto di "segnalazione" di persone che sono le autrici del discorso. Tuttavia, in un
paese che ha subito una dittatura militare, questo concetto rischia di fare solo paura ed
è quindi improbabile che sia un efficace contromossa.28
Complessivamente, Benesch suggerisce che ci devono essere più ricerche per
consentire di comprendere le diverse risposte all’hate speech per vedere cosa è
efficace. È importante per i gestori delle piattaforme dei grandi mass media (vedi pagina
8) investire in tali ricerche e collaborare con ricercatori come Susan Benesch per creare
una campagna di contromisure.
LA CAMPAGNA DI COUNTERSPEECH SOLE LUNA: ‘ELGOOGO’
Sole Luna ha creato un “Detective dell’hate speech”, il cui lavoro è visibile sul sito web
di Sole Luna e su tutti i suoi account nei social media. Elgoogo ha pubblicato
quotidianamente sulla pagina del sito SOLE LUNA, su Facebook, Twitter e Instagram. I
post indicano buone pratiche possibili e riportano alcune interviste.
Sole luna – Un ponte tra le culture
www.solelunadoc.org - [email protected]
19
Parte della campagna sulle buone pratiche da applicare è stata una ricerca sull'archivio
dei documentari Sole Luna. Elgoogo ha guardato molti film della collezione HUMAN
RIGHTS trovandoli capaci di educare in diversi aspetti dell’incitamento all'odio. Le frasi
stimolanti tratte dai documentari sono state pubblicate ogni giorno su Facebook e Twitter
con i link dei trailer dei documentari per consentire agli spettatori di farsi un’idea.
L'obiettivo principale è quello di sensibilizzare sull'incitamento all'odio, nonché di
incoraggiare e responsabilizzare il pubblico a impegnarsi in un’azione di counter-speech.
Mirando a una maggiore sensibilizzazione su questo argomento, Sole Luna ha anche
creato campagne Adword in italiano e inglese.
I documentari Sole Luna visti da Elgoogo
Ogni settimana sono stati pubblicati cinque blog sulla pagina Elgoogo del sito web. I
blog sui documentari contengono una sinossi e una breve analisi del messaggio centrale
del film. Ogni post include anche il link alla pagina Facebook del documentario, il trailer
e, in alcuni casi, il link al documentario completo, per incentivare il pubblico alla visione.
Di seguito il link per accedere here.
Sequenze di frasi sui social media
Sole luna – Un ponte tra le culture
www.solelunadoc.org - [email protected]
20
Il grafico mostra che c'è stato un maggior impegno su Facebook piuttosto che su Twitter.
Ciò è anche suggerito dal numero di follower che Sole Luna ha su ogni piattaforma:
4504 follower su Facebook, rispetto ai 770 su Twitter.
743
533475
371
474
544597
538 542 553
400
292
492
383
730
407
275
360313
253
338
183
254214
247
102 101 115 109 115 104 113 108 11849 66 50 45
9247 41 43 39 37
12 23 14 1843 26
S1 S2 S3 S4 S5 S6 S7 S8 S9 S10 S11 S12 S13 S14 S15 S16 S17 S18 S19 S20 S21 S22 S23 S24 S25
AUDIENCE REACH ON FACEBOK & TWITTER FOR SENTENCE SERIES
FB Reach Twitter Impressions S= Sentence
11330
1678
238 430
Audience Reach
Facebook Twitter Adwords Website
Sole luna – Un ponte tra le culture
www.solelunadoc.org - [email protected]
21
Totale raggiunto: 13246
Citazioni dalle interviste:
Presidente di AGCOM Cardani:
“Le grandi società devono iniziare ad investire in costi di produzione che analizzino i
malfunzionamenti delle loro piattaforme, come nel caso dell’hate speech. Se le aziende
prendessero sul serio questo punto di vista, metterebbero in atto una produzione
responsabile, cosa che sarebbe peraltro nel loro stesso interesse. Se le aziende non lo
faranno, probabilmente, questi malfunzionamenti potrebbero diventare una bomba ad
orologeria, che in caso di esplosione, danneggerebbe intrinsecamente il loro prodotto
conferendogli una pessima reputazione”.
Leggi l’intervista intera here
Dottor Massironi, regista e produttore cinematografico:
“Le persone possono essere manipolate da ogni tipo di piattaforma e la crescita
esponenziale del discorso di incitamento all’odio nei social networks è un esempio
allarmante del potere dei media”.
Leggi l’intervista intera here
Dottor Antinori, esperto di terrorismo e analista geopolitico:
“Da un punto di vista criminologico è un problema serio perché può legittimare,
motivare, ispirare e spingere le persone vulnerabili a essere violente nei confronti
dell’‘’Altro’, altro visto come “soggetto estraneo” e quindi respinto, attaccato e, nel
peggiore dei casi, ucciso”.
Leggi l’intervista intera http://solelunadoc.org/elgoogo-project-interviewing-the-
criminologist-arije-antinori/?lang=en
Sole luna – Un ponte tra le culture
www.solelunadoc.org - [email protected]
22
Générose Musemena, studentessa con un masters in strategie manageriali:
“Le norme che puniscono seriamente le persone che diffondono l’hate speech
possono funzionare a breve termine, ma queste persone non cambieranno i loro valori.
Serviranno solo a radicalizzarli”.
Leggi l’intervista intera here
Matilde Germini, studentessa di 10 anni:
“Internet è uno strumento molto utile ma molto pericoloso se non si utilizza con
attenzione”.
Leggi l’intervista intera here
CONCLUSIONI DI ELGOOGO
Il linguaggio pericoloso, in aumento esponenziale, deve essere mitigato; non è realistico
credere che possa essere eliminato in modo permanente.
I GESTORI DELLE PIATTAFORME hanno la responsabilità di aumentare i loro sforzi
nell'affrontare l'incitamento all'odio attraverso la creazione di iniziative di counter-speech
efficaci, poiché soltanto l'uso di norme non è sufficiente ad arginare questo problema.
The Economist sostiene che i giganti della tecnologia sono stati accusati di chiudere un
occhio di fronte alla propaganda violenta, nascondendo bulli, fanatici e troll per la
continua sete di profitto.29 I giganti della tecnologia agiscono solo quando sono a rischio
interessi commerciali. Ad esempio, quando le aziende ritirano la pubblicità dalle loro
piattaforme perché si accorgono che promuove contenuti discriminatori. 30 Pertanto,
sarebbe fondamentale che le aziende non agiscano solo quando il loro interesse
personale commerciale sia a rischio. La questione dell’hate speech deve essere presa
sul serio; bisogna creare un dipartimento specifico in tutte queste società, che si occupi
esclusivamente dell'attenuazione dell'incitamento all'odio.
Inoltre, Facebook, Youtube, Google e Bing, per citarne solo alcuni, bombardano gli
utenti che usano le loro piattaforme con numerosi annunci a scopo commerciale. Al
Sole luna – Un ponte tra le culture
www.solelunadoc.org - [email protected]
23
contrario le stesse non promuovono mai annunci di buone pratiche di contrasto all'odio,
buoni documentari o altro. Se invece tutte le piattaforme leader del mercato, con social
media compresi, usassero tutte le loro risorse, gli strumenti pubblicitari, l'apertura ad
artisti e tecnici ingenieri per costruire un’azione educativa di counter-speech, una
campagna che resa virale, potrebbe diminuire considerevolmente l'incitamento all'odio.
Uno dei maggiori vantaggi di Internet è che consente la comunicazione tra milioni di
persone in tutto il mondo che altrimenti non sarebbero raggiungibili. Pertanto, dobbiamo
assolutamente credere a questa possibile campagna educativa virale capace di
diffondere messaggi positivi.
I SUGGERIMENTI DI SOLE LUNA:
Per mitigare l'incitamento all'odio, è necessario un approccio multisettoriale. Ciò significa
che l'approccio deve includere aspetti culturali, sociali, individuali, collettivi e politici per
smantellare gli stereotipi insiti nell'incitamento all'odio.
Questo può essere fatto attraverso l'educazione:
1. Le famiglie devono essere educate al mondo cibernetico per poter a loro volta
educare i loro figli.
2. Le scuole dovrebbero avere un programma sul linguaggio pericoloso online.
Queste iniziative contribuiranno a sensibilizzare, educare le persone e a creare una
cultura del rispetto nella società.
I suggerimenti di Antinori:
Creare su YouTube un archivio di documentari che contrastino gli atteggiamenti
di incitamento all'odio, al fine di educare le persone. Deve essere accessibile a
tutti.
Continuare a utilizzare un'idea, come Elgoogo, per diffondere messaggi positivi
attraverso la sensibilizzazione dei documentari, interviste con i leader e buone
pratiche. Promuovere la pagina con lo scopo di raggiungere un vasto pubblico.
Collaborare con esperti nel campo dei discorsi di incitamento all'odio per creare
un’azione di counter-speech.
I suggerimenti di Cardani, AGCOM:
Sole luna – Un ponte tra le culture
www.solelunadoc.org - [email protected]
24
Costruire piattaforme online in modo da individuare facilmente e quindi rimuovere
l’hate speech.
I suggerimenti di Massironi, regista e produttore cinematografico:
I media dovrebbero promuovere un’azione di counter-speech contro l'odio
razziale.
Il pubblico dovrebbe essere consapevole che tutti i contenuti pubblicati sono
parte di un programma prestabilito da altri.
RIFERIMENTI
Interviste:
Angelo Cardani, Presidente di AGCOM
Gianni Massironi, Regista e produttore cinematografico
Arije Antinori, Esperto di terrorismo e analista geopolitico
Matilde Germini, Studentessa di 10 anni
Générose Musemena, Studentessa con un masters in strategie manageriali
Giuseppe Ughi, Studente di matematica ad Oxford
I documentari usati:
My Escape di Elke Sasse
A Walnut Tree di Ammar Aziz
Not Yo Mama’s Movement di Rokhaya Diallo
A Woman’s Story di Azra Rashid
Integration Inch’Allah di Pablo Munoz Gomez
Tides A History of Lives and Dreams Lost and Found (Some Broken) di
Allessandro Negrini
My Brother, My Enemy di Ann Shin
Arabic Movie di Eyal Sagui Bizwawe e Sara Tsifroni
Almost Friends di Nitzan Ofir
Cantonese Rice di Mia Ma
Destination De Dieu di Andrea Gadaketa Caldanrola
The Voice of Egypt – Nawal El Saadawi di Konstanze Burkard
I Comme Iran di Sanaz Azari
Waiting for the (t)rain di Simon Panay
We Cannot Go There Now My Dear di Muna Khalidi
Eurovillage di Francios Pirot
Al Karama di Marco Di Noia
Sole luna – Un ponte tra le culture
www.solelunadoc.org - [email protected]
25
Ma Fille Nora di Jasna Krajinovic
Bla Cinima di Lamine Ammar-Khodja
II Segreto Delle Calze di Nicola Contini
Alan di Mohammad Salih Jouri
Dead Ears di Linas Mikuta
Sasha di Felix Colomer
Hacia Una Primavera Rosa di Mario de a Torre
I Sign, I live di Anja Hlddinga
Violins in Wartime di Yael Katzir
Hello Democracy di Martin Maier
En Transito di Oskar Tejedor
Stolen di Violeta Ayala and Dan Fallshaw
Italian Doctor di Esben Hansen
Fairy Tales di Nicola Moruzzi and Giovanni Pompili
Deadly Honour di Lipika Pelham
I Come From A Beautiful Place di Carol Mansour
I Was Worth 50 Sheep di Nima Sarvestani
I Cormorani di Fabio Bobbio
Dove Vanno Le Nuvole di Massimo Ferrari
Five Broken Cameras Official di Emad Burnat and Guy Davidi
Where the condors fly di Carlos Klein
To feed hungry minds di Beatrix Schwehm
Special Interview di Nitzan Rozenberg
Southeast Asian Cinema – When the Rooster Crows di Leonardo Cinieri
Lombroso
Locked down di Liat Mer
Little Heaven di Lieven Corthouts
La mia Classe di Daniele Gaglianone
Prison Sisters di Nima Sarvestani
16 Years Till Summer di Lou McLoughlan
Kosma di Sonja Blagojevic
Irrawaddy mon amour di Valeria Tesagrossa, Andrea Zambelli and Nicola
Sole luna – Un ponte tra le culture
www.solelunadoc.org - [email protected]
26
Note finali:
1 http://www.coe.int/t/dghl/standardsetting/hrpolicy/Publications/Hate_Speech_EN.pdf
2 https://www.google.com/intl/en_it/+/policy/content.html
3 https://support.twitter.com/articles/20175050
4 https://www.facebook.com/help/135402139904490?helpref=uf_permalink
5 https://www.nytimes.com/interactive/2017/10/13/technology/facebook-hate-speech-
quiz.html?hp&action=click&pgtype=Homepage&clickSource=story-heading&module=photo-spot-
region®ion=top-news&WT.nav=top-news
6 https://www.un.org/apps/news/story.asp?NewsID=45607
7 https://www.un.org/apps/news/story.asp?NewsID=45607
8 Jeremy Waldron, The Harm in Hate Speech (2012) ̧ Cambridge: Harvard University Press
9 https://www.forbes.com/sites/quora/2017/02/07/how-do-we-know-the-earth-is-4-5-billion-years-
old/#4de69e92554e
10 http://www.internetworldstats.com/stats.htm
11 http://www.internetworldstats.com/stats.htm
12 http://www.internetworldstats.com/stats.htm
13 https://www.nytimes.com/2016/10/03/business/media/on-twitter-hate-speech-bounded-only-by-a-
character-limit.html
14 https://www.eff.org/issues/anonymity
15 https://www.hatebase.org/popular
16 https://www.hatebase.org/popular
17 https://www.hatebase.org/popular
18 https://www.vanguardngr.com/2017/08/today-draw-line-hate-speech-will-no-longer-tolerated-agp-
osinbajo/
19 http://home.bt.com/news/news-extra/terrorists-exploit-70-online-platforms-to-spread-propaganda-
and-recruit-11364074998845
Sole luna – Un ponte tra le culture
www.solelunadoc.org - [email protected]
27
20 http://www.telegraph.co.uk/news/worldnews/islamic-state/11207681/How-terrorists-are-using-social-
media.html
21 http://www.telegraph.co.uk/news/2017/10/17/hate-crime-levels-spike-wake-terror-attacks-police-
record-victims/; https://www.nytimes.com/2017/10/17/world/europe/uk-hate-crime-brexit-attacks.html
22 http://www.independent.co.uk/news/world-0/terror-attacks-media-coverage-muslim-islamist-white-
racism-islamophobia-study-georgia-state-a7820726.html
23 https://www.theguardian.com/society/2017/jun/20/anti-muslim-hate-surges-after-manchester-and-
london-bridge-attacks
24 Meme is an image, video, piece of text, etc., typically humorous in nature that is copied and spread rapidly
by Internet users, often with slight
variations<https://www.google.it/search?client=safari&rls=en&q=meme+definition&ie=UTF-8&oe=UTF-
8&gfe_rd=cr&dcr=0&ei=qH0pWqPsNs7CXvCPkfgB>
25 http://www.nohatespeechmovement.org/hate-speech-watch/focus
26 http://www.ethanzuckerman.com/blog/2014/03/25/susan-benesch-on-dangerous-speech-and-
counterspeech/
27 “Troll" refers to a person who posts offensive, incendiary, or off topic comments
online<https://techterms.com/definition/troll>
28 http://www.ethanzuckerman.com/blog/2014/03/25/susan-benesch-on-dangerous-speech-and-
counterspeech/
29 https://www.economist.com/news/leaders/21723110-legal-restrictions-must-be-proportionate-and-
thought-through-tech-firms-could-do-more-help
30 https://www.theguardian.com/technology/2017/mar/25/google-youtube-advertising-extremist-content-
att-verizon
Hate Speech & Counterspeech
Progetto di - Lucia Gotti Venturato
Realizzazione - Rose Suman
Supervisione - Monica Cosenza
