L’Intelligenza Artificiale e l’occupazione digitale della Palestina – intervista a Marwa Fatafta
Il 21 e 22 settembre, come sempre presso il Kunstquartier Bethanien di Berlino, si terrà la trentatreesima conferenza del Disruption Network Lab, dal titolo “Hacking Alienation – Sconfiggere l’alienazione e l’oppressione sistemica attraverso l’arte e la tecnologia”. I panel, come sempre animati da relatori internazionali, esploreranno i modi in cui l’arte e le nuove tecnologie, come l’intelligenza artificiale, possono potenziare o ridurre il peso politico delle voci di coloro che non hanno diritti né cittadinanza e sperimentano l’alienazione sistemica a causa di guerre, conflitti politici o altre fonti di oppressione. I gruppi e gli individui migranti sono in prima linea nell’affrontare il razzismo e la discriminazione e le ingiustizie sociali possono davvero essere superate solo attraverso strategie innovative di cambiamento sistemico, che non controllino e mantengano i confini dell’esclusione, ma li sovvertano e creino percorsi di solidarietà e responsabilità. Fra gli ospiti ci sarà Marwa Fatafta, ricercatrice, analista politica ed esperta di diritti digitali, palestinese.
Fatafta parteciperà, sabato 21 settembre a partire dalle 16.30, al panel “Decolonising AI”, ovvero “Decolonizzare l’intelligenza artificiale”. Durante questo panel si discuterà di come, nei contesti migratori e di oppressione, le tecnologie digitali e la raccolta di big data siano troppo spesso programmate per essere utilizzate per il tracciamento, la sorveglianza e la profilazione. Si discuterà delle asimmetrie di potere insite nella progettazione, nella produzione e nello sviluppo dell’apprendimento automatico, della sorveglianza digitale, della generazione di dati e dei sistemi di oppressione che vi sono collegati. Abbiamo incontrato Marwa Fatafta per parlare, in particolare, della sua analisi dell’utilizzo di queste tecnologie in quella che ha definito “occupazione digitale della Palestina“.
AF: Ti sei occupata a lungo di “occupazione digitale della Palestina”. Che cosa significa?
MF: Questa è davvero un’ottima domanda. Significa che Israele mantiene un controllo totale sulla sfera digitale palestinese, anche dal punto di vista fisico, cioè l’infrastruttura delle telecomunicazioni è totalmente controllata dalle autorità israeliane, proprio in termini di apparecchiatura. Partiamo dall’inizio.
Nell’accordo di pace firmato da Israele con l’Organizzazione per la Liberazione della Palestina (Accordi di Oslo) si prevede che i palestinesi abbiano il diritto di avere una propria infrastruttura di telecomunicazioni indipendente. Ma c’è un paradosso in questa clausola, ovvero questa infrastruttura indipendente possono averla solo una volta acquisite le attrezzature che permettano di staccarsi dall’infrastruttura israeliana. Però è proprio Israele ad avere il controllo totale sul tipo di apparecchiature e infrastrutture che possono essere importate e installate nei territori palestinesi occupati.
Tanto per fare un esempio, a Gaza in questo momento si usa ancora la rete 2G, anche se è diventata arcaica, nessuno la usa più, il resto del mondo è già passato al 5G. E questo semplicemente perché Israele non permette agli operatori di telefonia mobile palestinesi di importare e diffondere questi servizi, per ragioni che non vengono divulgate.
In Cisgiordania, ci sono voluti più di dieci anni di negoziati per permettere alle società di telecomunicazioni palestinesi di passare dal 2G al 3G. Ed è quello che abbiamo attualmente. Lo stesso si può dire, ad esempio, per le radiofrequenze, la fibra ottica che collega la Palestina, compresa Gaza, con il resto del mondo, anch’essa gestita e controllata da Israele. Il che spiega perché Israele abbia avuto il potere di “staccare l’interruttore” nella Striscia di Gaza, come abbiamo visto più volte dopo il 7 ottobre.
L’altro aspetto di questa occupazione digitale ha a che fare con la soppressione e l’oppressione delle voci palestinesi e dell’espressione palestinese online, sia attraverso la detenzione e l’incriminazione di individui per le loro dichiarazioni su internet, sia, ad esempio, facendo pressione sulle piattaforme social affinché eliminino i contenuti palestinesi, attraverso l’uso di strumenti di controllo predittivo, che segnalano ciò che arriva attraverso i post dei social media di ambito palestinese e identificano gli individui da arrestare e perseguire. Quindi, sia fisicamente e tecnologicamente che con altri mezzi, Israele mantiene un controllo repressivo sullo spazio civico digitale palestinese.
A.F. Eppure ci sono alcuni creatori molto coerenti e interessanti che riescono a produrre, trasmettere e postare contenuti significativi dalla Palestina, a volte da Gaza. Penso a Motaz Azaiza, per esempio. Ci sono creatori di contenuti o giornalisti palestinesi che ti senti di raccomandarci?
M.F: Ce ne sono così tanti! Per gli sviluppi in Cisgiordania, sicuramente Mariam El Barghouti. Da Gaza, c’è Hind [Khoudary], una giornalista che lavora, fra gli altri, per Al Jazeera. Ce ne sono tanti.
A.F.: Hai parlato di strumenti predittivi. In che modo l’intelligenza artificiale viene utilizzata per automatizzare violazioni dei diritti umani o forme di discriminazione e controllo militare in generale?
M.F. L’intelligenza artificiale si insinua in diversi aspetti dell’occupazione e dell’apartheid di Israele. Forse un altro punto che ho dimenticato di menzionare, quando parlavo di occupazione digitale, è l’apparato di sorveglianza di massa di Israele, che fa sì che tutti, nei territori occupati, vivano sotto gli occhi vigili della sorveglianza israeliana. Le autorità israeliane hanno dispiegato o aggiornato le tecnologie di sorveglianza per includere sistemi di riconoscimento facciale installati nelle città palestinesi, tra cui la mia città, Hebron, ma anche a Gerusalemme Est.
E ora sappiamo che, anche a Gaza, sono state impiegate tecnologie di riconoscimento facciale o di sorveglianza biometrica per identificare e detenere i palestinesi. E conosciamo il tragico risultato finale di tali tecnologie, ovvero la detenzione e la sparizione forzata, l’umiliazione e la tortura e persino lo stupro di prigionieri palestinesi, compresi donne e bambini.
Poi c’è l’aspetto dell’IA e della guerra. Nel 2021, direi che sistemi come, ad esempio, “The Gospel” (Israele utilizza un sistema di intelligenza artificiale chiamato “Habsora”, internazionalmente noto come “The Gospel”, ovvero “il Vangelo”, per determinare gli obiettivi da bombardare per l’aviazione israeliana. Il sistema fornisce automaticamente una raccomandazione di puntamento a un analista umano, che decide se trasmetterla o meno alle forze militari sul campo), queste rivelazioni emerse negli ultimi mesi alla luce della guerra di Israele contro Gaza, alcune di esse risalgono in realtà al 2021, quando furono testate e impiegate per la prima volta dall’IDF. E ora abbiamo assistito al dispiegamento su larga scala di “tecnologie del genocidio”, per automatizzare la generazione di obiettivi, che si tratti di esseri umani, di persone che vengono aggiunte alle “kill list” dell’IDF o di case che dovrebbero essere bombardate, che “The Gospel” genera, mentre il sistema noto come “Lavender” genera liste di obiettivi da eliminare.
Abbiamo anche visto l’uso dell’IA per calcolare i cosiddetti danni collaterali, anche per identificare dove si trovano gli individui e dove dovrebbero essere spinti e sfollati. Infine, abbiamo visto l’ampio utilizzo servizi di cloud computing, che ora sappiamo essere forniti da grandi aziende tecnologiche, per archiviare le informazioni di intelligence raccolte dalla sorveglianza di massa dei palestinesi. E naturalmente c’è un grosso punto interrogativo sulle specifiche capacità di intelligenza artificiale che queste aziende forniscono e su come vengono utilizzate nei sistemi che ho citato e che Israele ha dispiegato a Gaza.
Infine, avendo a disposizione armi all’avanguardia, carri armati e droni potenziati con l’AI, l’IDF sta iniziando a usare l’AI, come faceva già prima della guerra, per presidiare e mantenere la sicurezza al confine con Gaza, utilizzando anche la sorveglianza biometrica ai checkpoint. Sono diversi i modi in cui l’occupazione israeliana ha utilizzato l’IA per controllare e opprimere la popolazione palestinese. E come vediamo ora a Gaza, per il genocidio e la distruzione di massa.
AF: Nel panel al quale parteciperai si discuterà di decolonizzazione dell’IA. Cosa significa “decolonizzare” queste tecnologie?
M.F.: Innanzitutto, dobbiamo capire non solo che cosa sono questi sistemi e le implicazioni sui diritti umani e i danni che ne derivano, ma anche comprendere la struttura che ne permette la produzione e la diffusione.
Non si tratta solo dello strumento e del prodotto in sé, ma anche dell’azienda che lo ha sviluppato, delle relazioni commerciali, ma anche della ricerca e delle relazioni accademiche e dei finanziamenti che hanno permesso a questi sistemi di esistere. E anche di come questi sistemi, dopo essere stati impiegati e testati sulla popolazione palestinese – come vediamo ora a Gaza, che è un piccolo ma comodo “laboratorio” che permette all’esercito israeliano di sperimentare le ultime tecnologie senza trasparenza e senza prendersi alcuna responsabilità – questi sistemi vengono poi usati per riprodurre diverse forme di oppressione in Europa e negli Stati Uniti, contro le comunità emarginate.
E lo vediamo soprattutto nel controllo dell’immigrazione o nella repressione dei migranti. Faccio un esempio: alcune aziende israeliane hanno ricevuto finanziamenti dall’UE, dalla Commissione europea, per finanziare la ricerca sui droni. E le autorità europee hanno utilizzato droni di fabbricazione israeliana per pattugliare e sorvegliare l’area del Mediterraneo, per controllare e reprimere i migranti. Quindi questo sistema di oppressione deriva anche da retaggi coloniali e l’attuale sistema coloniale che vediamo ora in Israele non è che una forma di mantenimento di quei retaggi, ma con nuove tecnologie. Quindi, quando parliamo di decolonizzare l’IA, per me non si tratta solo di decolonizzare lo strumento in sé, ma il sistema che sostiene e permette a queste tecnologie di prosperare e di essere usate senza prendersi alcuna responsabilità.
A.F.: Tu ti occupi soprattutto di politiche, advocacy e di diritti digitali nella regione MENA (Medio Oriente e Nord Africa). Quali sono i suoi obiettivi a breve e a lungo termine? Quali sono le politiche più urgenti in termini di decolonizzazione dell’IA e di giustizia digitale?
M.F.: Penso che, innanzitutto, il genocidio a Gaza debba finire subito. E le tecnologie che vengono utilizzate e impiegate lì, da “The Gospel” a “Lavender”, devono essere vietate. Penso che ciò che abbiamo appreso durante questa guerra a Gaza dovrebbe far rizzare i capelli a qualsiasi essere umano con una mente e un cuore, perché mostra davvero fino a che punto queste tecnologie possano essere distopiche, da incubo, il tipo di cose che possiamo solo immaginare nei film dell’orrore o nei libri di fantascienza, ma ci mostra anche il futuro della guerra fatta con l’intelligenza artificiale. Se si permette che queste tecnologie vengano utilizzate senza prendersene la responsabilità e poi esportate, come spesso accade quando si tratta di tecnologie israeliane, i sistemi impiegati a Gaza saranno poi esportati come già testati in situazioni di conflitto.
E, naturalmente, ci sono governi che sono più che felici di usare questi sistemi. Quindi, questi sistemi devono essere vietati ora, il prima possibile. E penso che a lungo termine, abbiamo bisogno di regolamenti più severi e dobbiamo anche mettere in discussione e ritenere responsabili le istituzioni, le aziende, gli investitori che permettono o investono o consentono o facilitano la produzione e la diffusione di tali tecnologie per uccidere individui e per compiere massacri su larga scala.
Penso che dobbiamo anche inchiodare le aziende alle loro responsabilità. La mancanza di risposte da parte delle aziende mi fa pensare che questa battaglia sia probabilmente destinata a essere più lunga. Dobbiamo indagare il dispiegamento in questo contesto di tecnologie di Google, Amazon Web Services e Microsoft, affinché rispondano del modo in cui queste tecnologie vengono impiegate per scopi militari.
Vengono forse utilizzate per alimentare questi sistemi distopici di intelligenza artificiale che ho appena citato? Chiedere alle big tech di rispondere del loro ruolo nel genocidio è un altro obiettivo importante per me.
