Denis “Jaromil” Roio, hacker etico: come evitare di essere manipolati dalla tecnologia
di Lucia Conti
Ho conosciuto Jaromil a fine settembre, in occasione di una conferenza organizzata dal Disruption Network Lab e chiamata DATA CITIES – SMART TECHNOLOGIES, TRACKING & HUMAN RIGHTS.
Abbiamo partecipato entrambi all’evento, io ho moderato un keynote su intelligenza artificiale e fantascienza critica, Jaromil è stato invece ospite di un panel chiamato “Riappropriarsi delle città digitali, il futuro che vogliamo davvero”.
Non avevo mai incontrato un hacker etico, prima. Avevo già incontrato degli hacker, ma erano “semplicemente” persone di talento, senza una visione morale della società e senza la voglia di cambiare il mondo attraverso le loro capacità.
Jaromil e io abbiamo chiacchierato in una giornata di pioggia, di tecnologia, di pandemia. Seduti a distanza e davanti a un caffè poco italiano, prima che lui ripartisse per Amsterdam, dove vive e lavora da tempo. Abbiamo parlato molto, ma avrei voluto parlare molto di più.
Adesso so cos’è un hacker etico.
Partiamo dalla domanda più semplice: che cos’è un hacker etico?
Ci sono varie definizioni, io tendo a usare quella che si rifà al movimento del software libero, fondato già nel 1984 da Richard Stallman. Il tutto nacque poi da un aneddoto.
Quale?
Nel laboratorio di Stallman, un giorno si ruppe una stampante. Il guasto non era meccanico, la carta c’era, il toner c’era, il rullo girava, i meccanismi si muovevano. Dopo un po’ Stallman scoprì che il guasto era nel chip, nel software, cioè nel codice che si scrive per dire a una macchina cosa debba fare. E il codice di quella stampante aveva un bug. Ma quel codice era in un formato non modificabile e quindi l’errore non poteva essere corretto.
Stalmann si rivolse alla casa madre, chiedendo il permesso, ma il permesso gli venne negato insieme al codice sorgente. La cosa lo fece infuriare, ma la sua rabbia di quel giorno ispirò in seguito il movimento del software libero.
Possiamo quindi dire che il movimento del software libero è nato da una stampante rotta e da una casa madre poco flessibile. E poi ha fatto moltissima strada…
Ad oggi Richard Stalman è stato chiamato nei parlamenti di tutta Europa, inclusi quello italiano e tedesco, a parlare del valore del software libero. E attorno a lui si sono aggregate molte altre persone che hanno dato al movimento un’impronta importante, basti pensare a Eben Moglen, Professore di legge e storia legale presso la Columbia Law School di New York. Secondo me questo è l’esempio più interessante di etica dell’hacking.
Quali sono i valori cardine del discorso sul software libero, fondamentale per comprendere l’hacking etico e quindi gli hacker etici?
Più che un discorso è una vera e propria letteratura, che si sviluppa attorno a 4 punti fondamentali: 1) la libertà di far o non far girare il software 2) la libertà di studiarlo e quindi capirlo, accedendo al codice sorgente 3) la libertà di duplicarlo e quindi di passarlo ad altri 4) la libertà di modificarlo.
Qual è la visione che ne emerge?
La visione è che il software è un’infrastruttura e questa infrastruttura deve poter essere studiata, migliorata, compresa, appropriata e tramandata in modo aperto.
Facciamo un passo indietro e recuperiamo la tua storia personale. Come sei diventato un hacker? E come sei diventato un hacker etico?
L’hacking è il “voler mettere le mani dentro qualcosa”, “smanettare”, come si dice in gergo, essere uno che vuole “aprire la scatola nera”.
Ricordo che da bambino, in preda a una sorta di feticismo, aprii un vecchio telefono della SIP per vedere cosa ci fosse dentro. Purtroppo poi non sono stato in grado di ricostruirlo e i miei si sono alquanto adirati. E allora ho capito che un hacker, soprattutto etico, deve anche saper ricostruire le cose che smonta, in modo che gli altri le possano usare!
Hai cominciato ad appassionarti ai computer molto presto, immagino…
Ho iniziato a interagire con i computer quando avevo sei anni, avevo uno Spectrum ZX. Mia madre mi permetteva di giocarci, ma non mi faceva digitare per caricare i giochi… in realtà io volevo “metterci le mani sopra”. Sarà stato un complesso edipico?
“Metterci le mani sopra”, torna la sostanza dell’hacking. Ed è incredibile come questo tipo di talento emerga presto…
Gli hacker iniziano giovanissimi, spesso anche a 12 o 13 anni. E la precocità del loro talento spesso li espone al rischio di avere molto potere molto presto e questo può essere pericoloso, per un adolescente.
In che modo?
Nel momento in cui un giovane comincia a tastare i confini del proprio potere e fa una o due mosse false in termini di hacking, può arrivare a fare seri danni e di conseguenza a pagare un prezzo molto alto per i suoi errori.
Ma è importante comprendere che la pena inflitta all’adolescente che sbaglia dovrebbe essere proporzionata alla spesa investita in agenzie di sicurezza, che dovrebbero sventare pericoli molto più grandi di quello rappresentato da un ragazzino di 16 anni.
È in effetti molto inquietante pensare che sistemi tanto sofisticati possano essere al tempo stesso così fragili…
Vorrei vedere molta più responsabilità, a livello industriale, sulle falle oggettive dei sistemi di sicurezza.
Perché poi magari prendiamo un sedicenne che ha “bucato” questi sistemi e ne facciamo un capro espiatorio, ma la domanda che mi faccio io è: come ha fatto un ragazzino ad avere la meglio su sistemi che paghiamo milioni e milioni all’anno? Forse a monte c’è chi non ha fatto bene il suo lavoro.
Parliamo di un argomento che è importantissimo, per capire l’evoluzione tecnologica della società. Quali sono gli algoritmi che rischiano di dominarci senza che ce ne rendiamo conto?
Ci sono vari algoritmi. A me piace portare l’esempio molto lampante di Pokémon GO, per chi lo conosce. È stato un giochino che ha condotto orde di adolescenti, ma anche persone più adulte, ad affollare entrate di uffici, ad attraversare binari, ad avvicinarsi a zone pericolose e tutto perché un algoritmo scritto in Giappone, e non al corrente degli spazi reali in cui veniva adottato, aveva deciso che c’erano degli incentivi per raggiungere determinati punti della città e raccogliere i Pokémon.
Al tempo sia la polizia che le autorità, in tutto il mondo, in Germania, a New York, e anche in Italia, dovettero allertarsi e mobilitarsi perché si potevano vedere ovunque adolescenti con il naso nel telefonino che magari attraversavano con il rosso. Una situazione quasi distopica.
Quindi un possibile pericolo è che un algoritmo possa indurre dei comportamenti condizionati?
Esatto. L’algoritmo pervade talmente tanto la nostra vita che sta entrando nel nostro spazio decisionale, affettivo e politico.
Come l’algoritmo di Pokémon GO poteva incentivare degli adolescenti a fare cose che andavano oltre la loro consapevolezza, così un altro algoritmo potrebbe convincerci che la nostra relazione non è quella giusta o che dovremmo votare per un altro partito rispetto a quello che votiamo ora o che dovremmo scegliere un’altra carriera.
(37:02—1:53:42, intervento di Denis “Jaromil” Roio nell’ambito dell’evento “DATA CITIES – Investigating future smart cities and how tracking & surveillance impact us all”, organizzato a Berlino dal Disruption Network Lab, dal 25 al 27 settembre)
E come potrebbe farlo?
Sui social network, per esempio, noi produciamo molti contenuti e diamo molte informazioni personali su noi stessi e queste informazioni vengono elaborate per poi esserci riproposte, come per esempio nel caso delle memories di Facebook. Questo spesso ci spinge alla ricondivisione dei nostri vecchi contenuti.
Ecco, questo non è semplicemente un servizio. Io vi chiedo: quanto potere avrò, su di voi, se sarò in possesso delle vostre foto, a cui siete sentimentalmente legati e che avete condiviso, avendo la possibilità di riproporvele in qualsiasi momento io decida? A quel punto, producendo un’emozione, potrò collegare quel contenuto a qualcos’altro e in generale avrò un controllo molto profondo su di voi, sui vostri affetti e sulle vostre reazioni emotive.
Hai parlato anche di infiltrazioni dell’algoritmo nello spazio politico…
Qui entriamo nel campo delle cosiddette fake news, che sono la strategia di comunicazione di cui in Italia si stanno purtroppo avvalendo molti politici populisti. Sono usate per scatenare nelle persone determinate emozioni e per indirizzarle verso una direzione stabilita da altri. D’altra parte, quando quando siamo emotivamente travolti, non prendiamo decisioni lucide.
Questo è l’aspetto più attuale del pericolo che rappresentano gli algoritmi, se non vengono governati in modo consapevole. Gli algoritmi sono una letteratura, lo sostengo da programmatore e da scienziato, e noi dovremmo conoscerla il più possibile, per comprendere come gli algoritmi vengono usati su di noi. Sono semplicemente uno strumento, e quindi potrebbero facilitare la nostra vita o rovinarcela.
Come può chi non ha un background tecnico stare al passo con i pericoli e le opportunità dell’evoluzione tecnologica ed evitare il rischio dell’analfabetismo di ritorno e della tecnocrazia?
Credo che l’alfabetizzazione in questo senso sia un compito da affidare al settore pubblico e ho sostenuto a lunga questa linea, in nord Europa, nell’ambito del mio lavoro.
Storicamente è già stato così, se per esempio pensiamo al compito di far condividere un linguaggio comune in un’Italia un tempo dominata solo dai dialetti e dalle realtà regionali.
Non si trattava di eliminare le tante particolarità della penisola, ma di creare un’infrastruttura cognitiva, un canale di scambio e comprensione rispetto a leggi, e relazioni di ogni tipo.
Penso che i codici e gli algoritmi debbano essere visti in modo simile. Non è detto che tutti li debbano comprendere nel dettaglio, ma che almeno ci sia uno sforzo nel renderli trasparenti, nel far comprendere i loro meccanismi, perché questo condiziona molto anche le scelte delle persone.
Puoi farci degli esempi del modo in cui gli algoritmi condizionano scelte importanti per la nostra vita?
Per esempio la tassazione è un algoritmo, come il fatto che qualcuno possa ricevere un sussidio, e sulle condizioni della tassazione o di un sussidio una persona o una famiglia faranno scelte anche molto importanti, di medio e lungo periodo. Per questo è essenziale che le regole siano chiaramente comunicate.
Un altro esempio. In Italia purtroppo abbiamo una lunga tradizione di corruzione negli appalti. In quanti conoscono effettivamente le regole che ci sono dietro? Conoscerle potrebbe portarci a verificare quanto siano dibattibili in ambito politico, ove volessimo democraticamente cambiarle per favorire, ad esempio, e questo a mio parere è un problema da risolvere in Italia, un ingresso maggiore per la piccola e media impresa, invece dei soliti conglomerati.
Insomma, per me è importante che ci sia un’alfabetizzazione anche su queste cose, ma purtroppo non vedo grossi sforzi in questa direzione. Vedo molto marketing di oggetti, di nuovi giocattoli, e poco approfondimento di quello che c’è veramente dietro.
Non si può prescindere dal settore pubblico, insomma
Sta a tutto l’apparato pubblico capire queste cose. Ci sono sicuramente iniziative private di festival, anche di successo, come Codemotion (supportato anche dal Mitte, ndr), ed eventi che hanno saputo mobilitare una massa giovane diversa, facendo anche attenzione all’inclusione e alla promozione dell’uguaglianza di genere, oltre ad portare avanti un discorso di approfondimento, anche giocoso, sul codice e sugli algoritmi.
Ci sono insomma degli esempi e delle pratiche assai virtuose. Spero però che ci sia anche una sensibilità sempre più alta a livelli decisionali… oppure che le sfere in cui si decide si avvicinino sempre di più a chi pratica!
Come possiamo aiutarti nell’ambito delle tue iniziative, volte a promuovere un aumento di consapevolezza rispetto alla trasformazione digitale?
Ti ringrazio, questa è una bella domanda. Come giornale mi state già aiutando, dando visibilità non solo a me, ma anche alla mia fondazione, dyne.org. Il nome viene da una parola greca che si lega al pensiero di Eraclito.
La fondazione è una piccola idea che ho avuto 20 anni fa, ispirato dalle comunità di hacker che fanno capo a tante tradizioni che attraversano la nostra penisola. Abbiamo una bella comunità hacker in Italia. Ho pensato quindi di mettere i software che scrivevo sotto una bandiera, che poi è diventata collettiva.
Questo è un po’ il mio tentativo di mantenere un filo conduttore, nello sviluppo di pratiche legate alla mia visione, e al tempo stesso di far crescere delle comunità che tramandino questa consapevolezza. Alla base c’è sostanzialmente l’idea del software libero, in vari campi.
Cosa fa la fondazione, oggi?
Dalla nascita della fondazione abbiamo fatto streaming, piattaforme di libera informazione, crittografia per la protezione dei dati, di tutto e di più.
Ad oggi ci troviamo da sei anni, a lavorare con la Commissione Europea in ambiti di ricerca su democrazia partecipativa, uso di monete complementari in determinati casi economici, comprensione degli algoritmi e gestione corretta dei dati. Abbiamo partecipato molto da vicino a tutta quella che è stata la nascita del nuovo Gdpr, il Nuovo regolamento europeo per la tutela della privacy.
Chi fa parte della vostra rete?
Moltissimi professionisti, molti sono italiani e del sud Italia. Abbiamo anche due collezioni da museo, una a Cosenza, temporaneamente ospitata presso l’Università cittadina, con cui speriamo di arrivare a un contratto, per avere veramente una funzione museale, e una che molto deve all’entusiasmo di uno dei “vecchi agitatori” della nostra rete, Gabriele Zaverio, che ha collezionato molti computer antichi. Quest’ultima collezione si trova a Palazzolo Acreide.
Perché è importante un museo di computer antichi?
Usiamo i computer antichi per insegnare ai giovani come funzionino, perché quelli moderni spesso e volentieri nascondono troppo i loro processi. In Italia sarebbe molto utile avere un luogo in cui radunare la nostra collezione di computer, dove far andare avanti delle iniziative di divulgazione del sapere sulla tecnologia.
Per ora è stato molto episodico, troverete anche dei servizi della Rai che parlano di noi, ma nessuno si è mosso a livello istituzionale per darci un aiuto concreto e una stabilità che del resto serve, perché trasportare questi equipaggiamenti è un onere e un rischio.
E in che modo la fondazione potrebbe restituire l’eventuale supporto ricevuto?
Intendiamo dare all’Italia ed all’Europa un patrimonio di sapere e di ricerca che è anche internazionale e potrebbe avere un suo formato molto adatto alle scuole proprio nella forma museale. La mia fondazione, dyne.org, è inoltre molto aperta a collaborazioni sia di consulenza che di sviluppo in partenariato.
La nostra attività poggia su tre pilastri: lo sviluppo di software libero e open source, il rispetto per l’ambiente nell’uso della tecnologia e l’interdisciplinarità, che trovo molto importante, perché spesso noi tecnici andiamo avanti senza comprendere il valore di quella che è la specializzazione di altri campi.
Insomma, non intendiamo insegnare a tutti né dominare nulla, semplicemente sviluppiamo componenti e ci piace inserirli in una narrativa condivisa, perché sappiamo che gli hacker saranno stati gli eroi degli ultimi dieci anni, anche con sacrifici eroici, come quello di Julian Assange, ma non penso che sarà un eroe a salvare il mondo.
A salvare il mondo sarà un processo collettivo e dobbiamo essere in grado di avviarlo in tutti i verticali, nell’industria, nei servizi pubblici e così via.
Un’ultima domanda, perché “Jaromil”?
Quando avevo 14 anni ho cominciato a leggere Milan Kundera e in particolare un libro che si chiama “La vita è altrove”. Il protagonista era rappresentato un po’ come un poeta maledetto che mi ricordava Arthur Rimbaud e Majakovskij, e attraversava una parabola di vita interessante. Era un bel personaggio, molto combattuto. Si chiamava Jaromil.
