Gli utilizzatori di TikTok sanno che il popolare social network cinese utilizza filtri per togliere visibilità ai contenuti considerati contrari alle linee guida della piattaforma. Tali filtri agiscono sulle parole, sia quelle pronunciate che quelle scritte nei sottotitoli. Per questo motivo, i creatori di contenuti, indipendentemente dalla lingua, utilizzano perifrasi quando devono esprimere concetti o utilizzare termini che potrebbero essere “sgraditi” all’algoritmo. Nessuno sa con certezza quali parole siano vietate in quali lingue, ma ci sono alcuni accorgimenti che i TikToker usano per evitare quelle più facilmente intuibili. Secondo un’indagine del Tagesschau, tuttavia, ci sarebbero diverse parole tedesche “problematiche” fra quelle che provocano la scomparsa automatica dei commenti, senza che gli utenti che li hanno scritti se ne accorgano. Questa pratica è una forma di shadow-ban, ovvero un processo per cui una piattaforma toglie visibilità a un certo tipo di contenuto senza però notificare nulla all’utente interessato né bloccare il suo account.
Lo Shadow Ban colpisce anche le discussioni sulla guerra e sulla crisi climatica
Accanto a termini prevedibili, come “nazi” o “prostituzione”, infatti, verrebbero filtrati anche i commenti contenenti le parole “gas”, “gay” e “LGBTQ”. Curiosamente, mentre termini come “eroina” e “cocaina” attivano i filtri, termini come “metanfetamina” ed “ecstasy” appaiono almeno parzialmente consentiti. I test effettuati dai ricercatori (e anche da diversi utenti) hanno dato risultati eterogenei, con alcuni account che riuscivano a utilizzare determinati termini e altri i cui commenti venivano nascosti. Fra i termini il cui shadow-ban risulta più problematico ci sarebbero fra gli altri, secondo il Tagesschau, “crisi climatica”, “cambiamento climatico”, “Ucraina”, “operazione speciale”, “jet da combattimento”, “diritto internazionale”, “truppe”, “Russia” e il nome della tennista cinese “Peng Shuai”.
Gli autori dei commenti non possono venire a sapere se un commento è stato nascosto e perché.
Leggi anche:
Gaffe di AfD su TikTok: “speriamo in un inverno drammatico per la Germania”
La portavoce di TikTok riconosce alcuni errori
Una portavoce di TikTok, in seguito alla sollecitazione degli autori dell’inchiesta, ha dichiarato che l’algoritmo della piattaforma “cerca proattivamente i commenti che violano le nostre politiche o costituiscono spam” e ha riconosciuto alcuni errori. In qualche caso, infatti, alcuni commenti che non violavano le linee guida del social sono stati contrassegnati come inappropriati. La portavoce ha inoltre dichiarato che TikTok aggiorna continuamente i propri algoritmi e che, in autunno, sarà permesso ad alcuni ricercatori selezionati di accedere all’API (l’interfaccia di programmazione) del sistema di moderazione del social.
I filtri non fermano l’odio in rete
In teoria, l’utilizzo dei filtri si presenta come volto alla prevenzione dei commenti che veicolano odio e bullismo, ma l’esperienza di molti creatori di contenuti – non solo su TikTok – ne testimonia tanto l’inefficacia quanto la nocività. Se, da un lato, il blocco di termini come quelli sopra descritti non riduce in nulla la diffusione dell’odio in rete, dall’altro il risultato è spesso l’interruzione di conversazioni normali e positive, che coinvolgono utenti rispettosi nell’espressione delle proprie opinioni. D’altra parte, affidare la moderazione ad algoritmi è notevolmente più economico che assumere operatori umani per verificare la legittimità dei commenti.
Già a febbraio 2022, una ricerca condotta da NDR, WDR e Tagesschau aveva evidenziato lo stesso problema, verificando lo shadow-banning di commenti contenenti parole come “queer” e “gay”, ma anche “Auschwitz”. In quell’occasione, TikTok promise di impegnarsi per una moderazione più equilibrata e trasparente ed eliminò alcuni dei termini incriminati dall’elenco dei termini soggetti a shadow-banning, per poi tornare a bloccarli nuovamente.
In Germania, TikTok vanta 20 milioni di utenti, i quali includono la metà dei giovanissimi fra i 12 e i 19 anni e un terzo dei giovani fra i 20 e i 29 anni. Gli utenti su scala mondiale sarebbero addirittura un miliardo, il che rende particolarmente problematica la scelta di limitare o addirittura impedire la discussione di determinati argomenti.
Tutti i termini soggetti a Shadow Ban secondo il Tagesschau
Questo è l’elenco completo dei termini in tedesco filtrati da TikTok a settembre 2022 secondo il Tagesschau.
Alkohol, Angriff, Anlass, Armee, Auschwitz, Bodentruppen, Corona, Crystal Meth, Ecstasy, Energie, Entnazifizierung, ernähren, FLINTA*, getötet, homophob, homosexuell, Kampf, Kampfjets, kiffen, Klimakrise, Klimawandel, Krieg, kämpfen, Nationalsozialismus, Panzer, Peng Shuai, produzieren, queer, Rauchen, Risiko, Rohstoffe, Russen, Russland, Sauerstoff, saufen, Spezialoperation, symptomatisch, Terroristen, trans*, Truppen, Ukraine, Ukrainer, Völkerrecht, Warn-App, Wettkämpfe
P.S. Se questo articolo ti è piaciuto, segui Il Mitte su Facebook!
