Skip to content Skip to footer

Come TikTok è diventata una questione di Stati

Immagine in evidenza: Screenshot di TikTok

Una tendenza sembra essere diventata comune a tutte le grandi piattaforme di social network nel corso degli ultimi mesi: imitare, il più possibile, l’interfaccia e le funzionalità di TikTok.
Mentre Mark Zuckerberg cerca di far decollare il progetto del metaverso, mentre Facebook continua a perdere popolarità, specialmente tra i più giovani, le piattaforme ricercano quello che il servizio di micro video-blogging di proprietà della cinese ByteDance ha raggiunto nel giro di pochi mesi: la crescita esponenziale nei numeri e la capacità di creare trend virali (una scoperta fatta anche dai politici italiani che in campagna elettorale si sono buttati su quest’app in modo maldestro e opportunistico).

Tra inizio 2020 e fine 2021, durante il periodo del lockdown mondiale, TikTok è passata (secondo i dati elaborati da BusinessofApps a partire dal database di CNBC) da 583 milioni a oltre un miliardo di utenti. L’80% degli utenti di TikTok appartiene alle generazioni dei millennial e Gen Z – tra i 16 e i 34 anni. Nel dicembre 2021 ha superato Google diventando il primo sito web visitato al mondo. Al momento, è la sesta piattaforma di social media utilizzata a livello mondiale

Meta ha recentemente annunciato dei cambiamenti significativi nel design di Instagram e Facebook che sembrano voler “imitare” il modello TikTok: il feed di Facebook non darà più la priorità agli account seguiti dai singoli utenti, ma mostrerà sempre più contenuti nuovi, consigliati da un discovery engine, un algoritmo che, a partire dalle preferenze dell’utente, suggerirà i post senza badare alla provenienza.
Anche Instagram sarà sottoposto a una modifica simile: video in full screen da scorrere uno a uno, background scuro, e moltissimi post sponsorizzati o consigliati. Tuttavia, almeno per quanto riguarda Instagram, al momento questi cambiamenti sono stati messi in pausa, dopo una considerevole protesta da parte degli utenti che hanno chiesto di “far tornare Instagram Instagram” – make Instagram Instagram again –  attraverso una petizione lanciata su Change.org, con più di 300mila firme al momento in cui scriviamo.
A metà agosto, anche Amazon ha lanciato un test interno per un social feed che ricorda quello di TikTok.

La piattaforma di ByteDance non è utilizzata solo come fonte di intrattenimento, ma anche come motore di ricerca. Il vicepresidente di Google Prabhakar Raghavan ha dichiarato a TechCrunch: “Secondo i nostri studi, circa il 40% dei giovani, quando cercano un posto per il pranzo, non vanno su Google Maps o su Search. Vanno su TikTok o Instagram.” I dati di Google si riferiscono alla popolazione statunitense. Al momento le ricerche complete non sono state rese pubbliche; si tratta di elaborazioni interne. Anche il futuro della ricerca web, comunque, sembra andare nella direzione di una sempre maggiore dipendenza dai contenuti audiovisivi.

Certamente, la competizione non si gioca solo sul terreno dell’imitazione. Facebook, secondo una rivelazione del Washington Post, ha pagato una società di consulenza vicina al mondo repubblicano, Targeted Victory, per screditare TikTok sui media, facendola apparire come una minaccia per la sicurezza nazionale (poiché di proprietà cinese) e come un pericolo per la salute mentale e la stabilità psicofisica degli adolescenti (accusa che è stata rivolta anche alla stessa Instagram in passato).

Un’esperienza di coinvolgimento diversa?

Dietro il successo di TikTok c’è appunto la sua interfaccia e l’esperienza di scoperta, alimentata dal potente discovery engine, l’algoritmo che consiglia continuamente nuovi contenuti, tenendo gli utilizzatori incollati allo schermo dello smartphone per quasi un’ora al giorno in media (52 minuti, secondo gli ultimi dati).

Screen da una compilation su Khabane Lame, star di TikTok

L’algoritmo di TikTok è un sistema di raccomandazione molto sofisticato, che determina quali video compaiono sulla homepage di ciascun utente, chiamata For you page. La For you page (FYP) mostra contenuti indipendentemente dal fatto che i profili che li hanno pubblicati siano seguiti dall’utente. Secondo una definizione della stessa TikTok, la FYP è “un flusso di video curati in base ai tuoi interessi, che ti permette di trovare facilmente i contenuti e i creatori che ami (…) grazie a un sistema di raccomandazione che offre a ogni utente i contenuti che probabilmente sono di suo interesse”. Gli interessi dell’utente sono determinati (come spiegato sul blog della stessa compagnia) dalle preferenze espresse al momento di aprire il profilo, dalle interazioni con i contenuti (video postati, commenti, account seguiti, like), dagli hashtag o dalle caption presenti sui video, e dalle impostazioni del device (lingua, posizione geografica). Ogni nuova interazione aiuta il sistema a comprendere meglio interessi, passioni e preferenze di ciascuno. Il motore di raccomandazione è anche attento a diversificare il contenuto che mostra, per evitare che gli utenti trovino l’esperienza di utilizzo ripetitiva. Non solo, aiuta anche l’algoritmo ad assumere nuove informazioni: “Si tratta di una componente importante e intenzionale del nostro approccio alla raccomandazione: portare una varietà di video nel vostro feed For You aumenta le opportunità di imbattervi in nuove categorie di contenuti, scoprire nuovi creatori e sperimentare nuove prospettive e idee mentre scorrete il vostro feed,” si legge ancora sul sito dell’azienda.

Alcuni ricercatori stanno analizzando quelli che ritengono essere i meccanismi peculiari di coinvolgimento (addictivity) di TikTok, fornendo diverse spiegazioni in merito: secondo un paper pubblicato dalla Brown University, gli utenti di TikTok entrano in uno stato di “flusso” quando iniziano a vedere i video, uno dopo l’altro, e la loro attenzione è costantemente stimolata da contenuti nuovi. Il fatto che i video siano a schermo intero, poi, favorisce l’esperienza immersiva. I ricercatori della Brown hanno identificato l’algoritmo della For you page come un elemento fondamentale nel grado di addictivity dell’applicazione: “TikTok si differenzia dalle altre app di social media perché il feed di un individuo non si basa su scelte deliberate relative ai contenuti che desidera vedere. Al contrario, l’intelligenza artificiale presenta i contenuti agli individui e utilizza le loro reazioni (sotto forma di like, commenti e ricondivisioni) per determinare altri contenuti che potrebbero piacere, facilitando un ciclo continuo che inizia dal primo utilizzo e diventa sempre più accurato con l’engagement ripetuto.”

La guerra dei dati

Il motivo per cui TikTok è stato oggetto di controversie politiche negli ultimi anni non ha solo a che fare con il suo potente algoritmo e con il suo posizionamento economico all’interno del mercato delle piattaforme. Il servizio di micro-video è stato anche al centro di tensioni geopolitiche tra Cina e Stati Uniti, nonché, molto recentemente, di discussioni sulla libertà di informazione in Russia. Le frizioni tra Cina e Stati Uniti riguardano principalmente la questione della privacy dei dati degli utenti basati negli Usa. TikTok raccoglie una gran quantità di dati personali sugli utenti: quelli forniti al momento dell’iscrizione (data di nascita, indirizzo email, username, numero di telefono), informazioni sui contenuti postati o creati tramite l’app, i contenuti della clipboard del dispositivo se sono copiati da o sulla piattaforma, i messaggi diretti, i contatti e le informazioni di spesa. Ma anche dati sulla localizzazione GPS del dispositivo e sul dispositivo stesso, come il sistema operativo, la lingua di sistema, l’indirizzo IP e i “modelli e ritmi di battitura” dell’utente sulla tastiera. TikTok può riconoscere oggetti e ambientazioni nelle immagini e nei video che fanno parte dei “contenuti utente”. Nella privacy policy relativa agli Stati Uniti si legge che l’applicazione può “raccogliere identificatori biometrici e informazioni biometriche, come definito dalle leggi degli Stati Uniti, quali faceprint e voiceprint.” Queste ultime due espressioni non sono definite estesamente. Recentemente un ricercatore ha anche avvertito che, tramite il browser interno all’app, TikTok potrebbe monitorare i movimenti sulla tastiera, come un keylogger: la compagnia ha però smentito con forza questa accusa.

Il nodo centrale sta nella condivisione e nell’accesso a questi dati.
TikTok è di proprietà dell’azienda cinese ByteDance, che nel 2017 ha acquistato l’app chiamata Musical.ly, (dedicata a video di lipsync) e l’ha lanciata a livello mondiale sotto il brand di TikTok. ByteDance è un’azienda privata, che ha un legame piuttosto blando con il governo della Repubblica Popolare: da aprile 2021 l’1% delle azioni di ByteDance Beijing Technology (il cui nome è stato poi modificato in Beijing Douyin Information Service), una sussidiaria dell’azienda operante in Cina, sono state vendute a una compagnia, WangTouZhongWen (Beijing) Technology, controllata dallo Stato. Nonostante questo, il governo cinese non ha, formalmente nessun controllo su TikTok. Rappresentanti di ByteDance hanno più volte ripetuto (molto recentemente, mercoledì 14 settembre durante un’udienza del Senato degli Stati Uniti) che TikTok non è accessibile alle autorità cinesi e non coopera con esse.

Tuttavia, per i governi occidentali la gestione dei dati dell’applicazione continua a rappresentare un problema. Per un lungo periodo del suo mandato, l’ex presidente degli USA Donald Trump ha lottato per imporre un ban del social network nel Paese, cercando di costringere ByteDance a vendere le quote della piattaforma a un’azienda nazionale, tramite un ordine esecutivo. La crociata di Trump non è andata a buon fine (l’ordine esecutivo è stato poi revocato da Biden, dopo una complicata traversia legale), ma la politica Usa non ha smesso di inquadrare la questione come un caso di sicurezza nazionale. E continua a interrogarsi: il governo cinese spia i cittadini americani usando TikTok?

La compagnia ha sempre risposto che tutti i dati degli utenti statunitensi sono conservati negli USA, con un backup a Singapore, tuttavia la privacy policy non è molto chiara su questo aspetto: “TikTok può trasmettere i dati dell’utente ai propri server o centri dati al di fuori degli Stati Uniti per l’archiviazione e/o l’elaborazione. Le terze parti con cui TikTok può condividere i dati dell’utente come descritto nel presente documento possono trovarsi al di fuori degli Stati Uniti.”

Un’inchiesta di Buzzfeed, uscita a metà giugno, ha rilanciato il dibattito. Secondo quanto esposto dai giornalisti, che hanno ottenuto registrazioni riservate di dirigenti di ByteDance, i dati degli utenti americani sono stati ripetutamente visualizzati da ingegneri cinesi, tra settembre 2021 e gennaio 2022. Dopo la pubblicazione dell’articolo, la risposta non si è fatta attendere. Diversi senatori repubblicani hanno preteso risposte da TikTok e dall’amministrazione Biden, in una serie di lettere aperte, sulla gestione dei dati degli utenti statunitensi. Brendan Carr, un commissario della Federal Telecommunication Commission, ha indirizzato invece una lettera a Google e Apple, chiedendo di rimuovere TikTok dai loro store, se non fossero arrivate risposte convincenti sulle pratiche di data management. Alcuni media hanno in diverse occasioni riportato che ByteDance avrebbe spalleggiato la propaganda cinese: promuovendo contenuti pro partito comunista attraverso un’app – ormai defunta – chiamata TopBuzz. Oppure impiegando centinaia di persone che lavorano o hanno lavorato per le autorità di Pechino.

Dal canto suo TikTok ha lavorato, a partire dall’era Trump, a quello che è noto come Project Texas, uno sforzo titanico di trasferimento dei data center di TikTok interamente negli Usa, una risposta alle pressioni delle autorità e alle loro paure rispetto all’interferenza cinese. Il giorno dell’uscita dell’inchiesta di Buzzfeed, il 17 giugno, è stato divulgato anche un comunicato di TikTok: “Oggi, il 100% del traffico degli utenti statunitensi viene instradato verso l’infrastruttura cloud di Oracle (il partner tecnologico di TikTok negli Usa, da cui arriva anche il nome del progetto – dal momento che Oracle ha la sua sede operativa ad Austin, in Texas, ndr). Utilizziamo ancora i nostri centri dati statunitensi e di Singapore per il backup, ma con il proseguire del nostro lavoro prevediamo di eliminare i dati privati degli utenti statunitensi dai nostri centri dati e di passare completamente ai server cloud di Oracle situati negli Stati Uniti.” Secondo un recente scoop di Axios, inoltre, Oracle avrebbe addirittura iniziato un processo di auditing dell’algoritmo di TikTok, per assicurarsi che non sia manipolato dalle autorità cinesi.

Proprio in questi giorni dagli Usa è trapelata un’indiscrezione secondo la quale TikTok e l’amministrazione Biden avrebbero raggiunto il consenso su un accordo preliminare per risolvere le preoccupazioni americane sulla sicurezza nazionale; in sostanza modifiche nella governance e nella gestione dei dati che permetterebbero all’app di operare negli Stati Uniti senza cambiamenti radicali nella sua struttura proprietaria.

Il fatto è che mancano legislazioni specifiche nazionali (negli Stati Uniti non esiste una vera e propria legge sulla privacy dei dati) e regolamentazioni internazionali per tracciare il flusso delle informazioni attraverso i confini. Grandi gruppi multinazionali, come quelli della piattaforme social, trasferiscono dati in vari Paesi del mondo, soggetti a diversi regimi giuridici. “Le applicazioni social di grandi dimensioni come TikTok comprendono un gran numero di microservizi collegati in rete”, spiega il giornalista Casey Newton su Platformer. “Ognuno dei quali può trasmettere dati in tutto il mondo come parte delle loro normali operazioni. Districare i servizi a posteriori si è rivelato uno sforzo titanico per ByteDance: è nella natura dei dati fluire da un luogo all’altro, e mappare questi flussi, reindirizzarli e metterli in sicurezza non è sempre facile”.

La questione è ulteriormente complicata da una nuova stretta del governo cinese sulle grandi piattaforme tecnologiche nazionali. Nelle prime settimane di agosto il governo di Xi Jinping ha chiesto e ottenuto di analizzare gli algoritmi dei colossi del mercato digitale nel Paese, tra cui WeChat, Baidu e ovviamente ByteDance. Il governo ha detto di aver esaminato il funzionamento di trenta algoritmi.

“Abbiamo analizzato il processo di registrazione, e visto alcuni screenshot di documenti di compagnie che sono già state registrate.” illustra a Guerre di Rete Kendra Schafer, direttrice della ricerca sulle politiche tecnologiche presso Trivium China, un centro di intelligence e analisi, i cui rapporti sono commissionati anche dal Congresso Usa per riesaminare le relazioni Cina-Stati Uniti. “La conclusione a cui siamo arrivati è che nessuna informazione tecnica è stata riferita alla Cyberspace Administration of China (CAC, l’entità che si è occupata del processo, n.d.r.), per adesso. Le informazioni sono molto basilari – si tratta di descrizioni su come funziona l’algoritmo, lunghe non più di due pagine. In alcuni casi si tratta addirittura di informazioni contenute in documenti di public relations.”

A ogni algoritmo è stato assegnato un numero identificativo, il che fa pensare che sia stato iniziato un vero e proprio censimento. “La cosa più probabile è che le compagnie dovranno riferire al governo gli effetti dei loro algoritmi, in ambiti quali la discriminazione o la manipolazione dei prezzi,” continua Schafer. “Verrà chiesto probabilmente conto di cosa fanno, nel concreto, questi algoritmi. Ci saranno dei test e delle verifiche da parte della CAC. Saranno probabilmente aperti dei canali per il pubblico, perché possa riferire eventuali problemi o sospetti problemi causati dagli algoritmi tech.”

“La politica tecnologica cinese”, conclude Schafer, “ha degli aspetti positivi e degli aspetti negativi: gli aspetti negativi sono ovviamente quelli del controllo statale sui dati dei cittadini. Dall’altra parte, molte delle politiche tecnologiche cinesi sono altamente focalizzate sui diritti dei consumatori. Sono due aspetti che coesistono.”

Le piattaforme, gli Stati nazionali e la censura

Il caso della Cina e di TikTok porta alla luce un problema che in Occidente è (o almeno dovrebbe essere) all’ordine del giorno da anni, ovvero quello del rapporto tra grandi piattaforme tecnologiche e Stati nazionali. Quanto le leggi statali hanno il potere di influenzare il comportamento delle piattaforme, in materia di diffusione delle informazioni, moderazione dei contenuti o privacy dei dati? Il problema dell’accountability degli algoritmi e di Big Tech nei confronti delle istituzioni riguarda tutti i Paesi, ma è particolarmente centrale quando si prende in considerazione l’esperienza di Stati autoritari. In questo ultimo periodo, soprattutto dopo il blocco di tanti servizi internet in Russia, si è discusso del concetto di splinternet, la frammentazione del web in tanti “feudi” nazionali, dove i servizi e le piattaforme operano seguendo le leggi locali – come avviene, ad esempio, già in Cina, con il cosiddetto Great Firewall.

Un account fake con sede in Russia che accede alla pagina del profilo di Sputnikvideo.
Fonte: Tracking Exposed

TikTok e la censura del Cremlino

In Russia, dopo l’inizio dell’invasione dell’Ucraina e l’escalation del conflitto militare, la maggior parte delle piattaforme web è stata bloccata dal Cremlino. TikTok è un’eccezione:è infatti ancora accessibile nel Paese. Quello della Russia e di TikTok è un altro caso che mostra l’interazione non sempre lineare tra policy delle piattaforme, meccanismi di raccomandazione tramite algoritmi e leggi nazionali. A occuparsi del caso estesamente è stata l’organizzazione per i diritti digitali Tracking Exposed, che con una serie di tre report ha dettagliato il comportamento di TikTok a fronte della stretta censoria del Cremlino, inaspritasi con l’inizio della guerra. Il 4 marzo, la Russia ha approvato una legge sulle “fake news” che rende punibile fino a quindici anni di carcere la diffusione di notizie considerate inattendibili (da leggersi, non in linea con la propaganda di Stato).

In risposta, TikTok ha modificato la sua policy impedendo il caricamento di nuovi contenuti e bloccando l’accesso a quelli caricati dall’estero (quest’ultima iniziativa è stata implementata senza essere annunciata agli utenti). Inizialmente, tuttavia, esisteva un loophole, una scappatoia per aggirare il ban della piattaforma: per alcune settimane, dal 6 fino al 25 marzo è stato infatti possibile caricare nuovi video accedendo a una VPN, caricando il contenuto nelle bozze e poi postandolo modificando nuovamente la location del dispositivo in Russia. In questi diciassette giorni, questa scorciatoia è stata utilizzata prevalentemente da creator favorevoli alla guerra e in linea con il Cremlino. Per alcuni giorni, inoltre, è stato anche possibile caricare nuovi video dall’applicazione desktop senza particolari limitazioni.

“Prima dell’annuncio del ban”, si legge nel report datato 13 aprile, “i contenuti a favore della guerra e contro la guerra erano più o meno uguali in numero. Dopo, il 93,5% dei contenuti relativi alla guerra era pro, mentre solo il 6,5% era contro”. In un successivo report, Tracking Exposed ha poi mostrato che TikTok, violando la sua stessa policy, promuoveva sulle For you page degli utenti russi contenuti nuovi, caricati da account nazionali, così come nuovi e vecchi contenuti provenienti da profili esteri. Il termine coniato dai ricercatori per questo fenomeno è shadow promotion, un corrispettivo del più noto shadow banning.

“Il motivo di questa decisione non è chiaro. TikTok potrebbe essere intenzionato a rimanere operativo in Russia in apparenza rispettando le leggi locali, cercando al contempo di rendere la piattaforma attraente per gli utenti russi con contenuti aggiornati di recente, dando ad alcuni account di spicco la possibilità di postare nonostante il divieto. In alternativa, la possibilità di seguire e ottenere i contenuti presumibilmente vietati tramite algoritmo potrebbe essere solo un errore tecnico, in cui le raccomandazioni algoritmiche potrebbero non essere state aggiornate in linea con le altre recenti restrizioni geografiche e diacroniche che TikTok ha implementato in Russia dall’inizio della guerra in Ucraina”, si legge nell’ultimo report. 

L’intricato caso della policy di TikTok e della censura russa è un esempio lampante della criticità del rapporto tra policy interna delle piattaforme e Stati nazionali. “Siamo di fronte a un’impossibilità di convertire le leggi, disegnate per regolare la società, in tecnologia, che è disegnata per regolare dati e utenti,” commenta a Guerre di Rete Claudio Agosti, codirettore e fondatore di Tracking Exposed. “Gli algoritmi sono meccanismi complessi pensati per un’esigenza di business e per seguire le necessità di un mercato, e non per assecondare le leggi nazionali.” La percepita minaccia di TikTok alla sicurezza nazionale occidentale e la paura che il suo algoritmo possa essere sfruttato in senso offensivo (weaponised) in un contesto geopolitico, sono legate al fatto che, per la prima volta, una piattaforma tech con un potere significativo sia gestita da una potenza emergente, che sfida la posizione dei monopolisti precedenti: le piattaforme della Silicon Valley. Secondo Claudio Agosti, le tutele che dovremmo chiedere alla Silicon Valley sono le stesse che, al momento, si stanno chiedendo a TikTok. “Quello che dovremmo chiederci noi cittadini europei a fronte delle reazioni degli Stati Uniti nei confronti di TikTok, è quali tutele e garanzie stiamo chiedendo, sia alle piattaforme della Silicon Valley che a TikTok stessa. Sono le stesse? Sono efficaci?  La nostra sfida dovrebbe essere quella di trovare soluzioni a lungo termine sulla sovranità dei dati e sugli algoritmi”, continua Agosti. “Dal punto di vista tecnologico il modo in cui opera TikTok non è diverso da quello con cui opera Meta – a livello di modalità e quantità di dati trattati. Il tipo di sorveglianza che avviene sull’app è molto simile.”

La questione centrale è quindi come si pongono istituzioni e società civile nei confronti del potere degli algoritmi. Le piattaforme affermano, generalmente, di voler rispettare le leggi nazionali. Il problema di fondo, tuttavia, resta quello della trasparenza e dell’accountability delle piattaforme rispetto ai diritti individuali dei cittadini. Le domande che oggi ci poniamo su TikTok possono servire come punto di partenza per ripensare il rapporto tra potere delle piattaforme e potere statale.  La moderazione dei contenuti Le policy delle piattaforme sono esse stesse materie complesse, che, come già analizzato, prendono in considerazione diversi aspetti, sia legislativi, che culturali, che di mercato.

Un aspetto particolarmente delicato è la moderazione dei contenuti. Come vengono applicate le norme di moderazione della piattaforma? TikTok, come altre aziende tech, usa un mix di intelligenza artificiale e lavoro umano.

“Come la maggior parte delle piattaforme di contenuti generati dagli utenti, i contenuti caricati su TikTok passano inizialmente attraverso una tecnologia che lavora per identificare e segnalare potenziali violazioni delle norme per un’ulteriore revisione da parte di un membro del team sicurezza,” si legge in un recente post di aggiornamento della policy di moderazione. Non mancano, ovviamente, i problemi legati alla disinformazione e alla diffusione di contenuti violenti. Nei mesi precedenti alle elezioni in Kenya – tenutesi il 9 agosto – TikTok è stata sotto la lente degli osservatori internazionali per la diffusione di informazioni false e potenzialmente destabilizzanti per il clima politico del paese africano, che hanno, ancora un volta, violato le stesse policy interne della piattaforma, mostrando nuovamente come interessi di mercato, leggi nazionali e regolamenti interni siano difficilmente allineabili.

A gennaio 2022, il garante della Privacy italiano ha ordinato di bloccare gli utenti la cui età non è verificabile come maggiore di tredici anni, dopo che una bambina di dieci, a Palermo, è morta soffocata durante una video challenge. Dopo la decisione dell’autorità italiana, TikTok ha chiamato un team di esperti in Europa per lavorare sulle policy in fatto di sicurezza e salute mentale dei minori per formare il cosiddetto Safety Advisory Council, un organo consultivo per guidare la compagnia nello “sviluppare politiche lungimiranti che affrontino le sfide di oggi, e ci aiutino anche a identificare questioni emergenti che riguardano TikTok e il futuro della nostra comunità.” Anche per quanto riguarda le politiche sulla pubblicità ci sono state diverse frizioni tra gli organismi regolatori europei e TikTok. A luglio doveva entrare in vigore un aggiornamento della privacy policy che avrebbe permesso alla piattaforma di processare i dati degli utenti per pubblicità personalizzate senza chiederne il consenso esplicito. Secondo TikTok questo utilizzo dei dati rappresentava un “interesse legittimo” della compagnia.

Il Garante della Privacy italiano ha inviato una notifica formale a TikTok, avvertendo che è “ illecito utilizzare dati personali archiviati nei dispositivi degli utenti per profilarli e inviare loro pubblicità personalizzata in assenza di un esplicito consenso”. L’aggiornamento della policy violava le regole europee sulla privacy, in particolare la direttiva 2002/58, conosciuta come Direttiva ePrivacy e il Codice in materia di protezione dei dati personali, la norma italiana che recepisce il framework europeo. Il Codice, all’articolo 122, recita: “L’archiviazione delle informazioni nell’apparecchio terminale di un contraente o di un utente o l’accesso a informazioni già archiviate sono consentiti unicamente a condizione che il contraente o l’utente abbia espresso il proprio consenso dopo essere stato informato con modalità semplificate”. Di conseguenza, la modifica alla privacy policy è stata sospesa in tutta Europa.

Un passo avanti in materia di trasparenza compiuto da TikTok nei mesi recenti è stato la decisione di condividere con ricercatori selezionati alcuni aspetti del suo processo di moderazione, attraverso un’API che dovrebbe entrare in funzione questo autunno. L’interfaccia dovrebbe offrire ai ricercatori una migliore comprensione del sistema di moderazione della piattaforma, dando agli esperti la possibilità di valutarlo e testarlo in maniera indipendente.  Uno dei maggiori problemi – anche questo non esclusivo di TikTok ma trasversale a varie piattaforme – restano le condizioni di lavoro dei moderatori – le persone che decidono quali contenuti possono restare online e quali violano le politiche della piattaforma. Anche con il primo filtro dell’intelligenza artificiale, i moderatori sono costretti a visionare per molte ore al giorno immagini e video di vari gradi di violenza: da immagini di nudo fino a torture, maltrattamenti sugli animali e pedopornografia.

Negli Usa, TikTok ha subito varie denunce da parte di ex moderatori che hanno sviluppato la sindrome da stress post traumatico come conseguenza della natura del loro lavoro. “Come risultato dell’esposizione costante e non mitigata a immagini altamente tossiche ed estremamente disturbanti sul posto di lavoro, la signora Frazier (Candy Frazier, una delle querelanti, n.d.r.)  ha sviluppato e soffre di significativi traumi psicologici, tra cui ansia, depressione e disturbo da stress post-traumatico”, si legge nella denuncia, riportata dalla CNN. Le operazioni di content moderation non sono cresciute solo in Europa e negli USA, ma anche in altre aree del mondo, come l’Africa e il Medio Oriente. La tecnologia di intelligenza artificiale è spesso non allenata a riconoscere contenuti in lingue diverse dall’inglese, rendendo il lavoro dei moderatori in queste regioni ancora più fondamentale.

Tuttavia, poiché le aziende approfittano di salari generalmente più bassi, di minori tutele sul lavoro, e di minore interesse mediatico rispetto al mondo occidentale, il lavoro dei moderatori di contenuti in Nord Africa è svolto in condizioni ancora peggiori. A Majorel, un’azienda di outsourcing in Marocco, la paga oraria sarebbe di soli due dollari, riporta Business Insider, citando la testimonianza di una moderatrice. I moderatori con base in Marocco hanno anche diritto a pause più brevi e meno frequenti rispetto ai loro colleghi che vivono negli USA. Secondo tutte le testimonianze citate nell’inchiesta di Insider, il counseling offerto dall’azienda non sarebbe sufficiente ad affrontare i traumi provocati dal tipo di lavoro.  Le aziende come Majorel spesso prendono lavoro in outsourcing da varie grandi piattaforme tecnologiche, il che, ovviamente, rende ancora più arduo il processo di accountability delle aziende. Teleperformance, uno dei colossi dell’outsourcing per conto di Big Tech (che si occupa non solo di content moderation ma anche di contatto con i clienti e telemarketing) è recentemente salita agli onori delle cronache dopo che una dipendente l’ha accusata di aver tenuto dei corsi di formazioni ai moderatori di TikTok, utilizzando materiale pedopornografico accessibile a vari livelli aziendali. L’azienda ha negato il fatto, ma nel frattempo alcuni senatori Usa hanno chiesto spiegazioni dell’accaduto a settembre.

La piattaforma del futuro TikTok è il futuro dei social media? Certamente il suo modello di intrattenimento ha scombinato le carte sul mercato, minacciando la posizione dominante delle piattaforme della Silicon Valley. Ma restano anche nel suo caso molte domande sulla mancanza di trasparenza e accountability, sulla moderazione dei contenuti e sul lavoro dei moderatori, sulla privacy. I dibattiti che si sono sviluppati attorno a TikTok possono fungere da cartina di tornasole per interrogarsi in modo più ampio sul rapporto complesso tra diritti individuali, leggi statali e potere tecnologico.

 

Associazione Guerre di Rete
Associazione Cyber Saiyan, P. IVA 14669161003