immagine di copertina per articolo TikTok violento
Culture digitali

TikTok violento

Non è tutto oro quello che luccica. E così oltre alle challenge, ai balletti, al loop di contenuti su misura per noi si nascondono forme più o meno profonde di violenza. Sesso, minori, e mancate protezioni.

Sappiamo che il mondo reale esiste ma non sappiamo più immaginarlo.

Non è detto che un terreno fertile sia produttivo: più o meno così mi esprimerei su TikTok. Se gli anni Sessanta sono stati la rivoluzione culturale, i Settanta il dopo-sbornia violento del decennio prima, gli anni Ottanta la fine della guerra fredda e la cultura del corpo, gli anni Novanta il grunge e la fine delle illusioni, gli anni Venti del XXI secolo saranno definiti, se sopravviveremo ai prossimi decenni, dal social cinese. Per anni si è parlato di postmodernismo e fenomeni come i reality, i social, autori come James Ballard, David Cronenberg e Michael Haneke lo hanno anticipato: ma solo TikTok è la reale e totale manifestazione di questo paesaggio malinconico, devastato e pieno di macerie del passato privato di una visione di futuro. In un certo senso, Michael Haneke con Benny’s Video aveva descritto perfettamente l’utente medio, il fruitore moderno del social creato da Zhang Yiming nel 2015. Benché l’imprenditore, quando uscì Benny’s Video (1992), avesse solo nove anni, la sua generazione è stata, insieme ai baby boomer, e agli X, l’incubatrice perfetta per i giovani creati dal capitalismo al suo apice.

L’invenzione dei giovani

Non è un caso che Benny’s Video sia uscito proprio l’anno in cui The Real World esordiva su Mtv. Benché i protagonisti del reality americano avessero tutti sulla ventina d’anni, ovviamente il pubblico di riferimento erano quei millennial, all’epoca bambini, che avrebbero contribuito, bene o male, all’esplosione delle nuove app e dei nuovi social, come Zhang Yiming, classe 1983. La visione della realtà era mediata e plasmata dalla tv, rendendo qualsiasi esperienza fruibile in chiave dicotomica e schizofrenica. Non c’è differenza tra il reale e il suo doppio. E forse la realtà è il doppio dell’immagine che ci viene offerta – nel film di Haneke – dalla televisione, e nel mondo di oggi dallo schermo degli smartphone. Del potenziale violento della tv aveva già parlato in termini apocalittici, per alcuni, Pier Paolo Pasolini, o di nuovo Haneke ne Il settimo continente; a quel non luogo che è lo schermo televisivo, sempre uguale e sempre “pulito”, la risposta era il caos emotivo, il degrado fino al suicidio della famiglia austriaca protagonista di quel film – tratto da una storia vera. Trent’anni dopo, questa visione distopica avrebbe trovato manifestazione perfetta in TikTok.

Su TikTok non c’è discriminazione d’età, ma è ovvio che il target e la frangia più attiva sia quella della Gen Z e più avanti, se non emerge nulla di nuovo, della Gen Alpha. Se la cultura pop nel secondo dopoguerra ha creato i giovani, come ci ricorda Jon Savage nel libro L’invenzione dei giovani, e oltre a crearli li ha resi i perfetti consumatori per il capitalismo pervasivo del mondo della pubblicità, TikTok, indubbiamente, li ha ri-creati. Ecco i giovani con desideri, tensioni, mode, disagi, gioie e svariate manifestazioni di violenza.

L’ho visto su TikTok

L’utente medio di TikTok è, forse, un soggetto incapace di pensare alle differenze e condannato alla ripetizione delle immagini. Di solito, quando mi capita di parlare con qualcuno della generazione Z, chiedo cosa faccia nel tempo libero, almeno a casa, e quasi sempre la risposta è: scrollo video su TikTok. Se per la mia generazione la mediazione del mondo arrivava tramite la televisione e in minor misura sulla banda larga (blog, siti vari, giornali online, primi social network o antesignani degli stessi), gli adolescenti e gli appena ventenni acquisiscono consapevolezza (?) tramite i video su TikTok. L’endless scrolling dell’app lo rende il social perfetto per la raccolta di dati e gli inserzionisti: lo scopo è tenere l’utente il più tempo possibile lì.

Nonostante le minacce di proibire l’app in diversi Paesi, i quasi 800 milioni di utenti vivono in un bunker visivo da cui è impossibile distogliere lo sguardo e che diventa, tra le altre cose, un Cavallo di Troia contenente altre app indispensabili per l’uso (come CapCut e FaceTune). Il punto incredibile di TikTok è che ha un algoritmo autonomo, tanto che appena iscritto hai a disposizione infiniti video che, man mano, andranno a personalizzarsi. A differenza di YouTube, e in minor misura di Instagram, la funzione di ricerca è superflua perché “ogni video contiene pochi metadati di testo”, e per il motore di ricerca diventa difficile eseguire la scansione. La pagina For You, quella pagina predefinita dell’app, riporta l’utente direttamente all’algoritmo, rendendolo sempre più perfetto durante le ore di consumo sulla piattaforma.

TikTok è una piattaforma di proprietà di una società cinese, ByteDance, inizialmente non nata come la conosciamo oggi; nel 2014 Alex Zhu e Luyu Yang hanno presentato musical.ly al mondo per creare una piattaforma educativa. La narrazione è cambiata velocemente quando i due si sono resi conto che non riuscivano a trarre abbastanza profitto, e l’app ha iniziato a spingere su video di lip synch con canzoni popolari. Due anni dopo, ByteDance ha introdotto Douyin nel mercato cinese, consentendo la condivisione di brevi video, e dal concept di Douyin applicato a musical.ly è nato TikTok. Dalla funzione educativa iniziale di musical.ly si è deragliato verso il completo, sterile intrattenimento. 

For You

Se la televisione ha dato il via, e Facebook e Instagram hanno sviluppato il trend, TikTok è l’app che ha normalizzato il concetto di violenza anche attraverso la distorsione corporea. C’è chi testando una crema solare per pelli sensibili con tendenza acneica ha scoperto, involontariamente, che l’app censurava la storia quando si aggiungeva l’hashtag acne. La persona in questione ha ripubblicato la storia senza l’hashtag non riscontrando nessuna censura. Secondo quanto riferito a marzo da The Intercept, tramite documenti trapelati dall’azienda e acquisiti dalla testata, TikTok spinge i post degli utenti più piacenti disincentivando quelli degli utenti non piacenti, poveri o disabili, perché rendono i video meno appetibili da consigliare a un pubblico che aumenta costantemente. Se la dismorfia corporea e i disturbi alimentari trovano un terreno fertile dopo i blog pro-ana e pro-mia dei primi Anni Zero, c’è un gruppo di utenti che prova a rivendicare la positività corporea pubblicando contenuti che vanno contro l’algoritmo di base. Eppure, la ricerca della perfezione raggiungibile solo dopo modifiche con Facetune e simili rimane il punto focale dell’app cinese, tanto da portare diversi utenti a veri atti di crimini estetici contro se stessi. Però nel quadro globale questo sfregio fisico e mentale è il minimo. La violenza è al massimo, e riposa nell’altrove di TikTok.

Se per la mia generazione la mediazione del mondo arrivava tramite la televisione e in minor misura sulla banda larga (blog, siti vari, giornali online, primi social network o antesignani degli stessi), gli adolescenti e gli appena ventenni acquisiscono consapevolezza (?) tramite i video su TikTok.

It’s all Ketchup and plastic

Sembrerebbe quasi una puntata di South Park e forse lo è, ma un giorno, magari tra un paio di generazioni, sarebbe interessante capire quanti morti ha causato TikTok (sempre che regga la prova del tempo). Dalle bombe deodoranti usate dagli adolescenti a Sidney (con conseguente devastazione di un edificio di sette piani) alle challenge di ogni tipo: Wang Moufeng a 34 anni è morto per avere bevuto, in una live, svariate bottiglie di Baiju, un liquore cinese tra il 35% e il 60% di alcol in volume. Lo scopo della sfida tra i vari influencer è vincere regali dai loro spettatori (roba che “Squid Game, spostati”), pena: bere nuovamente altre bottiglie di Baiju. Moufeng in precedenza era stato penalizzato dalla piattaforma perché, a quanto pare, è proibito su TikTok mostrare contenuti con gli utenti che si esibiscono in bevute alcoliche.

Prima ancora c’era stata la blackout challenge, responsabile della morte di almeno venti bambini negli ultimi due anni. La sfida incoraggia le persone a soffocarsi (tipo David Carradine, ma senza l’elemento di auto-erotismo) fino a perdere i sensi. L’età media delle vittime si aggira sui dodici anni e meno, dice Bloomberg. Anche se il gioco è apparso per la prima volta nel 2008, con l’esplosione di Facebook, in TikTok questa sfida ha trovato la sua espressione migliore. La società madre, la ByteDance, è stata citata in giudizio dai genitori delle vittime come causa della loro morte. In Italia c’è stato il caso di una bambina di dieci anni, Antonella Sicomero, trovata impiccata. La procura di Palermo ha aperto una indagine, e l’autorità di vigilanza sulla privacy ha ordinato alla piattaforma di rimuovere gli utenti la cui età non è verificata ed è al di sotto dei 13 anni. TikTok, nel 2021, è stata costretta a rimuovere mezzo milione di utenti che avevano mentito sull’età. La morte di Nylah Anderson, dieci anni, ha fatto emergere la responsabilità della piattaforma perché, citando un’analisi forense del cellulare della bambina, è emerso che TikTok incoraggiava gli utenti a intraprendere certe sfide. Come riportato da Bloomberg nella denuncia si legge che: “La società sapeva indiscutibilmente che la mortale sfida del blackout si stava diffondendo attraverso la loro app e che il loro algoritmo stava specificatamente alimentando la sfida del blackout ai bambini”. Le cause legali, però, sono fallite perché negli Stati Uniti ByteDance e TikTok godono dell’immunità ai sensi del Communications Decency Act, che protegge le piattaforme tecnologiche dall’essere ritenute responsabili per i contenuti pubblicati sui loro siti.

Un sondaggio della Advertising Standards Authority (ASA) ha rilevato che più di 1,6 milioni di account di social media di proprietà di bambini sono falsamente registrati con l’età adulta. Quasi il 93% dei giovani di età compresa tra gli 11 e i 17 anni ha dichiarato di avere un account su Facebook, Instagram, Snapchat, TikTok, Twitch, Twitter o YouTube. Senza considerare l’impatto politico di TikTok nella diffusione dei video dei mercenari russi che hanno superato il miliardo di visualizzazioni. A quanto pare, sono oltre 160 i video di violenza del gruppo Wagner fondato da Yevgeny Prigozhin. C’era anche l’esecuzione dell’ex mercenario russo Yevgeny Nuzhin, video che prima di essere rimosso ha raggiunto 900.000 visualizzazioni. Per quanto TikTok respinga le accuse, l’algoritmo diffonde contenuti estremisti e violenti ai minorenni. Secondo una ricerca del gruppo di responsabilità aziendale Ekō, essere sottoposti a soli dieci minuti di contenuti dannosi può provocare un loop di proposte nell’algoritmo di video che promuovono la violenza. Creando diversi account di finti utenti di tredici anni, il rapporto Ekō ha riscontrato 1.43 milioni di post e quasi 9 miliardi di visualizzazioni di contenuti sul suicidio. Nonostante questi video vadano contro le linee guida della community, TikTok non ha fatto molto – o non riesce a fare troppo – per limitarne la diffusione.

In molti casi, i contenuti estremisti o violenti si diffondono rapidamente sulle piattaforme social, guadagnando migliaia di visualizzazioni prima di essere rimossi. Ancora, in Scozia spopolano i video violenti di bambini che si rifanno su altri bambini. Giovani che si comportano come gang per aumentare lo status sui social. È come se l’aumento di like fosse inversamente proporzionale all’umanità e alla qualità dei contenuti proposti nei video. E non importa se ciò che viene mostrato è dannoso, pericoloso o violento, l’importante è che porti notorietà e intrattenimento. E tutto questo è for you.

Guerra fredda

Gli utenti di TikTok hanno speso più di 2 miliardi di dollari nell’app, nel 2021, in aumento di 1 miliardo rispetto all’anno prima, secondo l’azienda di analisi dei dati SensorTower. Chi guarda le live può acquistare monete TikTok che possono essere utilizzate per inviare regali digitali agli host dei live streaming, così chi va in live può collegare la propria carta o account PayPal (e non solo) e guadagnare soldi reali. Sono scambi che generano materiale eterno tramite registrazioni video e screenshot da condividere altrove. La Internet Watch Foundation afferma di aver trovato reperti di immagini di abusi sessuali su minori da live streaming, immagini e video ridistribuiti su siti e app al di fuori di TikTok. Per chi vuole fare soldi o i per i predatori sessuali basta un piccolo investimento per avere un profitto sui minori, i genitori degli utenti non se ne accorgono perché il denaro su TikTok ha l’aspetto di immagini di fiori o faccine. E un’altra lacuna di TikTok è la moderazione dei commenti in live, per quanto la società affermi di offrire agli utenti un controllo maggiore sui commenti che ricevono filtrandoli o disattivandoli.

Esattamente come per Tumblr ieri e Telegram oggi, TikTok ha un lato deep dove è possibile accedere a materiali pedopornografici pubblicati su account privati, rendendo così i video fruibili a chi vi accede. Nonostante la piattaforma vieti di condividere i propri dati con altri utenti, un’inchiesta di Forbes ha scoperto un sottobosco di sfruttamento sessuale. Sono account che si basano sul post-in-private. A un account bannato ne seguono di nuovi che, molto spesso, rimandano a canali esterni. La questione si fa più grave quando alle segnalazioni TikTok risponde: “non abbiamo riscontrato alcuna violazione”, dimostrando ancora una volta come la politica di tolleranza zero sia inutile se non ci sono gli strumenti adeguati, soprattutto AI, a proteggere gli utenti. Benché l’app cinese sostenga che il post-in-private e le varie declinazioni vengano disincentivati dallo stesso algoritmo, è l’algoritmo che di fronte a questi algospeak (pos.t.i.n.privs o logintoseeprivatevids) ne consiglia altri ai suoi utenti nella sezione for you, senza contare che molti di questi video iniziano con una schermata nera di pochi secondi.

La ricerca della perfezione raggiungibile solo dopo modifiche con Facetune e simili è il punto focale dell’app cinese, tanto da portare gli utenti a veri atti di crimini estetici contro se stessi. Però nel quadro globale lo sfregio fisico e mentale è minimo. La violenza è al massimo, e riposa nell’altrove di TikTok.

Secondo Julie Albright, professoressa alla Southern California, TikTok “ha gli stessi principi della ludopatia perché utilizza il rinforzo casuale”, un po’ come una slot machine. L’app ha cambiato il modo in cui si ricevono e danno informazioni e notizie. Fornisce infotainment continuamente e junk food news. Si tratta di un termine coniato da Carl Jensen di Project Censored, a descrivere le notizie irrilevanti o superficiali che ricevono copertura distraendo il pubblico da notizie significative, in una specie di benaltrismo culturale. Brad Waite e Sara Booker, quasi vent’anni fa, inventarono il termine humilitainment: un genere di intrattenimento che sfrutta le umiliazioni del prossimo, e fa parte della natura delle junk food news e di quasi tutti i programmi sviluppati sulle disgrazie altrui (da 16 anni e incinta al Grande fratello). Questi concetti sono poi sfruttati dai media classici, facendo leva su TikTok, per rafforzare le convinzioni del pubblico, così che i social e i media sviluppino un rapporto simbiotico. TikTok ha guadagnato quasi 700 milioni di utenti lo scorso anno, in media si trascorrono 50 minuti sull’app, scorrendo i video arriva una botta di dopamina al cervello. La capacità di attenzione si abbassa, il tempo si comprime, e per i più giovani cambia lo sviluppo del cervello. Molti senatori vogliono vietare TikTok perché temono una raccolta dati aggressiva da parte del Partito Comunista cinese, e hanno presentato la proposta di legge “No TikTok on United States Devices Act”. Un senatore democratico, Michael Bennet del Colorado, si è unito al coro chiedendo a Google e Apple di rimuovere TikTok da Play e dall’App Store. I funzionari e gli ingegneri di TikTok hanno continuato a fare dichiarazioni negando di condividere i dati degli utenti statunitensi con le autorità cinesi. Dopo che BuzzFeed ha riportato che la Cina aveva accesso ad alcuni dati privati sui server statunitensi, TikTok ha spostato i dati sui server Oracle per rafforzare la sicurezza. Il portavoce di TikTok ha dichiarato, a gennaio, che il Partito Comunista cinese non ha nessun tipo di controllo su ByteDance o TikTok. Ciononostante, anche in Europa aumenta l’avversione verso l’uso smodato della app cinese, che è finita da quest’anno nell’occhio della Commissione Europea avviando le opportune indagini per la privacy degli utenti.

Come in una puntata di South Park

Lavorando per Teleperformance, diverse persone si sono trovate ad avere una formazione da moderatori parecchio particolare: c’era una cache non protetta di immagini e video pedopornografici, senza censure, come guida di riferimento. Teleperformance aveva il compito di insegnare all’intelligenza artificiale, e non solo, di TikTok materiali che violavano le linee guida; il problema è che ai nuovi moderatori venivano mostrati video reali con minorenni abusati. Alcuni ex dipendenti hanno dichiarato a Forbes che i moderatori avevano accesso a un foglio di calcolo con migliaia di foto di vittime di abusi, il documento era chiamato DDR (Daily Required Reading) ed era accessibile non solo a chi veniva formato dalla società Teleperformance, ma anche a svariati dipendenti di TikTok. Un rappresentante di Teleperformance ha dichiarato che non vi è utilizzo di video con contenuti espliciti, ma non chiarisce quali strumenti vengano usati per la formazione del personale. Per quanto l’apprendimento automatico abbia bisogno di materiale vero e non censurato per riconoscere ed eliminare contenuti violenti, è incredibile che TikTok e Teleperformance abbiano lasciato ampio accesso al materiale, traumatizzando i collaboratori.

Teleperformance è un colosso che esiste da mezzo secolo e da poco è entrato nel mondo social e di certo non si aspettava l’esplosione di TikTok rendendo, così, quella sezione dell’azienda lasciata all’incuria e a una formazione superficiale dei dipendenti. Benché la legge federale negli Stati Uniti richieda di ridurre al minimo i dipendenti che hanno accesso a certi contenuti e tenerli in un luogo sicuro, durante la pandemia le misure di privacy e sicurezza erano difficili da applicare. Il 70% dei dipendenti di Teleperformance ha lavorato da casa nel 2021 e da remoto potevano accedere al foglio DDR, registrando tranquillamente e condividere migliaia di contenuti sensibili con gli amici. Non solo i dipendenti erano formati in modo fin troppo esplicito, ma per stare dietro la velocità di crescita dell’app, i moderatori avevano come unico strumento di formazione quel foglio di calcolo – il materiale di abusi su minori rappresentava un quarto del totale – così gli ex dipendenti hanno potuto testimoniare che le immagini e i video non venivano mai cancellati dopo i 90 giorni indicati dalla legge sul trattamento di simili dati.

Frammenti di una cronologia del caso

Gli anni della mia adolescenza furono gli anni di Forza Chiara, e ciononostante a me e agli altri coevi era estraneo il concetto di revenge porn, ma in quella fase liminale tra infanzia ed età adulta non eravamo estranei al sesso. Inconsapevoli di essere l’ultima generazione a scrivere dell’amore sui banchi e sui diari, nei lunghi corridoi mentre ci trascinavamo stanchi sul linoleum da un’aula all’altra, si vociferava che alcuni primini si accompagnassero a uomini di mezza età in cambio di ricariche telefoniche. Certe pratiche illegali e lo sfruttamento minorile erano sotto gli occhi di tutti non così diversamente da quanto avviene, oggi, sulle app, forse in modo più greve e altrettanto inquietante; mentre il bullismo era ancora un problema del tutto analogico, nonostante i primi prototipi di smartphone. 

I’m outside & I want to see what is like, just once”: il Benny di Michael Haneke ci ha indicato la via verso l’orizzonte in cui abbiamo voluto vivere, un’epoca dove la realtà può essere esperita tramite la tecnologia in una simbiosi che farebbe impallidire i primi protagonisti dei film di Cronenberg. Nell’epoca delle fake news, di ChatGpt, di 4chan, di terrapiattisti, di semi delle stelle, di influencer, non esiste – forse – più la verità, il giusto, il bello e, soprattutto, la realtà. Come in Benny’s Video, gli utenti di TikTok, consapevoli o meno del grado di violenza che subiscono o a cui assistono, portano avanti, fino in fondo, la loro mitologia personale alla ricerca di una identità perduta, o di una identità fittizia, in una zona tra apocalittici e integrati, in quella che, parafrasando Deleuze, è “una linea rigorosa astratta che trova alimento nel chiaroscuro”.


Leggi anche

immagine articolo Intervista a Simona Ercolani
immagine articolo Hbbtv, il nuovo standard
immagine articolo Ti mando al Collegio!

Restiamo in contatto!

Iscriviti alla newsletter di Link per restare aggiornato sulle nostre pubblicazioni e per ricevere contenuti esclusivi.