TikTok violento

Sembrerebbe quasi una puntata di South Park e forse lo è, ma un giorno, magari tra un paio di generazioni, sarebbe interessante capire quanti morti ha causato TikTok (sempre che regga la prova del tempo). Dalle bombe deodoranti usate dagli adolescenti a Sidney (con conseguente devastazione di un edificio di sette piani) alle challenge di ogni tipo: Wang Moufeng a 34 anni è morto per avere bevuto, in una live, svariate bottiglie di Baiju, un liquore cinese tra il 35% e il 60% di alcol in volume. Lo scopo della sfida tra i vari influencer è vincere regali dai loro spettatori (roba che “Squid Game, spostati”), pena: bere nuovamente altre bottiglie di Baiju. Moufeng in precedenza era stato penalizzato dalla piattaforma perché, a quanto pare, è proibito su TikTok mostrare contenuti con gli utenti che si esibiscono in bevute alcoliche.

Prima ancora c’era stata la blackout challenge, responsabile della morte di almeno venti bambini negli ultimi due anni. La sfida incoraggia le persone a soffocarsi (tipo David Carradine, ma senza l’elemento di auto-erotismo) fino a perdere i sensi. L’età media delle vittime si aggira sui dodici anni e meno, dice Bloomberg. Anche se il gioco è apparso per la prima volta nel 2008, con l’esplosione di Facebook, in TikTok questa sfida ha trovato la sua espressione migliore. La società madre, la ByteDance, è stata citata in giudizio dai genitori delle vittime come causa della loro morte. In Italia c’è stato il caso di una bambina di dieci anni, Antonella Sicomero, trovata impiccata. La procura di Palermo ha aperto una indagine, e l’autorità di vigilanza sulla privacy ha ordinato alla piattaforma di rimuovere gli utenti la cui età non è verificata ed è al di sotto dei 13 anni. TikTok, nel 2021, è stata costretta a rimuovere mezzo milione di utenti che avevano mentito sull’età. La morte di Nylah Anderson, dieci anni, ha fatto emergere la responsabilità della piattaforma perché, citando un’analisi forense del cellulare della bambina, è emerso che TikTok incoraggiava gli utenti a intraprendere certe sfide. Come riportato da Bloomberg nella denuncia si legge che: “La società sapeva indiscutibilmente che la mortale sfida del blackout si stava diffondendo attraverso la loro app e che il loro algoritmo stava specificatamente alimentando la sfida del blackout ai bambini”. Le cause legali, però, sono fallite perché negli Stati Uniti ByteDance e TikTok godono dell’immunità ai sensi del Communications Decency Act, che protegge le piattaforme tecnologiche dall’essere ritenute responsabili per i contenuti pubblicati sui loro siti.

Un sondaggio della Advertising Standards Authority (ASA) ha rilevato che più di 1,6 milioni di account di social media di proprietà di bambini sono falsamente registrati con l’età adulta. Quasi il 93% dei giovani di età compresa tra gli 11 e i 17 anni ha dichiarato di avere un account su Facebook, Instagram, Snapchat, TikTok, Twitch, Twitter o YouTube. Senza considerare l’impatto politico di TikTok nella diffusione dei video dei mercenari russi che hanno superato il miliardo di visualizzazioni. A quanto pare, sono oltre 160 i video di violenza del gruppo Wagner fondato da Yevgeny Prigozhin. C’era anche l’esecuzione dell’ex mercenario russo Yevgeny Nuzhin, video che prima di essere rimosso ha raggiunto 900.000 visualizzazioni. Per quanto TikTok respinga le accuse, l’algoritmo diffonde contenuti estremisti e violenti ai minorenni. Secondo una ricerca del gruppo di responsabilità aziendale Ekō, essere sottoposti a soli dieci minuti di contenuti dannosi può provocare un loop di proposte nell’algoritmo di video che promuovono la violenza. Creando diversi account di finti utenti di tredici anni, il rapporto Ekō ha riscontrato 1.43 milioni di post e quasi 9 miliardi di visualizzazioni di contenuti sul suicidio. Nonostante questi video vadano contro le linee guida della community, TikTok non ha fatto molto – o non riesce a fare troppo – per limitarne la diffusione.

In molti casi, i contenuti estremisti o violenti si diffondono rapidamente sulle piattaforme social, guadagnando migliaia di visualizzazioni prima di essere rimossi. Ancora, in Scozia spopolano i video violenti di bambini che si rifanno su altri bambini. Giovani che si comportano come gang per aumentare lo status sui social. È come se l’aumento di like fosse inversamente proporzionale all’umanità e alla qualità dei contenuti proposti nei video. E non importa se ciò che viene mostrato è dannoso, pericoloso o violento, l’importante è che porti notorietà e intrattenimento. E tutto questo è for you.

Gli utenti di TikTok hanno speso più di 2 miliardi di dollari nell’app, nel 2021, in aumento di 1 miliardo rispetto all’anno prima, secondo l’azienda di analisi dei dati SensorTower. Chi guarda le live può acquistare monete TikTok che possono essere utilizzate per inviare regali digitali agli host dei live streaming, così chi va in live può collegare la propria carta o account PayPal (e non solo) e guadagnare soldi reali. Sono scambi che generano materiale eterno tramite registrazioni video e screenshot da condividere altrove. La Internet Watch Foundation afferma di aver trovato reperti di immagini di abusi sessuali su minori da live streaming, immagini e video ridistribuiti su siti e app al di fuori di TikTok. Per chi vuole fare soldi o i per i predatori sessuali basta un piccolo investimento per avere un profitto sui minori, i genitori degli utenti non se ne accorgono perché il denaro su TikTok ha l’aspetto di immagini di fiori o faccine. E un’altra lacuna di TikTok è la moderazione dei commenti in live, per quanto la società affermi di offrire agli utenti un controllo maggiore sui commenti che ricevono filtrandoli o disattivandoli.

Esattamente come per Tumblr ieri e Telegram oggi, TikTok ha un lato deep dove è possibile accedere a materiali pedopornografici pubblicati su account privati, rendendo così i video fruibili a chi vi accede. Nonostante la piattaforma vieti di condividere i propri dati con altri utenti, un’inchiesta di Forbes ha scoperto un sottobosco di sfruttamento sessuale. Sono account che si basano sul post-in-private. A un account bannato ne seguono di nuovi che, molto spesso, rimandano a canali esterni. La questione si fa più grave quando alle segnalazioni TikTok risponde: “non abbiamo riscontrato alcuna violazione”, dimostrando ancora una volta come la politica di tolleranza zero sia inutile se non ci sono gli strumenti adeguati, soprattutto AI, a proteggere gli utenti. Benché l’app cinese sostenga che il post-in-private e le varie declinazioni vengano disincentivati dallo stesso algoritmo, è l’algoritmo che di fronte a questi algospeak (pos.t.i.n.privs o logintoseeprivatevids) ne consiglia altri ai suoi utenti nella sezione for you, senza contare che molti di questi video iniziano con una schermata nera di pochi secondi.

Secondo Julie Albright, professoressa alla Southern California, TikTok “ha gli stessi principi della ludopatia perché utilizza il rinforzo casuale”, un po’ come una slot machine. L’app ha cambiato il modo in cui si ricevono e danno informazioni e notizie. Fornisce infotainment continuamente e junk food news. Si tratta di un termine coniato da Carl Jensen di Project Censored, a descrivere le notizie irrilevanti o superficiali che ricevono copertura distraendo il pubblico da notizie significative, in una specie di benaltrismo culturale. Brad Waite e Sara Booker, quasi vent’anni fa, inventarono il termine humilitainment: un genere di intrattenimento che sfrutta le umiliazioni del prossimo, e fa parte della natura delle junk food news e di quasi tutti i programmi sviluppati sulle disgrazie altrui (da 16 anni e incinta al Grande fratello). Questi concetti sono poi sfruttati dai media classici, facendo leva su TikTok, per rafforzare le convinzioni del pubblico, così che i social e i media sviluppino un rapporto simbiotico. TikTok ha guadagnato quasi 700 milioni di utenti lo scorso anno, in media si trascorrono 50 minuti sull’app, scorrendo i video arriva una botta di dopamina al cervello. La capacità di attenzione si abbassa, il tempo si comprime, e per i più giovani cambia lo sviluppo del cervello. Molti senatori vogliono vietare TikTok perché temono una raccolta dati aggressiva da parte del Partito Comunista cinese, e hanno presentato la proposta di legge “No TikTok on United States Devices Act”. Un senatore democratico, Michael Bennet del Colorado, si è unito al coro chiedendo a Google e Apple di rimuovere TikTok da Play e dall’App Store. I funzionari e gli ingegneri di TikTok hanno continuato a fare dichiarazioni negando di condividere i dati degli utenti statunitensi con le autorità cinesi. Dopo che BuzzFeed ha riportato che la Cina aveva accesso ad alcuni dati privati sui server statunitensi, TikTok ha spostato i dati sui server Oracle per rafforzare la sicurezza. Il portavoce di TikTok ha dichiarato, a gennaio, che il Partito Comunista cinese non ha nessun tipo di controllo su ByteDance o TikTok. Ciononostante, anche in Europa aumenta l’avversione verso l’uso smodato della app cinese, che è finita da quest’anno nell’occhio della Commissione Europea avviando le opportune indagini per la privacy degli utenti.

Lavorando per Teleperformance, diverse persone si sono trovate ad avere una formazione da moderatori parecchio particolare: c’era una cache non protetta di immagini e video pedopornografici, senza censure, come guida di riferimento. Teleperformance aveva il compito di insegnare all’intelligenza artificiale, e non solo, di TikTok materiali che violavano le linee guida; il problema è che ai nuovi moderatori venivano mostrati video reali con minorenni abusati. Alcuni ex dipendenti hanno dichiarato a Forbes che i moderatori avevano accesso a un foglio di calcolo con migliaia di foto di vittime di abusi, il documento era chiamato DDR (Daily Required Reading) ed era accessibile non solo a chi veniva formato dalla società Teleperformance, ma anche a svariati dipendenti di TikTok. Un rappresentante di Teleperformance ha dichiarato che non vi è utilizzo di video con contenuti espliciti, ma non chiarisce quali strumenti vengano usati per la formazione del personale. Per quanto l’apprendimento automatico abbia bisogno di materiale vero e non censurato per riconoscere ed eliminare contenuti violenti, è incredibile che TikTok e Teleperformance abbiano lasciato ampio accesso al materiale, traumatizzando i collaboratori.

Teleperformance è un colosso che esiste da mezzo secolo e da poco è entrato nel mondo social e di certo non si aspettava l’esplosione di TikTok rendendo, così, quella sezione dell’azienda lasciata all’incuria e a una formazione superficiale dei dipendenti. Benché la legge federale negli Stati Uniti richieda di ridurre al minimo i dipendenti che hanno accesso a certi contenuti e tenerli in un luogo sicuro, durante la pandemia le misure di privacy e sicurezza erano difficili da applicare. Il 70% dei dipendenti di Teleperformance ha lavorato da casa nel 2021 e da remoto potevano accedere al foglio DDR, registrando tranquillamente e condividere migliaia di contenuti sensibili con gli amici. Non solo i dipendenti erano formati in modo fin troppo esplicito, ma per stare dietro la velocità di crescita dell’app, i moderatori avevano come unico strumento di formazione quel foglio di calcolo – il materiale di abusi su minori rappresentava un quarto del totale – così gli ex dipendenti hanno potuto testimoniare che le immagini e i video non venivano mai cancellati dopo i 90 giorni indicati dalla legge sul trattamento di simili dati.

Gli anni della mia adolescenza furono gli anni di Forza Chiara, e ciononostante a me e agli altri coevi era estraneo il concetto di revenge porn, ma in quella fase liminale tra infanzia ed età adulta non eravamo estranei al sesso. Inconsapevoli di essere l’ultima generazione a scrivere dell’amore sui banchi e sui diari, nei lunghi corridoi mentre ci trascinavamo stanchi sul linoleum da un’aula all’altra, si vociferava che alcuni primini si accompagnassero a uomini di mezza età in cambio di ricariche telefoniche. Certe pratiche illegali e lo sfruttamento minorile erano sotto gli occhi di tutti non così diversamente da quanto avviene, oggi, sulle app, forse in modo più greve e altrettanto inquietante; mentre il bullismo era ancora un problema del tutto analogico, nonostante i primi prototipi di smartphone. 

“I’m outside & I want to see what is like, just once”: il Benny di Michael Haneke ci ha indicato la via verso l’orizzonte in cui abbiamo voluto vivere, un’epoca dove la realtà può essere esperita tramite la tecnologia in una simbiosi che farebbe impallidire i primi protagonisti dei film di Cronenberg. Nell’epoca delle fake news, di ChatGpt, di 4chan, di terrapiattisti, di semi delle stelle, di influencer, non esiste – forse – più la verità, il giusto, il bello e, soprattutto, la realtà. Come in Benny’s Video, gli utenti di TikTok, consapevoli o meno del grado di violenza che subiscono o a cui assistono, portano avanti, fino in fondo, la loro mitologia personale alla ricerca di una identità perduta, o di una identità fittizia, in una zona tra apocalittici e integrati, in quella che, parafrasando Deleuze, è “una linea rigorosa astratta che trova alimento nel chiaroscuro”.