Il dark side di Instagram

“If you’re not careful and no clip out of reality in the wrong areas, you’ll end up in the backrooms”. “Se non sei attento e no-clippi fuori dalla realtà nelle aree sbagliate, finirai nelle backrooms.” Così inizia la celebre copypasta delle backrooms, che ci mette in guardia rispetto al rischio di accedere ad aree della realtà proibite e al pericolo di non riuscire più a uscirne, proprio come può succedere in alcuni videogiochi. Qualcosa di simile può accadere anche su Instagram, e se capita di premere sui pulsanti sbagliati, di “scrollare” troppo a fondo, proprio come si stesse scavando verso un abisso oscuro, ci si potrebbe ritrovare in sezioni del social network solo apparentemente inaccessibili.

Questi luoghi sono abitati da video che spesso hanno vita breve, vengono caricati da utenti i cui profili sono prontamente shadow bannati e poi rimossi, sono video che alle volte non possono nemmeno essere ricondivisi perché intercettati in corner dall’algoritmo, che prova a impedirne la diffusione. Si tratta di isole nascoste, ma densamente popolate di utenti, denotate ognuna da caratteristiche e perversioni differenti, luoghi a cavallo tra internet e il dark web, che si insinuano e si insediano tra un video di gatti e uno di pimple popping, nutrendo instancabilmente il lato oscuro dei reel di Instagram.

Siamo abituati a concepire i social network mainstream come luoghi sicuri, fortezze nell’Internet libero che invece sappiamo proliferare di contenuti ambigui, a un passo da un dark web dove nemmeno la legge riesce a porre freno alla libertà selvaggia garantita dall’anonimato. Dai più comuni siti porno e di contenuti NSFW (Not Safe For Work, sconvenienti per il luogo di lavoro), sino allo shock content – materiale che oltrepassa i limiti della sensibilità comune e ha lo scopo di provocare una reazione emotiva intensa nel pubblico – e ai siti illegali che lottano quotidianamente per la sopravvivenza del loro dominio: su internet c’è tutto.

La proliferazione di materiale grafico scioccante risale agli albori di Internet e ha a che fare con il bisogno profondo e universale di esplorare i limiti della propria sensibilità, e pur sollevando interrogativi riguardo al suo impatto sulla nostra salute mentale e alle conseguenze della sua sempre maggiore normalizzazione nella cultura digitale, funge da specchio per confrontarci con alcuni dei temi più intimi e complessi che ci riguardano. È questo interesse così diffuso, inoltre, a garantire la sopravvivenza dei siti controversi, poiché gli algoritmi dei motori di ricerca, come quello di Google, operano in modo neutro: una pagina, per quanto problematica, se registra un alto volume di visite e interazioni, viene considerata rilevante e resta visibile, a dispetto della sua natura.

Ed è proprio proprio nella loro esistenza – non come entità marginali, ma come parte integrante di una quotidianità digitale – che si cela il potenziale di questi video: nonostante si provi a relegare tali contenuti ai confini oscuri del web, ciò che mostrano rappresenta per molti una realtà tangibile; ed è così che, nella società del rimosso e del censurato, questi video diventano un crudo promemoria di realtà solo apparentemente lontane. Che sia questo uno dei motivi che spinge alcuni utenti, lucidi agenti del caos, a prelevare questi contenuti dalle pieghe del web, e introdurli come specie infestanti nel “regolatissimo” ecosistema di Instagram?

Per arginare questo fenomeno, nel tentativo di costruire un luogo “sicuro” per i loro utenti (come farebbe un genitore apprensivo che copre gli occhi al suo bambino), tutte le principali piattaforme stilano le Community Guidelines, una serie di norme che regolano la circolazione dei contenuti sulle stesse. Instagram stabilisce divieti su contenuti che incitano all’odio, alla violenza, all’autolesionismo e allo sfruttamento sessuale. Vengono banditi anche nudo, atti sessuali espliciti e la promozione di attività illegali. Seppur precise, però, le linee guida lasciano margini di ambiguità interpretativa, sfruttati da utenti che costruiscono con perizia contenuti in bilico tra ciò che è permesso e ciò che non lo è.

Il potere d’esecuzione di queste norme è affidato alla moderazione, che su Instagram si basa su un sistema complesso che combina algoritmi automatici, intelligenza artificiale e revisione umana. Quando pubblichiamo un contenuto o interagiamo con post e commenti, la piattaforma utilizza strumenti sofisticati per monitorare ciò che viene condiviso. Ad esempio, i filtri di parole chiave analizzano i testi alla ricerca di linguaggio controverso, mentre le tecnologie di visione artificiale rilevano immagini inappropriate come nudità o violenza. Nei video, anche audio e sottotitoli vengono controllati per evitare violazioni di copyright o contenuti illegali. Se il contenuto vìola le regole, Instagram può rimuoverlo, limitare l’account o, nei casi più gravi, sospendere o eliminare il profilo. 

Non tutto però avviene in modo uniforme. A seconda delle leggi locali, alcuni contenuti possono essere visibili in certi paesi ma bloccati in altri. Inoltre, il sistema non è perfetto: gli algoritmi possono commettere errori rimuovendo contenuti innocui o lasciando passare materiale problematico, e nemmeno i revisori umani riescono sempre a gestire l’enorme quantità di materiale pubblicato ogni giorno. Materiale che ha subito un drastico incremento con la diffusione dello smartphone. Siamo tutti diventati detentori di dispositivi tascabili capaci di produrre materiale audiovisivo di altissima qualità, che può essere diffuso con una rapidità e un’efficacia mai sperimentati prima d’ora – e questo vale tanto per il fashion influencer quanto per il sicario al soldo, che oggi può documentare le sue azioni omicide e condividerle tra gli “amici stretti” di Instagram. 

In aggiunta, il lancio dei reel su Instagram ha trasformato radicalmente il funzionamento della piattaforma: siamo passati da feed fatti di account amici a navigare in un mare di account sconosciuti, sospinti da un vento algoritmico pronto a scatenare una tempesta. Durante una qualsiasi sessione di scrolling, l’algoritmo potrebbe casualmente suggerirci uno di questi contenuti, e qualora decidessimo di visualizzarlo per intero (o peggio ancora interagirci), saremo da quel momento “fed”, imboccati, dalla piattaforma con contenuti della stessa natura.

Lo youtuber WOWMAN, per il suo video The Dark Side of Instagram Reels, ha realizzato un esperimento per scoprire, a partire da un nuovo account, quanto tempo la piattaforma avrebbe impiegato per suggerire un contenuto non conforme alle sue stesse linee guida. Nel giro di 19 minuti, lo youtuber è passato da un feed vanilla, fatto di contenuti basici, a visualizzare video espliciti di incidenti stradali a esito fatale.

Nonostante i suoi limiti, “far fesso” il sistema algoritmico che si occupa della moderazione non è impresa semplice ma, attraverso sottili accorgimenti e attente trovate creative, è possibile riuscire efficacemente nell’impresa.

Una delle tattiche più utilizzate consiste nel “travestire” il materiale problematico da contenuto ben accetto. Account come waraholics2.0 e combxtclip, la cui bio recita “high adrenaline!”, sono dedicati alla raccolta di video di conflitti bellici contemporanei, con un focus particolare su filmati catturati da droni esplosivi e body cam indossate dai soldati. Su Instagram la documentazione della violenza esplicita è permessa solo a scopo informativo o di condanna, ma ciò che rende eccezionali questi contenuti è la loro natura esplicita: i video adottano un punto di vista in prima persona, calandoci totalmente all’intero dell’azione. Nel caso specifico dei droni, che esplodono a contatto con il bersaglio, assistiamo a macabri inseguimenti aerei che culminano con il primissimo piano delle loro vittime.

La stessa operazione può essere messa in pratica per quanto riguarda contenuti che ammiccano alla sfera sessuale, facendo leva sulla malizia degli utenti. L’account bits69_, del presunto dottor Raghu, la cui foto del profilo raffigura l’immagine della mammella di una mucca, è dedicato esclusivamente al breast feeding, ovvero a video di madri che allattano al seno. Nella bio del profilo leggiamo “spread awareness”, ovvero “diffondere consapevolezza”. Tuttavia, nonostante l’intento dichiarato di sensibilizzare sia in linea con le stesse linee guida della community, la sezione commenti rivela lo sguardo sessualizzante del pubblico della pagina. Infine, l’account thefartworldofficial colleziona esclusivamente video che immortalano ragazze mentre emettono rumorose flatulenze accompagnate da gemiti ambigui, celebrate nella sezione commenti da un pubblico quasi esclusivamente maschile. 

Questi diversivi, si diffondono a volte tra più utenti, prendendo la forma di trend virali. Ne sono esempio i video dei creators di OnlyFans (piattaforma di contenuti per adulti), che nel tentativo di promuovere la propria attività su Instagram, sfidano costantemente l’algoritmo, con contenuti provocanti e suggestioni visive che sfiorano, senza mai oltrepassarla, la soglia della pornografia.

Inoltre, l’audio o la velocità dei video possono essere manipolati per evitare la rilevazione di violazioni di copyright o discorsi d’odio, e può essere sufficiente alterare immagini o video per camuffare contenuti vietati, offuscandoli in modo che i sistemi di riconoscimento visivo non li rilevino. L’account smerdopedia, è l’esemplare italiano di un trend internazionale che riguarda la condivisione di video raffiguranti escrementi o altri contenuti esplicitamente legati a funzioni corporee, dichiaratamente vietati su Instagram. Pagine come questa sopravvivono utilizzando come unico ironico diversivo, le copertine dei loro video: immagini stock di persone sorridenti che raffigurano scene rassicuranti di amicizia e vita familiare.

Un ultimo caso è quello dei video gore, ovvero video che mostrano scene estremamente violente, spesso con sangue, mutilazioni o morte. Solitamente confinati con il dark web, questi contenuti hanno trovato spazio su Instagram grazie all’uso creativo dell’intelligenza artificiale. Attraverso l’applicazione di filtri o elementi grafici innocui (quello dei Minions è l’esempio più comune) è infatti possibile mascherare scene di violenza estrema. Questo stratagemma elude la moderazione automatica, consentendo la diffusione di tali video tra un pubblico spesso inconsapevole della loro vera natura.

Le ragioni che spingono gli utenti a caricare contenuti che infrangono le linee guida delle piattaforme sono molteplici e meriterebbero un approfondimento a sé stante: dal semplice gusto per il caos e la provocazione, al lucido tentativo di guadagnare visibilità. Certamente, in un’economia dove l’attenzione è il bene più prezioso, questi video si rivelano straordinariamente efficaci nel catturarla. 

Sebbene Instagram sia costantemente impegnato a limitare la diffusione di contenuti controversi, per preservare la propria immagine e tutelare la sicurezza della piattaforma, il fenomeno non è facilmente arginabile. Inoltre, l’engagement resta il motore principale che alimenta l’ecosistema dei social network, e in questo senso, ogni visualizzazione, indipendentemente dalla natura dei contenuti, contribuisce a rafforzare il valore intrinseco di questi spazi virtuali, alimentando il loro successo commerciale. D’altronde, come ricorda proprio lo youtuber WOWMAN, “l’engagement è sempre engagement, non importa ciò che viene postato.”