L’invasione degli ultrabot

Qualche settimana fa, un mio contatto su Facebook ha pubblicato un post in cui spiegava di aver da poco ripreso possesso del suo profilo dopo aver subito un qualche tipo di attacco informatico. Ad attirare la mia attenzione non era stato il post in sé, ma i commenti che uno dopo l’altro si susseguivano. E che, con qualche variazione, ripetevano tutti le stesse parole: “Mi spiace che tu abbia subito un attacco, contattami per sapere come difenderti ed evitare che ti capiti di nuovo in futuro”

Nonostante fossero dotati di nomi e cognomi verosimili e di un’immagine dalle sembianze umane, tutti i profili che avevano commentato per rammaricarsi e offrire assistenza non erano veri utenti di Facebook, ma dei bot: account automatizzati, controllati da software, progettati per simulare il comportamento umano e interagire sui social media. Gli obiettivi, come vedremo meglio più avanti, possono variare, ma in questo caso era evidentemente quello di offrire qualche servizio a pagamento – nella maggior parte dei casi delle truffe – o di raccogliere i dati personali degli utenti, per perpetrare ulteriori attacchi informatici ai loro danni.

Sebbene le cifre varino molto, si stima che su Facebook i bot rappresentino circa il 4-5% di tutti gli utenti (quindi attorno ai 150 milioni), una percentuale che sarebbe simile anche su Instagram e che arriverebbe invece al 10% nel caso di X. Per quanto la percentuale sia minoritaria (anche se significativa), l’attività dei bot sui social network è incessante: la maggior parte dei clic sulle pubblicità presenti su Facebook e sugli altri grandi social non proviene infatti da esseri umani, ma da bot istruiti a cliccare il più possibile per gonfiare artificialmente gli introiti pubblicitari (su TikTok questa percentuale arriverebbe addirittura al 74%).

Non sono però soltanto i social media a subire queste dinamiche. Un’altra grande vittima dei bot è il world wide web: secondo i dati Statista, la percentuale del traffico web generato dai bot è passata dal 37,2% del 2019 al 49,6% del 2023, mentre nel 2024, secondo la società di analisi Imperva, avrebbe per la prima volta superato il traffico umano raggiungendo il 51% del totale. 

Benvenuti nell’epoca dell’inversione: un termine coniato nel 2013 da alcuni ingegneri di YouTube proprio per indicare il momento in cui il traffico generato dai bot sulla piattaforma di Google – allo scopo di gonfiare le visualizzazioni e quindi gli introiti pubblicitari – avrebbe surclassato quello genuino degli esseri umani. Ciò che però oltre dieci anni fa era un timore, oggi è la realtà con cui deve fare i conti l’intero ecosistema di internet.

A questo punto, è doveroso fare una precisazione: non tutti i bot che agiscono sul web o altrove sono cattivi. Quelli “buoni” sono i crawler dei motori di ricerca, che vagano per la rete allo scopo di indicizzare i contenuti; i bot di monitoraggio, che verificano i tempi di caricamento o le vulnerabilità dei siti web; i bot che si occupano di aggregare le informazioni relative al meteo o i prezzi delle merci in vendita sui vari portali di e-commerce e altri ancora.

La maggior parte del traffico fasullo (circa due terzi) è però generato da bot “malvagi”, che postano su tutte le piattaforme commenti e link promozionali, diffondono propaganda o disinformazione, testano su migliaia di siti gli indirizzi email e le password rubate, gonfiano le visite sui siti per generare una miriade di “impression” pubblicitarie fasulle (ma che vengono poi realmente pagate) e che fanno razzia di alcune tipologie di prodotti per poi rivenderli.

Vi siete mai chiesti perché negli ultimi anni è diventato sempre più difficile acquistare i biglietti dei grandi eventi? Una delle ragioni è riconducibile proprio ai bot, alcuni dei quali sono in grado accaparrarsi migliaia di biglietti in pochi secondi per poi rivenderli a prezzi maggiorati sulle apposite piattaforme.

Prima di (si spera) migliorare, la situazione è destinata a peggiorare. E il responsabile è ovviamente l’intelligenza artificiale. Prima di tutto perché, come ha spiegato l’esperto di sicurezza Stephen Kowski, “i sistemi alimentati dall’intelligenza artificiale rendono i bot più credibili e più difficili da individuare, permettendo loro di imitare meglio il comportamento umano e di adattarsi alle misure difensive” (per esempio imparando a cliccare nel modo corretto quei Captcha Code che avrebbero proprio l’obiettivo di bloccarli).

Quella tra intelligenza artificiale e bot, d’altra parte, è una combinazione perfetta, che sembra fatta apposta per mettere sempre più in difficoltà gli esseri umani. Un esempio degli esiti a cui può portare questa particolare alleanza è rappresentato dalle sempre più numerose pagine di siti amatoriali e blog che hanno l’obiettivo di consigliare prodotti e guadagnare tramite il marketing di affiliazione (che garantisce una percentuale per ogni prodotto venduto).

Di umano, dietro quelle pagine, non c’è praticamente nulla. È infatti sufficiente chiedere a ChatGPT (o chi per esso) di scrivere un blog post in cui, per esempio, si elencano le “dieci migliori cuffie wireless sotto i 300 euro” o “i 5 migliori profumi da regalare a San Valentino”, dopodiché ChatGPT sguinzaglierà il suo crawler (GPTBot) per individuare i link di Amazon dove acquistare i prodotti e si occuperà di scrivere qualche riga su di essi. Una volta ottenuto il post generato tramite intelligenza artificiale, è sufficiente inserire ai vari link il referral che permette di ottenere la percentuale sulle vendite.

È una pratica che si sta diffondendo talmente tanto che ormai – su YouTube e altrove – ci sono decine, centinaia di tutorial che spiegano come realizzare contenuti di questo tipo. Risultato? Il web è ormai inondato, ancor più di quanto già non fosse, di blog commerciali tutti identici, privi di qualsiasi vero valore informativo e che probabilmente, a causa della loro incessante moltiplicazione, porteranno guadagni ridottissimi ai singoli (pseudo)blogger.

A guadagnarci davvero è invece Amazon, praticamente l’unico portale linkato dai blog in questione e una delle realtà che, più in generale, si sta maggiormente avvantaggiando dall’invasione di questi contenuti artificialmente generati. Sul portale fondato da Jeff Bezos, i libri scritti da esseri umani sono infatti, in proporzione, sempre meno, mentre continua a crescere il numero di testi scritti con l’intelligenza artificiale (soprattutto riassunti di saggi e romanzi famosi, testi tecnici, ricettari), diventati ormai così numerosi da costringere Amazon a impedire agli autori di pubblicare più di tre libri al giorno (quantità comunque generosa).

Situazione non troppo dissimile sul web, dove si moltiplicano le AI content farms: siti di news  in cui un singolo “autore” (sfruttando large language model come ChatGPT) arriva a pubblicare anche centinaia di articoli al giorno. Secondo una ricerca condotta da Newsguard, questi siti spazzatura non stanno solo inondando il web, ma si stanno anche rivelando delle macchine da soldi: “Sembra che la pubblicità organica sia la principale fonte d’introiti di questi siti web creati con l’intelligenza artificiale”, ha spiegato l’analista di NewsGuard Lorenzo Arvanitis. “Abbiamo identificato centinaia di aziende presenti su Fortune 500 o brand molto noti che fanno pubblicità su questi siti, supportandoli inconsapevolmente”.

Che si tratti di realtà professionali si capisce anche analizzando l’attività di alcune di esse. Un gruppo editoriale chiamato Gamurs Group e specializzato in videogiochi vanta per esempio 17 pubblicazioni e 66 milioni di lettori al mese. Recentemente ha pubblicato un annuncio di lavoro per un “AI editor” che ha il compito di scrivere “tra i 200 e i 250 articoli alla settimana”. Ovvero circa 30/40 al giorno, festivi compresi.

Articoli scritti da bot, letti da bot e in cui le pubblicità sono cliccate da bot. Come ha riassunto efficacemente Prospect, “internet è interamente popolata di bot. Sistemi automatizzati generano contenuti falsi ma cliccabili. Account automatizzati mettono like e commentano, spingendo questa spazzatura nei meccanismi algoritmici dei social network e dei motori di ricerca. Le click farm monetizzano l’intero sistema, fingendosi utenti reali e incassando così introiti pubblicitari. In questo modo, il web viene colonizzato da un sistema globale e automatizzato di frode pubblicitaria, che qualcuno in carne e ossa veda davvero quei contenuti è del tutto irrilevante. Le cose che generano vero valore vengono spinte sempre più ai margini, incapaci di competere con questa brutale nuova realtà algoritmica”.

A quanto pare, gli ultimi esseri umani rimasti su internet siamo noi due: io che ho scritto questo articolo e tu che lo stai leggendo. Ma forse, senza nemmeno accorgercene, siamo diventati dei bot anche noi: come spiega sempre Prospect, gli utenti dei social hanno spesso una doppia personalità. Da una parte c’è l’account genuino, quello che usiamo per le nostre reali attività social. Dall’altra parte c’è però il doppione bot, che dopo aver compromesso il nostro account lo sfrutta, senza che ne rendiamo conto, per pubblicare commenti AI generated su migliaia di altri post artificiali, per promuovere prodotti, diffondere disinformazione e altro ancora. I bot, in poche parole, hackerano l’account lasciandoci continuare le nostre attività abituali, mentre il nostro profilo viene usato per spingere altri contenuti. Una sorta di bot parassita.

Vista la situazione, non stupisce che ormai da qualche anno si sia diffusa un’apposita teoria del complotto, la cosiddetta dead internet theory. Questa teoria sostiene che il web per come lo conosciamo – popolato da contenuti creati da esseri umani – sia morto. Non è che sia stato ucciso di colpo, ma i contenuti generati dagli utenti sarebbero stati gradualmente spodestati da una valanga di materiale fasullo. 

La “morte di internet” viene individuata dai sostenitori di questa teoria attorno al 2016, che non a caso è la fase in cui il grande pubblico ha iniziato ad avere dimestichezza con l’operato delle cosiddette “fabbriche di troll” (che cercavano di influenzare l’opinione pubblica anche attraverso il massiccio ricorso ai bot), con l’impatto potenziale delle fake news e anche con i video manipolati tramite la tecnologia dei deep fake.

La dead internet theory si spinge però molto più in là, sostenendo che un esercito di intelligenze artificiali progettate proprio a questo scopo sia ormai l’unico responsabile dei contenuti presenti online. Il tutto sarebbe parte di un enorme piano di propaganda governativa, volto – come già con lo scie chimiche, il 5G, ecc. – ad annebbiare il cervello della popolazione e renderlo più controllabile.

Per quanto non si tratti di un complotto ordito dai soliti “poteri forti” che agitano le notti dei complottisti – i meccanismi, come abbiamo visto, sono invece quelli molto più banali della massimizzazione dei profitti a scapito della qualità – è comunque interessante notare come questa teoria abbia intuito alcuni fondamentali elementi dell’involuzione del web. E non possiamo nemmeno escludere che tutto ciò, da un certo punto di vista, provochi un annebbiamento del nostro cervello.

Più precisamente, rischiamo di trovarci immersi in una costante nebbia informativa e gnoseologica, in cui dubitiamo costantemente della genuinità degli articoli e dei libri che leggiamo, delle persone con cui interagiamo online, dei consigli per gli acquisti che scoviamo in rete, dei video che guardiamo. 
Da un certo punto di vista, questo trionfo della enshittification potrebbe però anche rappresentare una speranza: la corda sta venendo tirata talmente tanto che rischia di spezzarsi, facendo fuggire gli esseri umani (almeno quelli rimasti) da piattaforme ormai dominate dai bot e i cui contenuti sono di qualità talmente infima da provocare un rifiuto. C’è qualcuno là fuori o siamo davvero tutti bot? Se ancora ci siete, è probabilmente giunto il momento di abbandonare ogni piattaforma infestata da bot-zombie, devastata dalle dinamiche algoritmiche e da meccanismi economici schizofrenici. Per poi ricostruire, come sta per esempio cercando di fare il fediverso, una rete più piccola, più umana e soprattutto più reale.