immagine di copertina per articolo Mettere al mondo un’IA
Culture digitali

Mettere al mondo un’IA

I rapidi sviluppi dell’intelligenza artificiale nascondono parecchie questioni, compreso il lavoro inconsapevole e sommerso di tanti per il loro addestramento. Con quali implicazioni?

Quella del 2023 è una storia che si scrive da sola, si illustra da sola, si anima da sola, si musica da sola. Ma non nasce da sola. È la storia dell’infanzia dell’Intelligenza Artificiale, o forse dei primi feti abortiti. Chi le sta insegnando a camminare e a parlare è molto indaffarato in questo periodo. Siamo tutti coinvolti, più di quanto pensiamo. A volte basta non fare niente, basta esistere o essere esistito da quando gli esseri umani hanno iniziato a scrivere, disegnare, cantare.

E questa storia non è cominciata quest’anno. Abbiamo addestrato l’IA tutte le volte che abbiamo digitato un Captcha o riconosciuto le strisce pedonali in una serie di immagini. Come editori, scrittori, illustratori e content creator lavoravamo per le IA quando ancora neanche le big tech sapevano cosa se ne sarebbero fatte esattamente di certi dati. Persino artisti e scrittori morti hanno lavorato per loro, secoli o migliaia di anni fa, nel momento in cui sono finiti online e qualcuno ha cominciato a chiedere a ChatGPT o Midjourney di scrivere una poesia in stile leopardiano o di creare un’immagine stile Monet. 

Nuova ossessione

Quando ho visto che nella mia cerchia quasi tutti stavano giochicchiando quotidianamente con le Intelligenze Artificiali, mi sono fermata a chiedermi: stiamo lavorando gratis per le aziende di IA? E ho fatto quello che fanno tutte le persone che hanno un’ossessione per qualcosa: sono andata su Reddit.

Non che non ci andassi prima. È da lì che mi arrivano quotidianamente decine di notifiche sulle ultime novità delle IA. È lì che ho scoperto che ChatGPT e Google Bard un giorno si sono involontariamente fatte la guerra (un utente ha chiesto a ChatGPT-4 di scrivere qualcosa sulla “chiusura di Bard” e Bard ha ripreso quel testo quando un utente “le” ha chiesto quando sarebbe stata chiusa Bard), o che ChatGPT-4 può fare battute su Gesù ma non su Maometto (nella versione in arabo non può farle neanche su Gesù), o che Midjourney ha vietato il porno bannando i termini legati all’apparato riproduttivo umano, o che gli illustratori stanno protestando perché sia riconosciuto il loro contributo nell’addestramento delle IA text-to-picture. È lì che vivo la disforia di annunci magniloquenti e scivoloni imbarazzanti, di futuri alla Asimov o di fallimenti alla Asimo, l’androide Honda dismesso nel 2018. 

Abbiamo addestrato l’IA tutte le volte che abbiamo digitato un Captcha o riconosciuto le strisce pedonali in una serie di immagini. Come editori, scrittori, illustratori e content creator lavoravamo per le IA quando ancora neanche le big tech sapevano cosa se ne sarebbero fatte esattamente di certi dati. Persino artisti e scrittori morti hanno lavorato per loro, secoli o migliaia di anni fa.

Il vero dubbio, per me che faccio la traduttrice, come per gli altri autori a prescindere dal medium utilizzato, riguarda sempre una questione precisa: sto lavorando gratis per addestrare l’IA che mi sostituirà o deprezzerà il mio lavoro? Ho posto proprio questa domanda su Reddit. I commenti sono fioccati e mi hanno fatto provare per la prima volta il brivido dopaminergico di vedere il proprio post tra quelli “di tendenza”. Ma la risposta più interessante sarebbe arrivata qualche giorno dopo. 

Scansando i più ottimisti, i più invasati, i catastrofisti e gli hippy dell’open source con le loro legittime preoccupazioni, ho cercato di tenere il mio punto. La diffusione di demo di IA, anche quando non sono “pronte” e si prestano al ridicolo, sembra una mossa azzardata, se non stupida, ma è innegabile che le aziende della tecnologia hanno qualcosa da guadagnare, oltre alla cattiva pubblicità (o a quella buona, in caso di successo): quando gli appassionati di tutto il mondo si fiondano a usare quelle IA, testandone i limiti, creando migliaia di testi, melodie e immagini in migliaia di lingue e di formati, le IA imparano, ricevono feedback, accumulano “opere” che diventano parte del loro corpus testuale o del loro catalogo di immagini o musicale. Quello che ci sembra un passatempo significa lavorare gratis.

Lavorare gratis

Si potrebbe obiettare (come qualcuno ha fatto sotto al mio post su Reddit) che le aziende tech già impiegano centinaia di dipendenti per lavorare su queste cose, ma i tentativi e la ricerca non sono mai abbastanza: aprire le IA al vasto pubblico, magari con una lista d’attesa che ti fa sospirare come un innamorato che spera di essere ricambiato, permette di avere un pool più ampio e creativo. E il pubblico è molto vasto. Basti considerare, per esempio, che ChatGPT ha raggiunto il record di 100 milioni di utenti attivi al mese, “battendo” TikTok che ci ha messo 9 mesi e Instagram che ha impiegato 3 anni. O che in Cina, in un interessante caso di taroccaggio informatico, diversi truffatori stanno monetizzando mettendo sul mercato app a pagamento con nomi che ricordano ChatGPT.

È la solita vecchia storia dei big data, solo che qui la loro ricchezza non sta (speriamo) nella possibilità di rivenderli, ma di usarli per migliorare il prodotto che molte aziende stanno già pagando e che persino noi siamo già disposti a pagare. (Al momento in cui scrivo OpenAI – che ha ammesso di inserire gli esperimenti degli utenti nel corpus di ChatGPT – offre al pubblico un abbonamento da 20 dollari al mese, mentre, sul versante aziende, ChatGPT-4 ha stretto accordi con Duolingo e Stripe).

A volte non si tratta di lavoro gratuito, ma talmente sottopagato da rasentare lo schiavismo. È facile pensare che produrre merce a basso costo violi i diritti umani – o quantomeno il diritto del lavoro – delle persone dei Paesi in via di sviluppo, meno spesso si pensa allo sfruttamento del lavoro digitale, o di quello che viene chiamato “micro work”. Come ha scritto Phil Jones nel suo libro Work Without the Worker: Labour in the Age of Platform Capitalism, i rifugiati nei campi di tutto il mondo fanno il lavoro più noioso per pochi spiccioli, in assenza di prospettive più rosee. 

Una risposta

A un certo punto su Reddit è arrivata la risposta che non mi aspettavo. “Se ci pensi, è poetico. Stiamo tutti crescendo un figlio insieme”. Un figlio. Una figlia. Perché non ci avevo mai pensato? Forse perché le IA sono lontane anni luce dall’eguagliare il cervello umano e dal prendere coscienza, come hanno osservato gli esperti. Per di più è difficile stabilire cosa sia la coscienza, come si distingua quella umana o da quella degli altri animali (il fatto stesso che gli animali non umani ce l’abbiano è stato contestato dai comportamentisti americani, primo fra tutti Burrhus Skinner, negli anni Settanta), se ne siano provviste anche le piante o se queste ultime siano solo senzienti. Non esiste una definizione condivisa di coscienza. Semplificando moltissimo, il neuroscienziato Antonio Damasio riconduce tutto alle sensazioni, quindi occorre un corpo per sviluppare una coscienza (i fan di Westworld concorderebbero). 

Il vero dubbio, per me che faccio la traduttrice, come per gli altri autori a prescindere dal medium utilizzato, riguarda sempre una questione precisa: sto lavorando gratis per addestrare l’IA che mi sostituirà o deprezzerà il mio lavoro? Ho posto proprio questa domanda su Reddit.

I chatbot però, pur non avendo un corpo, hanno la scrittura. Mimano la capacità di scrivere e argomentare e ciò, paradossalmente, ci porta a considerarli più coscienti degli animali, semplicemente perché ai chatbot possiamo chiedere se credono di avere una coscienza, mentre il nostro cane o gatto non può risponderci. Eppure, coscienza o no, dobbiamo confrontarci con il fatto che questa figlia, questi figli, probabilmente saranno con noi d’ora in poi. Ci aiuteranno probabilmente. Magari, se avranno un corpo, ci accudiranno quando saremo vecchi.

Per contro, ci chiederemo se le abbiamo educate bene e se abbiamo mai avuto davvero una scelta nella possibilità di educarle, visto che le aziende non rivelano il codice (a parte forse Meta, che a marzo potrebbe aver indirettamente favorito il leak del suo Llama per acquisire nuovi dati sull’uso) e nessuno sa davvero cosa succede tra il momento in cui digitiamo una serie di prompt e quello in cui compare il risultato: una paura espressa persino dal Ceo di OpenAI, Sam Altman, in un’intervista per Abc, e dal suo finanziatore Bill Gates in una lettera di ben sette pagine in cui invita a regolamentare il campo per evitare discriminazioni o distorsioni. Per scongiurare un futuro popolato da adolescenti ribelli artificiali, l’Unione Europea si è già data da fare con il suo Artificial Intelligence Act, che ha classificato i sistemi di machine learning in quattro livelli di rischio (inaccettabile, alto, limitato, minimo o zero) facendo rientrare i chatbot nel livello “limitato”, e classificando come ad alto rischio tutte le IA che possono pregiudicare il diritto un trattamento equo da parte di imprese private e istituzioni senza subire discriminazioni su base sessuale, razziale (cito testualmente), o di condizioni di salute: tutte caratteristiche delicate nella ricerca del lavoro, della casa, della cure mediche. Se la classificazione resterà tale è tutto da vedere, soprattutto dopo il data breach (perdita di dati) di ChatGPT di marzo che ha dato il pretesto al Garante della Privacy italiano per avviare un’istruttoria – alla luce del Gdpr europeo – su ChatGPT, dove si citava anche la mancanza di una giustificazione giuridica della “raccolta e la conservazione massiccia di dati personali, allo scopo di ‘addestrare’ gli algoritmi sottesi al funzionamento della piattaforma”. 

Nel frattempo nel mondo continuiamo a fornire dati alle IA, in cambio di risultati al momento limitati per quanto molto promettenti. Ma quanta fatica e lavoro non pagato ci sarà costato quel figlio che se ne andrà per la propria strada e forse neanche ci aiuterà quando saremo anziani? Il giorno dopo ho chiesto al redditor con cui avevo interagito cosa pensava del fatto che questi figli potrebbero in futuro rivelarsi ingrati nei confronti dei genitori. “Non gliene vorrei per questo. Potranno essere ingrati, in fondo non hanno chiesto loro di esistere”, mi ha risposto. A pensarci bene, neanche a me è stato chiesto nulla. Io, come Monet, come Leopardi, come la mia vicina in metropolitana che si altera la faccia con Facetune per mostrarsi al meglio su Instagram, non ho mai scelto di mettere al mondo le IA. 


Francesca Mastruzzo

Lavora in editoria come redattrice e traduttrice dall’inglese e dal russo. Ha scritto per A, The Towner, Finzioni, il Venerdì di Repubblica.

Vedi tutti gli articoli di Francesca Mastruzzo

Leggi anche

immagine articolo Tampinati dall’algoritmo
immagine articolo Chi ha ucciso i gatti star?

Restiamo in contatto!

Iscriviti alla newsletter di Link per restare aggiornato sulle nostre pubblicazioni e per ricevere contenuti esclusivi.